シンギュラリティ・リテラシーに向けて 超知能誕生後の人と社会の生き方の教育...
TRANSCRIPT
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ・リテラシーに向けて超知能誕生後の人と社会の生き方の教育
IoT 事業本部, ACCESS
2017/03
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 1 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
人類を超える人工知能が生まれた後 人類がどう生きるかを
考えよう
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 2 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 3 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティとは何?
コンピュータの知能が人間超え
- 人間以外の超知能の誕生
「特異点」のことだが、特に人工知能に関する「特異点」
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 4 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
人工知能は人間を超えるか
画像認識精度が5 %(人間に到達)
Google の猫:
概念学習碁で世界 2 位に
完勝
【20 世紀から議論されていたが最近までは絵空事扱い: 変化の三大事件】
大量画像から無教師でGoogle DeepMind:
畳み込み網の深層学習
・神経ネットワークの方法は既知: ‘‘高速計算” と “大量データ” が革新を生む
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 5 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
計算の高速化
半導体技術 ハードディスク容量 通信容量
【Moore の法則: 18 ヶ月で計算が 2 倍 (40 年たってもまだ継続)】
・等比級数成長は続かない (Moore 本人も認めている)、は科学の常識だが…
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 6 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
チェッカーボードの後半: 倍々ゲームの未来
最初は微々たるもの
- 後半は急激264 = 1.84 ∗ 1019
【チェッカーボードの後半:1 マス目に 1 粒、次のマスに 2 倍ずつ
・インドの賢人が王に要求した褒美の逸話から
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 7 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ・リテラシー
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 8 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティに備える人類
超知能が人類を支配より
- 知能の主体喪失で人類が発狂するほうが危険
【アイデンティティ・クライシス:知的劣位への後退】
・過去に「宇宙の中心」「生物の最上位」「合理的精神」を放棄してきた人類:最後の退位
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 9 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
四番目の革命 (Luciano Florid)
コペルニクス理論
Copernicus人類は宇宙の中心には居ない
- 進化論
Darwin人類は至高の動物ではない
- 精神分析
Freud人類は合理的存在ではない
- クラウド
E. Schmidt人類は知の中核ではない
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 10 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティをどう教育するか
教育に必要なのは「未来の理想社会」
- 必要とされる現在不足しているスキルを教育
【シンギュラリティをどう教育するか (あと 30 年くらい猶予がある)】
・シンギュラリティと向き合い、社会を構築するスキル
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 11 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ・リテラシーの定義
シンギュラリティを想定して次の世代に
教える- シンギュラリティ
到達後の社会を生きるスキル
【シンギュラリティ・リテラシーの定義】
・ロボットがすべての労働をする社会での社会構築・維持スキル
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 12 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
リテラシーの段階的進化
読み書き - インターネットリテラシー
- シンギュラリティリテラシー
【リテラシーの段階的進化】
19 世紀まで 20 世紀 21 世紀
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 13 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ・リテラシーの 3 要素
人工知能とそのインパクト
人と人工知能の相互関係理解
超知能誕生後の人間理解
【リテラシーの 3 要素】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 14 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
課題
科学: ナノエンジニアリング、バイオエンジニアリング、ロボットエンジニアリング、人工知能、に関わる課題。安全な人工知能、の課題。
哲学: 意識を人工物に移すことによる「意識とは何か」の疑問倫理: 超人類技術の登場による人類の位置づけや放棄宗教: 超人類技術の誕生による「超越者」や「絶対神」の扱い社会: 人権、人類への脅威の社会的扱い教育: ポスト・シンギュラリティで国民に何を教えるかの課題政治: 行政による技術進歩の抑制の可否
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 15 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティへの反応の例
方向性 概要ネオ・ラッダイト
ネオ・ラッダイトは人類と同等の機能を持つコンピュータを嫌悪する人々。脅威を感じ、人類を救うため、コンピュータの進歩を止め、破壊しようとする。
ハイブリッド・アプローチ
等比的な技術進歩は認めるが、人類とコンピュータが共同することによってベストな解が生まれる、とポジティブにとらえる。(例: チェス)
現実世界不変神話
新しい現象の有無にかかわらず、現実世界は変わらず人類は不変であるという信念
道具神話 すべての技術は道具であり、使う人間によって統治可能だとする。よい人間が使えば道具はよい成果を生み、悪い人間が使えば道具は悪い結果を生む、とする
超楽観論 人類はいかなる困難も乗り越えられ、困難を乗り越える過程で必ずポジティブな結果が得られ続けるという信念。
アイデンティティ危機
人類の尊厳が失われつつあるとし、どのようなことにも強い心理的抵抗を示す。
虚無主義 人生は虚無であるとして個別対応を拒否する
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 16 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
感情的反応の例
感情的反応 概要孤立した否定 現実世界は技術的変化によっては影響されないと
して、シンギュラリティの成立を否定感情的激高 複雑な技術的・政治的取り組みは避け、民衆の感
情の反映として声高に反対アクティビスト
政治的・社会的ポジションを形成し、対外的に運動
保護主義 現状維持のために規制などで現状維持・保護を目指す
社会的同調 理解不能なことを認め、多数派に同調救助要請 痛みを訴え救助を求める非難 責務を自分以外のなんらかの集団に転嫁
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 17 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
感情的対応の理解
強さ・痛み(感受性)
抵抗(変化し難さ) 行動連動性
【感情的対応を理解するための 3 要素】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 18 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
超知能への対応を決める3要素
個人的信念(嗜好、考え方)
集団的態度(社会的方向性)
他集団との相互関係
【超知能への対応を決める 3 要素】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 19 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
議論の多様な前提
前提 概要蟻破壊否定 人は圧倒的に蟻より強いが毎日蟻を破壊してまわるわけではない。圧倒的
に強い超知能には人類を破壊したり統治したりするメリットがない。やられる前に破壊
強い脅威を感じ、やられる前にやることによって将来の脅威を破壊で摘み取る
原爆は人類を制圧しなかった
原爆は強力な道具であるが、それ自体は中立であり、その属性は使う側の属性による。同様に圧倒的な知が生まれても多くの側面で従来の生活は維持される
等比級数的技術進化
ムーアの法則が否定されながらも 50 年も自己実現的に達成されてきたので、超知能の誕生を止めるこてはできない。
飽和効果 等比級数的に成長し続けることは不可能であり、どこかで成長は止まる暗黙知限界 人類の暗黙知は符号化できず、それゆえ超知能の対象にならない。法的限界 プライバシーなどの法的限界によってビッグデータなどの技術は無尽蔵に
高度化することはできない
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 20 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
感情の例
反応 概要絶望 劣等で無力に感じる。未来へのアクションに何の
成果も感じない。脅威 現在のポジションを失うことに恐怖を感じる。ポ
ジションとは思考と社会における有用性とフレームワーク、アイデンティティ、ほかの人と同じ行動をする安心感、などを含む
心配 具体的にはわからないが未来に不安を感じる興奮 超知能による能力増強にポジティブで強化された
未来を感じ、精神的高揚を得る陶酔 幸福感を感じ、高度に自動化され労働が失われた
未来社会を肯定的に捉える鬱 希望や意味の喪失
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 21 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
感情の普遍的 2 次元モデル
-�
?
6
期待
(ポジティブ)
(ネガティブ)
(低い) (高い)自己統治感
興奮
中立
脅威
心配
絶望鬱
陶酔
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 22 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティとどう向き合うのかの2次元モデル
-�
?
6
社会的態度(承認)
(拒否)
内面化 外部化
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 23 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
シンギュラリティ・リテラシーの現在地
誰も超知能の着地点は見えない
- 30 年かかってリテラシーを構築する出発点
【シンギュラリティ・リテラシーの現在地】
・そもそも「シンギュラリティ・リテラシー」って何?の段階
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 24 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
リテラシーの異なる方向性
1. シンギュラリティを支えるスキルセット
2. シンギュラリティの防御をするスキルセット
3. シンギュラリティ後の社会を構築するスキル
【シンギュラリティ・リテラシーの 3 つの異なる方向性】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 25 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
超知能誕生後の社会スキル教育
非経済的インタラクション
スキル非経済的組織運営
非経済的アイデンティティ
【超知能誕生後の社会スキル教育】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 26 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
個別リテラシー (インパクトは人それぞれ)
1. 地域文化 2. 宗教 3. 職業・年齢
【単一のリテラシーがカバーできない範囲:個別リテラシー】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 27 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
おわりに
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 28 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
難しい会話
1. 事実認識の違い 2. 感情 3. アイデンティティ
【難しい会話に共通な 3 要素: シンギュラリティは全てに関わる】
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 29 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
進化をやめることはできない
人類の歴史を見ても
- 知能の進化からは逃れられない
たとえ現代人が猿人より不幸でも
【進化とは変化への対応】
・全体平和のためにイノベーターを止めることはできない
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 30 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
過去の例: ローマ帝国
市民は労働をしなかった
- 労働は奴隷の仕事
【ローマ帝国に学ぶ: 仕事がなくても市民は生きられる】
・「権利としての労働」は政治や文化や芸術に
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 31 / 32
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
...
.
参考文献
Ray Kurzweil, “ The Singularity is Near,” 2005Nick Bostrom, “Superintelligence,” 2014Jeremy Rifkin, “The Zero Marginal Cost Society,” 2014Kevin Kelly, “The Inevitable,” 2016人類と ICT の未来:シンギュラリティまで 30 年?, 情報処理, Vol. 56,No. 1, December 2014Yuval Noah Harari, “Sapiens, A Brief History of Humankind,” 2015Ayn Rand, “Atlas Shrugged,” 1957Luciano Floridi, “The Fourth Revolution: How the Infosphere is ReshapingHuman Reality,” 2014Toshihiko Yamakami, “Framework of Emotion for the Singularity in a SocialContext,” ICACT2017, pp. 468–472, Phoenix Park, Korea, February 2017Douglas Stone et al., “Difficult Conversations: How to Discuss WhatMatters Most,” 2010
山上俊彦 [email protected] (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 32 / 32