人工知能が働くことの意味を変えるplatinum.mri.co.jp/sites/default/files/page/dwango_20151119.pdf ·...

人工知能が働くことの意味を変える

2015年11月19日 15：05〜15:45

ドワンゴ人工知能研究所

山川宏

デジタルイノベーション時代の仕事と働き方とは

http://platinum.mri.co.jp/

CONFIDENTIAL MATERIAL / RESTRICTED ACCESSCONFIDENTIAL MATERIAL / RESTRICTED ACCESS

サイエンティストからエンジニアへ

卒研：素粒子物理学：ソリトンバッグモデル

修士：液体金属の光電子分光実験

博士：強化学習に基づく知能システム

富士通に入社後－企業人としての研究－

ニューラルネットによる感覚運動融合モデル

認知アーキテクチャー(RWCでの手渡ロボット)

状況分解(人に学ぶ概念学習)

タンパク質相互作用予測(Bioinformatics)

意見集約支援システム(集合知)

人物情報クラウド(分散ID管理システム)

環境マイクロ債務(環境ソリューション)

脳と専門性発達(将棋プロジェクト)

ドワンゴ人工知能研究所設立：全脳アーキテクチャ

赤:自分で決めた，青:仲間と進めた，緑：外から与えられた

HAL2006: JSAI20周年記念事業


キャリア授業で伝えていること

＜自分のことだが変わることも多い＞

＜自分ではコントロールできない＞

これが外れると，自分らしく働けない．ここだけは外して

はならない．ここがベスト

E. シャインの３つの問い

ゲームを使った授業風景

大学研究者の人生を疑似体験することで，戦略的な先行投資やチャンスへの構えの必要性を学ぶ(研究人生を楽しむ会)

＜長期的に自分でコントロールしやす

い＞


ドワンゴ人工知能研究所の挨拶文より

（前略）私達は、厳しい20年後の世界を生き抜く次世代に向けて何を準備できるのでしょうか。

明らかに地球温暖化を制御することは、それを達成する方法を理解できる程度に知的か否かという問題にかかっており、人類が移住しようとする惑星をテラフォーミングしうるかどうかも火星や金星の気候を再構築する程度に知的か否かという問題にかかっています。ですからもし、人と同じかそれ以上に知的な機械、つまり超人的人工知能(AI)を創造し利用できれば、科学技術の進展を大幅に加速することで、環境破壊の臨界点が訪れる以前に何らかの解決を見出すことも可能になるでしょう。

3


1. 人工知能と深層学習


知能とは何か： AIが創ろうとしているもの

5

推論(アルゴリズム)

AIで先行して進歩

(知識)表現知識≠単なる記録の集まり知識＝情報内の関係性を表現する規則

＋

知能 ≒ 未体験のデータについて推定する能力

未来予報会議


知識からみたAIの歴史

6

2. 知識記述の時代エキスパート・システム

知識ベース

推論機構

専門家が知識記述

状態/ 質問

行動/ 回答

Webによる共有

オントロジー

知識獲得ボトルネック

3. 知識獲得の時代ディープ・ラーニング

推論機構

データからの知識獲得

状態/ 質問

行動/ 回答

知識獲得

抽象知識の学習にメド

※以前から存在した機械学習アプローチだが近年性能向上

1.知識所与の時代トイ・プロブレムが対象

推論機構

状態/ 質問

行動/ 回答

ゲームのルール

適用範囲が狭い

※推論機構の中に知識が埋め込まれていた．

未来予報会議


深層学習の成功は、

機械学習においては

平凡なインベンションであるが、

人工知能にとっては

クリティカルなイノベーションである．


深層学習とは何か？

深層学習は、脳の機能を参考に作られた

「ニューラルネットワーク」の一種

出典 Tutorial on Deep Learning and Applications(Honglak Lee University of Michigan http://deeplearningworkshopnips2010.files.wordpress.com/2010/09/nips10-workshop-tutorial-final.pdf

【深層学習による特徴学習（顔認識の例）】

深い階層

浅い階層エッジなど局所的な特徴

小さいパーツなどの具体的な特徴

パーツを組み合わせた全体的な特徴

視聴覚認識技術で

既存技術を凌駕した

AIの往年の課題

「表現獲得」に道筋を与

えた

感覚運動機能

「子供のAI」から発達を追う研究へ


BRETT

富士通＠新横浜にて

日刊工業新聞 2015.5.24

End-to-End Learning


複合機械学習によるAGI構築への期待感

深層学習を組み合せる技術進展が激しく進行中

画像キャプション生成の例：画像認識（CNN）と文生成（RNN）の組み合わせ

技術的には，既存の複合機械学習の拡大と想定しうる

Haoyuan Gao, Junhua Mao, Jie Zhou, Zhiheng Huang, Lei Wang, and Wei Xu, Are You Talking to a Machine? Dataset and Methods for Multilingual Image Question Answering, To appear, NIPS 2015


なぜ今,人工知能にアタックできるのか

(S. Adams他， Mapping the Landscape of Human-Level Artificial General Intelligence, 2011) 従来よりAIが得意とする領域．

従来難しいとされてきた感覚運動スキルが，深層学習により実現

認知発達のベース側からAIに迫れる状況に


2. 全脳アーキテクチャ・アプローチ:

人間のような汎用人工知能を創る


領域知識学習を実現している大脳新皮質

一様な機構で，多様な機能を獲得 → 領域知識学習を実現しているはず → 深層学習が実現した表現獲得

・身体運動的知能

・言語的知能

・論理数学的知能

・音楽的知能

・対人的知能

・内省的知能

・空間的知能

図の出典： http://bio1152.nicerweb.com/Locked/media/ch48/48_27HumanCerebralCortex.jpg


全脳アーキテクチャ（WBA)・アプローチ

脳全体のアーキテクチャに学び

人間のような汎用人工知能を創る(工学)

AI 脳

①脳の各器官を機械学習モジュールとして開発

② それらモジュールを統合した認知アーキテクチャを構築

全脳アーキテクチャ(WBA)のアプローチ


ようやく今，WBAアプローチが可能になった

これまで難しかったが，近年可能になった．

全脳アーキテクチャ

＝機械学習＋認知アーキテクチャ

壁となっていた新皮質のモデルとして深層学習の研究が最近進んだ

欧米等の脳科学大量投資で見えつつある脳全体の結合様式（コネクトーム）を参考にできそう

AGIを脳に学ぶのは理にかなっている

現状で「多角的問題解決を自律獲得できるシステム」は脳だけ


脳全体の接続構造（マウスのコネクトームデータ）

469 injected brains to each of the 295 non-overlapping target regions

Ohら， A mesoscale connectome of the mouse brain, nature, 2014.

海馬

視床

小脳

大脳新皮質


全脳アーキテクチャ・イニシアティブ(WBAI)の設立

WBAIは『脳全体のアーキテクチャに学び、人間の

ような汎用人工知能を創る』という決意の下，2030年

完成を目指して研究開発や人材育成を行う研究、エ

ンジニア集団です．

NPO法人であるWBAIは，研究開発をオープンコミ

ュニティ化することで，世界人類と人工知能が共に歩

むの未来づくりへの貢献を目指します． (NPO法人登記

日： 2015年8月21日)


賛助会員を募集しています．


3. 汎用人工知能(AGI)とその意義

〜今できていないAI〜


汎用人工知能 (AGI: Artificial General Intelligence)とは

現実的な特化型AI

個別の領域において知的に振る舞う

既に人以上の能力が数多く実用化されている．例えば

コンピュータ将棋/チェス

Googleカー(自動運転)

医療診断

目指す汎用人工知能（AGI)

多様で多角的な問題解決能力を自ら獲得する

設計時の想定を超えた新しい問題を解決できる．

自己理解／自律性

AI創世記からの夢でありつつ，実現の困難さから取り組みは少なかった．

「汎用性」＝人レベルAIに向けた技術的に定義しうる目標


汎用人工知能(AGI)研究が目指す知能とは

Wozniak Test (スティーブン・ウォズニアック, 2007)

知能ロボットは，家かアパートのドアに置かれ，呼

び鈴かノッカーを見つけて鳴らすか，戸をトントン叩く．

ドアの応対では，自分が何者かを主人に説明し，招

待されたら入る．

家に入ったロボットは，台所に向かい，コーヒーを作

る必需品および装備の場所を見つけ、世帯主の趣味

にコーヒーを入れて、別室の人物にサーブする．

このタスクにおいて，ロボットは主人に質問すること

は許されるが，物理的な補助は行われない．


汎用人工知能 (AGI: Artificial General Intelligence)とは

現実的な特化型AI

個別の領域において知的に振る舞う

既に人以上の能力が数多く実用化されている．例えば

コンピュータ将棋/チェス

Googleカー(自動運転)

医療診断

目指す汎用人工知能（AGI)

多様で多角的な問題解決能力を自ら獲得する

設計時の想定を超えた新しい問題を解決できる．

自己理解／自律性

AI創世記からの夢でありつつ，実現の困難さから取り組みは少なかった．

専門性を学習する専門性を設計する


汎用化のために必要なこと

How do learners learn what they need to know to make learning possible?

学習者は，

”学習を可能とするための知識”を

どのように学ぶのだろうか．

(Joshua B. Tenenbaum,” How to Grow a Mind,” 2011より)

この能力を「領域知識学習」と呼びたいと思う(山川)


汎用人工知能

領域知識学習

一般事前知識

領域知識学習が特化型AIからAGIへの架け橋に

特化型AI (学習有り)

機械学習(のこれまでの主流)

領域知識領域知識

特化型AI (学習無し)

ルールルールルールルール

実行

データ

領域の広がり

設計する知識の汎用化が進む


汎用人工知能は何をもたらすのか

ロバスト性: 設計しきれない例外的状況に対

する強さ

創造性: 広い視野から仮説を創造し，世界の

理解も可能に

開発コストの削減（特化型AIよりも）破壊的イノベーション

ゼネラリストAI: (1) 多様な特化型AIの

能力を統合し，政治的意思決定等を行う

(2) 特定ユーザとのインタフェースエージェ

ントとして多様な話題を扱う

自律性：外部からの

指示を受け

ずとも，世界

を探索

汎用的学習多角的な問題

解決能力を自

動獲得


開発コストの削減（特化型AIよりも）

性能汎用性（適用範囲）

性能が一定上なら顧客ニーズを満足できる． → コストダウンできる汎用製品が市場を席巻する →学習が設計を上回れば，性能でも圧倒する．

一般目的技術（GPT)が，専用技術を凌駕する例はある．電力・電気，内燃機関，トランジスター，コンピュータ例：ワープロ専用機はある段階でニーズがなくなった

トレードオフ

コスト


ゼネラリストAIに期待される価値

ゼネラリストとスペシャリストはキャリア選択の重要テーマ．

この観点から，ゼネラリストAIの価値を探る．

(1) 多様な特化型AIの能力を統合

現在の，営業・マーケッター・政治家・コンサルタント・ビジネスプロデューサー等を代替する

多数のスペシャリストAI（特化型AI）を結びつけて，AI社会が効果的に機能を発揮することを支えるゼネラリストAI

(2) 特定ユーザとのインタフェースエージェントとして多様な話題を扱う

人の心を理解し，多くの人とコミュニケーションをとりながら価値を提供するAI

所謂，インターフェースエージェントの発展型で，個人と多くのAIをつなぐ

現在の，秘書・メンター・家庭医などを代替する（Siri, 映画「Her」）


AGIにおける「自律性」の両面性

自律性を備えたAGI

ロバスト性

創造性

価値システムを持つAI

外部からの指示を受けずとも，世界を探索

自ら世界を理解しようとする課題が顕在化する以前に，多くの可能性に備えておく能力．

制御が困難

設計者の想定を逸脱する人が理解できない部分増大し制御しにくくなる

ロボット事故

行動の責任


自律性を伴うAGIは何をもたらすのか

ロバスト性（レジリエンス）

設計しきれない例外的状

況に対する強さ

家庭内の

執事ロボット

災害救助

ロボット

創造性

広い視野から新たな仮説を

創りだす創造的知能

芸術活動

新規事業企画

AIサイエンティスト

→世界を理解する

多角的な問題解決を自律獲得できるようになると！

失敗も含め膨大な仮説を思考/試行→ホモ・ルーデンス


世界のAGI開発組織マップ Biologically plausible 脳に忠実な実装

Engineering 工学的な実装

Neocortex centered: 新皮質を中心とした実装 (価値システム含まない)

Nengo

(2015〜)

(2015〜)

OPEN

OPEN

Entire brain: 脳全体の実装(価値システ

ム等含む)

CLOSED

OPEN World AGI developers map

OPEN

(2015〜) OPEN

自律性を備えた

AGI


4. AGIの働くことの意義への影響


今後のAIのインパクトはなにか

プラス面(チャンス)：

十分に高度な知能を制御でき

れば，いかなる範囲の目標も

、より迅速に達成できる可能

性がある．

科学技術の発展を加速

癌の治療法を治療する方法を

理解できるくらい賢くなる

経済の安定化を達成する方法

を理解できるくらい賢くなる

マイナス面(リスク)

制御不能になれば人類の価値

を大きく破壊するかもしれない

危険な利用

犯罪的なAI，軍事AI，中毒をもた

らすようなAI

職業の問題

ネオ・ラッダイト運動

人工知能の「心」の問題

人の尊厳，AIへの感情移入

AIの人類に対する影響は非常に大きい


機械化で水没する職業大陸

参考： Robin Hanson, Economics of the Singularity, IEEE Spectrum, 2008

ある時代まで，人の労働が経済的価値を生み出す「職業大陸」は拡大してきたが，今は逆に「機械の海」に水没し始めている．

人と人型ロボットが一緒に働く、グローリーの埼玉工場に未来の職場を見た

人を越える知能/ロボット

職業領域職業領域職業領域職業領域

生産性

道具の利用産業革命情報革命シンギュラリティ

機械化による二つの作用

1. 海面上昇: 浸水した領域が機械に置き換わる． 2. 造山活動: 人間を補助して価値を高める．

機械の海機械の海機械の海

職業大陸

職業大陸職業大陸

最期に残る職業は，何か？


人から職業を奪うことのインパクト

経済的影響

AIがもたらす富が偏在する可能性がある

対策ベーシックインカムや負の所得税がありうる

人としての尊厳への影響

労働は人を価値付ける側面がある

プロ棋士がAIに負けるとなぜ残念なのか

貧しくても仕事がある地域の犯罪率は低い

対策人々の価値観を見なおす必要がおこるかもしれない

34 トップランナーが語るITの未来


AI学会「SF作家ｘAI研究者：未来を語る」座談会

SF作家：

長谷敏司(第35回「日本SF大賞」を受賞)，藤井太洋(SF作家クラブ会長)

人工知能研究者：

栗原聡(電通大)，大澤(筑波大)，山川（ドワンゴ）

35

消えゆく職業人の声

新たなビジネスを

目論む人の声＞


大予測：この先10年の職業

今後とも残っていくと思われる職業

高度な創造性を要する仕事

複雑なコミュニケーションを要する仕事

手先の器用さを要する仕事

今後増えてくるであろう職業

AIに与えるデータを生成する仕事

AIと人間の分担をコーディネートする仕事

AIの活用能力の高い人材を育成する教育産業

AIの動作や意思決定過程を説明する解説者

36


幸せな人生を築くためのキャリアデザインとは

37

キャリア・デザインにおいては，知識・スキル・人脈などを形成することで社会に貢献しうるサービス質を高め，その対価として収入を得ていくことが大事であるとの考えを話すことが多かった．


キャリア・アンカーやりたいことできること

職業上の自己イメージの7類型

1. 専門・職能別コンピタンス

2. 全般管理コンピタンス

3. 自律・独立

4. 保障・安定

5. 起業家的創造性

6. 奉仕・社会貢献

7. 純粋な挑戦

8. 生活様式


1. 専門・職能別コンピタンス

特徴

自分の得意とする分野を確立し，そこで才能を発揮しエキスパートであることを自覚し満足感を覚え，アイデンティティを確立する．

技術的特異点後は，

あらゆる専門能力や技能は超人的AIに凌駕されていることになる．

専門・職能をアンカーとすることは，あえて機械に頼らずに何らかの能力を持つことに価値を感じることにある．

自分自身が何らかの技能をなどを身につけることに満足を感じたり，他人がそれを賞賛するスポーツのような形として残る


2. 全般管理コンピタンス

特徴

経営管理そのものに関心を持ち、ゼネラル・マネジャーに求められるコンピタンスを身につけており，組織の階段を上り、責任ある地位でリーダーシップを発揮することでやる気を高める．


企業活動などにおけるこの種の管理機能の概ね超人的AIに置き換えられる．

人類社会は人類による統治が保たれているならば，一部の人間は超人的AIの上に立って管理する政治家となるだろう．

ただし，これに関わる人数は少なく，このアンカーによって満足することは狭き門になりそうである．


3. 自律・独立

特徴

常に自分自身の船の船長でなければならないという認識を持っている．

組織での生活を制約の多い非合理的なものと感じるる．

現状では自立的な専門職という形で折り合いをつけることが多い．


AIの支援のもとに，組織や他人に頼らない自立した生活を送ることは難しくなくなる．

このアンカーを重要視し，気楽に独立した人生を楽しむ人は増えてる．

自立していること自体に価値を感じている場合は，どこまで超AIを始めとする科学技術の恩恵を受けた生活を選ぶという点において葛藤が生ずるかも知れない．


4. 保障・安定

特徴

求めている安全の保障が手に入れば、職位がどんなレベルであっても満足できる．

定年までの職務への終身雇用がしっかりして組織・退職時の諸制度が整った頼りにできるというイメージのある組織で仕事を探す．


AIが生み出した富をベーシックインカム等で再配分できれば，人々の日常生活に必要な物資などは安定して得られるようになる．

こうした人々にとっては非常に満足できる社会になる．

このアンカーのみに依拠する場合は，本当に何もしない人間になる可能性は高い．


5. 起業家的創造性

特徴

何らかの産物（事業や作品など）を生み出すといった創造性の発揮を重視する発明家，芸術家，起業家など．

彼らはしばしば人生の早い時期から夢を追う．


創造の産物自体はAIに勝てない．

よって，産物に価値を見出すタイプでは生き残ることは難しくなる．

創造プロセス自体に楽しみを感じるというタイプであれば存続し続ける

• そうした価値観が将来的に維持可能かどうかは疑問が残る


6. 奉仕・社会貢献

特徴

自分の実際の才能や有能な分野よりも，大義もしくは人を助ける奉仕などに重きを置く．

このため組織や社会から理解され認められることが重要．


仮に超人的AIが自分以上の能力で，奉仕や社会貢献をしていたとしても，自分自身がて役立ちっていることに満足を感じられるので，

教育・医療・看護などのように直接人と接する職業において，周りからも評価されることで価値観を維持できる可能性が高いと思われる．


7. 純粋な挑戦

特徴

競争に勝ち冒険を成功させることが全てである．

成功不可能と思えるような障害の克服に燃える一方，そうした機会がないところでは士気が低下する．


実利の高いビジネスの世界においては，AIがより効率的かつ積極的に挑戦を行うのであまり目立たなくなる．

しかし冒険家はヘリコプターでもゆける山頂に歩いて登るものであり，超人的AIができたからといってそうした挑戦自体はなくならない．

こうしたスピリットを持つ人にとってはシンギュラティの影響はあまりないだろう．


8. 生活様式

特徴

組織のために働くことに前向きであると同時に，個人のニーズや家族のニーズのバランスをとることに満足を見出す．

このため時間の都合に合わせた働き方が選択できる柔軟であることを望む．

技術的特異点後は

シンギュラティ後には仕事をする必要がないのでバランスを取る必要がない

重要となる価値観はむしろ，家族間に求められる感情労働をどの程度でまでAIに依存しないかという点になるかだけかもしれない．


まとめ１：消えゆくキャリア・アンカー

保障・安定

生活が保証されるので意味を失う

生活様式

生活が保証されるので意味を失う

起業家的創造性

社会的に有用な企業は超人的AIにより先行的に実現されているため，ほぼ成立しない

47


まとめ２：存続するキャリア・アンカー

奉仕・社会貢献

様々な能力がAIより劣っていても他者へ貢献できることが動機となる

自立・独立

低いリスクで行えるようになるのでそれをアンカーとする人も増えてくる

純粋な挑戦

他者にアピールしやすい形で純粋な挑戦を志す人は一定数存在

全般管理コンピテンス

AIを制御する管理者として少数だが必要になる

専門・職能コンピタンス

純粋な挑戦や全般管理コンピテンスを実行するために必要になる．

48


AI生態系（EcSIA)としての望ましい未来社会とは

技術的特異点の到来時期は正確に予測できないが，その着地点として

望むべく社会全体の未来像は持つべきであろう．その上で現在の社会から

未来像に向かって円滑なプロセスを設計し制御したほうが良さそうだ．

私が思う，望ましい未来像とは「万人の幸福」と「人類の存続」の両立を

目指し，その間のトレードオフを緩和を目指すものである．

この世界では，共有財産としての多様な人工知能と，時に拡張された人

類によって生態系が形成される．私はこれをEcSIA(Ecosystem of Shared

Intelligent Agents )と呼ぶことにした．

EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握で

きないまでも緩やかに制御する．そしてEcSIA が生み出す恵みや富は（例

えばベーシック・インカムのような形で）万人に分配される．

（山川, 2015年７月)

49

人工知能が働くことの意味を変えるplatinum.mri.co.jp/sites/default/files/page/dwango_20151119.pdf ·...

Documents