知能が作る社会・社会が作る知能:hai研究による知能と社会のデザイン(大澤...

104
知能が作る社会・社会が作る知能: HAI研究による知能と社会のデザイン ヒューマンエージェントインタラクション研究室 筑波大学 助教 大澤博隆 http://hai.iit.tsukuba.ac.jp/

Upload: kit-cognitive-interaction-design

Post on 30-Jul-2015

526 views

Category:

Engineering


1 download

TRANSCRIPT

Page 1: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン

ヒューマンエージェントインタラクション研究室

筑波大学 助教 大澤博隆

http://hai.iit.tsukuba.ac.jp/

Page 2: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

略歴

-2009/3 慶應義塾大学情報工学科 安西・今井研究室博士(工学) 家電の擬人化

2009/4-2010/3 慶應義塾大学情報工学科 安西・今井研究室(学振DC1)2009/9-2010/3 MIT AgeLab 訪問研究員 老人向けインタフェース2010/4-2011/3 国立情報学研究所 山田誠二研究室 特任研究員(学振PD)2011/9- JSTさきがけ研究員 擬人化された動き2011/4-2012/3 慶應義塾大学情報工学科 安西・今井研究室助教2012/4-2013/3 慶應義塾大学情報工学科 今井研究室助教2013/3- 筑波大学システム情報系 助教 意図の読み合い

Page 3: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

研究内容

• 擬人化とインタフェース

–人間らしさの探索と応用

• 社会的知能

–シミュレーション・

コミュニケーションゲーム

Page 4: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

しゅみ

• SF(小説・漫画)、中国古典、海外漫画、ビデオゲーム等

Page 5: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

りれき

• 小学校

–ゲームで遊ぶのが好き

–小説も好き

• 中学・高校時代:プログラミング

–ゲームを作れる→すごい→やろう

Page 6: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

略歴

• 高校時代:プログラミング→人工知能/人工生命

• ロボット

–当時「身体性」という言葉が流行りだった

• 慶應義塾大学に入る

– SF研とロボット技術研究会

• 理論(?)と実践

Page 7: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

技術的特異点と人工知能

– 技術的特異点(シンギュラリティ)を知る

• 人類史の進化が予測つかなくなる段階

• 最近ブームだけど概念は結構前からある

– 人間の文化が計算機に置き換わる段階

• DNAの時代の終わり

– 人工知能研究をやろう

• というか人工知能しかやることがなくね?

Page 8: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

ロボットとコミュニケーション

• 人工知能ぽいのがやりたい

–安西先生「基礎から学ぶべき」

–今井先生「コミュニケーションが一番おもしろい」

• ロボットにハグされる

– インパクトある

–なんかおもしろいかもしれない

Page 9: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

本質はどこか

• ロボットが大事なのか?

–ロボットのハードウェアは本質じゃない

–人間が何を感じるかが大事

• 特徴なのか?外見なのか?

→擬人化の研究へ

Page 10: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

最近

• 人工知能学会会員

• 表紙騒動

Page 11: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 大変嫌だ

• どちらかというと嫌

• 問題ない

• 大変よろしい

Page 12: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 大きな問題点

–ジェンダー

– タスク

–ケーブル

–表情

Page 13: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人工知能学会表紙問題

• 突っ込んでいたら特集記事を書くことに

• いつのまにか編集委員に

• いつのまにか発表

– 11/16 STS学会WS(阪大)

Page 14: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAIと知能の社会的側面

Page 15: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

ヒューマンエージェントインタラクション

• 人らしいロボットとかエージェントみたいなの使うやつ……?

–それだけではない

• 「人間という外界とインタラクションを持つ自律システムや自律にみせかけるシステム」を広範に扱う

–相手からどう見えるか、という点を重視

山田誠二, 人とロボットの<間>をデザインする. 東京電機大学出版局, 2007.

Page 16: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAIの視点

• 知能がどう動いているかではなく、知能が「人間からどう受け取られるか」が最も重要

–認知科学の観点

• ロボットの機能主義と生命模倣主義との調和

「なぜ人に似せるのですか?」

Page 17: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

「人らしさ」とは何か?

• 議論を呼ぶ問い…

• 「他者の意図を発見する」という点にフォーカスする

–意図姿勢

– メディアの等式

–疑念の留保

Page 18: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

意図姿勢とエージェント

! !

起きて!

物理姿勢 設計姿勢 意図姿勢

ダニエル・C・デネット, 「志向姿勢」の哲学―人は人の行動を読めるのか?,白揚社

Page 19: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

メディアの等式

同じPC: 性能はどうでしたか?

違うPC: 性能はどうでしたか?

作業中

作業中

B Reeves, Cliff Nass, The Media Equation: How people treat computers, television, and new media like real people and places. Stanford, p. 305, 1996.

Page 20: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

疑念の留保(Suspension of disbelief)

• 演劇を見るときに疑問を持たない

–疑問を持つほうが認知負荷が低い

Brian R Duffy, Karolina Zawieska, Suspension of Disbelief in Social Robotics, International Conference on Social Robotics, pp. 484–489, 2012/9.

Page 21: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAIのアプローチ

• 人間から「他者」と認識されるものを工学的に利用する– 人間が環境中に他者を見つける働きを応用

– それが無意識か意識的かに関わらない

→社会の中で効用をなす知能、社会的知能

• HAIは何をするべきか– 何が社会的な知能を生むか

– 社会的知能をどこで応用できるか• “「両方」やらなくっちゃあならない”

Page 22: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAIの実装例

人間らしさをどう活かすか

Page 23: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAI研究とアプリケーション

• 対話エージェント、ロボット、テレプレセンス

–情報提示

–医療(自閉症、認知症)

–介護

–教育

– コミュニケーション支援

Page 24: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

弱さを利用するロボット

• Social Trash Box(豊橋技科大)

Page 25: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

うなずきの利用

• ペコッぱ(岡山県立大)

Page 26: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人を癒やすエージェント

• アザラシ型ロボットParo(産総研)

Page 27: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人を代替する

• Geminoid(ATR、阪大)

Page 28: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

心を表すエージェント

• 内部処理の映像表示(尾関、岡、京都工芸繊維大)

Page 29: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

エージェントが乗り移る

• ITACO(はこだて未来大)

Page 30: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

家電を擬人化する

HRI 2008

• ディスプレイロボット(慶大、大澤)

Page 31: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

家電を擬人化すると

• 家電の機能をより良く覚える

–自己紹介型を取るため?

Page 32: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

実験結果(視線に注目)

擬人化されたプリンタ Robovie

• 対象を見てない

– エージェントを見る

• 対象を見てる

Page 33: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

エージェントの形状が変わる

• Morphing Agency(慶大、大澤、今井)

Page 34: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

リアルとバーチャルを行き来する

• BReA(慶大、金井、大澤、今井)

–スクリーンと実世界情報を移動するエージェントによる情報提示

Page 35: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

肩にエージェントを乗せる

• TEROOS(慶大、柏原、大澤、今井)

Page 36: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

手をエージェントにする

• Pygmy(慶大、尾形、大澤、今井)

Page 37: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

というかもう人をエージェント化する

• AgencyGlass(筑波大、大澤)

Page 38: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

知能の軍拡競争

社会的知能の発生要因を調べる

Page 39: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

社会脳仮説

• 人間(や霊長類イカも?)は他者の意図を推測するために自らの脳を大きくした

Page 40: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

相互信頼・意図推測の発生条件

• 相手の意図を読む知性が生まれうるのは、どのような条件(=利得表)があるときか?

–意図を読むエージェントを進化させる条件

Hirotaka Osawa, Intelligence Arms Race: Delayed Reward Increases Complexity of Agent Strategies, International Conference on Autonomous Agents (AAMAS 2014), p. (accepted), 2014/5.

Page 41: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

信頼=時間差のある取引の成立

• 富の交換にタイムラグがある

– 相手のモデル化が必要

– 相手があとで富を返すという『信頼』が必要

例:ツケ払い

Page 42: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

利得表

• 3種の利得条件

(1) IPD: 繰り返し囚人のジレンマ

(2) MMPD: 複最大条件の繰り返し囚人ジレンマ

(3) AMPD: 反最大条件の繰り返し囚人ジレンマ

Page 43: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

IPDとAMPDの違い

IPD

• 両者裏切りがナッシュ均衡

• 両者協調がパレート最適– ジレンマ

• 単純な戦略が頑健– TFT(しっぺ返し):前回の相手の手を真似る

– GRIM:一度やられたらそれ以降全て裏切る

AMPD

• 一回の勝負のみで両者の平均利得を最大化することができない

– 両者が交互に裏切った時に利益が最大化

• 相手が裏切ったら、次相手が信頼を返してくる、という理解が必要

3 * 2 > -3 + 7 1 * 2 < -3 + 7

Page 44: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

信頼のための意図のモデル化

• 時間差のある取引では、相手が信頼に値するかどうか、モデルを保つ必要がある

Page 45: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

ゲーム設計

• 利得を得る際に時間差の必要なゲームをエージェントに課す

– Anti-max Prisoner’s Dilemma Game (AMPD)

• AMPDに拒絶条件を入れる

–自由取引に近づける

Page 46: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人間による事前シミュレーション

• 74人の被験者がエージェントの戦略を記述、28日間(1日4回更新)で順位を競う

• 各エージェントの戦略をオートマトンで記述

Page 47: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

webフォームでの戦略登録

• オートマトンの入力:前回の相手の手(待つ、出かける)– 待つ: 0– 出かける: 1

• オートマトンの状態:今回の自分の手(待つ、出かける)– 待つ: 偶数自然数(2,4,6...)– 出かける: 奇数自然数(1,3,5...)– 鍵を閉じる: 0

• 状態はいくつ作っても良い

Page 48: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

結果

• 上位陣において、オートマトンが爆発的に複雑化

Page 49: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

結果の解析

• 相手を認証するメタ戦略が発生

• 認証を発達させるジレンマの存在

–相手を信じすぎると搾取されるが、早い段階で見限ると信頼出来る相手を見逃す

Page 50: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

計算機によるシミュレーション

• 50個のエージェントが進化しながら1500世代の間、総当り戦を行うゲーム

• IPD、MMPD、AMPDそれぞれ100ゲーム

3 * 2 > -3 + 7

2 * 2 = -3 + 7

1 * 2 < -3 + 7

Page 51: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

エージェントの戦略の進化

• 各エージェントの戦略をオートマトンで記述

• 初期シードとして単純な戦略を記述

– 2ノード、4枝で記述できる戦略32種をランダムに配置

• 遺伝的プログラミングにより進化させる

Page 52: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

初期オートマトンの例

• Believer: 全て協調• Attacker: 全て裏切り• TFT: 初回協調。その後相手の手を真似る• aTFT:初回裏切り。その後相手の手を真似る• Pavlov: 裏切られたら手を変える• GRIM: 一度裏切られたら全て裏切る

Page 53: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

遺伝的プログラミングの手続き

• 突然変異

– ノードの変化

– 枝の変化

– 新しいノードの追加

• 交差

– ある木の部分木が別の木の房に付け加わる

Page 54: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

評価

• 以下の2つを使用

–全枝の数

–使用した枝の数

–循環的複雑度(Cyclomatic Complexity)

• ユニーク枝 - ノード数

–使用したオートマトンの循環的複雑度 例

All edges: 18Used edges: 11All CC: 14Used CC: 9

Page 55: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

IPD

• 単純な戦略に収束(ほぼGRIM)

0

10

20

30

40

50

60

0

0.5

1

1.5

2

2.5

3

1 201 401 601 801 1001 1201 1401

all edges used edges average score

Page 56: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

MMPD

• 92のケースで単純な戦略に収束

• 8のケースで木の枝が増加

–ただし、内訳は既存の枝の複製で、ほぼ使用されていない

– 「使用された枝」に限ってみると増加してない 0

5

10

15

20

25

30

35

40

45

50

0

0.2

0.4

0.6

0.8

1

1.2

1.4

1.6

1.8

2

1 201 401 601 801 1001 1201 1401

all edges used edges average score

Page 57: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

AMPD

• 57のケースで単純な戦略に収束– (attacker or GRIM, 最大スコア1)

• 43のケースで戦略が増大

• 全ての枝、使用された枝の両方が増加– 全ての枝が378(51~

1525, SD=438)、使用した枝が27本(18~42, SD=6).

0

50

100

150

200

250

300

-1

-0.5

0

0.5

1

1.5

2

1 201 401 601 801 1001 1201 1401

all edges used edges average score

Page 58: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 総合的な循環的複雑度が172 (20~720, SD=202)、使用された循環的複雑度が平均で7.0(4.5~9.5の間)になる– 赤:使用された枝の増加– 青:使用された木の循環的複雑度の平均値– 灰色:標準偏差

• IPD、MMPDの場合、循環的複雑度は最大2以下

• 意味のある複雑化が起きている

循環的複雑度の増加

0

5

10

15

20

25

30

0

5

10

15

20

25

30

1 201 401 601 801 1001 1201 1401

Page 59: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

ミクロな分析

• 平均的なサンプルを一つ取って分析

–どのような進化が起きているか

0

5

10

15

20

25

30

-1

-0.5

0

0.5

1

1.5

2

2.5

1

28

55

82

10

9

13

6

16

3

19

0

21

7

24

4

27

1

29

8

32

5

35

2

37

9

40

6

43

3

46

0

48

7

51

4

54

1

56

8

59

5

62

2

64

9

67

6

70

3

73

0

75

7

78

4

81

1

83

8

86

5

89

2

91

9

94

6

97

3

10

00

10

27

10

54

10

81

11

08

11

35

11

62

11

89

12

16

12

43

12

70

12

97

13

24

13

51

13

78

14

05

14

32

14

59

14

86

all cc used cc average

Page 60: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

1~48世代

• 戦略の長さの増加

0

0.5

1

1.5

2

2.5

3

3.5

-1

-0.5

0

0.5

1

1.5

2

1

10

19

28

37

46

55

64

73

82

91

10

0

10

9

11

8

12

7

13

6

14

5

all cc used cc average

Page 61: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

49~102世代

• 既存の戦略を取り込んだ複雑化

• 線形ではなく、スキップ・簡易な分岐が登場

– 「やり直そう」「これは飛ばそう」に対応

0

0.5

1

1.5

2

2.5

3

3.5

-1

-0.5

0

0.5

1

1.5

2

1

10

19

28

37

46

55

64

73

82

91

10

0

10

9

11

8

12

7

13

6

14

5

all cc used cc average

Page 62: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 複雑な分岐の登場

– 「もしこうならこう」に対応?

103~149世代

0

0.5

1

1.5

2

2.5

3

3.5

-1

-0.5

0

0.5

1

1.5

2

1

10

19

28

37

46

55

64

73

82

91

10

0

10

9

11

8

12

7

13

6

14

5

all cc used cc average

Page 63: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

1500世代後

• 循環的複雑度が25

– 25の分岐が存在する

• 分析が難しい…

0

5

10

15

20

25

30

-1

-0.5

0

0.5

1

1.5

2

2.5

15

91

17

17

52

33

29

13

49

40

74

65

52

35

81

63

96

97

75

58

13

87

19

29

98

71

04

51

10

31

16

11

21

91

27

71

33

51

39

31

45

1

all cc used cc average

Page 64: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

各世代の知性

• 少なくとも単純な戦略には適応

– Believerから搾取

– AttackerやGRIMと

はお互い裏切りで決着(最適解)

– TFTやaTFTとは協調

– Pavlovとはあまり協調できない

-300

-200

-100

0

100

200

300

400

500

600

1

55

10

9

16

3

21

7

27

1

32

5

37

9

43

3

48

7

54

1

59

5

64

9

70

3

75

7

81

1

86

5

91

9

97

3

10

27

10

81

11

35

11

89

12

43

12

97

13

51

14

05

14

59

vs believer vs attacker vs TFT

vs aTFT vs Pavlov vs GRIM

Page 65: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

応用:意図の表出による機器の長期的使用

• 得られた戦略を、擬人化した機器の戦略とする

–機器に対する興味を持続できるのでは?

– 「情動を喚起することが大事」

65

Page 66: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼知能プロジェクト

社会的知能評価のためのグランドチャレンジ

Are you werewolf?

Page 67: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼ゲーム

• コミュニケーションゲーム「人狼」

–村人の中に隠れた狼を議論と処刑を用いて当てる

–村人:毎晩一人人間を処刑

–人狼:毎晩一人村人を襲撃

–占い師:毎晩一人対象が人間か狼か見分ける

Page 68: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼の背景

• 全世界的に親しまれている

–ロシアの伝統ゲーム

• 日本の人狼はオンラインゲームとして発展

– 10年間、数千件の対戦データが存在

http://ninjin002.x0.com/wolff/

Page 69: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

オフライン・オンライン人狼の違い

カード型人狼:パーティゲーム

• 一試合十数分程度– 短い会話で嘘がつけるか

• 顔が見える環境での競争– 相手の性格や反応を見る

• 狼同士の会話はジェスチャ

オンライン型人狼:言語ゲーム

• 一試合数日間– 熟慮した発言が可能

• キャラクターによる匿名化– 性別や見た目の影響排除

• 狼同士の会話を平衡で行う– コミュニケーションミスの排除

Page 70: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼知能プロジェクトとは何か?

• 人狼を解く人工知能を作る

–人間の代わりに振る舞うエージェント

– コンテストの形式で行う(チェス・将棋・ロボサッカーと同様)

Page 71: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼ゲームの特徴

1. 客観視点での情報不確定性

– 完全情報ゲームとの違い

※CO = カミングアウト、役職告白

Page 72: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼ゲームの特徴

2. 推理:他者の意図のモデル化

– 文脈からの真偽の判断

– 重み付けは各プレイヤーが行う

Page 73: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼ゲームの特徴

3. 説得:他者から見た自己のモデル化

Page 74: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

担当

• 鳥海不二夫:全体統括・サーバ作成

• 稲葉通将:オンラインデータ解析

• 大澤博隆:プロコトル作成

• 片上大輔:対人プレイ分析

• 篠田孝祐:システム設計

• 梶原健吾:クライアント作成

• 松原仁: ルール設計・広報

Page 75: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼プロトコルの開発

• 自然言語は扱いが難しい

• 人狼で行われる会話をモデル化した言語設計

– BDI論理に基づく

–プログラムに扱える範囲で、かつ記述可能な範囲をなるべく広げる

Page 76: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼プロトコルの例

• 「Onoさんは人狼でしょう」

– declare 90% (Ono wolf) : Onoが人狼であると90%確信

• 「その意見には反対だな」

– agree 0% (speech 10) :10番目の会話に同意しない

• 「Onoさんは処刑しましょう.人間とは思えないですし」

– Request any 90% (execute Ono)

because declare 20% (Ono humanside)

76

Page 77: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

BDI論理を使った推論

• 人狼BBS 1村

Page 78: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼知能達成におけるエージェントの推論モデル

• BDI論理を使うことで、人狼における複雑な推論(入れ子の推論)を記述可能となる。

• ログから検証

BEL𝐽𝑜𝑎𝑐ℎ𝑖𝑚 AX ¬Do ∀𝑝𝑒𝑜𝑝𝑙𝑒 𝑒𝑥𝑐𝑒𝑝𝑡 𝐴𝑙𝑏𝑖𝑛, tell, Is who, seer → Is Albin, seer

Do divine, Liesa ∩ Is Liesa, villager

Page 79: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

BDI論理による推論表現

• 占い師を演じる狂人の襲撃に失敗した人狼が、狂人を庇う村人の動きから、その村人が狂人を護衛した狩人と見抜く

Page 80: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

BEL𝑂𝑡𝑡𝑜(BEL𝑀𝑜𝑙𝑖𝑡𝑧 Is Otto, VILLAGESIDE ) → BEL𝑂𝑡𝑡𝑜(Is(Molitz, hunter))

Is x, attacked ∩ AX(Is x, live ) → Is x, guarded

Is x, VILLAGESIDE → Is x, HUMAN

Do Molitz, know, Is Albin, attacked

BEL𝑀𝑜𝑙𝑖𝑡𝑧 Is Otto, HUMAN

BELy Is x, VILLAGESIDE → BELy(Do y, know, Is x, attacked )

Is Albin, attacked

AX(Is Albin, live )

Is Albin, guarded

Is x, seer ∩ Do x, tell, Is y, HUMAN → Is x, HUMAN

BEL𝑀𝑜𝑙𝑖𝑡𝑧 Is Albin, seer

Is(x, hunter) ∩ B(Is y, guarded ) ↔ Do(x, know, Is(y, attacked))

Is y, HUMAN ∩ Do x, tell, Is(x, seer)

∩ Do x, tell, Is y, HUMAN ∩ (Do ∀z except x, tell, Is(z, seer)

∩ Do z, tell, Is y, wolf ) → Is x, seer

Is Otto, HUMAN

Is Albin, seer

𝑩𝑬𝑳𝑴𝒐𝒍𝒊𝒕𝒛

Is x, seer → Is x, VILLAGESIDE

BEL𝑀𝑜𝑙𝑖𝑡𝑧 Is Albin, VILLAGESIDE

𝑩𝑬𝑳𝑶𝒕𝒕𝒐

𝑓𝑎𝑐𝑡: 事実

𝑟𝑢𝑙𝑒: 規則からの推論

estimation: 推測

𝑟𝑎𝑡𝑖𝑜𝑛𝑎𝑙 𝑎𝑐𝑡: 合理的行動

ℎ𝑒𝑢𝑟𝑖𝑠𝑡𝑖𝑐𝑠:経験則

「占い師は嘘付かない」

「2人の占い師の一人が人間を人間と占ったら、そいつが本物」

「オットーは人間」

「アルビンが占い師」

「占い師は人間」

「アルビンは襲撃されたが生きてた」

「襲撃されて生きてるなら護衛成功」

「アルビン護衛」

「村側なら人間」

「モーリッツがオットー村側と信じる」 「モーリッツは狩人!」

「モーリッツはアルビン人間と考えてる」

「人間と信じてるなら、たぶんその人は襲われたと知ってる」

「アルビン占い師」

「モーリッツはアルビン襲撃されたと知ってる」「襲撃先を知ってるのは狩人だけ」

Page 81: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 不注意な人間の行動を、それゆえに信じる

Page 82: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

グランドチャレンジとしての利点

• 社会的知能(他者への推論)を要求される課題である– 相手のモデルのシミュレーション、相手の中の自分の思考のシミュレーションが必要

– 可能世界論やBDI論理のような人工知能手法が実用化

• しかしながら、勝敗は明確である– 「良い行動」「悪い行動」の評価、フィードバックがしやすい

• ルールがシンプルで、レイヤによって様々な課題を設計できる– 統計分析、発話順序、非言語、パラ言語、身体性、ジェンダー– MAS、HAI、ロボティクス、認知科学、社会学、ビデオゲーム…各人が自分のスキルでチャレンジ可能

– また、段階的に課題の難しさを設計できる

• データがあり、取っ掛かりやすい– 日本語だけなので、日本人の研究者が有利

• 応用範囲が広い– コミュニケーション教育

Page 83: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼対戦サーバ

• 人狼知能をエージェントとして互いに対戦可能なサーバ

• 将来的には人間との対戦も実現

人狼サーバ人狼サーバ人狼プロトコル

人狼プロトコル

翻訳モジュール

自然言語

感情表現モジュール

人狼プロトコル 表情

Page 84: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

• 会話• 会話

• 投票• 能力者の行動決定• 投票• 能力者の行動決定

• 吊り、襲撃処理• 占、霊へ情報提供• 勝敗処理

• 吊り、襲撃処理• 占、霊へ情報提供• 勝敗処理

• 会話ゲーム開始ゲーム開始

ゲーム終了ゲーム終了

人狼サーバにおけるゲームの流れ

Page 85: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

全員の話し合い全員の話し合い

会話終了会話終了

共鳴者の会話共鳴者の会話人狼の話し合い人狼の話し合い

人狼の話し合い人狼の話し合い

1日の始まり1日の始まり

話し合いに参加するエージェントの並び替え(ランダム)話し合いに参加するエージェントの並び替え(ランダム)

まだ喋る

まだ喋る

話し合い終了

話し合い終了

YESNO

エージェントによる発話エージェントによる発話

話し合い開始

話し合い開始

人狼エージェントによる発話

人狼エージェントによる発話

人狼サーバにおける会話の流れ

Page 86: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

シンプルな人狼のモデル化

• 人狼のシンプル化

–発話:特に必要な発話のみ

• 役職のカミングアウト

• 能力によって得られた情報の共有

• 疑っている対象の報告

– 疑い度:プレイヤーの状態から人狼らしさを推測

• Q学習を用いて戦略を学習

86

QQ

? !

Page 87: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

学習内容

• 襲撃,処刑等の対象選択方法

• 発話内容

• 人狼側が嘘をついて装う役職

• プレイヤーの疑い度

87

Page 88: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼・学習無 人狼・学習有

人間・学習無 38.6% 22.3%

人間・学習有 52.9% 36.4%

結果(1/3)

• 学習の有無による人間側の勝率の変化

戦略の学習によって勝率の向上が得られた

88

Page 89: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

結果(2/3)

• 人狼側の戦略ごとの人間側の勝率の変化

• 実データと比較して高い相関(0.766)

→人間に近い戦略の学習に成功89

Page 90: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

結果(3/3)

• 上級者が用いる手法の発見

– 生き残り人数が5人の時、襲撃における最適戦略

“誰も襲わない”

高度な戦略の学習が可能であることを発見

90

Page 91: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

人狼の詳細情報はこちら

http://aiwolf.org/サーバ公開中

11/19 日吉キャンパス、横浜人狼知能エージェント

作成セミナー(※まだ若干枠があります!)

Page 92: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

感情労働を補佐する技術としてのHAI

社会的知能を応用する

Page 93: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

研究提案:HAI技術の新しい応用

• 機械の擬人化から人間の擬人化へ

• 感情労働を肩代わりするためのHAI技術利用

–人間の社会的行動の補佐

Page 94: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

感情労働とは何か?

• 労働者が、他人の感情に合わせて行動する必要がある種類の労働 [Hochschield 83]

–肉体労働・頭脳労働に並ぶ労働

–客室乗務員・介護・教育など

Page 95: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

感情労働≒社会的な知能を要する労働

• 高度な知能を要する課題

–感情労働は相手のモデル化を要求する

–社会脳仮説

Page 96: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

HAIでのエージェントの応用

• 感情労働の対象とする領域と、HAI研究で提案

されてきた応用範囲が重なる

–介護・教育・情報提示

– HAI技術は感情労働の代替?

Page 97: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

代替としての技術・補佐としての技術

Page 98: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

部分的な自動化の利点

• 社会的応用に結びつきやすい

• 市場が存在する

Page 99: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

プロトタイプの提案:AgencyGlass

Page 100: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

実装とデモ

• センサによるジェスチャ拡張

• 外部カメラとの連動

–相手の視線を追いかける

• Joint attention

Page 101: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

反応

• 3/1: インタラクション2014デモ• 3/6: HRI 2014 video presentation• 3/10: NewScientist

– 技術的な詳細が主

• 4/11: IEEE blog, 4/17: BBC– 感情労働についての記事を組む

• USA, Australia, New Zealand, United Kingdom, France, German, Swiss, Spain, Russia, Sweden, PRC, Chile, Brazil, Taiwan, Israel, Vietnam, Indonesia, India

• 4/22: AFP通信– 日本のメディア

Page 102: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

Youtubeのコメント

• 評価 賛4:否1• コメント

– 賛14件、否10件、どちらでもない36件

• 賛成– 代替に賛成、感情表現が苦手な人に良い

• 否定– 外見が不気味、こわい

• どちらでもない– 日本特有?

Page 103: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

議論(1/2)

• Dr. Berthouzeによる指摘– 異種文化の表現を変換する技術に使えるのではないか

• Garciaの記事: Rappler– 文化に依存するので難しい

• Huffington Postの議論– アスペルガーや近視の人の補助に有効

• Sanovaの記事: Think Inc.– 感情表現の代替が人間の感情表現を減らす危険性について

Page 104: 知能が作る社会・社会が作る知能:HAI研究による知能と社会のデザイン(大澤 博隆)

議論(2/2)

• 意外に多くの需要が存在する

–感情労働は日本に限らない

–自動化は補佐に絞る

• 自動化と教示のバランスに注意する