知的情報処理 1. 導入 - · pdf fileautonomous learning vehicle in a neural net...
TRANSCRIPT
1
知的情報処理1. 導入
櫻井彰人
慶應義塾大学理工学部
情報処理
( 近、米国では)学生に人気がなくなってきているというが、産業としては非常に大きいし、また、我々の生活に与える影響も大きい。
パッケージ的なもの、low level な作業はoutsource するが、抽象度の高いもの、顧客に密着したもの、新規なものは自国内で行う。需要は大きくなる
CACM vol. 48 , no. 9 (Sept. 2005) より
情報処理に関して学ぶもの
論理的な考え方
技術と管理
情報処理とは何か: 基礎技術、ものの考え方、哲学
知的とは、知的な情報処理とは
コンピュータ(計算機)は何を行うか?
計算か?
情報処理か?
「情報」も「処理」も曖昧ではあるが、「計算」との違いは分かる?
「情報処理」とは
例を挙げよう
銀行の様々な取り引きの記録と実行
POSデータの蓄積と利用
JR/航空機の予約
特徴:計算は単純、量は膨大、関係が複雑
計算するより、記憶しておこう、引き出そう
データ間関係を整合的に処理
もっと身近な例
ワープロソフト:計算は単純、データ量も少ない「計算」というより「情報処理」
お絵描きソフト:同上
表計算ソフトは?
スーパーファミコン、プレイステーション2, 3,,,実は計算の山:画像処理
2
これも計算?
計算=四則演算だとしたら、これは何?
機械翻訳極端に単純化して言えば単語の置き換えと並び替えI love chocolate ⇔ 私はチョコレートが好きこれって計算?
勿論、実際は、もっと複雑Time flies like an arrow; Fruit flies like a banana (Groucho Marx によるという. 前段は著名)
これって計算?
余談: The spirit is willing but the flesh is weak.(ロシア語に機械翻訳したら The vodka is good but the meat is rotten. 恐らく
an urban folklore)
背景
「知的」システムが、急速に実用に供されるようになってきた
近い将来、コンピュータのユビキタス化、ロボットの家電化、通信機器のミニチュア化等により、知的システムが普遍的な存在となる
しかし、専門家以外はその有効性、潜在的危険性に無知である
目的
「知的」システムの可能性と限界、有用性と危険性とを知る
可能性を生かす方法を学ぶ
危険性を未然に防ぐ方法を学ぶ
テクノロジーそのものへの理解も深める
講義と評価
12~13回程度の講義
評価方法講義2回に1回程度、講義終了20分前に、レポート課題を出題。終了時に提出。60%程度の比重。
全体で1回程度の持ち帰りレポート課題。2週間程度後に回答期限を設定。40%程度の比重。
知的システムとは
知的に見えるシステム or 我々の知的活動を支える知的能力をもったシステム
いずれも、 「現在で も進んでいる、または、 新の」という条件をつける
前者はシステムの見え方に着目し、後者はシステムの機能に着目している
後者は、知的生産の道具ともいえる
実は一部のソフトウェアは、かなり昔から、知的システムそのものでもあるので、注意しないとコンピュータソフトウェの話になってしまう
知的に見えるということ
複雑さについての Simon’s ant on the beach につ
いて考えてみる。
http://www.balint.ch/geschichten.htm
Herbert Alexander Simon (June 15, 1916 - February 9, 2001) was an American researcher in the fields of cognitive psychology, computer science, public administration, economic sociology, and philosophy (sometimes described as a polymath).
3
人間は何を「見る」か
一様ならざる思い込みか
誰でもが共通に感じるのか
「知的」だとの思い込みはかなり普遍的
知的とみえること
潜在的危険性と有用性chat ロボット
知的情報処理・システムの例
ありすぎて、分類できなくて困るのだが、、、、ロボットチャットボットweb 検索エンジン – Google, Yahoo,,,自動翻訳機 – 音声翻訳機, 翻訳ソフト画像認識, 画像検索 – 郵便自動区分機, 監視カメラ音声認識 – ナビゲーション, 音声応答,ガイダンス・ヘルプ
データマイニング知識管理予測
使える・使う技術の例
これも多岐にわたる
認識技術 – 実は意味する範囲が広すぎ
音声と画像ではかなり違う
自然言語処理技術構文解析、意味解析
マシン・ラーニング – これも広すぎ
データベース
統計処理
言語学
認知科学、心理学、学習
インターフェイス技術
並列化技術、ネットワーク処理技術
歴史は古い: チェッカーの学習
訓練例をえて目標関数
学習関数
訓練値
訓練値を得る規則:
荷重変更の規則自乗平均 小化 (LMS) 荷重更新規則:
REPEAT訓練例 b をランダムに選択
error(b) を計算
それぞれの盤面特徴 fi, に対し、その荷重 wi を更新:
但し cは正の小さい定数で、学習係数
( )bV̂
( )bV
( )bVtrain
( ) ( )( )bVbV Successortrainˆ←
( ) ( ) ( )bVbV berror ˆ−= train
( )berrorfcww ⋅⋅+← iii
Arthur Samuel(1901-1990) : Playing checkers at SAIL, with teletype ~1970
これを発展させると、TD学習になる
A. Newell, J.C. Shaw, and H.A. Simon, Chess-Playing Programs and the Problem of Complexity(1958).
歴史は古い: 簡単な対話システム
Eliza: 古典的な(1966年! J. Weizenbaum)対話シ
ステム
例: SWI-Prolog comes with ABSOLUTELY NO WARRANTY. This is free software,and you are welcome to redistribute it under certain conditions.Please visit http://www.swi-prolog.org for details.For help, use ?- help(Topic). or ?- apropos(Word).1 ?- ['eliza.pl'].Hello. I am ELIZA. How can I help you?> all men are alike.In what way?> they always want the same thing.What resemblance do you see?> are you trying to be funny?Why are you interested in whether I am trying to be funny or not?> computers are stupid.Do computers worry you?> This conversation is silly.I am not sure I understand you fully.> quitGoodbye. My secretary will send you a bill.> % eliza.pl compiled 0.03 sec, 68,532 bytesYes2 ?-
4
歴史は古い: 自動走行ニューラルネットワーク
Autonomous Learning Vehicle In a Neural Net (ALVINN): Pomerleau et alNavlab-5 に到り終了 (1995). 高速道路を 70mph で. "No Hands Across America"
http://www-2.cs.cmu.edu/afs/cs/user/tjochem/www/nhaa/nhaa_home_page.html
ちょっと脱線
この本を知っていますか?
話題の中心(偏見が入りますが)
機械学習Machine learning の翻訳
もともとは、言葉の通り、機械(計算機ですね)が、学習しながら、段々と賢くなること
自然言語処理自然言語による記述を、コンピュータを用いて処理し、我々に役立つ情報に変換する
web上には、玉石混交だが、自然言語で書かれた資料が大量にある
取り上げる話題
web ブラウザ (復習です)自然言語とは. 構文と意味
web 検索. 自然言語処理として
web 検索. 様々な試み
テキストマイニング
機械学習の基礎
決定木
Bayes 的なアプローチ
データマイニング