intelligenza artificiale 50 anni dopo human language technology maria teresa pazienza a.a. 2007-08

Intelligenza Artificiale50 anni dopo

Human Language Technology

Maria Teresa PAZIENZA

a.a. 2007-08

nice to meet you

nice to meet you

Sistemi intelligenti creano una rappresentazione formale che collega il linguaggio ai concetti ed ai task delle

applicazioni reali

Programma Introduzione storica ed obiettivi dell’Intelligenza Artificiale: Dartmouth

Summer Research Project on Artificial Intelligence

Trattamento del Linguaggio Naturale. Sistemi di NLP (Natural Language Processing).

• Analisi sintattica: grammatiche, parsing

• Parsing robusto: approcci simbolici e quantitativi

• Rappresentazione della conoscenza per l’analisi semantica

• Il problema del significato e la grammatica

• Il ruolo del lessico

Applicazioni: Estrazione di Informazione da testi, Question Answering, Reasoning ontologico, Summarization, Web intelligence, Machine translation.

Libro di testo

• D.Jurafsky, J. H. Martin: Speech and Language Processing, Prentice Hall, 2000, cap.2,3,8,9,10,14,15,16

• Presentazioni ppt (sul sito del corso di Int. Art., Didattica Web Tor Vergata)

Esami Sono previste per ciascun appello:

• prova scritta

• progetto implementato singolarmente o in gruppo

• orale (discussione eventuale sulla prova scritta e sul contributo personale al progetto)

Per partecipare ad una prova d’esame è obbligatorio prenotarsi almeno 24 ore prima dell’esame.

La partecipazione ad una prova scritta non preclude la partecipazione a prove successive (nel caso si rifiuti la valutazione conseguita) previa nuova registrazione.

La consegna del progetto può avvenire in un appello diverso da quello della prova scritta. Il progetto può essere realizzato singolarmente o in gruppo.

Appelli sessione estiva:

9 luglio 2008 aula 9 ore 9,30

16 luglio 2008 aula 9 ore 9,30

Dartmouth Artificial Intelligence Conference

We propose that a 2 month, 10 man study of artificial intelligence be carried out during the summer of 1956 at Dartmouth College in Hanover, New Hampshire.

The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it. An attempt will be made to find how to make machines use language, form abstraction and concepts, solve kinds of problems now reserved for humans, and improve themselves.

J. McCarthy, M.L. Minsky, N. Rochester, C.E. Shannon

August 31, 1955

Intelligenza Artificiale

Il problema ancora da risolvere è:

Qual è

il corretto livello di astrazione della mente umana

per costruire un modello mentale

che debba successivamente guidare le azioni di una macchina intelligente?

Intelligenza Artificiale

Materia in forte evoluzione; dare una definizione che delimiti rigorosamente i campi di interesse rischierebbe di escludere a priori sviluppi futuri che già si intravedono

E’ contemporaneamente scienza e tecnica, disciplina di frontiera in cui s’incontrano diversi domini del sapere: logica, informatica, psicologia, neuroscienze, filosofia…

Intelligenza Artificiale (IA)

L’IA si manifesta con un duplice profilo:

• disciplina ingegneristica (costruire macchine capaci di svolgere compiti intellettuali)

• disciplina psicologica (costruire macchine capaci di esprimere le caratteristiche essenziali dell’attività cognitiva umana spiegando i rapporti tra pensiero e fisicità dell’uomo)

Sogni realizza(da 2001: Odissea nello Spazio)bili ?

Intro

Hal : - Buonasera, David. David: - Come va, Hal? Hal : - Va tutto benissimo, e tu? David: - Beh, non c'è male. Hal : - Hai fatto dell'altro lavoro? David: - Si', qualche disegno. Hal : - Posso vederlo? David: - Certo. Hal : - Un'ottima esecuzione, David. Mi pare che tu abbia migliorato parecchio.

HAL-Ascolta-Analizza-Comprende-Ragiona-E’ pragmatico -Risponde

Chi (o cosa) è Hal ? Una intelligenza “Artificiale” o “Naturale” ?Cosa vuol dire “Intelligenza Artificiale” ?

Il test di Turing

Test ideato da Alan Turing (1919-1954) per determinare se una macchina è in grado di pensare. Vi sono tre partecipanti:

A: un esaminatore

B: un uomo

C: una macchina

A è tenuto separato da B e C, e deve stabilire chi è l’uomo e chi è la macchina ponendo delle domande

Se A non distingue la macchina, allora la macchina ha passato il test, ed è considerata “in grado di pensare”

E un bel problema !

-Filosofico: cosa vuol dire “pensare”? Cosa vuol dire intelligente?

-Tecnologico: esiste Hal? Dove è l’IA oggi?

http://cogsci.ucsd.edu/~asaygin/tt/ttest.htmlhttp://it.wikipedia.org/wiki/Test_di_Turing

Intro

A.L.I.C.E.

Intro

Come funziona ALICE?

Non è poi così “intelligente”!

Semplice insieme di 41.000 coppie domanda-risposta (pattern-template) espressi tramite espressioni regolari

Implementato in AIML (Artificial Intelligence Markup Language), linguaggio di markup XML-compliant

Nessun tipo di conoscenza linguistica, tranne l’utilizzo di sinonimi

ALICE può quindi essere messa in difficoltà con trucchi che richiedono conoscenza linguistica!

Sintassi: “you are a robot” VS “a robot, this is what you are”

http://www.alicebot.org


I calcolatori generali (general purpose) hanno la caratteristica di essere macchine simboliche, ovvero sono (1) macchine capaci di manipolare “strutture di simboli” da porre in corrispondenza ad entità diverse:

• parole di una lingua naturale, • espressioni matematiche, • posizioni del gioco degli scacchi, • oggetti da riconoscere e classificare,• ……


I calcolatori generali (general purpose) sono

(2) macchine capaci di utilizzare l’istruzione di “salto condizionato” che consente di cambiare l’ordine di esecuzione delle istruzioni.

La macchina rivela una capacità discriminativa, ovvero seleziona/sceglie la sequenza di istruzioni da eseguire rivelando un atteggiamento intelligente.


Inizialmente

attenzione all’analisi di problemi relativi ad ambiti ben delimitati, per risolvere i quali bastano regole esplicite per l’elaborazione simbolica e poca conoscenza specializzata.

Successivamente

da elaborazione simbolica a conoscenza tacita, ad abilità senso-motorie, alla capacità di adattamento all’ambiente naturale o alle interazioni sociali con altri agenti naturali o artificiali.


Inizialmente

convinzione che compito principale dell’IA fosse lo studio delle strategie di soluzione di problemi efficacemente selettive, o “euristiche”.

La programmazione euristica, analogamente agli esseri umani, esplora solo una parte dei percorsi che, in base alle informazioni possedute, potrebbero portare ad una soluzione accettabile del problema dato e che soddisfino alcuni requisiti irrinunciabili.

Intelligenza Artificiale (IA)Tipicamente fondati sulla programmazione euristica sono i

sistemi basati su conoscenza (e tra questi i sistemi esperti); tutti basati su una base di conoscenza che raccoglie e sistematizza conoscenze e tecniche di ragionamento euristico.

Su una base di conoscenza opera un motore inferenziale che risolve i problemi posti, anche simulando tecniche di ragionamento euristico.

I sistemi basati su conoscenza vengono considerati uno dei “prodotti” principali della Intelligenza Artificiale simbolica.

Learning to Reason

• interarazione con il mondo (World)per knowledge representation si intende:

- ciò che si è scelto per facilitare il processo di inferenza

- ciò che si è imparato a seguito dell’interazione con il mondo

• la prestazione viene misurata rispetto al mondo e per uno specifico task di ragionamento

Task

Reasoning

W

LearningKnowledge

Representation

KB

Intelligenza Artificiale (IA)I sistemi basati su conoscenza non permettono di affrontare

adeguatamente alcuni aspetti:

Conoscenza tacita: il comportamento intelligente che si ispira al “saper fare”, ovvero ad una abilità difficile da descrivere con conoscenze dichiarative e regole esplicite di manipolazione simbolica

Azioni in tempo reale: capacità di reazione adeguate in tempi utili per il problema

Robustezza: capacità di lavorare anche in situazioni diverse da quelle previste dai progettisti

Intelligenza Artificiale (IA)Il connessionismo ha affrontato con un qualche successo alcuni

problemi di conoscenza tacita e robustezza.

Il modello di un sistema di IA, in tal caso, assomiglia più ad un robot immerso in un ambiente non predeterminato dal progettista ed in grado di mostrare comportamenti adattivi in tempo reale, che ad un calcolatore in grado di sostenere una conversazione o di giocare una partita a scacchi.

Il connessionismo rivela incapacità di simulare ampie capacità di ragionamento e di affrontare i problemi dell’IA distribuita e dei sistemi multiagente (ogni agente deve comunicare con altri agenti, formarsi aspettative sui risultati delle interazioni, ragionare su obiettivi e capacità di altri agenti, dimensione sociale dell’IA).


La simulazione di comportamenti intelligenti è rimasta un obiettivo centrale dell’IA (test di Turing).

Ma:

si possono simulare con successo varie forme di comportamento verbale senza avere alcuna informazione sui meccanismi che presiedono alla generazione o alla comprensione del linguaggio naturale (es. ELIZA).


La costruzione di programmi simulativi che siano in grado di fornire indicazioni (spiegare) su certe capacità cognitive è assimilabile al processo di costruzione e revisione dei modelli scientifici.

Quando il programma “gira” sul calcolatore, diventa possibile individuarne le lacune, suggerire modifiche per migliorarlo trovando nelle sue prestazioni conferme o smentite della teoria generale.

Es. General Problem Solver che dimostrava di essere una simulazione del protocollo verbale di un soggetto umano alle prese con la dimostrazione di un teorema di logica proposizionale.


E’ possibile progettare macchine che abbiano prestazioni comparabili agli esseri umani nel ragionamento pratico senza che queste provino emozioni?

Le emozioni che si provano di fronte a situazioni reali possono essere viste come qualità soggettivamente esperite di particolari stati mentali, cioè come particolari tipi di qualia.

In filosofia della mente un qualia è la qualità soggettivamente esperita di uno stato mentale (es. reazione di fronte ad un oggetto di un determinato colore)


Possibile ruolo causale di alcuni tipi di qualia nel processo cognitivo. Riguardano l’esperienza cosciente, o coscienza fenomenica (distinta dall’autocoscienza) .

Nell’ambito dell’IA sono stati considerati solo aspetti della coscienza legati all’introspezione ed alla riflessione, attraverso sistemi capaci di fornire resoconti articolati sui propri stati e processi interni e di modificare i propri programmi sulla base di tali resoconti.

Intelligenza Artificiale (IA) in pratica

Sintetizzatori artificiali della voce (call center) Gioco a scacchi su rete con qualcuno (persona, programma?)

Sistemi di supporto alle decisioni Agenti intelligenti Sistemi per

– l’elaborazione del linguaggio naturale, – la traduzione automatica, – l’apprendimento automatico, – l’estrazione di informazioni da testi e la sintesi, – la generazione, – ….

Language Technologies (LT) in pratica

Speech recognition Speech synthesis Text categorization Text summarization Text indexing Text retrieval Information extraction Data fusion e Text data mining Question answering Report generation Spoken dialogue Translation ….

Language Technologies (LT) in pratica

Metodologie e risorse

Metodologie generali dell’informatica (linguaggi di programmazione, algoritmi per il trattamento dei dati, ingegneria del software, …)

Algoritmi dedicati al trattamento del linguaggio Tecniche statistiche (per l’information retrieval e

l’acquisizione di conoscenza, …) Logica e formalismi logici di rappresentazione Conoscenza del linguaggio naturale Corpora e tools di elaborazione di collezioni di

documenti …

Intelligenza Artificiale (IA) in pratica

Dal punto di vista ingegneristico, l’IA è valutata per le sue capacità e prestazioni, indipendentemente dai metodi e dai meccanismi che sono utilizzati per realizzarla.

Idea di base: costruire macchine che non necessariamente “simulino”, riproducendolo, il comportamento del cervello umano, ma che siano in grado di “emularlo selettivamente” nel risultato finale di certe operazioni

Architettura di base di un sistema di IA:ambiente

Un sistema IA non è un insieme di istruzioni immutabili che rappresentano la soluzione di un problema, bensì un ambiente in cui rappresentare, utilizzare e modificare una base di conoscenza.

La soluzione viene costruita dinamicamente a fronte di un certo numero di possibilità.

Architettura di base di un sistema di IA:ambiente

Un sistema IA deve esprimere due tipi distinti di conoscenza:

• una “base di conoscenza” (che raccoglie la conoscenza di dominio e del problema attraverso asserzioni e fatti da un lato e relazioni e regole dall’altro)

• un “motore inferenziale” che utilizza la base di conoscenza per giungere alla soluzione e fornire spiegazioni. Scelta dinamica di quale conoscenza utilizzare nel processo risolutivo.

forward chaining versus backward chaining.

Logica

La logica è sicuramente uno degli strumenti più antichi, assestati e rigorosi utilizzati dall’uomo per formalizzare e spiegare il proprio ragionamento.

La logica è semanticamente ben definita, altamente dichiarativa, ed ha un apparato deduttivo generale.

La logica classica è utilizzata in IA per rappresentare la conoscenza su un problema (anche se con alcune limitazioni). La BdC diventa una collezione di asserzioni della logica dei predicati del primo ordine; le regole di inferenza permettono di dedurre nuove asserzioni (teoremi) non esplicitamente contenute nella BdC

Programmazione logica e Prolog

La programmazione logica nasce negli anni ’70

Kowalsky ad Edimburgo definì i fondamenti teorici della progr. logica ed un’interpretazione procedurale delle clausole della logica che permette di ridurre il processo di dimostrazione di un teorema al tradizionale processo di computazione dei linguaggi di programmazione.

Colmeraurer a Marsiglia nel 72 realizzò un interprete per il linguaggio Prolog.

Apprendimento automatico

Un sistema non potrà dirsi “intelligente” se manca della proprietà di accrescere le proprie conoscenze e migliorare le proprie abilità (apprendimento).

Per raggiungere questo obiettivo bisogna dotare le macchine simboliche di capacità di ragionamento induttivo oltre che deduttivo.

Apprendimento automatico

Il ragionamento induttivo procede

da asserzioni singolari riguardanti particolari fatti o fenomeni (“esempi”)

ad asserzioni universali esprimibili mediante ipotesi o teorie che spieghino i fatti dati e siano in grado di predirne di nuovi.

L’inferenza deduttiva preserva la “verità” (nel senso della correttezza logica)

L’inferenza induttiva non garantisce ciò e può tendere ad un’eccessiva generalizzazione e a produrre errori.

Limiti, problemi aperti e …

Sistemi inferiori alle aspettative

L’apprendimento e la rappresentazione del buon senso comune sono ben lontani dall’essere una soluzione completa.

Limitata crescita incrementale della conoscenza

Alto costo di manutenzione dei sistemi intelligenti

…

… aspettative

Supporto all’accesso di informazioni in grandi patrimoni conoscitivi (archivi aziendali, informazioni on-line, repositories di dominio,…) che richiede la capacità di analisi e gestione di dati eterogenei e ridondanti.

Strumenti per l’estrazione di conoscenza ad ampio spettro che utilizzino tecniche di apprendimento automatico.

Capacità di integrare, all’interno di sistemi informativi generali, moduli che producano task intelligenti

Navigazione intelligente sul web

IA debole versus IA forte

L’IA debole si propone di costruire (reale costruibilità) macchine che si comportino “come se” fossero intelligenti, ossia macchine capaci di risolvere tutti i problemi che l’intelligenza umana sa risolvere.

L’IA forte afferma che la macchina che agisce in modo intelligente deve avere una “intelligenza cosciente”, una mente cosciente indistinguibile dalla mente umana; l’IA forte vuol dare risposta al problema astratto di che cosa sia il “pensare” per una macchina, anche se poi non riesce a costruire macchine intelligenti.

… Le simulazioni al calcolatore dei processi cerebrali forniscono modelli degli aspetti formali di questi processi, ma la simulazione non va confusa con la riproduzione.

Il modello computazionale dei processi mentali non è più reale di quello di qualsiasi altro fenomeno naturale. Si può immaginare una simulazione al calcolatore dell’ossidazione degli idrocarburi in un motore d’automobile, o dei processi di digestione in uno stomaco alle prese con una pizza. Nel caso del cervello la simulazione non è più reale che nel caso dell’automobile e dello stomaco.

La simulazione di un processo cognitivo non produce gli stessi effetti della neurobiologia di quel processo cognitivo….

J.Searle, La mente è un programma?, 1990

Approfondimenti

• J. McCarty, M.L. Minsky, N. Rochester, C.E. Shannon: A proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 1955,http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html

• R. Cordeschi, G. Tamburrini: L’Intelligenza Artificiale: la storia e le idee, 2001,http://www3.humnet.unipi.it/epistemologia/gtamb/ia.pdf

• H. Uskoreit: “Language Technology, A First Overview” http://www.dfki.de/~hansu/LT.pdf

• D. Gelernter: “Artificial Intelligence is Lost in the Woods” http://www.technologyreview.com/printer_friendly_article.aspx?id=18867

Argomenti trattati in questa lezione

• origini dell’IA

• ruolo del linguaggio naturale in applicazioni reali intelligenti

• ruolo dell’apprendimento automatico

• Limiti, problemi aperti ed aspettative nei confronti dell’IA

intelligenza artificiale 50 anni dopo human language technology maria teresa pazienza a.a. 2007-08

Documents