prilike i rizici razvoja robotike i umjetne inteligencije · 2019-05-17 · kognicija nas razlikuje...
TRANSCRIPT
PRILIKE I RIZICI RAZVOJA ROBOTIKE I
UMJETNE INTELIGENCIJE
Bojan Jerbić Fakultet strojarstva i brodogradnje
Sveučilište u Zagrebu
Zagreb, 2019.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ZAŠTO RADIMO VIŠE?
... nema razloga da tehnološki napredno društvo sili svoje građane da rade više od svojih predaka, kad bi mogli raditi puno manje i bez gubitka kvalitetnog životnog standarda.
Medijan zarade i broj radnih sati godišnje
$40.000
$50.000
$60.000
$70.000
$80.000
1975
1979
1983
1987
1991
1995
1999
2003
2007
2011
ZaradaRadnih sati godišnje
Izvor: IPUMS CPS 1976-2010
4000
3500
3000
2000
"Industrija 4.0" označava "Četvrtu industrijsku revoluciju",
novu razinu organizacije i upravljanja sustavima,
kroz cjelokupan vrijednosni lanac i proizvodni životni ciklus.
INDUSTRIJA 4.0
Povezanost ljudi, objekata i sustava koja dovodi do dinamičnog, u stvarnom vremenu optimiranog i samostalno organiziranog sustava stvaranja novih
vrijednosti.
"Industrija 4.0" označava "Četvrtu industrijsku revoluciju",
novu razinu organizacije i upravljanja sustavima,
kroz cjelokupan vrijednosni lanac i proizvodni životni ciklus.
INDUSTRIJA 4.0
Povezanost ljudi, objekata i sustava koja dovodi do dinamičnog, u stvarnom vremenu optimiranog i samostalno organiziranog sustava stvaranja novih
vrijednosti.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
OSNOVE I4.0
NETWORKINGInternet of Everything, Big Data to Smart Data
and
SMART SYSTEMSCPS / Smart Everything
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
INDUSTRIJSKE REVOLUCIJE I UMJETNA INTELIGENCIJA
Mehanizacija proizvodnje, voda i vjetar kao pogon
1. 2. 3. 4.
Podjela rada, masovna
proizvodnja, el. energija
Automatizacija proizvodnje,
robotizacija, ICT i elektronika
Pametni strojevi, umrežavanje
(Cyber Physical Systems)
1780 1870 1970 danas
5.
Autonomni sustavi
Specijalizirana UI Opća UI Super UI
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ČETVRTA INDUSTRIJSKA REVOLUCIJA
Četvrta industrijska revolucija, za razliku od prethodnih, zasniva se na uspostavljenom digitalnom gospodarstvu i temelji se na brzom napredovanju umjetne inteligencije, koja u sinergiji s robotikom, biotehnologijom i nanotehnologijom rezultira ubrzanim razvojem inovacija.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UI
UI podrazumijeva računalne/robotske sustave koji mogu osjetiti svoje okruženje, zaključivati, učiti i djelovati u smislu programiranih ciljeva.
Područje umjetne inteligencije utemeljeno je na ideji da se strojevi mogu koristiti za oponašanje ljudske inteligencije.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UMJETNA INTELIGENCIJA: ROĐENA U LJETO 1956.
The Dartmouth College Summer Research Project on Artificial Intelligence: reunited at the July 2006 AI@50 conference. From left: Trenchard More, John McCarthy, Marvin Minsky, Oliver Selfridge, and Ray Solomonoff. (Photo by Joseph Mehling)
On September 2, 1955, the project was formally proposed by John McCarthy (Dartmouth College), Marvin Minsky (Harvard University), Nathaniel Rochester (IBM), and Claude Shannon (Bell Telephone Laboratories). The proposal is credited with introducing the term 'artificial intelligence'.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PERCEPTRON
Frank Rosenblat (11. srpnja 1928. - 11. srpnja 1971.) bio je američki
psiholog, a bavio se umjetnom inteligencijom.
The Mark I Perceptron (uređaj je spojen na fotoaparat koji je
koristio 20 × 20 kadmij sulfid ćelija kako bi se dobila slika od
400 piksela)
Marvin Minsky & Seymour Papert: Perceptrons: an
introduction to computational geometry
1969.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UI DONOSI SA SOBOM NIZ POGODNOSTI
Npr.:‣ poboljšanje ekonomskih rezultata‣ povećanje razine produktivnosti,‣ unapređenje ljudskih odluka.
UI donosi pogodnosti koje se još ne mogu predvidjeti ili ih je teško zamisliti.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
…ALI I BROJNE IZAZOVE
Uključujući:‣ otvorenost podataka koji su potrebni za obuku umjetne inteligencije‣ pristup odgovarajućim računalnim resursima,‣ zakoni i propisi koji reguliraju razvoj i primjenu UI adekvatno čuvajući
građanske slobode,‣ etički okvir za upravljanje korištenjem umjetne inteligencije,‣ objašnjivost sustava UI.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
RAZVOJNI TEMELJI UI U SKLOPU I4.0• Procesorska snaga: paralelno računanje.• “Big Data”: strukturirani (u bazama podataka i proračunskim tablicama) i nestrukturirani (tekst, audio,
video i slike) podaci uz trilijune senzora dokumentiraju naše živote i poboljšavaju razumijevanje svijeta i otkrivanje novih obrazaca i teorija.
• Globalno umrežavanje: ubrzanje širenja informacija i poticanje razmjene znanja, dovodi do pojave "kolektivne inteligencije".
• “Open Source” softver i podaci: demokratizacija upotrebe UI (TensorFlow, Caffe2, PyTorch i Parl.ai). • Ubrzavanje poslovnih učinaka: poboljšani UI algoritmi i softveri otvorenog koda povećavaju povrat
investicija kroz, primjerice, povećanje personalizacije potrošačkih proizvoda ili korištenje inteligentne automatizacije kako bi se povećala njihova produktivnost.
• Poboljšani algoritmi: nove teorije i nove metode, posebice u "dubokom učenju", koji uključuje kompleksne slojeve neuronskih mreža, oblikovanih na način inspiriran pristupom ljudskog mozga u obradi informacija. Još jedno novo područje istraživanja je "duboko pojačanje" u kojem agent UI uči s malim ili nikakvim početnim ulaznim podacima, pokušajima i pogreškama optimira funkciju nagrađivanja.
Konvergencija tih čimbenika pretvorila je UI od in vitro do in vivo tehnologiju.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
HIPOTEZA O JEDNOM PROGRAMU
XTalamus
Vizualni korteksAuditorni korteks
Bazolateralna amigdalaSredišnja amigdala
MedulaSpinalni kanal
Moždani most
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
…
‣ “Ne-vektorski” pristupi (asocijativna inteligencija, vizualni korteks)‣ “BLRC - Brain-like Robot Control” ‣ Evolucijski algoritmi‣ Semantički modeli‣ Vjerojatnosni modeli‣ Višeslojne i hijerarhijske neuronske mreže (“duboke mreže”)‣ “Deep Learning”‣ “Creative AI”‣ Kognitivni OS‣ …
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
DUBOKO UČENJEUmjesto programiranja pravila koji oponašaju ljudsko ponašanje, duboko učenje procesira veliku količinu podataka pomoću modela baziranih na procesima u ljudskom mozgu, tražeći sličnosti i korelacije između njih. To se zove duboko učenje - što je podskup Strojnog učenja.
Duboko učenje: što više podataka tim više znanja i bolja pouzdanost sustava!
Količina podataka
Tradicionalni algoritmi strojnog učenja
Duboko učenje
Uči
nak
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
NEMOJTE PODCIJENITI SNAGU UMJETNE INTELIGENCIJE!
Umjetna inteligencija je vjerojatno najvažnija tehnologija u povijesti!!!
To je tehnologija koja zadire u našu antropološku prirodu. Kognicija nas razlikuje od bilo čega na svijetu. Čovjek nikad nije u svojoj povijest došao tako blizu razvoju inteligentnih artefakata koji se mogu natjecati s našom kognitivnom dominacijom. Razvoj umjetne inteligencije temeljno mijenja našu kulturu u kojoj čovjek ima položaj bića odgovornih za donošenje odluka i djelovanja.
Pojavom inteligentnih i autonomnih robota, strojevi će sve više biti zaduženi za odlučivanje, rješavanje problema i izvršavanje poslova.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
INDUSTRIJSKE REVOLUCIJE I UMJETNA INTELIGENCIJA
Mehanizacija proizvodnje, voda i vjetar kao pogon
1. 2. 3. 4.
Podjela rada, masovna
proizvodnja, el. energija
Automatizacija proizvodnje,
robotizacija, ICT i elektronika
Pametni strojevi, umrežavanje
(Cyber Physical Systems)
1780 1870 1970 danas
5.
Autonomni sustavi
Specijalizirana UI Opća UI Super UI
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ČETIRI VALA
1 val:
stručni sustavi ili sustavi utemeljeni na pravilima
Percepcija
Učenje
Apstrakcija
Zaključivanje
3 val:
uopćavanje, predviđanje, planiranje, kontekstualna inteligencija, mogućnost objašnjenja
2 val:
učenje, klasifikacija, opažanje
4 val:
svijest, superinteligencija …
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
OBJAŠNJIVA UI
Podaci Strojno učenje
Naučena funkcija
Odluka ili preporuka
Zadatak
Napredno strojno učenje
Model rješenja
Zadatak
Podaci
‣ Žašto tako?
‣ Zašto nije nešto drugo?
‣ Kada mogu vjerovati rješenju?
‣ Kako ispraviti grešku?
‣ Razumijem zašto.
‣ Razumijem zašto ne.
‣ Zašto nije nešto drugo.
‣ Znam mogu vjerovati rješenju.
‣ Znam zašto dolazi do greške.
?
?
Danas
Objašnjiva UI
GAO and Defense Advanced Research Project Agency (DARPA) / GAO-18-142SP
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
OPĆA UMJETNA INTELIGENCIJA
Pravila & logičko zaključivanje
Nestrukturirani podacima
Socijalna / emocionalna stanja
Kognitivni podaci+ kritičko / divergentno /
konvergentno / apstraktno razmišljanje
Autonomni strojevi & sustavi
Robotizacija procesa
Integrirana inteligencija
Povećanje kognitivnih sposobnosti
Inteligentni agenti
Source: Story of Industrial Revolution and Artificial Intelligence, Rojin Nair, General Manager Fintech Solutions, Published on September 9, 2018
Strojno učenje Duboko učenje
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
OBLICI PRIMJENE
• Automatizirani inteligentni sustavi, npr. robot koji može naučiti sortirati reciklirane materijale ili poslove u kućanstvu.
• Inteligentni asistenti koji pregledavaju i otkrivaju obrasce u npr. nestrukturiranim društvenim mrežama i pomažu ljudima da brže i bolje obavljaju zadatke pomoću prikupljenih podataka. Na primjer, tehnike kao što su duboko učenje i razumijevanje jezika mogu poslužiti predviđanju društvenih događaja.
• Proširena inteligencija • Autonomna inteligencija koja automatizira odlučivanje bez ljudske intervencije. Npr.
upravljanje vozilima ili optimiranje troškova u kućanstvu (grijanje, rasvjeta, itd.).
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
INVESTICIJE U RAZVOJ UMJETNE INTELIGENCIJE U 2016.
Od 2013. godine investicije su porasle 3x:
39 milijardi USD
Izvor: McKinsey Global Institute
Globalna primjena UI
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PROFITNE STOPE U ODNOSU NA RAZINU PRIMJENE UI
-9
-4,5
0
4,5
9
13,5
18
“Hi-T
ech”
i te
leko
m
Auto
mo
ind.
i m
ontaža
Fina
ncijk
e us
luge
Kom
unal
ne u
slug
e
Tran
spor
t i lo
gist
ika
Roba
širo
ke p
otrošn
je
Mal
opro
daja
Obra
zova
nje
Zdra
vstv
o
Građ
evin
a
Prof
esio
naln
e us
luge
Turiz
am
UI korisnici s proaktivnom strategijomDjelomični korisnici UISkeptici
Izvor: McKinsey Global Institute
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
NAJVEĆI UTJECAJI OČEKUJU SE U SLJEDEĆIM PODRUČJIMA:
• Uslužni sektor: Umjetna inteligencija omogućava sve širu zamjenu čovjeka u pružanju usluga, prvenstveno tamo gdje nema potrebe za motoričkom inteligencijom. Brojni su takvi primjeri (banke, pošte, dućani, …)
• Zdravstvo: UI već danas doprinosi poboljšanju dijagnostike. Značajno će ubrzati razvoj novih ljekova, zahvaljujući masivnoj obradi podataka te mogućnosti korištenja nestrukturiranih podataka.
• Financijske usluge: Financijske spekulacije trebale bi biti zamijenjene inteligentnim sustavima za poslovne procjene.
• Transport / Autonomni sustavi: Preuzet će sve poslove i zadaće koji se temelje na rutini ili ograničenom skupu pravila. Poseban imakt se očekuje u području transporta, smanjujući rizike i nesreće te mijenjajući ekonomske principe u tom resoru.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ROBOTIZACIJA, AUTOMATIZACIJA I UMJETNA INTELIGENCIJA BEZ KOMPROMISA …
Nedavno je Amazon otvorio autonomni dućan široke potrošnje bez prodavača!
To ne bi bilo moguće bez umjetne inteligencije i računalnog voda kojima se prate proizvodi i kupci te kreiraju obavljaju usluge.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
Amazon je kupio Kiva Systems, proizvođača skladišnih robota za $ 775 mil., te je otvorio poseban odjel Amazon Robotics.
ROBOTIZACIJA, AUTOMATIZACIJA I UMJETNA INTELIGENCIJA BEZ KOMPROMISA …
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
Bolji i sigurniji od ljudi!
CAR
3.6 mil. ljudi u SAD živi od vožnje!
2.6% populacije u SAD i Europi živi od
vožnje!
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PRIMJERI:• Najpoznatiji među UI servisima je IBM Watson, program temeljen na umjetnoj inteligenciji i dubokom učenju.
Može se naučiti rješavati različite probleme, a njezina najpoznatija primjena je medicinska dijagnoza i rješavanje pravnih pitanja.
• Poznata računalna platforma za online plaćanje PayPal koristi strojno učenje kako bi otkrio moguće pranje novca.• Google se postupno pretvara u globalnog lidera UI tehnologije. Godine 2012. Google je predstavio Knowledge
Graph - semantički algoritam upita koji značajno poboljšava pretraživanje interneta. Google Maps upotrebljava inteligentne algoritme za procjenu propusnosti prometa pomoću anonimnih položaja mobilnih telefona vozača, predlažući najbrži put do željenog odredišta. Google Duplex ...
• Primjerice, u medicini se ističe CAD-Computer Assisted Diagnosis, računalni program koji nepogrešivo dijagnosticira rak dojke putem mamografije. Osim toga, program može naučiti prepoznati čimbenike rizika za različite bolesti u velikim populacijama bolesnika.
• Tu je i neizbježan Apple Siri softver koji se temelji na dubokom učenju kako bi razvio inteligentnu interakciju s korisnicima.
• Facebook koristi DeepFace algoritam za prepoznavanje lica sa stopom uspjeha od 97,25% kako bi povezao ljude sa svojim prijateljima.
• Uber temelji svoj poslovni model na strojnom učenju, određuje vrijeme dolaska, mjesto susreta, cijenu vožnje itd.• Spotify koristi alat za učenje strojeva za profiliranje korisnika kako bi stvorio personaliziranu glazbenu ponudu.…
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PROŠIRENJE LJUDSKE INTELIGENCIJE
Osim produktivnosti, UI također obećava povećanje ili proširenje ljudske inteligencije, otvarajući vrata novim otkrićima. UI već transformira postojeću proizvodnju i svakodnevni život.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
CREATIVE AI
(Source: Maurice Conti, TEDx Portland, Portland, Oregon, April 2016.)
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
NOVO RAZUMIJEVANJE TEHNOLOGIJE
(Source: Maurice Conti, TEDx Portland, Portland, Oregon, April 2016.)
➡ Od izolacije do umrežavanja
➡ Od ekstrakcije do agregacije
➡ Od upravljanja do autonomije
➡ Od komponenata do molekula
➡ …
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PREDVIĐENI UTJECAJ NOVIH TEHNOLOGIJA NA AUTOMATIZACIJU POSLOVA
Transport i skladištenje
Proizvodnja
Građevinski sektor
Administracija
Prodaja
Javni sektor i obrana
Financije
ICT
Znanost i tehnologija
Turizam
Zdravstvo
Obrazovanje
0 15 30 45 60
ProgramiranjeProširenje sposobnostiAutonomija
Ručni poslovi
Rutinski poslovi
Računarstvo
Upravljački poslovi
Socijalne vještine
Pismenost
0 10 20 30 40
ProgramiranjeProširenje sposobnostiAutonomija
%%Izvor: PIAAC data, PwC Analysis
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PREDVIĐENI UTJECAJ NOVIH TEHNOLOGIJA NA AUTOMATIZACIJU POSLOVA
Muškarci
Žene
Mladi (<25)
Iskusni (25-54)
Stari (55+)
Nisko obrazovani
Srednje
Visoko
0 12,5 25 37,5 50
ProgramiranjeProširenje sposobnostiAutonomija
%Izvor: PIAAC data, PwC Analysis
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ROBOTIKA I UMJETNA INTELIGENCIJA NE BIRAJU …
Danas su visokoobrazovani radnici jednako izloženi novim tehnologijama kao i manje obrazovani radnici angažirani u proizvodnji materijalnih dobara:
• Robotika već danas intezivno zamjenjuje ljudsku fizičku radnu snagu iz proizvodnje.
• Umjetna inteligencija pak doprinosi proizvodnji intelektualnih dobara, proširujuči kognitivne i kreativne mogućnosti ili zamjenjujući visoko obrazovane kadrove u većini rutinskih zadaća!
Nobelovac Paul Krugman zaključuje:Obrazovanje, dakle, više nije odgovor na rastuću nejednakost, ako je ikada bilo (što sumnjam).
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ODNOS IZMEĐU GUSTOĆE ROBOTA I RIZIKA GUBITKA POSLA ZBOG AUTOMATIZACIJE
Rizik gubitka posla zbog automatizacije
log (broj robota na 10.000 zaposlenih u proizvodnim djelatnostima)
Izvor:
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ODGOVOR NA POTROŠAČKU EKONOMIJU ?
•Uvesti poreze na robote?• Zabraniti tehnologijski razvoj?• Strukturne reforme?• Pritisak na plaće?•Očuvanje radnih mjesta?•Novi porezi?•…
POTROŠAČKA EKONOMIJA, EKSPONENCIJALNI
TEHNOLOGIJSKI RAZVOJ, OGRANIČENI RESURSI
NEODRŽIVI EKONOMSKI RAST = EKSPONENCIJALNI
RAST POTREBA ZA RESURSIMA
MASOVNA NEZAPOSLENOST,
KLIMATSKE PROMJENE, NEDOSTATAK RESURSA,
POVEĆANJE NASILJA I NOVI RATOVI
Izvor: Frederico Pistono
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
???
Produktivnost bez inovacija koje vode stvaranju radnih mjesta s većom dodanom vrijednošću, rezultira nezaposlenošću i gospodarskim problemima ...
Hipoteza 2: Radnici su potrošači. Ako radnici imaju male plaće ili nema radnika, tvornice nemaju kome prodati svoje proizvode te možemo očekivati negativne efekte u gospodarstvu.
Hipoteza 1: Svaki posao izgubljen zbog robota ponovno će se pojaviti u sektoru proizvodnje robota, ako … Prema Keynesu, gubitak radnih mjesta je samo privremena faza neprilagođenosti. "Sve to dugoročno znači da čovječanstvo rješava svoj ekonomski problem."
MORAMO SE PRIPREMITI NA TEMELJITE CIVILIZACIJSKE PROMJENE, REDEFINIRANJE
EKONOMSKIH PRINCIPA I VLASTITE KULTURE.
Roboti mijenjaju egzistencijalistički smisao rada!
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
NA PUTU SMO U NOVO TEHNOLOŠKO DRUŠTVO
EKSPONENCIJALNI TEHNOLOGIJSKI RAZVOJ,
OGRANIČENI RESURSI
ODRŽIVI RAST, UKIDANJE POTROŠAČKE EKONOMIJE,
“OPEN SOURCE”, DIY
PRILAGODLJIVO DRUŠTVO, GLOBALNA RAVNOTEŽA POTROŠNJE RESURSA,
BOLJA KVALITETA ŽIVOTA
Izvor: Frederico Pistono
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UMJETNA INTELIGENCIJA NIJE SKUP SPRAVICA
Vernor Vinge (1993): “Budućnost koja sadrži nešto što je pametnije od ljudskog uma suštinski je različita. Umjetna inteligencija nije nevjerojatan sjajan skup spravica za oglašavanje u najnovijim tehnološkim časopisima.
Umjetna inteligencija ne pripada istom grafu koji pokazuje napredak u medicini, proizvodnji i energiji. Umjetna inteligencija nije nešto što možete usput miješati u “lumpenfuturistički” scenarij nebodera i letećih automobila i nanotehnoloških crvenih krvnih stanica koje vam omogućuju da zadržite dah osam sati. Dovoljno visoki neboderi ne mogu početi raditi vlastiti inženjering. Čovječanstvo nije dospjelo na istaknutu poziciju na Zemlji zadržavajući svoj dah duže od drugih vrsta.
Vernor Vinge: The Coming Technological Singularity (1993)
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
INDUSTRIJSKE REVOLUCIJE I UMJETNA INTELIGENCIJA
Mehanizacija proizvodnje, voda i vjetar kao pogon
1. 2. 3. 4.
Podjela rada, masovna
proizvodnja, el. energija
Automatizacija proizvodnje,
robotizacija, ICT i elektronika
Pametni strojevi, umrežavanje
(Cyber Physical Systems)
1780 1870 1970 danas
5.
Autonomni sustavi
Specijalizirana UI Opća UI Super UI
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UMJETNA SUPER INTELIGENCIJA
Strojna inteligencija nadmašuje ljudsku inteligenciju
Izravno neupravljivi inteligentni sustavi
Koegzistencija ljudi i strojeva kao zasebnih vrsta
Strojevi preuzimaju odlučivanje i provođenje odluka
Obrnuta inteligencija - strojevi podučavaju ljude
+ holističko / emocionalno / kreativno razmišljanje
Source: Story of Industrial Revolution and Artificial Intelligence, Rojin Nair, General Manager Fintech Solutions, Published on September 9, 2018
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
KOMPLEKSNOST KOGNITIVNIH SUSTAVA
Kom
plek
snos
t
Odlučivanje RobotČovjek
Potpomognuta inteligencija
Ljudi i strojevi uče jedan od drugih i dijele odgovornost odlučivanja.
Autonomna inteligencija
Adaptivni sustavi koji donose odluke i samostalno djeluju.
Povećana inteligencija
UI povećava ljudske kognitivne sposobnosti, povećavajući brzinu i kvalitetu donošenja odluka. Čovjek odlučuje.
USPOREDBA:
ČOVJEK ROBOT
Razmišljanje / Razum Obrada velike količine podataka (!)
Moral Prepoznavanje uzoraka
Mašta ”Logičko” zaključivanje
Intuicija, apstrakcija Strojno učenje
Snovi (!) Raspoloživost (!)
Strast Nema emocije i svijest
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
INTUICIJA ?
Intuicija je jedna od najcjenjenijih značajki ljudske inteligencije.
Intuicija je sposobnost stjecanja znanja bez dokaza, argumenata ili svjesnog razmišljanja, ili bez razumijevanja kako je znanje stečeno.
Source: English Oxford Dictionary, 2014.; Intuition and consciousness, Rosenblatt AD, Thickstun JT. Psychoanal Q. 1994 Oct;63(4):696-714.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
NPR.
Ljudska se inteligencija procjenjuje na 1000 TB i milijardu MIPS-a.
Trenutačno je potrebno oko 83.000 procesora koji rade 40 minuta kako bi izvršili ekvivalent od jedne sekunde računanja koje izvodi
samo 1 posto ljudskog mozga!
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
IZAZOV
Glavni problem leži u činjenici da suvremeni inženjerski agenti/artefakti nisu u stanju razumjeti kontekst situacije u kojoj rade. Stoga današnji roboti više djeluju kao reaktivni strojevi, a manje kao kognitivni sustavi.
”Context Driven vs Data Driven Intelligence!”
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
ROBOTIKA JE RAZOČARALA!!!
Ekonomist Robert Gordon: Robotika je razočarala!!!
”Po mom mišljenju, veliki utjecaj na poslovnu produktivnost od digitalne revolucije dogodio se između 1980. i 2005. To je doista učinilo razliku kada smo se riješili pisaćih strojeva i računskih strojeva i prebacili se na osobna računala sa softverom za proračunske tablice i softverom za obradu teksta.”
”Premještanje s papirnatih obrazaca koje je trebalo slati poštom imalo je ogromnu razliku u produktivnosti. No, taj je cijeli prijelaz - i sve to rezultiralo rastom produktivnosti - u osnovi završen do 2005. Kada idete u liječnički ured da se prijavite, kada odjavite u supermarketu, povezujete se s opremom i programima koji su barem 10 godina stari.”Source: https://www.vox.com/a/new-economy-future/robert-gordon-interview
Rast produktivnosti (SAD)
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UI U SREDIŠTU DOBRIH I LOŠIH ISHODA
Npr.:
‣ Napredna umjetna inteligencija može razviti nove medicinske tehnologije sposobne spasiti milijune ljudskih života. [UI će odlučiti to učiniti]. Zato trebamo razvijati AI.
‣ Napredna UI mogla bi nadvladati svaki ljudski otpor i izbrisati čovječanstvo. [AI će odlučiti to učiniti]. Stoga ne bismo trebali razvijati AI.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
GUBIMO LI KONTROLU NAD UI
• Što kada UI pokuša unaprijediti svoje sposobnosti i pogriješi?• Kako će robot samostalno procijeniti što je dobro, a što loše?• To znači da bi robot trebao razumjeti moralne koncepte, pa onda i našu
kulturu. Kako to matematizirati?• Mogli bismo promatrati neuspjeh programera na moralnoj ili etičkoj razini -
reći da je to rezultat toga što je netko previše vjerovao u sebe, ne uzimajući u obzir vlastitu pogrešivost. Ali u jeziku Bayesove teorije odlučivanja postoji komplementarni tehnički pogled na problem.
• Iz perspektive teorije odlučivanja, izbor za neko rješenje proizlazi iz kombiniranja empirijskog uvjerenja s vrijednosnom prosudbom. Očekujemo da prava UI, umjetna opća inteligencija, bude sposobna promijeniti svoja empirijska uvjerenja. (Ili njegov probabilistički svjetski model, itd.).
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
POGREŠNO JE AI TUMAČITI PARALELNO
Učinci novih tehnologija pogrešno se pokušavaju tumačiti uspoređujući ih s čovjekom.Nove tehnologije impliciraju potpuno nove koncepte koji ljudima nisu dostupni, npr.:‣ Sposobnost obrade velike količine (jednako strukturiranih kao i nestrukturiranih)
podataka u djeliću sekunde,‣ Proširena percepcija (GPS, računalni vid, “sensing”…),‣ kontrolirane “emocije”‣ Nova kultura‣ …
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
PROBLEM UPRAVLJIVOSTI I SIGURNOSTI
Korištenje sirovih i nestrukturiranih podataka u autonomnim sustavima stvorit će sustave koji su refleksija dijela društva i pojačavaju postojeće kognitivne predrasude.
Korištenje pak modificiranih podataka rezultirat će kognitivno pristranim strojevima. Ako autonomni sustav uči na temelju modificiranih podataka on će pojačati iskrivljenje slike ili modela koji uči.Kognitivna pristranost je sustavni uzorak odstupanja od norme ili racionalnosti u prosudbi. Mogući problemi:
• Previše podataka opterećuje, pa agresivno filtriramo. Buka postaje signal.• Nedostatak značenja zbunjuje, pa popunjavamo praznine. Signal postaje priča.
• Treba djelovati brzo, pa naprečac zaključujemo. Priče postaju odluke.
• Na kraju: Odluke oblikuju naše mentalne modele svijeta u kojem živimo.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
Neki primjeri:
‣ Haski - vuk (Google)‣ Tenkovi - šuma (US Army)‣ Zaborav (distorzija znanja)‣ Ubrzanje AI (sinergija, autonomija)‣ …
KOGNITIVNI “BIAS”
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
RIZICI UMJETNE INTELIGENCIJE
Rizici izvedbe
• Greške • Izobličenje
podataka • Netransparentnost • Stabilnosti rada
Rizici sigurnosti
• “Cyber” kriminal • Ugrožavanje
privatnosti • Rizik otvorenog
koda
Rizici upravljanja
• “Neposlušnost” • Gubitak kontrole
Etički rizici
• Ugrožavanje etičkih kodeksa
• Rizik usklađivanja s vrijedostima
• Rizik usklađivanja s ciljevima
Ekonomski rizici
• Tranzicije poslova • Koncentracije moći • Rizik odgovornosti
Socijalni rizici
• Upotreba u naoružanju
• Tehnologijska divergencija
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
UPRAVLJANJE UMJETNOM INTELIGENCIJOM
Ako trebamo upravljati umjetnom inteligencijom, moramo ju biti u stanju kontinuirano mjeriti.Stoga, moramo UI učiniti mjerljivim. MIT Technology Review je preporučio mjerljivost prema pet osnovnih načela:• Odgovornost - “Iza svakog računalnog algoritma stoji čovjek, iako ga je izradio stroj”.• Objašnjivost - "Sve odluke koje donosi stroj trebale bi biti objašnjene ljudima koji su
pogođeni tim odlukama."• Točnost - "Načelo točnosti sugerira da se izvori pogreške i nesigurnosti u algoritmu, kao i
njegovi izvori podataka moraju identificirati, bilježiti i usporediti".• Revizivnost - "Načelo revizivnosti nalaže razvoj algoritama na način koji omogućuje trećim
stranama da provjere ponašanje algoritma."
• Pravednost - "Budući da algoritmi sve više donose odluke temeljene na povijesnim i društvenim podacima, postojeće pristranosti i povijesno diskriminirajuće ljudske odluke mogu biti opasne te ne smiju biti upotrebljene protiv ljudi.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
U KOJEM SMJERU DJELOVATI
GAO Forum on Artificial Intelligence / GAO-18-142SP
POLITIČKA DOMENA
ISTRAŽIVAČKA DOMENA
Poticanje razmjene podataka
Poboljšanje sigurnosti
Promjena regulatornih pristupa
Prihvaćanje novih rizika i etičkih prosudbi
Uspostava sigurnosnih okvira (odgovornost,
revizivnost …) Razvoj kvalitetnih
podataka Razumijevanje utjecaja
UI na društvo Istraživanje računalne etike i objašnjive UI
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
BUDUĆNOST
• Napredak u pogledu sigurnosti UI postaje imperativ. To će uključivati razvoj algoritama s obaveznim sigurnosnim pravilima.
• Daljnje razumijevanje naprednih kognitivnih i emocionalnih procesa.
• Budući napredak u UI trebat će razvoj računalne snage. Očekuje se napredak u kvantnom računarstvu, distribuiranom računarstvu.
Fakultet strojarstva i brodogradnje Sveučilište u Zagrebu Bojan Jerbić
STOGA …
Ako želimo biti uspješni u digitalnoj budućnosti, moramo izgraditi:
• inovativno društvo spremno za promjene
• novu održivu ekonomiju zasnovanu na znanosti i inovacijskom razvoju!
• novo razumijevanje znanosti i kulture (znanost inspirirana stvarnim društvenim potrebama i novim znanjem, novom primjenom znanosti i tehnologije, od "podataka driven" do "robot driven" - novi oblik IT-a).