![Page 1: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/1.jpg)
Tussen angst en onverschilligheid: het juiste perspectief op de opkomst van artificiële intelligentie
Jan Broersen
Masterclass Ministerie van Infrastructuur en Milieu Den Haag 18 mei 2016
![Page 2: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/2.jpg)
We moeten niet onverschillig staan tegenover AI: er gebeurt veel meer dan de meeste
mensen zich realiseren.
![Page 3: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/3.jpg)
Recente mijlpalen in de AI
• 1979: IBM’s Deep blue verslaat Kasparov bij schaak (achievement: programmeren van kennis)
![Page 4: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/4.jpg)
Recente mijlpalen in de AI
• 2011: IBM’s Watson verslaat de mens met het spel Jeopardy (achievement: automatische kennisextractie uit teksten)
• 2015: Google’s Deep Mind-team demonstreert een AI die 49 Atari-spellen zelf leert spelen en verslaan (achievement: van specifieke intelligentie naar meer algemene intelligentie)
• 2015: via een ‘over the air’-update introduceert Tesla ‘learning’ self driving cars (achievement: eerste real life robotic machine learning ‘experiment’)
• 2016: AlphaGo verslaat Lee Se-dol bij go (achievement: geen programmeren van kennis, maar leren van ‘intuïties’)
![Page 5: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/5.jpg)
Algotrading
Estimate as of 2008: 50% of all trading
Wiley, 2013
![Page 6: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/6.jpg)
Autonomous weapons
Oxford University Press, 2009
![Page 7: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/7.jpg)
Medical robots
2015: 100% increase in investments in surgical robotics
![Page 8: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/8.jpg)
Self driving cars: pros and cons
November 2015, provoking risky behaviour
October 2015, preventing an accident
![Page 9: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/9.jpg)
MobilEye (leverancier self-driving technology)
• CEO MobilEye: we kunnen nog niet omgaan met "corner events”
• corner event = intuitive driving decision that are common and at the same time unique which makes them hard to program
• Examples: construction vehicles the car doesn't recognise, handwritten signs, wildlife, a pedestrian wearing a weird costume, etc.
![Page 10: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/10.jpg)
Video by Patrick Lin, Stanford Law School
![Page 11: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/11.jpg)
important points from the video
• “Split second decisions”: moral wiggle room for humans, not for machines (Google example)
• Would we accept randomness as a decision source?
• For a human driver, the difference between e.g., consequentialism, Kantianism and virtue ethics may not be important. But, for Google and Tesla it does seem important..
![Page 12: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/12.jpg)
AI in computer scienceSub-symbolic AI Symbolic AI
Bottom-up intelligence: - search, - decision tree algorithms, - evolutionary techniques, - neural networks - connectionism - data-mining
Top-down intelligence: - logic, - BDI-theory, - game theory, - multi-agent systems, - agent / logic programming, - planning, - belief revision
Probabilistic AI- decision theory, - Bayesian networks,
- (PO)MDPs, - reinforcement learning
![Page 13: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/13.jpg)
Global architecture of a modern intelligent system
Environmentsymbolic systems
many feedback loops are not pictured
sub-symbolic + probabilistic systems
‘smart’ servo systems
actions
sensory input
truths & beliefs
decisions
(robotics)
(logic)
(ontologies)
Agent
![Page 14: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/14.jpg)
The Responsibility Gap
My conclusion: we need ‘good old fashioned’ symbolic AI
![Page 15: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/15.jpg)
De verantwoordelijkheid van Facebook
• 2014: Facebook’s algoritmes worden er van beschuldigd het nieuws uit Ferguson, Missouri (rellen na
doodschieten zwarte jongen door politieagent) stelselmatig te bagatelliseren ⇒ voortaan handmatige selectie van
trending artikelen.
• 2016: het facebook-team dat trending artikelen selecteert wordt er van beschuldigd geen conservatieve artikelen te selecteren.
Beter verantwoordelijkheid te geven aan de machine of aan de mens?
![Page 16: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/16.jpg)
We moeten de gevaren van AI niet overdrijven: AI kan minder dan veel mensen zich realiseren.
![Page 17: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/17.jpg)
Doomsday filosofen, wetenschappers en entrepreneurs
Elon Musk: “We need to be super careful with AI. Potentially more dangerous than nukes”
Bill Gates: “If computers will run the algorithms that are in our heads, nobody knows what will happen”
Nick Bostrom: “Machine intelligence is the last invention that humanity will ever need to make”
Stephen Hawking: “machines with AI could spell the end of the human race”
![Page 18: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/18.jpg)
De stand van zaken in de AI
huidige AI = optimaliseren in een zoekruimte met mogelijke intelligente gedragingen:
• Symbool-gebaseerde AI = optimaliseren van plannen in een vastgestelde zoekruimte
• Neurale netwerken = optimaliseren in de zoekruimte van binnen het netwerk mogelijke input-output verbanden
• Evolutionair programmeren = optimaliseren in de zoekruimte van mogelijke input-output beschrijvingen
![Page 19: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/19.jpg)
Rekenkracht: de wet van Moore
![Page 20: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/20.jpg)
De invloed van rekenkracht op intelligentie
• Maar, kan ‘gebrek’ aan intelligentie altijd worden gecompenseerd door meer rekenkracht?
• Bij schaak uiteindelijk wel (eindige spelruimte; met ‘backwards induction’ terugrekenen vanuit gewonnen eindposities)
• Maar in het algemeen lijkt me van niet (asymptoot naar een maximale waarde?)
![Page 21: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/21.jpg)
Algemene intelligentie complexer dan schaakintelligentie
Complicaties bij algemene intelligentie:
• Wat de zoekruimte is, is onduidelijk.. • De zoekruimte is vaak oneindig diep.. • De zoekruimte is vaak oneindig breed.. • Onzekerheid (acties die kunnen falen).. • Continu veranderende omgeving.. • Sociale interacties in groepen (ethiek,
irrationaliteit, etc.).. • etc.
![Page 22: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/22.jpg)
Binnen en buiten bereik van de huidige AI
Binnen bereik: • Strategisch optimaliseren in een vaste zoekruimte • Op statistische wijze teksten ‘interpreteren’ • Machine learning voor zelf-rijdende auto’s
Vooralsnog buiten bereik: • Algemene intelligentie (‘un-supervised’ creëren
van ideeën en oplossingen bij willekeurige problemen)
• Gevoel en intuïtie (een oplossing aanvoelen) • Ervaren van gevoelens (pijn, liefde, trots, etc.) • Bewustzijn
![Page 23: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/23.jpg)
Hoe Kasparov van Deep Blue verloor in de rematch
• In de eerste partij deed Deep Blue een briljante zet: Kasparov was overdonderd
• Kasparov: “the counterintuitive play must be a sign of superior intelligence”
• In de tweede partij was Kasparov zichzelf niet; hij beschuldigde IBM van vals spel en gaf op in remise-stand
• Kasparov verloor het toernooi met 3½ - 2½
![Page 24: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/24.jpg)
Hoe moeten we ons verhouden tot AI?
• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van (onze huidige) AI dan er daadwerkelijk in zit!
![Page 25: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/25.jpg)
Dank u voor de aandacht
![Page 26: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/26.jpg)
Naar de stellingen
![Page 27: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/27.jpg)
Stellingen
• De voortschrijdende aanwezigheid van AI stelt ons voor geen enkel nieuw probleem op het gebied van wetgeving.
• AI zal ooit de status van ‘legal personhood’ verwerven.
• AI veroorzaakt ‘responsibility gaps’. • AI ontneemt het gezicht op causale
verantwoordelijkheden. • Technologische responsibility gaps bestaan al,
bijvoorbeeld via Facebook.
![Page 28: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/28.jpg)
Stellingen
• Wanneer AI ons zal evenaren en overtreffen, dan moeten we AI vrezen.
• AI zal ons evenaren en overtreffen. • Wanneer we verantwoordelijkheden
delegeren naar AI, moeten we eerder bang zijn dat die AI te dom is dan te slim.
![Page 29: Tussen angst en onverschilligheid: het juiste perspectief ... and Mobility...• Laten we niet zo reageren als Kasparov (Foto: Volkskrant 1997): lees niet méér in de prestaties van](https://reader031.vdocuments.pub/reader031/viewer/2022041600/5e3059ad3a45f37d292b7517/html5/thumbnails/29.jpg)