vertrauen in künstliche intelligenz ein lösbarer widerspruch? · 2019. 11. 18. · künstliche...
TRANSCRIPT
Vertrauen in künstliche Intelligenz –ein lösbarer Widerspruch?
Innovate 2019
Bernd Schwarzer, Roland Spitzenberger | EY
Künstliche Intelligenz (KI) ist gekommen um zu bleiben!
Page 2
10.3 %Potenzielles BIP-Wachstum durch
künstliche Intelligenz (Beispiel Großbritannien)
Quelle: NewStatesman (2018)
Neue Rechtliche Rahmen-bedingungen (KI-Gesetze)
Umstrukturierung des Arbeitsmarkes und neue Arbeitsmodelle
Soziale Auswirkungen in allen Lebenslagen
“New Public Governance” als Chance und Herausforderung
KI als Wettbewerbsfaktor eines Wirtschaftsraumes
21 Mrd€/Jahr
Geplantes Investment-Volumen der EU ab 2020
in KI Forschung und Entwicklung
Quelle: DSM Fact Sheet 2019
01
02
03
04
05
KI wird sämtliche öffentliche Services revolutionieren
Page 3
… KI wird … im eingeschränktem Maße
bei Spezialanwendungen eingesetzt…
(aus Ergebnisbericht KI-Strategie des Bundes 2019)
Advanced Analytics Quelle: BMF
Zukünftig werden für sämtliche öffentliche
Services durch KI neue
Möglichkeiten nutzbar.
KI Trans-formation
öffentlicher Services
► “Well being”► Chatbots► Multi Channel Mgt
“Brennende” Trends
Nutzung der KI-Datenbasis
GerechteEntscheidungen
Bürger-Zentriertung
NeugestaltungVerwaltungs-
prozesse
Wien BotQuelle: Stadt Wien
► Nachhaltigkeit► Mündiger Bürger► Demokratisierung► Deregulierung
► Co-Creation► Kooperation► Automatisierung
► KI-Modellierung und KI-Check► Software-Ethics► KI-Audits► KI-Prüfsiegel
► Register, Archive► Prozessdaten► Open Data ► Open Governance
Die Reise hat gerade erst begonnen…
Das neue Paradigma: Trainieren statt programmieren, Daten statt Code
Page 4
Input
Algorithmus
Output
Herkömmliche Software:
Input Output
Trainings-Input
Modell
Trainings-Output
KI – Maschinelles Lernen:
Welche Anwendungsfälle können durch KI unterstützt werden?
Page 5
Analysieren,kategorisieren,
vorhersagen
• Recommender-Systeme
• Verkehrsflusssteuerung
• Steuerbetrugsbekämpfung
• Verbrechensvorhersage
Natürliche Sprache
• Sprachübersetzung
• Semantische Suche
• Datenextraktion aus Dokumenten
• Bürger-Chatbot
Bild- und Audioverarbeitung
• Medizinische Röntgendiagnose
• Videoüberwachung
• Predictive Maintenance
Smarte Roboter
• Autonome Fahrzeuge
• Drohnen, z.B. fürVerkehrsüberwachung, Infrastrukturanalysen
• Roboter, z.B. Krankenhaus, Pflege, Kriseneinsätze
Analysen Automatisierung Internet-of-Things
Page 6
Risiken von KI
Worin unterscheidet sich KI zu herkömmlicher Software?
Page 7
Niedrige Einstiegsbarrieren fördern dezentrale Entwicklungen
Ergebnisse basieren auf Wahrscheinlichkeiten, nicht
auf erprobten Regeln
KI lernt selbständig und kann sich unbeaufsichtigt
weiterentwickeln
Die Geschwindigkeit der Entwicklung überflügelt die
Kontrollmöglichkeiten
Entscheidungen folgenper-se keiner Ethik, Moral
und sozialer Verantwortung
Die Ergebnisse sind nur so gut und aktuell wie die
Trainingsdaten
Wie ändert sich die Entscheidungsfindung und Verantwortlichkeit?
Page 8
Bisher: Verantwortung liegt beim menschlichen Entscheider
Zukunft: Verantwortung wird an maschinellen Entscheider abgetreten
► IT liefert Entscheidungsgrundlage (z.B. Analysen, Reports)
►Ressourcen-intensive Denkleistung
►Mensch handelt eigenverantwortlich und auf Basis „humanistisches Weltbild“
►Verantwortungsbewusstsein und Reflexion
Entscheidung vorbereiten
Entscheidunglernen
Menschentscheidet
KIentscheidet
KonsequenzKonsequenz
► IT ist ein umfassendes Entscheidungs-Ökosystem
►Ressorcenschonende Modell-basierte autonome Entscheidungsfindung
►Verantwortung kann nicht an KI ausgelagert werden
► „Hyper-Sorgfaltspflicht“
Können wir der Entscheidungsfindung durch KI vertrauen?
Page 9
85% der KI-Projekte in 2020 werden
fehlerhafte Resultateaufgrund von verzerrten Daten, Algorithmen oder dem SW-Entwicklungsteam aufweisen.
Nur 9% der Konsumenten
würden einer KI das Management ihrer Finanzen anvertrauen.
Source: Gartner’s 2018 CIO Agenda Survey
Source: InsideSales.com 2017 KI user survey
Fehlendes Vertrauen und Ablehnung verzögert momentan den nutzenstiftenden Einsatz von KI.
Ein einziger wahrgenommener Fehler führt zu Vertrauensverlust in KI.
Fehlendes Vertrauen steht an erster Stelle der Hinderungsgründe für die Einführung von KI in Organisationen.
Fazit: Vertrauen in KI erfordert einen langwierigen Prozess der Bewusstseins-bildung und eine umfassende Anpassung der Governance-Prinzipien.
.
Nur 4% würden einem KI basierten HR
Management vertrauen.
KI-Governance muss die typischen Risikobereiche des KI-Ökosystems aussteuern
Page 10
Entscheidungsergebnisse der KI werden durch manipulierte Daten massiv beeinflusst. (Adversarial attack)
Prognosemodelle werden aufgrund von falsch gelernten Zusammenhängen wertlos. (Underfitting)
Urteile einer KI wird durch eine systematische Verzerrung der Beispielfälle ungerecht. (Data bias)
Unethische Entscheidungen entstehen durch falsche Aufgaben-Fokussierung und Erfolgsmessung. (Lack of precision)
Widerstandsfähigkeit
Erklärbarkeit
Unverzerrtheit
Zielorientierung
Das Risiko von KI steigt beträchtlich mit der Leistungsfähigkeit und den mächtigen Einsatzmöglichkeiten
Page 11
90er 20032000 2011 2019 20202016
Labor
Einzel-Benutzer Intelligenz
VernetzteIntelligenz
Strategie
Physische Welt Autonomie Super
Intelligenz
Kleines Risiko
Mittleres Risiko
Hohes Risiko
Quanten-Computer
73% der CEOs planen, in den
nächsten 2 Jahren KI (intelligent automation oder machine learning) einzusetzen.
Source: EY 2018 Growth Barometer
Page 12
Vertrauenswürdige KI
Was zeichnet eine vertrauenswürdige KI aus?
Page 13
Vertrauens-würdige
Nachvollziehbarkeit
Korrektheit und Erklärbarkeit der Methoden und Ergebnisse
Zuverlässigkeit
Sicherheit, Datenschutz, kontrollierte Evolution
Fairness
Unvoreingenommenheit,Ethik & Moral, soziale
Verantwortung & Nachhaltigkeit
Transparenz
Information über den Einsatz von KI und
Möglichkeit manueller Übersteuerung
Performance
Korrekte Funktionsweise zur Laufzeit mit neuen,
realen Daten
KI
„Trust by Design“ zur Gewährleistung einer vertrauenswürdiger KI
Page 14
Ineinandergreifende Mechanismen auf Basis eines übergreifenden Risikomanagements
ZielgerichtetesDesign
EffektiveSteuerung
Durch-gängige
Kontrolle
Vertrauens-
würdige KI
Ethik-Gremium
Bewusstseinsschaffung
Unabhängige Audits
Wirkungsanalyse
Überprüfungswerkzeuge
Inventarisierung
Design Standards
Risiko-manage-
ment
Der Grundstein: proaktives Risikomanagement im gesamten KI-Lebenszyklus
Page 15
ApplikationsübergreifendeKontrollen
ApplikationsspezifischeKontrollen
Integration mit Audit Standards
IT Plattform
Risiko-Framework
Transparenz
Nachvoll-ziehbarkeit
Zuver-lässigkeit
PerformanceFairness
Vertrauens-würdige
KI
Staatliche Institutionen
Internationale Organisationen
Audit Gremien
Kontinuierliche Weiterentwicklung der Methode sichert die Nachhaltigkeit
Page 16
Department for Digital, Culture, Media & Sport
Centre for Data Ethics and
Innovation}
The Institute ofInternal Auditors
Centre for Data Ethics and Innovation
ISACA
IEEE
AI Expert Group European Union
AIM Austria
GovernmentOffice for Science
Branchenspez. Regulatoren
Finanzmarkt-aufsicht
Praktische Projekterkenntnisse
Technologieentwicklungen
DeepFakes
Deep Reinforcement Learning
GAN LIME
Credit RiskCustomer
SegmentationFinancial Forecast
• Neue Trends berücksichtigen und Best Practices integrieren
• Praxisrelevanz sicherstellen und Vorbereitung auf zukünftige Regularien
https://www.youtube.com/watch?v=cQ54GDm1eL0
Financial Stability Board
Erfolgreicher Einsatz vertrauenswürdiger KI im öffentlichen Bereich
Page 17
Finnland Aurora KIStrategic Government Services
Redesign Programme(#1 in EU DESI Rankig 2019)
Lösung großer dringender
gesellschaftlicher Herausforderungen
Umfassende Erfüllung der
Bürger-Rechte- & Bedürfnisse
Nationale KI-Strategie „People oriented proactive socienty“
Ethische Konformität und Risiko-Management für die gerechte Zuteilung von öffentlichen Services
Digital „Citizen-Twin“ trifft „KI basierten Verwaltungs-Berater“
Human-zentrierung“well being”
Vertrauenswürdige KI-basiertes Modell für öffentliche Services
Prinzip“MyData”
ÜbergreifendeService-Prozesse
Lebenslagen-Clustering zu“well being”
SemantischeOperabilitätvon Services
Ad-Hoc Service-
Orchestrierung
Data
KI01
02
03
Resümee
Page 18
Etablieren Sie “Trust-by-Design” von Anfang an!
Adressieren Sie die Risiken von KI proaktiv, um das volle Potential zu nutzen!3
Nutzen Sie das Potential von KI !
Die technischen Voraussetzungen sind geschaffen, jetzt geht es an die Anwendung2
AI ist gekommen um zu bleiben.
AI wird zum digitalen Kernelement unserer Wirtschaft und Gesellschaft1
Page 19
Workshop
Workshop-Themen
Page 20
Anwendung von vertrauensvoller KI
im Verwaltungsbereich
Beispielhafte Fragen:
• Welche Anwendungspotentiale sehen Sie durch fehlendes Bürgervertrauen in KI gefährdet und wie kann gegengewirkt werden?
• Wieviel Verantwortung sollen wir an Maschinen abgeben, wo soll der Mensch noch die letzte Entscheidungsinstanz bleiben?
Diskussionsgruppe 1:
Nutzen gesetzlicher Rahmenbedingungen
Beispielhafte Fragen:
• Welche gesetzlichen Vorgaben sollen geschaffen werden, um Vertrauen in KI zu schaffen?
• Wie stark kann reguliert werden, ohne den Marktplatz negativ zu beeinträchtigen?
• Wie kann Europa tatsächlich einen Wettbewerbsvorteil ggü. anderen Regionen generieren?
Diskussionsgruppe 2:
Vertrauen, Akzeptanzund gesellschaftspolitische
Auswirkungen von KI
Beispielhafte Fragen:
• Welche neuen Arbeitsmodelle werden durch KI entstehen und welche Auswirkungen auf den Arbeitsmarkt und den öffentlichen Sektor wird dies nach sich ziehen?
• Wie können wir sicherstellen, dass nicht nur einzelne Groß-konzerne von KI profitieren, sondern die ganze Gesellschaft?
Diskussionsgruppe 3:
Moderation: Susanne Zach, Thorsten Staufer
EY | Assurance | Tax | Transactions | Advisory
Die globale EY-Organisation im ÜberblickDie globale EY-Organisation ist einer der Marktführer in der Wirtschaftsprüfung,Steuerberatung, Transaktionsberatung und Managementberatung. Mit unserer Erfahrung, unserem Wissen und unseren Leistungen stärken wir weltweit das Vertrauen in die Wirtschaft und in die Finanzmärkte. Dafür sind wir bestens gerüstet: mit hervorragend ausgebildeten Mitarbeiterinnen und Mitarbeitern, dynamischen Teams, einer ausgeprägten Kundenorientierung und individuell zugeschnittenen Dienstleistungen. Unser Ziel ist es, die Funktionsweise wirtschaftlich relevanter Prozesse in unserer Welt zu verbessern — für unsere Mitarbeiterinnen und Mitarbeiter, unsere Kunden sowie die Gesellschaft, in der wir leben. Dafür steht unser weltweiter Anspruch Building a better working world.
Die globale EY-Organisation besteht aus den Mitgliedsunternehmen von Ernst & Young Global Limited (EYG). Jedes EYG-Mitgliedsunternehmen ist rechtlich selbstständig und unabhängig und haftet nicht für das Handeln und Unterlassen der jeweils anderen Mitgliedsunternehmen. Ernst & Young Global Limited ist eine Gesellschaft mit beschränkter Haftung nach englischem Recht und erbringt keine Leistungen für Kunden. Informationen dazu, wie EY personenbezogene Daten erhebt und verwendet, sowie eine Beschreibung der Rechte, die Personen gemäß des Datenschutzgesetzes haben, sind über ey.com/privacy verfügbar. Weitere Informationen zu unserer Organisation finden Sie unter ey.com.
In Österreich ist EY an vier Standorten präsent. „EY“ und „wir“ beziehen sich in dieser Publikation auf alle österreichischen Mitgliedsunternehmen von Ernst & Young Global Limited.
© 2019 Ernst & Young Management Consulting GmbH
All Rights Reserved.
TKI 1910-022ED None
Diese Präsentation ist lediglich als allgemeine, unverbindliche Information gedacht und kann daher nicht als Ersatz für eine detaillierte Recherche oder eine fachkundige Beratung oder Auskunft dienen. Obwohl sie mit größtmöglicher Sorgfalt erstellt wurde, besteht kein Anspruch auf sachliche Richtigkeit, Vollständigkeit und/oder Aktualität; insbesondere kann diese Präsentation nicht den besonderen Umständen des Einzelfalls Rechnung tragen. Eine Verwendung liegt damit in der eigenen Verantwortung des Lesers. Jegliche Haftung seitens der Ernst & Young Management Consulting GmbH und/oder anderer Mitgliedsunternehmen der globalen EY-Organisation wird ausgeschlossen. Bei jedem spezifischen Anliegen sollte ein geeigneter Berater zurate gezogen werden.
ey.com/at
© 2019 Ernst and Young Management Consulting GmbH – All Rights Reserved
Vertrauenswürdige künstliche Intelligenz