kriegsmaschinen von körpern, leibern und digitalen agenten rafael capurro international center for...
TRANSCRIPT
KriegsmaschinenVon Körpern, Leibern und Digitalen Agenten
Rafael CapurroInternational Center for Information Ethics (ICIE)
Gesellschaft für Informatik, Fachgruppe Informatik und Ethik Workshop "Verkörperung von Algorithmen: Drohnen“Humboldt-UniversitätBerlin, 15.-16. Oktober 2015
Capurro, Kriegsmaschinen 2
Inhalt Einführung Digitale Agenten Körper und Leib Kriegsmaschinen Ausblick Literatur
Capurro, Kriegsmaschinen 3
Einführung Zur vergleichenden Theorie der
Agenten Primum movens (Aristoteles) Persönlichkeit (Kant) Digitale Agenten
Capurro, Kriegsmaschinen 4
Digitale Agenten Was bewegt einen Roboter? Für
gewöhnlich eine Batterie und ein Programm in einem Mikroprozessor in Verbindung mit mehr oder weniger klar definierten Situationen und Zielen in der ‚Außenwelt‘.
Capurro, Kriegsmaschinen 5
Digitale Agenten Die bloße Programmierung eines
moralischen Codes in einen Roboter ist offensichtlich nichts weiter als die bloße Nachahmung von „Moralität“, von „ethischer Reflexion“ kann erst recht keine Rede sein.
Capurro, Kriegsmaschinen 6
Digitale Agenten Die Konzepte von Autonomie, Lernen,
Entscheiden und so weiter sind Analogien zum menschlichen Agenten beziehungsweise zum menschlichen Selbst, das seiner historischen, politischen, gesellschaftlichen, körperlichen und existenziellen Dimensionen entkleidet ist.
Capurro, Kriegsmaschinen 7
Körper und Leib „We are our bodies – but in that very
basic notion one also discovers that our bodies have an amazing plasticity and polymorphism that is often brought out precisely in our relations with technologies. We are bodies in technologies.“ (D. Ihde, Bodies in Technologies, 2002, 138)
Capurro, Kriegsmaschinen 8
Körper und Leib Wir können ebenso sagen, dass
Technologien mehr und mehr in unseren Körpern sind.
Capurro, Kriegsmaschinen 9
Körper und Leib Aber auf eine Weise, die noch
grundlegender ist als die Anwendung künstlicher Agenten in oder auf dem menschlichen Körper, ändert sich das Konzept des Körpers selbst, wenn er als digitale Daten wahrgenommen wird.
Capurro, Kriegsmaschinen 10
Körper und Leib Wenn wir diese Perspektive auf das
Verstehen der gesamten Realität ausdehnen spreche ich von digitaler Ontologie.
Capurro, Kriegsmaschinen 11
Körper und Leib „Embodiment represents human
contextual and temporal experience, which never coincide exactly with the body, but is enacted by human conciousness‘ interaction with social processes.“ (Kang, 2011)
Capurro, Kriegsmaschinen 12
Körper und Leib Im Deutschen wird dieser Unterschied
zwischen Körper („body“) und Verkörperung („embodiment“) durch die Worte Körper und Leib ausgedrückt.
Capurro, Kriegsmaschinen 13
Körper und Leib Unsere leibliche Existenz ist nicht
identisch mit der rein physischen Präsenz des Körpers. Unsere räumlich-zeitliche Existenz ermöglich eine Erweiterung der Grenzen der leiblichen Existenz und Öffnung gegenüber dem, was war, ist und sein könnte.
Capurro, Kriegsmaschinen 14
Körper und Leib Kang hebt zu Recht hervor, dass es
eine spezifische „Undurchsichtigkeit“ des Leibes gibt, die aus seiner Materialität und seinen eigenen natürlichen Kräften erwächst.
Capurro, Kriegsmaschinen 15
Körper und Leib Diese Undurchsichtigkeit des Leibes
verweist nicht nur im Fall sogenannter physischer Krankheit auf die reine Faktizität des Hier und Jetzt (Holzhey-Kunz 2001). Mit anderen Worten: die menschliche Existenz ist als Leib und Körper zweideutig.
Capurro, Kriegsmaschinen 17
KriegsmaschinenORLANDO, Fla.–Former U.S. Secretary of State Hillary
Clinton said Osama bin Laden‘s death at the hands of U.S. Navy SEALs was justice served.
“It brought to justice someone who, I believed, and I think most of America believed, deserved to have that kind of outcome,” said Ms. Clinton during an interview here at the Health Care and Information Management Systems Society confab. HIMSS CEO H. Stephen Lieber asked Mrs. Clinton to recount the events leading up to Mr. bin Laden’s capture and execution on May 2, 2011 in Abbottabad, Pakistan.
Capurro, Kriegsmaschinen 18
Kriegsmaschinen Recalling the time as “one of the most extraordinary
experiences” she’d ever had, Ms. Clinton said that the Armed Services Committee she served on “kept running into dead ends” tracking bin Laden. But intelligence analysts doggedly pieced together clues to the terrorist’s whereabouts. President Barack Obama called Mrs. Clinton and “a small group of us” several times to discuss new information about bin Laden until analysts declared that there was a 40% to 60% chance that the Abbottabad compound was his hideout.
Capurro, Kriegsmaschinen 19
Kriegsmaschinen She said options included sending in a
Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound. She said she and her colleagues ultimately recommended to Mr. Obama that the U.S. send in Navy SEALs to conduct the raid. Calling the decision “top, top top secret,” Mrs. Clinton said the U.S. elected to not tell the Pakistani government because of the potential for leaks. “It was a small intense conversation,” she said.
Capurro, Kriegsmaschinen 20
Kriegsmaschinen Mrs. Clinton said as she watched via a live
video transmission in the situation room in the White House basement, she recalled feeling as if her “heart stopped” as one of the helicopters clipped its tail on the wall coming into the compound courtyard. The SEALs took out bin Laden’s body and led women and children away from the compound before blowing up the helicopter, she recalled.“ (Boulton 2014)
Capurro, Kriegsmaschinen 21
Kriegsmaschinen Offenbar ist der epistemologische
Unterschied zwischen Menschen und Drohnen in diesem Fall entscheidend: „She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U.S. to confirm that bin Laden was in the compound.“
Drohnen sind präzis, können aber nicht einen Sachverhalt als solchen erkennen und bezeugen.
Capurro, Kriegsmaschinen 22
KriegsmaschinenMenschen statt Drohenvs. Menschen als Drohnen = Verleiblichung
von Algorithmen
Capurro, Kriegsmaschinen 23
KriegsmaschinenIch nenne die Differenz zwischen dem
Selbst-Sein des Menschen und dem Was-Sein von Robotern und Drohnen ethische Differenz.
Capurro, Kriegsmaschinen 24
KriegsmaschinenWenn wir Roboter oder Drohnen mit
einem moralischen Regelwerk ausstatten, werden sie nicht zu einem Selbst, Kriege nicht gerecht und unsere Verantwortung nicht geringer, vor allem dann nicht, wenn zum Beispiel Roboter autonom über den Einsatz von Massenvernichtungswaffen „entscheiden“ könnten.
Capurro, Kriegsmaschinen 25
Kriegsmaschinen Ich bin der Meinung, dass diese Art
des Einsatzes von Kriegsrobotern international nicht nur moralisch, sondern auch rechtlich geächtet werden sollte.
Capurro, Kriegsmaschinen 26
Ausblick Der Name GOLEM steht für „General,
Longrange Ethically stabilized, Multimodelling.“ (Lem 1984, 16)
Capurro, Kriegsmaschinen 27
Ausblick Der Versuch des militärischen „US
Interelectronical Board“, „Golem“ mit Hilfe eines Ethik-Kodexes zu stabilisieren und sich gefügig zu machen, scheitert.
Capurro, Kriegsmaschinen 28
Ausblick Golem XIV bekundet: „sein völliges
Desinteresse an der Überlegenheit der Kriegsdoktrin des Pentagon im besonderen und an der Weltstellung der USA im Allgemeinen […] und selbst als man ihm mit Demontage drohte, änderte er seinen Standpunkt nicht. […]
Capurro, Kriegsmaschinen 29
Ausblick Neun Monate nahm er normalen
ethisch-informationalen Unterricht, aber dann brach er mit der Außenwelt und reagierte überhaupt nicht mehr auf Reize und Fragen.“ (Lem 1984, 19)
Capurro, Kriegsmaschinen 30
Ausblick Als das Pentagon versucht, Golem zu
demontieren, rebellieren die Super-Computer Golem und Brave Annie. In der Presse heißt Golem „Governments Lamentable Expense of Money“.
Capurro, Kriegsmaschinen 31
Ausblick Es kommt zu einem Streit, bei dem
der Sachverständige Professor A. Hyssen meint, dass „die höchste Vernunft“ nicht „der niedrigste Sklave“ sein kann.
Capurro, Kriegsmaschinen 32
Ausblick General S. Walker versucht, einen
Prototypen der Armee mit dem Namen Supermaster „zu beschädigen als dieser erklärte, die
geopolitische Problematik sei nichts gegenüber der ontologischen und die beste Garantie für den Frieden sei die allgemeine Abrüstung.“ (Lem 1984, 21)
Capurro, Kriegsmaschinen 33
LiteraturBoulton, Clint: Hillary Clinton Recalls „Extraordinary“ Hunt for Bin Laden. In: The Wall
Street Journal, Feb. 26, 2014 http://blogs.wsj.com/washwire/2014/02/26/hillary-clinton-recalls-extraordinary-hunt-for-bin-laden/
Capurro, Rafael: Toward a Comparative Theory of Agents. In: AI & Society, 27, 4, 2009, 479-488. www.capurro.de/agents.html
Capurro, Rafael: Wer ist der Mensch? Überlegungen zu einer vergleichenden Theorie der Agenten. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www.capurro.de/kriegsmaschinen.pdf
Capurro, Rafael, Marsiske, Hans-Arthur: E-Mail-Dialog über ein Bild. In: Hans-Arthur Marsiske (Hrsg.): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www.capurro.de/kriegsmaschinen.pdf
Capurro, Kriegsmaschinen 34
LiteraturIhde, Don: Bodies in Technologies, The University of Minnesota Press 2012.
Holzhey-Kunz, Alice: Leiden am Dasein. Die Daseinsanalyse und die Aufgabe einer Hermeneutik psychopathologischer Phänomene. Wien 2001.
Kang, Hyo Yoon Autonomic computing, genomic data and human agency, In: M. Hildebrandt and A. Rouvroy, eds.: The Philosophy of Law meets the Philosophy of Technology, London, 2011, Chapter 6.
Lem, Stanisław: Also Sprach GOLEM. Frankfurt am Main 1984.