Zurück zur Übersicht

Online Magazin

Medea als Hackerin, Pandoras Büchse als Black Box

Roboter und Antike passen nicht zusammen? Da würde Adrienne Mayor widersprechen: Denn tatsächlich erzählen bereits antike Sagen von sich selbst bewegenden Automaten und eigenwilligen Maschinen. Ein aufschlussreiches Gespräch darüber, wie diese Erzählungen die heutige Debatte über KI und maschinelles Lernen vorausahnen – im Positiven wie im Negativen.

 

Mit Adrienne Mayor sprach Eliane Eisenring

Frau Mayor, wie sind Sie auf die Verbindung zwischen KI und Robotik und der griechischen Mythologie aufmerksam geworden?
Ich arbeite seit 2006 an der Stanford University in Kalifornien und bin daher von den immer weiter fortschreitenden technologischen Innovationen im Bereich der Robotik und der künstlichen Intelligenz umgeben. Ich selbst bin Wissenschaftlerin im Bereich griechische Mythologie und Historikerin der antiken Wissenschaft. Da lag es für mich nahe, nach den Ursprüngen solch modern anmutender Träume und Bestrebungen zu fragen. Ich habe mich gefragt: Ist es möglich, dass selbst fahrende Geräte, Automaten und andere Formen künstlichen Lebens bereits in der Antike erdacht wurden – lange bevor die Technik solche Maschinen möglich machte?

Und was haben Sie diesbezüglich herausgefunden?
Dass es tatsächlich so ist! Die von mir untersuchten Mythen und historischen Dokumente zeigen, dass sich die Menschen vor Jahrtausenden nicht nur viele der Konzepte vorstellen konnten, die der Robotik und der künstlichen Intelligenz zugrunde liegen – sie sahen auch die praktischen und ethischen Probleme voraus, die solche Technologien heute begleiten.

In Ihrem 2018 erschienenen Buch «Gods and Robots» (DE: «Götter und Maschinen») schreiben Sie, dass in der antiken Mythologie wie auch historisch nachgewiesen viele Automaten geschaffen wurden, um Menschen zu schaden. Was sagt uns das?
Im Grunde deutet es darauf hin, dass die Verbindungen zwischen Tyrannei und Technologie seit der Antike eine permanente Bedrohung darstellen. Und dass wir darauf achten sollten, wer Robotik, künstliche Intelligenz und Überwachungstechnologien zu entwickeln versucht und warum. Fortschritte in der Robotik und der künstlichen Intelligenz – wie Gesichtserkennung, lippenlesende Kameras und robuste, superagile Roboter – werden der Öffentlichkeit in der Regel als nützlich angepriesen. Aber es ist leicht, ruchlose militärische und unternehmerische Anwendungen und den Missbrauch durch autokratische Einheiten zu erkennen.

Die Verbindung zwischen Tyrannei und Technologie, stellt seit der Antike eine permanente Bedrohung dar. Wir sollten darauf achten, wer Robotik, künstliche Intelligenz und Überwachungstechnologien zu entwickeln versucht und warum.

Lassen Sie uns in einige der Mythen eintauchen, die Sie in Ihrem Buch erwähnen. Zum Beispiel den von Epimetheus und Prometheus ...
Das ist einer der ältesten griechischen Mythen: Der Göttervater Zeus beauftragt Hephaistos, den Gott der Erfindung, eine künstliche Frau zu erschaffen: Pandora. Sie soll die Menschen dafür bestrafen, dass sie das Geschenk des Feuers angenommen haben, das Prometheus den Göttern gestohlen hat. Zeus schickt diesen lebensechten Androiden auf die Erde, im Gepäck eine versiegelte Büchse, gefüllt mit Elend für die Sterblichen. Pandora wird Epimetheus, dem Bruder des Prometheus, als Braut präsentiert. Dieser ahnt nicht, dass Pandora mit einer einzigen Aufgabe "programmiert" ist: die verhängnisvolle Büchse zu öffnen. Prometheus versucht, seinen Bruder davor zu warnen, das gefährliche Geschenk des Zeus anzunehmen. Doch Epimetheus ist von Pandora bezaubert und nimmt sie in sein Leben auf. Erst später erkennt er seinen schrecklichen Irrtum.

Was hat dieser Mythos mit den aktuellen Debatten über Roboter, KI und maschinelles Lernen zu tun?
Nun, zum einen ähnelt die Büchse der Pandora einer Art Black Box, die, einmal geöffnet, nicht wieder verschlossen werden konnte. Zweitens bedeutet Prometheus' Name "Voraussicht" – er schaute immer voraus, im Gegensatz zu seinem sorglosen Bruder Epimetheus, dessen Name "Rückschau" bedeutet. Heutzutage machen sich die besorgten "Prometheus" unter uns Sorgen um die Zukunft der Menschheit, im Gegensatz zu den optimistischen "Epimetheus", die sich leicht von kurzfristigen Gewinnen blenden lassen.

Die Büchse der Pandora ähnelt einer Art Black Box, die, einmal geöffnet, nicht wieder verschlossen werden konnte.

In der griechischen Mythologie wird Prometheus auch als der Schöpfer der Menschheit bezeichnet. Inwiefern verwischt dieser Mythos die Grenze zwischen Mensch und Maschine?
Der Mythos von Prometheus, der die ersten Prototyp-Menschen erschafft, wird auf kleinen Edelsteinen für Ringe und Siegel dargestellt: Anstatt die Formen von Männern und Frauen aus Lehm zu formen, die auf magische Weise zum Leben erweckt werden, wie bei der Erschaffung von Adam und Eva in der Bibel, wird Prometheus als Ingenieur oder Handwerker dargestellt. Er benutzt Werkzeuge, um den ersten Menschen von innen nach aussen zusammenzusetzen, wobei er das Skelett als Gerüst aufbaut. Dieser Mythos knüpft an die zeitlose, universelle Vorstellung an, dass wir seelenlose Maschinen sein könnten, die von höheren Wesen manipuliert werden – Automaten der Götter. Seit der Antike und in vielen Kulturen stellt diese Science-Fiction-Idee ein tiefgründiges philosophisches Rätsel über Autonomie, freien Willen und menschliche Handlungsfähigkeit dar.

In Ihrem Buch erwähnen Sie auch das erste automatische Garagentor.
Ja, das finden wir bei Homer: Er beschreibt mehrere wunderbare, sich selbst bewegende Geräte, die von Hephaistos für die Götter hergestellt wurden. Ein Beispiel ist eine Reihe automatischer Tore, die sich von selbst öffnen und schliessen, damit die Götter und Göttinnen ihre Wagen vom Himmel zur Erde und wieder zurück fahren können.

Eine weitere Verbindung zur heutigen Technologie stellen die phaiakischen Schiffe dar. Was macht sie zur ersten Vision eines GPS?
Diese Geschichte ist Teil der Odyssee von Homer: Als Odysseus die Phaiaken, besucht, erzählt er ihrem König, dass er sich nichts sehnlicher wünscht, als nach zehn Jahren der Wanderschaft auf seine Heimatinsel zurückzukehren. Der König bietet ihm eine Reise auf einem seiner sagenhaften Schiffe an, die ohne Kapitän und ohne Ruderer segeln. Jedes Schiff ist mit Navigationskarten der bekannten Welt ausgestattet: Wenn du dem Schiff dein Ziel nennst, zeichnet es die Route auf. Diese Schiffe mit ihrem Zugang zu riesigen Datenarchiven und Seekarten scheinen tatsächlich unsere modernen GPS-Systeme vorwegzunehmen.

Die Sage der Argonauten: Inwiefern ist sie eine der frühesten Hinweise darauf ist, dass Cyborg- oder Robotersoldaten Probleme in Bezug auf Führung und Kontrolle mit sich bringen könnten?
In dieser Sage wird ein riesiger Androide aus Bronze namens Talos erwähnt, der zur Verteidigung der Insel Kreta geschaffen wurde. Er bewegt sich selbst und kann Felsbrocken aufheben und schleudern, um feindliche Schiffe zu versenken. Sein Innenleben wird durch Ichor, die Lebensflüssigkeit der unsterblichen Götter, angetrieben, und das System wird durch einen Bolzen an seinem Knöchel versiegelt. Doch die Zauberin Medea kann Talos dazu überreden, Jason zu erlauben, den Bolzen an seinem Knöchel zu entfernen. Als Jason den Bolzen entfernt, blutet die Energiequelle des Roboters aus und er wird zerstört. Eine Lehre hieraus ist, dass Automaten nicht immer das tun, was man von ihnen erwartet, und dass sie sogar die Fähigkeit entwickeln können, eigenständig Entscheidungen zu treffen, was zu einer Katastrophe führen kann. Eine weitere Lektion ist, dass es, egal wie fortschrittlich die Technologie ist, immer eine "Hackerin" wie Medea geben wird, die Schwachstellen im Design ausnutzt!

Egal wie fortschrittlich die Technologie ist, es wird immer eine "Hackerin" wie Medea geben, die Schwachstellen im Design ausnutzt!

Eine Lektion enthält auch der bekannte Mythos vom Sturz des Ikarus: Will dieser vor der Überschreitung menschlicher Grenzen warnen?
Es stimmt, dass der Mythos von Dädalus und seinem Sohn Ikarus oft als eine Warnung vor Hybris verstanden wird. Aber ich sehe das ein wenig anders. Schliesslich gelang es Dädalus, für sich und seinen kleinen Sohn Flügel zu entwerfen und herzustellen, um dem Gefängnis von König Minos auf Kreta zu entkommen. Die Flügel funktionierten – sie konnten wegfliegen. Doch der junge Ikarus ignorierte die Warnungen seines Vaters, nicht zu nahe an der Sonne oder am Meer zu fliegen, da Hitze und Feuchtigkeit den Klebstoff in den Flügeln schmelzen könnten. So stürzte Ikarus in den Tod, weil er die Gebrauchsanweisung nicht beachtet hatte. Dädalus trauerte um seinen Sohn, flog dann aber weiter in die Freiheit und zu weiteren Erfindungen. Die Moral scheint zu sein, dass Innovationen erfolgreich sein können, aber manchmal zu einem hohen Preis.

Was könnte der hohe Preis im Hinblick auf KI und Robotertechnologien sein?
In Bezug auf KI- und Robotertechnologien habe ich manchmal den Eindruck, dass diejenigen, die sie in Auftrag geben, herstellen und einsetzen, kurzfristige Gewinne anstreben, ohne die schlimmsten Szenarien, die langfristigen und/oder unbeabsichtigten Folgen für den Einzelnen und die Gesellschaft sowie die Tendenz der Technologie zur Tyrannei zu berücksichtigen. Ausserdem wird die KI mit Hilfe des maschinellen Lernens auf unvorstellbar grosse und komplexe Daten zugreifen und undurchsichtige Black Box-Entscheidungen treffen, die sowohl die Nutzer als auch die Entscheidungsträger im Dunkeln lassen.

Sind Sie demnach gegen die Weiterentwicklung dieser Technologien?
Ich stimme auf jeden Fall mit den KI-Technikern und Philosophen überein, die vor einer rücksichtslosen Entwicklung der KI warnen, bevor wir wissen, wie wir sie kontrollieren können. Und ich stimme denjenigen zu, die argumentieren, dass KI als unser Werkzeug, als von Menschen geschaffenes Eigentum betrachtet werden muss, nicht als "Gefährte", "eine andere Lebensform" oder "Quasi-Menschen" mit Handlungsfähigkeit oder "Rechten". Wen können wir sonst für die negativen Handlungen der KI verantwortlich machen?

Wir müssen KI als unser Werkzeug, als von Menschen geschaffenes Eigentum betrachten, nicht als "Quasi-Menschen" mit Handlungsfähigkeit oder "Rechten". Wen können wir sonst für die negativen Handlungen der KI verantwortlich machen?

Eine weitere interessante Parallele, die Sie in Ihrem Buch ziehen, ist die zwischen modernen Robotern und Sklavinnen und Sklaven im Altertum.
Interessanterweise beschrieb Aristoteles im vierten Jahrhundert v. Chr. in seiner Rechtfertigung der Sklaverei Sklaven als "lebende Werkzeuge". Wenn nur, so sinnierte er, Werkzeuge und Geräte wie gute Sklaven alle unsere Bedürfnisse vorhersehen könnten. Dann fragte er sich, inspiriert von Erzählungen über automatisierte Geräte und künstliche Wesen wie Talos: Was wäre, wenn wir Webstühle hätten, die von selbst weben könnten, und Musikinstrumente, die sich selbst spielen könnten? Wir würden keine Sklaven mehr brauchen, schloss er.

Aus heutiger Sicht ist es nicht ganz so gekommen, wie Aristoteles es sich vorgestellt hat ...
Nein, im Gegenteil: Der alte futuristische Traum, dass KI und Roboter das Leben aller Menschen luxuriös und einfach machen könnten, erscheint eher ironisch, da die menschlichen Arbeiterinnen und Arbeiter immer mehr zu Automaten werden, die neben den Robotertechnologien arbeiten.

Welche Rolle spielen Fantasie und Vorstellungskraft, wenn wir von Automaten und Robotern in der Antike sprechen?
Die antiken Sagen aus der Zeit Homers, gefolgt von realen Ingenieursleistungen, zeigen, dass die Vorstellungskraft schon immer der Geist war, der den wissenschaftlichen Fortschritt vorantrieb. Vor mehr als 2 500 Jahren, zur Zeit Homers, konnten sich die Menschen in Geschichten ausmalen, wie man künstliches Leben, Automaten, Androiden, selbst steuernde Schiffe und andere sich selbst bewegende Geräte erschaffen könnte, wenn man nur über erstaunliche oder göttliche Kreativität und Fähigkeiten verfügte. Die Ideen und Konzepte der Robotik und der künstlichen Intelligenz waren also denkbar, lange bevor die Technik sie möglich machte.

Human-Enhancement-Technologien wurden schon in den alten Mythen als die Aneignung der "Super"-Kräfte von Tieren und Göttern thematisiert.

Muss man daraus schliessen, dass die Verwirklichung eines wissenschaftlichen Vorhabens, sobald es erdacht wurde, unausweichlich ist, sei es nun gut oder schlecht?
Diese mythischen Gedankenexperimente waren im Grunde genommen die ersten Science-Fiction-Geschichten. Und in der Tat wird oft gesagt, dass die Technik der Science-Fiction folgt. Aber schon der antike griechische Dramatiker Sophokles warnte davor, dass die brillante Kreativität und unermüdliche Innovation des Menschen für gute und schlechte Zwecke eingesetzt werden kann.

Und die Vorstellungen und Fantasien über die Verbesserung von uns Menschen setzen sich auch heutzutage fort ...
Ja, Human-Enhancement-Technologien – künstliche Verbesserungen zur Überwindung der Schwächen des menschlichen Körpers und zur Verstärkung der natürlichen Stärke, der sensorischen Fähigkeiten usw. durch synthetische Mittel – wurden schon in den alten Mythen als die Aneignung der "Super"-Kräfte von Tieren und Göttern thematisiert, um die menschliche Verletzlichkeit und Schwäche zu kompensieren.

Am Ende Ihres Buches schreiben Sie, dass "in dem Masse, in dem der Mensch durch die Technologie verbessert und immer mehr wie eine Maschine wird, auch die Roboter etwas Menschliches an sich haben". Heisst das, dass wir irgendwann alle halb Mensch, halb Maschine sein werden? Oder sind wir das schon?
Nun, an Dinge wie Brillen, Hörgeräte, künstliche Gliedmassen und so weiter haben wir uns tatsächlich bereits gewöhnt. Aber die Bestrebungen, die menschlichen Grenzen mit Hilfe von Medikamenten, Implantaten, Exoskeletten, Mensch-Maschine-Hybriden, Genmanipulationen, Neurorobotik, etc. zu überschreiten, das Streben nach Langlebigkeit und sogar Unsterblichkeit – all das mag zwar nützlich erscheinen, birgt aber auch praktische und moralische Risiken, die wir uns bewusst machen müssen, wenn wir kopfüber in das Zeitalter der Robo-Humanität stürzen.

Zur Person

Adrienne Mayor (*1946) ist Historikerin im Bereich antike Wissenschaft. Seit 2006 ist sie Forschungsstipendiatin in der Abteilung für Klassische Philologie und im Programm für Wissenschaftsgeschichte und -philosophie an der Stanford University. Mayor hat sich auf die Erforschung des Naturwissens in vorwissenschaftlichen Mythen und mündlichen Überlieferungen spezialisiert. Sie hat sieben Bücher über ihre Forschungen geschrieben. "Gods and Robots", das die Verbindungen zwischen der Antike und der modernen KI und Robotik erforscht, wurde 2018 veröffentlicht. Ihr neuestes Buch, "Greek Fire, Poison Arrows, and Scorpion Bombs" (2022), analysiert biologische und chemische Kriegsführung in der Antike.

IN GESPRÄCHSLAUNE? MEHR GESPRÄCHSPARTNER FINDEST DU HIER:

Im Gespräch mit
KI Medien

... Christoph Grünberger
Im Gespräch mit
KI Digital Workplace

... Lars Thomsen
Im Gespräch mit
Microsoft Leadership

... Annahita Esmailzadeh