Back to overview

Online Magazin

Ego-Shooter und autonomes Fahren: Facetten der Digitalen Ethik

Der Schweizer Design-Technologe Matthieu Cherubini erschafft mit Code und Data sozialkritische Werke, die unserer Gesellschaft den Spiegel vorhalten. Gleichzeitig tüftelt er für VW in Peking an der Mobilität der Zukunft.

Mit Matthieu Cherubini sprach Tobias Imbach

Gehören ethische Fragen zum beruflichen Alltag eines Technologen?
In meinem Fall – ja. Ich merkte bereits als Software-Ingenieur, dass ich stärker daran interessiert war, die Technologie zu nutzen, nicht um der Technologie willen, sondern um Dinge zu schaffen und Probleme anzugehen, die die Technologie in unser Leben bringen könnte. Gleichzeitig interessierte mich aber auch immer «the design side of things».

Gab es einen bestimmten Moment, in dem dir klar wurde, dass die Arbeit als Software-Ingenieur oder die Arbeit mit Computern auch ethische und moralische Fragen mit sich bringt?
Während dem Studium vor 12, 13 Jahren arbeiteten wir noch nicht mit künstlicher Intelligenz, aber mit Data Mining – bei einem Projekt mit dem Spital in Lausanne realisierte ich, dass technologischer Fortschritt viele Menschen auch vor Probleme stellen kann. In meiner Bachelorarbeit ging ich vertieft dieser Frage nach. Die SBB begann zu der Zeit, in der ganzen Schweiz Ticketautomaten an ihren Bahnhöfen zu installieren. Viele Menschen, mit psychisch-gesundheitlichen Problemen wie Alzheimer, konnten damit nicht umgehen, sie brauchten einen Menschen als Gegenüber, und kamen mit Maschine und System nicht klar – was sie schliesslich stark in ihrer Mobilität einschränkte.

Hast du in deiner Arbeit dazu eine Lösung erarbeitet?
Die Software, die ich damals entwickelte, sollte diesen Menschen helfen, diese Systeme zu benutzen, sie zu trainieren. Da realisierte ich, dass wir zwar diese Technologien in die Welt drängen, aber dass wir damit nicht nur Möglichkeiten, sondern auch Probleme schaffen. Oft geht technologischer Fortschritt mit einer gewissen Euphorie einher, und da ist es wichtig, dass Leute, die da nicht mithalten können, nicht vergessen gehen.

Du bringst diesen Aspekt mit deinen Werken in Ausstellungen rund um die Welt. Auf welche Reaktionen stösst du mit deiner Arbeit?
Als ich 2012 begann, mich mit ethischen Fragen in technologischen Zusammenhängen auseinanderzusetzen, hat sich kaum jemand dafür interessiert, was ich mache. Ich setzte mich noch stark mit «Speculative Design» auseinander, befasste mich damit, welche Art von Problemen auf uns zukommen könnten, wenn Maschinen mit ethischen Entscheidungen konfrontiert werden, aber das interessierte kaum jemanden. 2017 änderte sich das, als verschiedene Museen begannen, sich mit der KI-Thematik auseinanderzusetzen, und da stiessen auch die Fragen zur Programmierung von autonom fahrenden Fahrzeugen auf grosses Interesse.

Oft geht technologischer Fortschritt mit einer gewissen Euphorie einher, und da ist es wichtig, dass Leute, die da nicht mithalten können, nicht vergessen gehen.

Eines deiner letzten Projekte ist “35000 feet” – eine Simulation, in der man als Tourist über Kriegsgebiete hinwegfliegt. In einem anderen Projekt kombinierst du Szenen aus dem Ego-Shooter Counterstrike mit Google Earth – was möchtest du damit aussagen?
Ja, mich beschäftigt die Gleichgültigkeit, die wir hier im Westen haben. Wir bekunden, dass uns Gerechtigkeit wichtig ist und twittern für eine bessere Welt, aber gleichzeitig befinden wir uns in einem Flugzeug 10 Kilometer über einem Kriegsgebiet, beissen in unser Sandwich und freuen uns auf unsere Ferien am anderen Ende der Welt. Ich will mit diesen Projekten nicht Kritik üben, ich bin selbst etwa auch ein begeisterter Videospieler, aber wir sollten nicht den Blick davon abwenden, was in der Welt wirklich geschieht.

Einer weiteren brenzligen Frage, der du dich im Projekt «Ethical Autonomous Vehicles» stellst, ist die Programmierung autonom gesteuerter Fahrzeuge.
Ja, es ist das beste und vielleicht alltäglichste Beispiel für die Veranschaulichung der ethischen Entscheidungsfindung bei Maschinen. Wie geht man mit einem Autounfall um, wenn er passiert, und wie programmiert man das? Es kann wie ein sehr kleines Detail erscheinen, aber es ist ein kleines Detail, das vielleicht Jahre über Jahre der Entwicklung und der Zusammenarbeit mit der Regierung benötigt, um die richtigen Gesetze zu finden, wie man das implementiert. Es ist ein faszinierendes Beispiel, das alle Menschen anspricht.

Matthieu Cherubini in Zürich

Matthieu Cherubinis Werke werden in Kürze am Digital Arts Festival gezeigt. Es findet vom 27. bis 31. Oktober an verschiedenen Orten im Zentrum von Zürich statt. Dabei werden rund 80 nationale und internationale Künstlerinnen, Künstler und Künstlergruppen ausstellen und performen. Zu entdecken gibt es Installationen, immersive Experiences, Performances, Konzerte und vieles mehr.

Wie nah sind wir an einer Antwort auf diese Frage?
Der Optimismus, den Tech-Firmen zum Teil zeigen, kann täuschen. Bei der Herstellung und Forschung zu autonom fahrenden Fahrzeugen gibt es primär zwei antreibende Gruppen. Zum einen sind das die Tech-Firmen wie Google oder Tesla, zum anderen die traditionellen Fahrzeugproduzenten wie die Volkswagen Gruppe, für die ich in China arbeite. Ich denke, die Technologie-Firmen haben eine ganz bestimmte Sichtweise auf die Welt und glauben, dass mit Maschinen früher oder später alle Probleme gelöst werden können. Die traditionellen Fahrzeughersteller wollen den Anschluss nicht verpassen und machen ähnliche Versprechen. Doch langsam aber sicher beginnt man zu begreifen, dass es für dieses moralische Dilemma nicht so schnell eine Lösung geben wird.

Stossen wir an unsere Grenzen?
Es gibt viele Missverständnisse darüber, was die Technologie leisten kann und wo wir stehen, und das liegt vor allem daran, dass die Unternehmen im Marketing viele falsche Vorstellungen propagieren. Und das gilt nicht nur für Fahrzeuge, sondern auch für viele weitere Bereiche.

Wie geht man mit einem Autounfall um, wenn er passiert, und wie programmiert man das? Es kann wie ein sehr kleines Detail erscheinen, aber es ist ein kleines Detail, das vielleicht Jahre über Jahre der Entwicklung und der Zusammenarbeit mit der Regierung benötigt, um die richtigen Gesetze zu finden, wie man das implementiert.

Wie kann denn ein Fortschritt erreicht werden?
Das ist sehr schwierig. Ich denke, dass die entscheidenden Impulse von den Regierungen kommen müssen. Vor zwei oder drei Jahren war Deutschland das erste Land, das einige Gesetze über ethische Regeln für autonome Fahrzeuge vorgeschlagen hat. Aber für die Entwicklung des Fahrzeugverhaltens bei einem Unfall reichen diese Regeln nicht aus. In der Automobil-Industrie gilt das Ziel, die Autos so sicher wie möglich zu machen, damit ein Unfall gar nicht passiert. Unfälle werden weiterhin passieren, aber immer seltener, wenn wir unsere Arbeit gut machen.

Das heisst … wir brauchen gar keine Lösung für die Unfall-Frage?
Doch. Sobald ein gewisses Grad an Autonomie in Fahrzeugen zum Standard gehört und plötzlich Unfälle geschehen, braucht es eine Antwort. Die Frage bleibt relevant. Und wahrscheinlich müssen die Regierungen dann aktiv werden, so wie es die deutsche Regierung vor ein paar Jahren getan hat, aber auf eine detailliertere und realistischere Art.

Dann dürfte tatsächlich die Automobil-Industrie sein, die als erstes Maschinen einsetzt, die nach einem ethischen Code entscheiden?
Ja, Autos sind etwas, das viele Menschen täglich benutzen, sie sind ein sehr relevantes Produkt für unsere westliche Zivilisation. Sicher, es gibt grosse Player wie zum Beispiel die Hersteller von Armeerobotern, aber sie betreffen die Menschen kaum in der gleichen Weise.

Wenn wir es Maschinen ermöglichen würden, Entscheidungen zu fällen, wären sie dann vielleicht nicht sogar moralischer als wir Menschen? Nicht von niederen Antrieben motiviert?
Ja, dieser Gedanke ist einer der Gründe, warum diese Debatte immer wieder angestossen wird. Wenn Maschinen, losgelöst von Emotionen, nur Regeln befolgen oder Dinge berechnen, dann sind sie vielleicht wirklich ethischer als Menschen. Ich wage aber eine Prognose: Wir Menschen werden diese Maschinen weiter überarbeiten und mit mehr Funktionen ausstatten und die gleichen Fragen werden sich wieder stellen. Schliesslich sind viele der Meinung, dass tatsächliche "Emotionen" ein wichtiger Bestandteil für ethische Entscheidungen sind und daher nur Menschen ethische Agenten sein können.

Zur Person

Der 37-jährige Matthieu Cherubini beschäftigt sich fortlaufend mit der Frage, ob und wie Technologie den Weg zu einer besseren Welt ebnet. Privat erschafft er mit Code und Daten sozialkritische Werke, welche er an Ausstellungen auf der ganzen Welt präsentiert. Beruflich ist der ursprünglich aus Bex VD stammende ehemalige Software-Ingenieur mittlerweile als Design-Technologe für VW tätig, wo er die Mobilität der Zukunft mitgestaltet. Cherubini lebt und arbeitet in Peking.

NOCH MEHR GESPRÄCHE MIT FASZINIERENDE PERSÖNLICHKEITEN FINDEST DU HIER:

In conversation with
In conversation with Jolanda Spiess Hegglin
AI Analytics

... Jolanda Spiess-Hegglin
In conversation with
In conversation with Gerhard Fatzer
Psychologie Leadership

... Gerhard Fatzer
In conversation with
In conversation with Walter Andreas Müller
Managed Services Data Platform

... Walter Andreas Müller