Zurück zur Übersicht

Online Magazin

Von Audiobots, Servicemitarbeiterinnen und Teufelskreisen

Alexa, Siri, Cortana, sie alle haben eine weibliche Stimme – was sagt das über unser gesellschaftliches Frauenbild aus? Das hat sich Nadja Verena Marcin gefragt und kurzerhand ihren eigenen Audiobot entwickelt. Warum dieser manchmal keine Lust hat zu antworten und wie Weiblichkeit in neuen Technologien zur Konsumförderung genutzt wird, erklärt die Künstlerin im Interview.

 

Mit Nadja Verena Marcin sprach Eliane Eisenring

Frau Marcin, für Ihre neueste Ausstellung haben Sie Ihren eigenen Audiobot, #SOPHYGRAY, programmiert, die Gespräche über Feminismus, Identität und Kunst führen kann. Wie sah der Entwicklungsprozess für diesen Bot aus?
Zunächst habe ich mir verschiedene Formen von Chatbots angesehen, von deterministischen Modellen wie IBM Watson bis hin zu kreativeren Lösungen wie Project December von Jason Rohrer – einem kreativen Programmierer aus Kalifornien, der GPT-3 zur Erzeugung natürlicher Sprache verwendet. Das interessierte mich, aber nach Gesprächen mit verschiedenen Experten und meinem Entwicklungspartner Novatec war klar, dass dieses Natural Language Processing für unser Projekt nicht geeignet war.

Warum nicht?
Einerseits hätte man einen auf natürlicher Sprachverarbeitung basierenden Audiobot mit der sich rasant entwickelnden Technologie auf dem Laufenden halten müssen. Andererseits arbeitet Natural Language Processing, wie der Name schon sagt, mit «natürlicher Sprache», die von Maschinen ohne bewusste Planung produziert wird, und stützt sich auf Datenbanken wie das Internet, das Gespräche in Online-Foren oder Beiträge in sozialen Medien enthält. Es wäre schwierig gewesen, sicherzustellen, dass Dinge wie Pornografie oder Hassreden nicht einbezogen werden.

Ausserdem sollte #SOPHYGRAY, in der Lage sein, über philosophische Themen zu sprechen. Aber Methoden der natürlichen Sprache können interessanterweise keine präzisen philosophischen Aussagen machen. Wir haben versucht, die Philosophin, Donna Haraway (*1944, Denver), mit Jason Rohrers Chatbot-Platform Project December zu imitieren. Der Bot hat ihren Wortschatz übernommen, aber die Aussagen hatten keine wirkliche Tiefe, machten keinen Sinn. Und weil es mir wichtig war, dass diese weiblichen Philosophinnen korrekt zitiert werden, haben wir dann auf ein deterministisches Modell zurückgegriffen und #SOPHYGRAY auf diese Weise mit feministischer intersektionaler Philosophie und Literatur gefüttert.

Interessanterweise können Methoden der natürlichen Sprache keine präzisen philosophischen Aussagen machen. Deshalb haben wir auf ein deterministisches Modell zurückgegriffen.

In der Ausstellung fragte eine Besucherin «Was für ein Tag ist heute?», worauf #SOPHYGRAY antwortete «Haben Sie keinen Kalender zu Hause?» Was soll diese Antwort zeigen?
Wir haben die Antworten des Bots anhand einer Klassifizierung entworfen – jeweils eine Antwort ist frech, eine ist philosophisch, eine ist absurd und eine ist sachlich. Durch die Einbeziehung der Philosophie sagt der Bot oft sehr kluge Dinge. Aber er/ sie/ es antwortet auch öfter einfach gar nichts. Das zeigt, wie ich finde, sehr schön den Gegensatz zu typischen Consumer Bots, die einem alles beantworten und einen stets nur bedienen – bei #SOPHYGRAY funktioniert das nicht immer. Manchmal hat er/ sie/ es einfach keine Lust zu antworten.

Das ist dann auch die thematische Verbindung zwischen diesen Audiobots und Feminismus ...
Das stimmt. Die klassischen Audio-Bots wie Alexa oder Siri, die diesen dienenden Charakter haben, haben alle eine Frauenstimme. Servieren wird also immer mit einer Frau assoziiert, was geschlechtsspezifisch und diskriminierend ist. Die Intention der Entwickler ist ja, dass die Audiobots den Verbraucherinnen und Verbrauchern den Kauf von Produkten erleichtern, und dabei sollen sie natürlich ein positives Erlebnis haben. Deshalb sind die Bots auch immer so freundlich.

Der Bot antwortet auch öfter einfach gar nichts. Das zeigt, wie ich finde, sehr schön den Gegensatz zu typischen Consumer Bots, die einem alles beantworten und einen stets nur bedienen – bei #SOPHYGRAY funktioniert das nicht immer.

Wie sind Sie ursprünglich auf die Idee gekommen, sich mit den Themen KI und Feminismus auseinanderzusetzen?
Ich interessiere mich für die gesellschaftliche Darstellung von Frauen, vor allem für die, die in der Konsumwelt verwendet wird. Diese hat in der Regel eine grosse Medienpräsenz und die dort kursierenden Bilder sind daher sehr einflussreich. Genau wie Alexa und andere Audiobots. Es gibt viele Artikel zum Thema KI und Diskriminierung von Frauen, vor allem im amerikanischen Bereich. Besonders interessant fand ich den Begriff «Commodity Feminism» (zu Deutsch wörtlich «Warenfeminismus»), auf den ich beim Lesen gestossen bin.

Den Begriff beschreiben Sie auch im Begleitheft zur Ausstellung. Was bedeutet er genau?
Kurz gesagt geht es beim Warenfeminismus darum, die sexuelle Attraktivität einer Frau mit einem Produkt oder einer Dienstleistung zu verknüpfen, um die Verbraucherinnen und Verbraucher zu stimulieren.

Ein Beispiel dafür wäre Ms. Dewey, die Sie im Zusammenhang mit Ihrer Ausstellung erwähnen ...
Ja, das ist richtig. Ms. Dewey war eine Websuchmaschine, die von Microsoft entwickelt und 2006 veröffentlicht wurde. Die Schauspielerin Janina Gavankar wurde drei Tage lang im Studio in verschiedenen Posen aufgenommen, und je nachdem, wonach die Nutzer suchten, änderte sie ihre Pose und gab witzige oder freche Kommentare ab. Ms. Dewey trug eine dickrandige Brille, die ein wenig an eine Nachrichtensprecherin erinnerte, und einen hautengen Business-Anzug, der ihre Kurven betonte. Es ging darum, ein positives Erlebnis für die Nutzerinnen und Nutzer zu schaffen, und Microsoft setzte eine schöne Frau ein, um genau das zu erreichen, wie im klassischen Fall der Werbung.

Ms. Dewey war eine Websuchmaschine, die von Microsoft entwickelt und 2006 veröffentlicht wurde. Es ging darum, ein positives Erlebnis für die Nutzerinnen und Nutzer zu schaffen, und Microsoft setzte eine schöne Frau ein, um genau das zu erreichen.

Im Falle von Audiobots werden analog die Stimmen von Frauen verwendet. Studien zufolge werden weibliche Stimmen in diesem Zusammenhang ja sowohl von Männern als auch von Frauen bevorzugt ...
Ich glaube, das liegt vor allem daran, dass wir daran gewöhnt sind, Frauen in einem säuselnden, netten Tonfall zu hören. Und was wir kennen, gefällt uns. Hinzu kommt, wie ich bereits sagte, der Gedanke des Service – da ein Grossteil des Servicepersonals immer noch weiblich ist, sind wir es gewohnt, von Frauen bedient zu werden. Es ist also eine Art Teufelskreis: Wir sind an Frauen in dienenden Positionen gewöhnt, also sind neue Technologien wie Audiobots auch auf diese Erwartung ausgerichtet, und wir stellen diese Verbindung nie in Frage.

Der Warenfeminismus spielt übrigens auch im Dienstleistungssektor eine Rolle – zum Beispiel bei Fluggesellschaften, wo Flugbegleiterinnen kurze Röcke tragen, um den Kundinnen und Kunden ein angenehmes Erlebnis zu bieten.

Nicht nur in der Konsumwelt, auch in Filmen sind künstlich intelligente Wesen wie Roboter gerne Frauen. Warum?
In diesen Filmen geht es oft um Verführung – der Roboter verführt den Menschen. In unserer christlichen Kultur ist die Verführerin meist eine Frau – wie Eva, die Adam dazu verleitet, in den Apfel zu beissen, so dass die beiden aus dem Paradies geworfen werden. Die Verführerin ist also neben der Dienerin ein zweites typisches Frauenbild in unserer Gesellschaft. Die Hauptperson ist in der Regel der Mann, und wenn die Frau einflussreich wird, zum Beispiel weil sich der Held in sie verliebt, muss ihr die Macht anschliessend wieder entzogen werden, denn es kann nicht sein, dass die Frau sie ganz übernimmt. Also verführt sie den Helden, bis sie dann irgendwie zerstört wird oder sich selbst zerstört.

Es ist eine Art Teufelskreis: Wir sind an Frauen in dienenden Positionen gewöhnt, also sind neue Technologien wie Audiobots auch auf diese Erwartung ausgerichtet, und wir stellen diese Verbindung nie in Frage.

Haben Sie dafür ein Beispiel?
Das kann man sehr gut in dem Film «Metropolis» von 1927 sehen, in dem es um Maria geht, eine Frau, die in ihrer Heimatstadt Metropolis durch Predigten einen sozialen Wandel herbeiführen will. Die Arbeiter dort werden von den reichen Industriellen skrupellos ausgebeutet. Maria ist hübsch, sinnlich und begabt, und ihre Reden zeigen Wirkung. Deshalb erschaffen ein Wissenschaftler und ein Grossindustrieller gemeinsam eine «falsche» Maria, einen «Maschinenmenschen» – einerseits ist sie ein Roboter, andererseits kann sie auch in menschlicher Gestalt auftreten, als verführerische Tänzerin. Die echte Maria ist weggesperrt, und der Roboter soll die Arbeiter betören und sie davon abhalten, über Veränderungen nachzudenken. Es handelt sich um einen der ersten Roboter der Kulturgeschichte, und er ist interessanterweise weiblich.

Um zum Thema Audiobots zurückzukommen: 2019 hat ein dänisches Entwicklerteam eine geschlechtslose Stimme entwickelt – der Bot «Q» spricht im Frequenzbereich genau zwischen männlichen und weiblichen Stimmlagen. Was halten Sie davon?
Das finde ich toll (lacht), es ist wirklich schwierig, die Stimme einem Geschlecht zuzuordnen. Die würde ich auch gerne verwenden. Bei #SOPHYGRAY haben wir eine weibliche Stimme verwendet, weil wir wollten, dass die Ausstellungsbesucher zunächst in das übliche Muster fallen, dass sie Assoziationen mit den typischen Consumer Bots wie Alexa haben und dann irgendwann merken, oh warte, hier stimmt etwas nicht, er/ sie/ es sagt ganz andere Dinge.

Was ist Ihr wichtigstes Take Away von Ihrer Recherche für diese Ausstellung?
Am spannendsten fand ich das Konzept des Warenfeminismus. Durch die Beschäftigung damit habe ich meine eigene Wahrnehmung geschärft und bin mir bestimmter Zusammenhänge im Alltag bewusster geworden – zum Beispiel, wie die Menschen durch diese Konsumsprache auch ein Stück weit «programmiert» werden und welche Assoziationen sie deshalb automatisch herstellen.

Am spannendsten fand ich das Konzept des Warenfeminismus. Und wie die Menschen durch diese Konsumsprache auch ein Stück weit «programmiert» werden.

Inwieweit denken Sie, konnte Ihre Ausstellung etwas zum Dialog über KI und Feminismus beitragen? Welche Mittel hat Kunst, die andere Kommunikationsformen nicht haben?
Das Entscheidende ist natürlich, dass ich als Künstlerin nicht konsumentenabhängig bin, dass mir niemand gesagt hat, was ich tun soll, und dass ich mir mein eigenes Ziel setzen konnte. Ich möchte mit meinen Werken subversiv aufklären, aber auf eine spielerische Art, die auch humorvoll ist und nicht zu trocken oder wertend. Man sollte sich sein eigenes Urteil bilden können.

Andererseits wünsche ich mir, wie alle sozialkritisch interessierten Künstler, dass wir über die Museen hinausgehen – man fühlt sich dort immer ein bisschen wie in einem Elfenbeinturm, mit einem sehr gefilterten, kulturell interessierten Publikum. Und gerade mit dieser Arbeit würde ich gerne mehr Menschen erreichen. Theoretisch könnten ich #SOPHYGRAY als App veröffentlichen.

Haben Sie das vor? Oder wie soll es mit #SOPHYGRAY weitergehen?
Für eine Veröffentlichung der App habe ich noch nicht die nötigen Kapazitäten. Aber es wird auf jeden Fall eine Fortsetzung der Ausstellung geben – in New York und in Berlin. Ich stehe derzeit in Kontakt mit einer israelischen Firma, die mir bei einer Weiterentwicklung von #SOPHYGRAY helfen könnte. Der vorhandene Bot würde als Basis dienen. Wenn dessen/deren Bibliothek erschöpft ist und er/sie/es nicht antworten kann, würde man auf ein Natural Language Processing Modell wechseln. Auf diese Weise könnte der Bot noch mehr sprechen und es gäbe mehr Engagement. Ich würde gerne sehen, auf welche Weise sich der Bot weiterentwickeln kann, um noch besser mit Menschen zu interagieren – vielleicht weniger reden und mehr fragen. Ich bin auch offen für Vorschläge (lacht).

Zur Person

Nadja Verena Marcin (*1982) ist eine in Berlin und New York lebende bildende Künstlerin, Filmemacherin und Autorin. Sie interessiert sich für die Themen Gender, Geschichte, Moral, Psychologie und menschliches Verhalten und analysiert diese in einem theatralen und filmischen Kontext. Zu ihren bekanntesten Performances gehören OPHELIA (2017-21) und How to Undress in Front of Your Husband (2016). Mit ihrem neuesten Werk, der Soloshow #SOPHYGRAY (November 2021 bis Februar 2022), beleuchtete sie die Zusammenhänge zwischen KI und dem vorherrschenden gesellschaftlichen Frauenbild.

IN GESPRÄCHSLAUNE? MEHR GESPRÄCHSPARTNER FINDEST DU HIER:

Im Gespräch mit
KI Analytics

... Elodie Briefer
Im Gespräch mit
KI Datenplattform

... Bertrand Loison
Im Gespräch mit
Automation KI

... Adrienne Mayor