Zurück zur Übersicht

Online Magazin

Ein Land strebt nach mehr künstlicher Intelligenz

Was bedeuten Data & AI für eine Landesregierung? Ganz schön viel - die Schweiz will eine Schlüsselrolle in der weltweiten digitalen Transformation einnehmen. Eine grosse Aufgabe für Bertrand Loison, Vizedirektor und Leiter der Abteilung Datenwissenschaft und statistische Methoden (DSSM) beim Bund. Im Gespräch berichtet er von aktuellen Entwicklungen, grossen Zielen und ethischen Bedenken beim Einsatz von künstlicher Intelligenz.  

 

Mit Bertrand Loison sprach Oliver Bosse

Der Bundesrat hat künstliche Intelligenz (KI) als „ein zentrales Thema der Strategie ‚Digitale Schweiz‘“ festgelegt. Was bedeutet dies genau?
Künstliche Intelligenz birgt ein immenses Potenzial für die gesamte Gesellschaft. Dieses Potenzial muss unbedingt auch in der Schweiz richtig und vollumfänglich genutzt werden. Das Ziel ist es, dass die Schweiz (sowohl als Land als auch als Wirtschaftsstandort) eine Schlüsselrolle in der weltweiten digitalen Transformation einnimmt. Damit dies gelingt, sind alle Akteure der Gesellschaft gefordert, ihren Teil beizutragen.

Als Leiter der Abteilung Datenwissenschaft und statistische Methoden des BFS haben Sie tagtäglich mit der digitalen Transformation zu tun. Wo sehen Sie gerade in der Bundesverwaltung Potenzial für Optimierungen durch KI?
Das Potenzial beim Bund ist riesig. Daher hat der Bundesrat die Interdepartementale Arbeitsgruppe Künstliche Intelligenz (IDAG KI) vor drei Jahren damit beauftragt, den Aufbau eines Kompetenznetzwerks für künstliche Intelligenz (CNAI) zu prüfen. Im Rahmen dieser Arbeit machten wir Anfang 2020 eine Umfrage innerhalb der Bundesverwaltung. Diese hat gezeigt, dass viele Mitarbeitende Ängste und Zweifel bezüglich des Einsatzes von KI in der Bundesverwaltung haben. Dies war auch einer der Gründe, weshalb der rasche Aufbau eines Netzwerkes wie dem CNAI grosse Zustimmung fand.


Aktuell sind Sie mit eben diesem Aufbau des CNAI, das ab Sommer 2022 operativ tätig werden soll, betraut. Welche Aufgaben nimmt das Kompetenznetzwerk künftig wahr?
Die Aufgabe dieses Netzwerkes soll es einerseits sein, das Vertrauen in künstliche Intelligenz sowie den Einsatz dieser Technologie innerhalb der Verwaltung und darüber hinaus rasch und nachhaltig zu fördern. Andererseits soll das CNAI das nationale und internationale Wissen, das für die erfolgreiche Umsetzung von KI-Projekten notwendig ist, systematisieren, bündeln und weitervermitteln. Zudem soll es Ansprechpartnerin für die bundesinterne und -externe Vernetzung sein. Das CNAI dient dabei als «Enabler» (Person, Stelle oder Sache, die etwas möglich macht) und «Facilitator» (Person, Stelle oder Sache, die eine Handlung oder einen Prozess leichter oder einfacher macht).

Das Ziel ist es, dass die Schweiz (sowohl als Land als auch als Wirtschaftsstandort) eine Schlüsselrolle in der weltweiten digitalen Transformation einnimmt. Damit dies gelingt, sind alle Akteure der Gesellschaft gefordert, ihren Teil beizutragen.

Wie die Projektdatenbank des CNAI zeigt, laufen bereits einige Pilotprojekte. Wo genau kommt denn künstliche Intelligenz beim Bund heute schon zum Einsatz?
Aktuell befindet sich der Grossteil der KI-Anwendungen in der Bundesverwaltung noch in den Anfängen (Studien und Prototypen) und nur sehr wenige KI-Anwendungen sind bereits im produktiven Betrieb. Beispiele für erfolgsversprechende Pilotprojekte finden sich in mehreren Departementen. Dabei sind folgende Themenfelder besonders relevant für die Bundesverwaltung:

  • Texterkennung (Text Recognition)
  • Spracherkennung (Speech Recognition)
  • Bilderkennung (Image Recognition)
  • Betrugserkennung (Fraud Detection)
  • Plausibilitätsprüfung (Plausibility Checks and Data Validation)
  • Vorrausschauende Instandhaltung (Predictive Maintenance)

Bei uns im Bundesamt für Statistik (BFS) bietet der Einsatz von KI ein Potenzial für die Automatisierung und Rationalisierung von Aufgaben mit repetitivem Charakter. Diese Projektdatenbank des CNAI ermöglicht einen Überblick über KI-relevante Projekte in der Bundesverwaltung und schafft Transparenz über die in der Bundesverwaltung vorhandenen KI-Projekte.


Wie fällt Ihr Fazit zu diesen Projekten bis jetzt aus? Bewährt sich der Einsatz von KI?
Wie gesagt, steckt der Einsatz von KI bei uns noch in den Kinderschuhen und es gibt noch viel zu lernen. Ich persönlich sehe vier Lehren, die wir bislang ziehen können:

  • Ausbildung: Die Ausbildung von Mitarbeiterinnen und Mitarbeitern ist in den Bereichen Datenwissenschaft und KI von entscheidender Bedeutung. Deshalb haben wir in Zusammenarbeit mit der EPFL Extension School ein Schulungsprogramm (inklusive Lernpfade) entwickelt, das es allen Rollen in einem Bundesamt ermöglicht, sich je nach Bedarf in diesen Themenbereichen weiterzubilden.

  • Gouvernanz: KI zeichnet sich durch eine fachliche, eine technische und eine algorithmische Komponente aus, was eine nicht zu unterschätzende Herausforderung in Bezug auf die Gouvernanz. Diese Gouvernanz muss sich in den verschiedenen Bundesämtern noch etablieren, insbesondere bei den Leiterinnen und Leitern der Rechtsdienste, den IT-Verantwortlichen, den Datenschutzbeauftragten und den Direktionen der Bundesämter.

  • Datenqualität: Das alte Sprichwort "Garbage In, Garbage Out" ist weiterhin aktuell und darf auf keinen Fall in Vergessenheit geraten. Datenwissenschaft und KI erfordern ein Datenmanagement und eine vorgelagerte Datenqualitätskontrolle, die einerseits besonders leistungsfähig und andererseits innerhalb der Bundesverwaltung übergreifend sind.

  • Ethik: Die Entwicklung und der Einsatz von Algorithmen, die Entscheidungen treffen können, führt unweigerlich zu zentralen Fragen der Ethik, der rechtlichen Grundlagen und des Datenschutzes. Diese Fragen müssen im Kontext der öffentlichen Politik auf professionelle und pragmatische Weise angegangen werden. Das Funktionieren des Rechtsstaats steht immer im Zentrum – auch beim Einsatz von KI. Sollten Anpassungen der Rechtsgrundlage erforderlich sein, können sie nur in diesem Kontext erfolgen.

 

Stichwort „Funktionieren des Rechtsstaates“: Sie haben sich im Vorfeld auch Gedanken zu den möglichen Herausforderungen und Risiken beim Einsatz von KI gemacht. Zu welchen Erkenntnissen gelangten Sie und welche Erfahrungen haben Sie diesbezüglich gemacht?
Die wichtigste Erkenntnis spiegelt sich auch in unseren Leitlinien für den Umgang mit KI. Bei jeder Technologie, die bei uns zum Einsatz kommt, müssen die Fragen nach Transparenz, Reproduzierbarkeit, Nachvollziehbarkeit und Ethik jederzeit beantwortet werden können. So muss immer klar sein, wie ein KI-System zu seinen Ergebnissen gekommen ist. Diese Frage entscheidet dann schlussendlich auch darüber, ob ein Projekt in Produktion gehen soll oder eben nicht. Denn: Die Nachvollziehbarkeit spielt gerade im öffentlichen Sektor eine grosse Rolle, da dieser die Rechtsstaatlichkeit gewährleisten und immer in der Lage sein muss, die getroffenen Entscheidungen zu begründen. Wenn wir nicht verstehen, wie ein Algorithmus zu seinen Resultaten gekommen ist, können wir die Rechtsstaatlichkeit nicht mehr garantieren. Ein Risiko, das es unbedingt zu vermeiden gilt. Aus diesem Grund wird jedes KI-Projekt, das in der Bundesverwaltung angestossen wird, genauestens auf die oben genannten Fragen hin geprüft.

Wenn wir nicht verstehen, wie ein Algorithmus zu seinen Resultaten gekommen ist, können wir die Rechtsstaatlichkeit nicht mehr garantieren.

In den Leitlinien für den Umgang mit KI wird auch klar das Ziel definiert, dass die Schweiz sich zu einem führenden Standort für Forschung und Anwendung sowie für Unternehmen im Bereich KI weiterentwickeln will. Wie gehen Sie dabei vor? Welche Rahmenbedingungen und Massnahmen braucht es dafür?
Damit wir dieses Ziel erreichen können, müssen wir den Weg dorthin möglichst genau aufzeigen und planen. Das heisst, wir brauchen – wie bei einer Wanderung in unbekanntem Gebiet – eine genaue Karte, die allen Beteiligten den gleichen Weg vorgibt, damit wir sicher ans Ziel kommen. Die Basis für diese «Wanderkarte» bilden zwei Strategien: die Strategie «Digitale Schweiz» sowie die Strategie «Digitalaussenpolitik 2021-2024». Erstere dient als Dachstrategie und gibt die Leitlinien für das staatliche Handeln im Bereich Digitalisierung vor. Letztere definiert die konzeptionellen Grundlagen für die Mitgestaltung der internationalen Gouvernanz im Bereich der Digitalisierung.

Darauf aufbauend erstellten wir die Leitlinien für den Einsatz von KI in der Bundesverwaltung, die nun ebendiese «Wanderkarte» bieten – ein Wegweiser, ein allgemeiner Orientierungsrahmen für die Bundesverwaltung sowie die Trägerinnen und Träger von Verwaltungsaufgaben. Ausserdem fungiert das Kompetenzzentrum für Datenwissenschaft (DSCC) unter anderem auch als neutrale Instanz für die öffentlichen Verwaltungen. In dieser Rolle gibt das DSCC ein wissenschaftliches Urteil über die Qualität der Daten und der im Rahmen eines Projekts verwendeten Algorithmen ab. Ziel ist es, Verzerrungen zu vermeiden, die durch den Einsatz von automatischen Datenverarbeitungsalgorithmen entstehen.

Auf globaler Ebene will die Schweiz aktiv dabei mitwirken, Standards und Normen für künstliche Intelligenz mitzugestalten. In welchem Rahmen wird dies geschehen und wofür setzt sich die Schweiz dabei ein?

Die Schweiz beteiligt sich aktiv an der Entwicklung eines internationalen Regulierungsrahmens für KI – zusammen mit der OECD, des Europarats, der UNESCO und der Internationalen Fernmeldeunion (ITU). Daher ist der Bund auch nahe an der Diskussion über die geplante KI-Regulierung in der EU und analysiert die möglichen Auswirkungen auf die Schweiz. In diesem Zusammenhang hat beispielsweise im November letzten Jahres das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) dem Bundesrat (BR) aufgezeigt, wie KI-gestützte Kommunikationsplattformen die öffentliche Kommunikation in der Schweiz und die Meinungsbildung der Schweizer Bevölkerung beeinflusst. Daraufhin hat der BR das UVEK beauftragt, bis Ende 2022 aufzuzeigen, ob und wie die Kommunikationsplattformen reguliert werden sollten.

Darüber hinaus dient die vom Bundesamt für Kommunikation (BAKOM) geleitete Platform Tripartite Suisse als offenes Austauschorgan für alle Interessengruppen zu KI-Fragen und verfügt über einen Verwaltungsausschuss, der die Schweizer Positionen in internationalen Gremien und Prozessen koordiniert.

Werden auch Anspruchsgruppen wie beispielsweise die Schweizer Wirtschaft miteinbezogen? Inwiefern?
Absolut! Wie bereits eingangs gesagt, betrifft die Digitalisierung alle Akteure der Gesellschaft und daher sollen auch alle die Möglichkeit haben, sich zu diesem Thema einzubringen. Eine der Hauptaufgaben des CNAI ist die Vernetzung von Expertinnen und Experten, Projektleiterinnen und Projektleitern, Datenwissenschaftlerinnen und Datenwissenschaftlern usw., um gemeinsam, in interdisziplinären Teams, Lösungen für KI-basierte Probleme zu finden. Aus diesem Grund sind wir auch konstant auf der Suche nach interessierten Akteuren, die bereit sind, sich aktiv einzubringen und ihre KI-Erfahrungen zu teilen. Interessierte Personen, Institutionen, Organisationen oder Firmen können Teil der „Community of Practice“ werden. Ausgewiesene KI-Expertinnen und ‑Experten können sich zudem für die „Community of Expertise“ bewerben.

Eine der Hauptaufgaben des CNAI ist die Vernetzung von Expertinnen und Experten, Projektleiterinnen und Projektleitern, Datenwissenschaftlerinnen und Datenwissenschaftlern usw., um gemeinsam, in interdisziplinären Teams, Lösungen für KI-basierte Probleme zu finden.

Was ist Ihr persönliches Ziel, das Sie im Rahmen des „Kompetenznetzwerks für künstliche Intelligenz“ erreichen möchten?
Ich habe zwei persönliche Ziele: Zum einen soll es dem CNAI gelingen, diesen "Hub" zu schaffen, der es ermöglicht, die in der Schweiz vorhandenen Kompetenzen innerhalb der Bundesverwaltung im Bereich der KI zu bündeln und aktiv zur digitalen Strategie der Schweiz beizutragen. Zum anderen haben wir für das CNAI natürlich auch finanzielle und personelle Ziele, die wir erreichen wollen – damit wir der Aufgabe dieses Netzwerkes gerecht werden und so die Digitalisierung in der Schweiz weiter vorantreiben können.

Zur Person

Dr. Bertrand Loison ist Vizedirektor und Leiter der Abteilung Datenwissenschaft und statistische Methoden (DSSM). Diese umfasst nebst dem Kompetenzzentrum des Bundes für Datenwissenschaft (DSCC), das als Leistungserbringer verwaltungsintern Dienstleistungen im Bereich der Datenwissenschaft – im Sinne von «Data Science as a Service» (DSaaS) – anbietet, ebenfalls das Kompetenzzentrum des Bundesamts für Statistik für statistische Methoden.

IN GESPRÄCHSLAUNE? MEHR GESPRÄCHSPARTNER FINDEST DU HIER:

Im Gespräch mit
KI in der Forschung Machine Learning KI

... Pablo Piaggi
Im Gespräch mit
KI Machine Learning

... Ute Schmid
Im Gespräch mit
KI in der Forschung Computer Vision KI Machine Learning

... Valentin Bickel