Zum Anfang

Traust du künstlicher Intelligenz?

Ob Navigationssysteme im Auto, Chatbots oder Bilderkennungssoftware: Künstliche Intelligenz (KI) hat das Potenzial die Gesellschaft stark zu verändern. Was bis jetzt fehlt sind Vertrauen und die Regulation. Die vom EDA mitorganisierte Konferenz «AI with trust» in Genf geht diesen Fragen nach. Sie bietet eine Plattform für den Austausch über die drängendsten KI-Herausforderungen. Die Schweiz kann aufgrund ihres Innovationsstandorts sowie ihrer Glaubwürdigkeit und Neutralität einen Mehrwert in die Debatte bringen.

16.05.2022
Ein Smartphone zeigt ein Emoji, das etwas hinterfragt.

Künstliche Intelligenz hat viel Potenzial. Die Schweiz bietet einen Mehrwert in der Debatte über das Vertrauen in künstliche Intelligenz und über ihre Regulierung. © Markus Winkler/Unsplash

Künstliche Intelligenz (KI) hat unbemerkt in vielen Bereichen unseres Alltags bereits einen festen Platz. Wenn wir am morgen verschlafen und ungekämmt unseren Blick aufs Smartphone richten, entsperrt KI mittels Bilderkennungsoftware das Telefon. Anschliessend öffnen wir unsere E-Mail-App. Dank KI, landen unerwünschte Werbungs- und Phishingmails im Spamordner. Anschliessend fahren wir zur Arbeit. Die KI im Navigationssystem warnt uns vor Stau und berechnet für uns die schnellste Al-ternative. Abends schlägt uns die KI von Netflix Filme vor, die uns interessieren könnten.

Ein Buch mit sieben Siegeln

Die stark zunehmende Rechenkraft von Computern in den letzten Jahrzehnten, die gigantische Verfügbarkeit von Daten und die Weiterentwicklung des maschinellen Lernens hat die künstliche Intelligenz dorthin gebracht, wo sie heute steht. Dank KI können computerbasierten Maschinen Aufgaben übertragen werden, die vorher nur Menschen ausführen konnten. Und das hat das Potenzial die Wirtschaft und die Gesellschaft stark zu verändern. Automatische Sprachübersetzung, selbstfahrende Autos, Chatbots oder Bilderkennungssoftware sind nur ein paar Beispiele. Doch bleibt KI für viele ein Buch mit sieben Siegeln: Die Undursichtigkeit wie KI zu einem Entscheid kommt, der Einsatz von KI zur Massenüberwachung, die Manipulation in Wahlkämpfen mit Hilfe von KI oder autonomeWaffensysteme haben Einfluss auf das Vertrauen, das die Gesellschaft in künstliche Intelligenz hat. Gemäss einer Studie, die das WEF in Auftrag gegeben hat, erwarten 60 Prozent der Erwachsenen weltweit, dass Produkte und Dienstleistungen, die künstliche Intelligenz nutzen, ihr Leben erleichtern werden. Gleichzeitig geben nur 50 Prozent an, dass sie Unternehmen, die KI nutzen, genauso viel vertrauen wie Unternehmen, die dies nicht tun.

Was braucht es, damit KI-Systemen besser vertraut werden kann?

KI-Systeme unterstützen den Menschen in vielen Bereichen, werden weltweit entwickelt und führen uns doch grundlegende Fragen zu Ethik, Recht und Standardisierung vor Augen. Denn Technologie ist nicht wertneutral. Die Entwickler von künstlicher Intelligenz entstammen einer Kultur und einem sozialen Umfeld, deren Werte Eingang in die Anwendung künstlicher Intelligenz finden. International finden dazu in zahlreichen Bereichen Diskussionen statt, die jedoch unübersichtlich, branchenspezifisch und wenig koordiniert sind. Die Schweiz will mit ihrer Aussenpolitik den Austausch zwischen den wichtigsten KI-Akteuren fördern. Abgeleitet aus ihrer Aussenpolitischen Strategie 2020-2023 nimmt sie eine aktive Rolle bei der Gestaltung eines internationalen Regelwerks für künstliche Intelligenz ein, das die Grundlage für Vertrauen in KI-Systeme legen soll. Ein internationales Regelwerk definiert die Zusammenarbeit zwischen den Akteuren, eine klare Rollenverteilung und klare Regeln bei der Anwendung von KI, wobei letztere auch der Privatwirtschaft den notwendigen Spielraum für Innovation erlauben.

Schweizer Mehrwert in der internationalen Debatte

Der Schweizer Standort für Forschung, Entwicklung und Innovation im Bereich der künstlichen Intelligenz ist im internationalen Vergleich weit fortgeschritten. Zahlreiche global agierende Unternehmen in der Medizintechnik, der Pharma- oder der Maschinenindustrie verlagern ihre Produktion ins Ausland, lassen aber ihre Produkt- und Dienstleistungsentwicklung zugunsten der Innovation in der Schweiz. Als Gaststaat verbindet die Schweiz im internationalen Genf zahlreiche Akteure und Organisationen, die als «Centre of Normative Power» gelten. Das sind Akteure wie Staaten, multilaterale Organisationen oder private Unternehmen, die eine zentrale Rolle in der Gestaltung für weltweit geltende Normen und Standards bei KI-Systemen spielen.

Ein anderer Genfer Akteur ist die Stiftung GESDA (Geneva Science and Diplomacy Anticipator). Sie verfolgt das Ziel, technologische und wissenschaftliche Revolutionen – darunter auch künstliche Intelligenz – vorauszuahnen und setzt sich mit deren Auswirkungen auf die Menschheit auseinander. Die internationalen Diskussionen um KI haben eine starke geopolitische Komponente. Wegen ihrer Neutralität und politischen Stabilität, kann die Schweiz in diesem Bereich einen Mehrwert bieten und kann als glaubwürdige Vermittlerin zu kompromissfähigen Lösungen beitragen.

Gestaltung eines internationalen Regelwerks

Die zweitägige Expertenkonferenz «Artificial Intelligence with trust» in Genf bringt wichtige Akteure auf dem Gebiet der KI zusammen. Sie bietet eine Plattform für den Autausch über die drängendsten KI-Herausforderungen. In den bisherigen internationalen Diskussionen haben sich fünf Ebenen herauskristallisiert, die für die Gestaltung eines internationalen Regelwerks von KI relevant sind und besser miteinander verknüpft werden sollen:

Völkerrecht

Das Völkerrecht umfasst bereits eine Vielzahl von Rechtsnormen, die für künstliche Intelligenz zentral sind. Dazu gehören unter anderem das in den Menschrechten verankerte Diskriminierungsverbot, Willkürverbot oder das Recht auf freie Meinungsäusserung. Dasselbe gilt auch für das humnitäre Völkerrecht in bewaffneten Konflikten – beispielsweise im Umgang mit autonomen Waffensystemen. Auf dieser Ebene soll der Dialog zwischen den wichtigen KI-Akteuren dazu beitragen, die bestehenden Normen im Völkerrecht an Fragen, die sich mit der Anwendung von künstlicher Intelligenz ergeben, anzupassen und nötigenfalls weiterzuentwickeln.

Soft Law

Im Bereich Soft Law bestehen bereits einzelne Instrumente, welche nicht-rechtsverbindliche Grundsätze für den Umgang mit KI beschreiben. So haben sich sich beispielsweise die Foren G7 und G20 im Jahr 2019 auf Grundsätze für den Umgang mit KI verständigt. Dazu gehört die Nutzung von KI für ein inklusives und nachhaltiges Wachstum oder die Förderung einer menschenzentrierten KI. Diese Grundsätze orientieren sich stark an denjenigen der OECD, die ebenfalls Empfehlungen für den Umgang mit KI veröffentlicht hat.

Nationales Recht mit internationaler Wirkung

Staaten wie die USA oder China, welche die Entwicklung von KI stark vorantreiben beeinflussen indirekt mit ihrem nationalen Recht die Entwicklung und dem Umgang mit KI auch in anderen Staaten. Eine solche nationale Rechtsnorm bekommt in diesem Fall internationale Relevanz.

Technische Standards und Selbstbindung der Unternehmen

Normierungsorganisationen wie die International Organization for Standardization (ISO), die International Electrotechnical Commission (IEC) sowie die International Telecommunication Union (ITU) definieren technische Standardisierungen. Also wie zum Beispiel KI-gesteuerte Roboter für die Ernährungsberatung oder intelligente Smarthome-Apparate funktionieren sollen. Für die Industrie spielen Standardisierungen eine zentrale Rolle und werden teilweise im nationalen oder internationalen Rahmen für verbindlich erklärt. Zahlreiche Technologieunternehmen veröffentlichen auch selbstbindende Erklärungen zu ethischen Fragen im Umgang mit mit KI. Dabei orientieren sie sich oft am Völkerrecht.

Die technologische Entwicklung schafft Fakten

Grosse Technologieentwickler schaffen durch die Ausgestaltung ihrer Produkte Fakten, die einen Bedarf für rechtliche oder technische Normierung haben. Ein Beispiel dafür war das geplante Ausrollen eines KI-basierten Inhaltsfilters von Apple zur Bekämpfung von kinderpornografischen Inhalten. Dieser Filter war aber in Fragen zum Schutz der Privatssphäre und der Daten der Zeit zu weit voraus. Seine Einführung wurde verschoben. Die Funktionsweise des Filters kann als Präzedenzfall angesehen werden, der das Regelwerk zu KI in diesem Bereich beeinflussen kann.

«AI with trust»: Konferenz für die Harmonisierung von künstlicher Intelligenz

Der Aufbau von Vertrauen in künstliche Intelligenz ist zu einem zentralen Anliegen für die Industrie, die Wissenschaft, den Gesetzgeber, die Entwickler von Standards und die Prüfer der Einhaltung von Vorschriften geworden. Vor diesem Hintergrund organisiert das Eidgenössische Departement für auswärtige Angelegenheiten (EDA) gemeinsam mit der International Electrotechnical Commission (IEC) am 16. und 17. Mai 2022 Expertenkonferenz «Artificial Intelligence with trust» in Genf. Ziel der Konferenz ist das Zusammenspiel zwischen Gesetzgebung, Normung und Konformitätsbewertung zu beurteilen und Schritte zu definieren, um die internationalen Bemühungen für KI zu harmonisieren.