Minister zeigt sich enttäuscht von OpenAI – Warum dauert die KI-Regulierung so lange?

Bundesminister, die sich am Mittwoch mit Vertretern von OpenAI trafen, zeigten sich enttäuscht darüber, dass das Unternehmen keine konkreten Maßnahmen zur Verbesserung seiner Sicherheitsvorkehrungen vorlegte – etwa bezüglich der Warnung der Polizei bei auffälligem Onlineverhalten von Nutzerinnen und Nutzern.

Fachleute hinterfragen jedoch, warum die Bundesregierung bei der Regulierung künstlicher Intelligenz bislang zögerlich agiert hat, insbesondere bevor die jüngsten Sorgen nach dem Amoklauf in Tumbler Ridge, B.C., aufkamen.

KI-Minister Evan Solomon erklärte, er gebe dem Unternehmen in den kommenden Tagen die Gelegenheit, ihn über „konkrete“ Schritte zu informieren, bevor er und andere Minister das Thema gesetzlich angehen. Dabei verwies er darauf, dass bereits mehrere Gesetzesvorhaben zu KI-Sicherheit und Datenschutz in Arbeit sind.

„Wir haben dem Unternehmen mitgeteilt, dass wir klare Vorschläge und konkrete Handlungen erwarten“, sagte Solomon vor einem Treffen des liberalen Fraktionsvorstands in Ottawa gegenüber Journalisten.

„Es enttäuscht uns, dass sie bis zu ihrem Besuch hier nichts Greifbareres vorweisen konnten, aber wir werden bald sehen, was sie vorlegen“, fügte er hinzu und betonte, dass „alle Optionen“ für das Regierungshandeln offenstünden.

Solomon hatte die Vertreter der Firma hinter ChatGPT nach Ottawa eingeladen, nachdem bekannt wurde, dass die Täterin des Amoklaufs in Tumbler Ridge am 10. Februar bereits im Juni des Vorjahres intern wegen ihrer Aktivität im KI-Chatbot auffällig wurde.

OpenAI informierte die Royal Canadian Mounted Police (RCMP) erst nach dem Massaker. Das Unternehmen begründete dies damit, dass die als „gewalttätig“ eingestuften Aktivitäten damals nicht die interne Schwelle für eine „unmittelbare“ Bedrohung erfüllten und das Konto vor über sieben Monaten gesperrt wurde.

Justizminister Sean Fraser, Innenminister Gary Anandasangaree sowie Kultur- und Identitätsminister Marc Miller – dessen Ministerium an neuer Online-Schadensgesetzgebung arbeitet – nahmen ebenfalls an dem Treffen teil.

Premierminister Mark Carney sagte am Mittwoch, er sei über das Treffen mit OpenAI noch nicht informiert worden, zeigte sich jedoch offen für Änderungen.

„Ich habe mit den Familien von Tumbler Ridge gesprochen, die Ersthelfer getroffen und das Entsetzen und den Schmerz miterlebt, den das Ereignis verursacht hat“, erklärte er.

„Natürlich muss alles getan werden, was möglich ist, um solche Tragödien künftig zu verhindern. Wir werden das gesetzlich umfassend prüfen und den Prozess transparent gestalten.“

Solomon und die anderen Minister betonten, dass sich staatliche Maßnahmen vor allem auf die Kriterien konzentrieren würden, wann besorgniserregendes Verhalten an die Strafverfolgung weitergeleitet wird.

„Es gibt Fragen zur Einschätzung der Glaubwürdigkeit und Unmittelbarkeit einer Bedrohung, die, wenn sie richtig gehandhabt werden, zukünftig Tragödien verhindern könnten“, sagte Fraser.

„Unsere klare Botschaft war, dass wir erwarten, dass Veränderungen zügig umgesetzt werden. Kommen diese nicht, wird die Regierung selbst handeln.“

OpenAI teilte am Dienstagabend mit, man schätze den „offenen Dialog darüber, wie solche Tragödien in Zukunft verhindert werden können“.

„In den vergangenen Monaten haben wir unsere Schutzmaßnahmen verstärkt und die Protokolle für die Weiterleitung an Strafverfolger bei gewalttätigen Fällen angepasst. Die Minister machten jedoch deutlich, dass die Kanadier weiterhin konkrete Schritte erwarten, was wir sehr ernst nehmen“, erklärte ein Sprecher.

„Wir haben zugesagt, in den kommenden Tagen über zusätzliche Maßnahmen zu informieren und arbeiten weiterhin eng mit den Behörden zusammen, um die KI-Sicherheit für alle Kanadier zu stärken.“

OpenAI machte keine genauen Angaben zu den kürzlich vorgenommenen Änderungen und reagierte am Mittwoch nicht sofort auf eine Interviewanfrage von Global News.

Fachleute, die zu Online-Schäden und KI forschen, sehen im Fall Tumbler Ridge ein Zeichen dafür, dass die KI-Branche sich nicht selbst regulieren darf und der Staat proaktiver handeln muss.

„Die Minister sollten sich als Verantwortliche für eine ernsthafte Regulierung von ChatGPT und ähnlichen Tools sehen“, sagte Jennifer Raso, Assistenzprofessorin für Recht an der McGill University.

„Die Firmen erst nach einer der schlimmsten Amoktat in Kanada nach Ottawa zu holen, um sich nachträglich zu rechtfertigen, kommt zu spät.“

Gesetzesinitiativen zur Regulierung der KI-Branche und zur Bekämpfung von Online-Schäden scheiterten im vergangenen Jahr vor der Bundestagswahl im Parlament.

Das Artificial Intelligence and Data Act hätte AI-Unternehmen verpflichtet, ihre Plattformen auf Sicherheitsrisiken und Missbrauch zu überwachen und proaktive Maßnahmen zur Verhinderung realer Schäden zu ergreifen.

Solomon versprach, im ersten Quartal dieses Jahres eine neue bundesweite KI-Strategie vorzustellen, deren Einführung ursprünglich für Ende 2025 geplant war.

In einer Rede betonte er letztes Jahr, Ottawa wolle „nicht zu sehr auf Warnungen und Regulierung setzen“, was die wirtschaftlichen Chancen und die schnelle Einführung von KI-Technologien unterstreicht.

Eine Zusammenfassung der öffentlichen Rückmeldungen zur kommenden Strategie zeigt jedoch, dass Kanadier der KI skeptisch gegenüberstehen und verstärkte staatliche Regulierung wünschen, insbesondere zum Schutz vor Online-Schäden und psychischen Belastungen.

Während Verbündete wie das Vereinigte Königreich und die Europäische Union ihre KI-Regulierung verschärfen, sind die Bemühungen in den USA unregelmäßig. Präsident Donald Trump hatte die Bundesstaaten angewiesen, keine eigenen Regelungen zu erlassen, bevor eine nationale Strategie vorliegt, die bislang aber aussteht.

Kanadas Datenschutzgesetz sieht vor, dass private Unternehmen „dürfen“ – nicht müssen – persönliche Daten an Behörden oder andere Organisationen weitergeben, wenn sie eine erhebliche Gefahr oder Rechtsverstöße vermuten.

Die Entscheidung liegt somit beim Unternehmen, was zu internen Schwellenwerten wie dem „unmittelbaren“ Bedrohungsbegriff von OpenAI führt.

Solomon sagte am Mittwoch, dass an einer Aktualisierung des Gesetzes zum Schutz persönlicher Daten gearbeitet werde, nannte jedoch weder einen Zeitpunkt für die Vorlage noch weitere Details.

Anandasangaree zeigte sich zuversichtlich, dass die Untersuchung des Amoklaufs auch Antworten von OpenAI liefern werde.

„Die Vielzahl der Probleme rund um Tumbler Ridge bereitet mir Sorgen“, sagte er nach der Fraktionssitzung.

„Das gestrige Treffen mit OpenAI war ein wichtiger erster Schritt. Es gibt noch viele offene Fragen und die allgemeine Frustration, dass Tech-Unternehmen insgesamt zu wenig gegen die Probleme mit den von ihnen gespeicherten Informationen unternehmen.“

Solomon betonte, die Regierung wolle sicherstellen, dass sich das, was in Tumbler Ridge geschah, nicht wiederholt.

„Natürlich gab es hier ein Versagen“, sagte er. „Man sieht ja, was passiert ist.“