Kanadische Regierung prüft Maßnahmen gegen KI-generierte sexuelle Missbrauchsdarstellungen auf X
Innerhalb der kanadischen Regierung finden laut Global News derzeit aktive Gespräche darüber statt, wie auf die fortgesetzte Erstellung sexueller Missbrauchsdarstellungen durch X.com reagiert werden soll.
Die Social-Media-Plattform ermöglicht es ihrem KI-Chatbot Grok, sexualisierte Bilder von Personen ohne deren Zustimmung zu erzeugen, darunter Berichte über die Erstellung von sexuellem Kindesmissbrauchsmaterial. Die Nutzung dieses Tools zur Erzeugung nicht einvernehmlicher intimer Bilder verbreitete sich Ende Dezember stark, was sowohl online als auch bei Regierungen im Laufe des Januars zu wachsender Empörung führte.
Mehrere Bundesministerien, darunter Public Safety Canada, das Justizministerium, das Ministerium für kanadische Kultur und Identität sowie das Büro von KI-Minister Evan Solomon, arbeiten an einer kanadischen Antwort auf den Skandal, während weltweit Regierungen Ermittlungen und Regulierungsmaßnahmen gegen das Unternehmen erwägen.
Es ist noch unklar, welche Optionen die kanadische Regierung prüft, doch Solomon schloss ein generelles Verbot der Plattform, die Elon Musk gehört, aus.
„Entgegen der Medienberichte erwägt Kanada kein Verbot von X“, schrieb der Minister am frühen Sonntagmorgen auf der Plattform.
Solomon reagierte damit auf einen Bericht der Telegraph, wonach die britische Regierung versuche, gleichgesinnte Länder wie Kanada und Australien für ein „Durchgreifen“ gegen X zu gewinnen. Solomon wird voraussichtlich innerhalb der nächsten Tage ein Update zur kanadischen Haltung geben.
Der britische Premierminister Keir Starmer bezeichnete die Verwendung von Grok zur Erzeugung nicht einvernehmlicher sexueller Bilder als „widerwärtig“ und „schändlich“. Die britische Technologie-Ministerin erklärte, sie unterstütze ein Verbot der Plattform durch Regulierungsbehörden wegen Verstößen gegen Online-Sicherheitsgesetze.
Musk, der reichste Mann der Welt, der mehrfach scherzhaft auf die sexualisierten Bilder von Grok Bezug genommen hat, antwortete, die Labour-Regierung im Vereinigten Königreich suche „jede Ausrede für Zensur“. X kündigte an, Einschränkungen für Groks Bildgenerierungsfunktion einzuführen, doch waren am Sonntagmorgen weiterhin „sexualisierte“ und pornografische Bilder für Nutzer mit kostenlosen Accounts verfügbar.
Eine kanadische Regierungsquelle teilte Global News mit, dass unklar sei, auf welche Gespräche zwischen Großbritannien und Kanada sich der Telegraph-Bericht beziehe. Sofia Ouslis, Sprecherin von Solomons Büro, bestätigte, dass der Minister keinen Kontakt zu seinen britischen Amtskollegen hatte.
Das Büro von Starmer reagierte am Sonntagmorgen nicht sofort auf eine Anfrage zur Stellungnahme.
Solomons Büro erklärte am Sonntag, die kanadische Antwort könne eine Untersuchung der Royal Canadian Mounted Police (RCMP) zu KI-generiertem sexuellem Kindesmissbrauchsmaterial beinhalten, wobei vor Einleitung einer solchen Untersuchung möglicherweise weitere Anforderungen zu erfüllen sind – etwa die Anzeige bei der örtlichen Polizei.
Das Strafgesetzbuch kriminalisiert „sämtliches Material sexuellen Kindesmissbrauchs und -ausbeutung, das sowohl reale als auch fiktive Kinder darstellt“, hieß es in einer Mitteilung des Justizministeriums.
Das Ministerium wies darauf hin, dass Internetdienstanbieter gesetzlich verpflichtet sind, „wenn sie über eine Internetadresse informiert werden, unter der Material sexuellen Kindesmissbrauchs der Öffentlichkeit zugänglich sein könnte“, dies zu melden.
„Sie müssen außerdem die Strafverfolgungsbehörden informieren, wenn sie vernünftige Gründe zur Annahme haben, dass ihr Internetdienst zur Begehung eines Delikts im Zusammenhang mit sexuellem Kindesmissbrauch genutzt wird oder wurde“, ergänzte die Mitteilung.
Weltweit haben Regierungen angekündigt, X zu untersuchen oder regulatorisch gegen die Plattform vorzugehen, darunter Indonesien, das laut Agence France-Presse am Samstag das Grok-KI-Tool verboten hat.
Die Europäische Kommission hat Musk und X aufgefordert, Dokumente zu Groks Ausgaben aufzubewahren, was auf eine Untersuchung hindeutet.
Eine Gruppe US-amerikanischer demokratischer Senatoren forderte Apple und Alphabet, die Muttergesellschaft von Google, auf, X aus ihren App-Stores zu entfernen, bis das Unternehmen die Situation klärt, berichtete Reuters am Freitag.
Weitere Regierungen – darunter wichtige X-Märkte wie Indien und Brasilien – sowie Behörden in Australien, Frankreich und Irland haben ebenfalls Untersuchungen zu den Aktivitäten des Unternehmens angekündigt.
