Experten warnen: KI verwischt Wahrheit und Fiktion – Bedrohung für die USA wächst

Vor weniger als zwei Jahren warnte ein Bericht der Bundesregierung Kanada davor, sich auf eine Zukunft vorzubereiten, in der es dank künstlicher Intelligenz „fast unmöglich“ sei, zwischen Falsch und Echt zu unterscheiden.

Heute warnen Forscher, dass dieser Zeitpunkt möglicherweise schon erreicht ist. Hochrangige Beamte in Ottawa erklärten diese Woche, die Regierung sei „sehr besorgt“ über immer ausgefeiltere KI-generierte Inhalte wie Deepfakes, die Wahlen beeinflussen könnten.

„Wir nähern uns diesem Punkt sehr schnell“, sagte Brian McQuinn, außerordentlicher Professor an der Universität Regina und Co-Direktor des Zentrums für Künstliche Intelligenz, Daten und Konflikte.

Er fügte hinzu, dass die Vereinigten Staaten rasch zu einer Hauptquelle solcher Inhalte werden könnten – eine Bedrohung, die sich insbesondere bei zukünftigen Unabhängigkeitsbewegungen in Quebec und vor allem Alberta verschärfen könnte, die bereits von einigen US-Regierungs- und Medienvertretern aufgegriffen wird.

„Wir können uns zu 100 Prozent sicher sein, dass Deepfakes von der US-Administration und deren Stellvertretern stammen werden, ohne Zweifel“, sagte McQuinn. „Das passiert bereits, und es ist nur eine Frage des zunehmenden Umfangs.“

Während einer Anhörung vor dem Unterhausausschuss zum Thema ausländische Wahleinmischung am Dienstag erklärte Nathalie Drouin, nationale Sicherheits- und Geheimdienstberaterin von Premierminister Mark Carney, dass Kanada erwarte, dass die USA wie alle anderen ausländischen Staaten sich aus den innerstaatlichen politischen Angelegenheiten heraushalten.

Dies war die einzige Frage der Abgeordneten zur Möglichkeit, dass die USA eine ausländische Bedrohung ähnlich Russland, China oder Indien darstellen könnten.

Der Rest der zweistündigen Anhörung beschäftigte sich mit der letzten Bundestagswahl und der Vorbereitung Ottawas auf künftige Bedrohungen, darunter KI und Desinformation.

„Ich weiß, dass die Regierung sehr besorgt über die potenziell schädlichen Auswirkungen von KI ist“, sagte David Morrison, stellvertretender Außenminister, der wie Drouin Mitglied des Public Protocol Panel für kritische Wahleinmischungen ist und Kanadier vor Einmischungen warnt.

Auf die Frage, ob Kanada KI-generierte Inhalte online kennzeichnen sollte, antwortete Morrison: „Ich weiß nicht, ob es eine Bereitschaft für eine spezifische Kennzeichnung gibt“, und betonte, dass dies eine Entscheidung für die Plattformen sei.

„Es ist nicht einfach, die Regierung in die Position zu versetzen, zu bestimmen, was wahr ist und was nicht“, fügte er hinzu.

Ottawa prüft derzeit ein Gesetz, das Online-Schäden und Datenschutz im Zusammenhang mit KI regeln soll, doch ist noch unklar, ob es gezielt Desinformation bekämpfen wird.

„Kanada arbeitet an der Sicherheit dieser neuen Technologie und entwickelt Standards für KI“, sagte Drouin, die auch stellvertretende Kanzlerin des Privy Council ist.

Sie verwies darauf, dass Justiz Marie-Josée Hogue, die die öffentliche Untersuchung zur ausländischen Einmischung leitete, in ihrem Abschlussbericht im vergangenen Jahr feststellte, dass Desinformation die größte Bedrohung für die kanadische Demokratie darstellt – nicht zuletzt wegen des Aufstiegs generativer KI.

Die Bekämpfung dieser Bedrohung ist „eine endlose, fortwährende Aufgabe“, sagte Drouin. „Sie endet nie.“

Das Privy Council Office teilte Global News mit, am Mittwoch eine „erste Informationssitzung zu Deepfakes“ für Abgeordnete angeboten zu haben und weitere Sitzungen für „alle interessierten Parlamentarier sowie politische Parteien in den kommenden Wochen“ planen zu wollen.

Experten wie McQuinn halten eine solche Einweisung für längst überfällig und fordern, dass Regierung, Wissenschaft und Medien die bereits skeptische kanadische Bevölkerung besser darin unterstützen, Wahrheit von Fiktion zu unterscheiden.

„Es sollte jährliche Schulungen für Politiker und deren Mitarbeiter geben, nicht nur zu Deepfakes und Desinformation, sondern generell zur ausländischen Einmischung“, sagte Marcus Kolga, Senior Fellow am Macdonald-Laurier-Institut und Gründer von DisinfoWatch.

„Es braucht Führung. Momentan sehe ich diese Führung nicht, aber wir benötigen sie dringend, denn wir alle sehen, was auf uns zukommt.“

Kolga bestätigte zudem, dass es „keinen Zweifel“ gibt, dass offizielle US-Regierungskanäle und US-Präsident Donald Trump selbst zu einer bedeutenden Quelle dieser Inhalte werden.

„Die Entwicklung ist ziemlich klar“, sagte er. „Wir müssen damit rechnen, dass das passiert. Es hilft wenig, erst danach zu reagieren – wir müssen jetzt handeln.“

Morrison stellte am Dienstag fest, dass das Wahlausschussgremium sowie die Taskforce für Sicherheits- und Geheimdienstbedrohungen bei Wahlen (SITE) bei der letzten Bundestagswahl keinen nennenswerten Einsatz von KI zur Einmischung beobachteten.

Er betonte jedoch, dass „unsere Gegner in diesem Bereich ihre Taktiken ständig weiterentwickeln, es ist nur eine Frage der Zeit, und wir müssen äußerst wachsam sein.“

Das Communications Security Establishment und das Canadian Centre for Cyber Security warnten kürzlich ebenfalls davor, dass feindliche ausländische Akteure in den nächsten zwei Jahren verstärkt KI gegen „Wähler, Politiker, öffentliche Persönlichkeiten und Wahlinstitutionen“ einsetzen könnten.

Forscher sagen nun, dass die USA schnell Teil dieser Bedrohungslandschaft werden.

McQuinn erklärte, ein Teil des Problems sei, dass die Online-Desinformation, die Kanadier sehen, vor allem über amerikanische Social-Media-Plattformen wie X und Facebook verbreitet werde, wobei TikTok inzwischen ebenfalls in US-Besitz sei.

Das stellt für ausländische Länder eine Herausforderung dar, die versuchen, Inhalte auf diesen Plattformen zu regulieren. Europäische und britische Gesetze stoßen dabei auf Widerstand und Feindseligkeit der Unternehmen sowie der Trump-Administration, die harte Sanktionen, darunter Zölle, androht.

Digitale Dienstleistungssteuern, die Einnahmen für die Tätigkeit in fremden Ländern zurückholen sollten, gelten in den USA als Handelsstreitpunkt. Kanadas Steuer hatte im vergangenen Jahr fast zu Verhandlungsabbrüchen geführt, bevor sie aufgehoben wurde.

Kolga merkte an, dass die Verbreitung von Desinformation durch US-Inhalteersteller und Plattformen nicht neu sei, egal ob sie aus den USA oder anderen Ländern stammt. Auch Russland, Indien und China sind bekannt für Desinformationskampagnen und wurden in kanadischen Sicherheitsberichten als bedeutende Quellen ausländischer Einmischung genannt.

Russland wird zudem beschuldigt, rechtsgerichtete Influencer in den USA und Kanada heimlich zu finanzieren, um pro-russische Botschaften zu verbreiten und innenpolitische Angelegenheiten zu stören.

Neu sei laut McQuinn die Beteiligung von Trump und seiner Administration bei der Verbreitung solcher Desinformation, einschließlich KI-Deepfakes.

Viele Inhalte sind eindeutig gefälscht oder darauf ausgelegt, eine Reaktion hervorzurufen – etwa ein Bild des Weißen Hauses, das Trump mit einem Pinguin in einer arktischen Landschaft zeigt, die angeblich Grönland sein soll, oder von Trump geteilte KI-Inhalte, die ihn in einem Kampfjet zeigen, der über Demonstranten Fäkalien sprüht.

Das Weiße Haus wurde letzten Monat beschuldigt, ein Foto einer in Minnesota während eines bundesstaatlichen Einwanderungseinsatzes verhafteten Demonstrantin mithilfe von KI verändert zu haben, sodass die Frau weinend erscheint.

Als Reaktion auf die Kritik am manipulierten Bild schrieb der stellvertretende Kommunikationsdirektor des Weißen Hauses, Kaelan Dorr, auf X: „Die Memes werden weitergehen.“ Das Bild ist weiterhin online verfügbar.

„Die aktuelle US-Administration ist die einzige westliche Regierung, von der wir wissen, dass sie regelmäßig offensichtliche Fälschungen und Deepfakes veröffentlicht, teilt oder fördert, in einem Ausmaß, das es zuvor bei westlichen Regierungen nicht gab“, sagte McQuinn.

Er erklärte, die Online-Strategie und das Verhalten ähnelten denen bekannter staatlicher Desinformationsakteure wie Russland und China sowie bewaffneter Gruppen wie den Taliban, denen „jeglicher Respekt“ vor der Wahrheit fehle.

„Wenn man diesen Respekt nicht hat, hat man immer einen asymmetrischen Vorteil gegenüber jedem Akteur, ob staatlich oder nichtstaatlich, der in gewisser Weise an der Wahrheit festhalten möchte“, sagte er.

„Diese US-Administration wird immer einen Vorteil gegenüber kanadischen Akteuren haben, weil sie keine Kontrollen oder Beschränkungen mehr hat, da die Wahrheit bei ihrer Kommunikation keine Rolle mehr spielt.“

McQuinn ergänzte, seine Forschung zeige, dass 83 Prozent der Desinformation von durchschnittlichen Kanadiern weiterverbreitet werden, die nicht sofort erkennen, dass die Inhalte, die sie teilen, falsch sind.

„Es ist nicht so, dass sie unbedingt an die Desinformation glauben“, sagte er. „Etwas wirkt eingängig oder passt zu ihrer Weltanschauung, und sie geben es weiter, ohne im zweiten oder dritten Absatz zu lesen, dass die Idee, der sie zustimmen, sich dann in etwas anderes verwandelt.“

„Die gute Nachricht ist, dass Kanadier sehr schnell lernen, Deepfakes zu erkennen“, fügte er hinzu, was „ein gewisses Maß an Skepsis in der Bevölkerung erzeugt“.

Doch Trumps wiederholtes Teilen von KI-Inhalten, die eine US-Kontrolle über Kanada suggerieren – eine Anspielung auf seine Drohungen mit dem „51. Bundesstaat“ – sowie die stillschweigende Unterstützung von Personen der US-Administration für die Unabhängigkeitsbewegung in Alberta bereiten Forschern zunehmend Sorgen.

„Meine echte Sorge ist, dass, wenn Donald Trump die US-Regierung anweist, solche Narrative zu unterstützen und tatsächlich staatliche Desinformation zur Einheit Kanadas zu betreiben – dann haben wir ein ernsthaftes Problem“, sagte Kolga.