KI-Strategie muss Vertrauen priorisieren: Kanadier äußern Skepsis, sagt Aufsichtsbehörde

Der Bundesdatenschutzbeauftragte betont, dass die künstlichen Intelligenzsysteme und -strategien Kanadas auf Vertrauen basieren müssen. Nur ein verantwortungsvoller, menschzentrierter Ansatz kann positive Ergebnisse gewährleisten.

Philippe Dufresne, Datenschutzbeauftragter, äußerte sich am Montag, nachdem die öffentliche Konsultation Ottawas zur bevorstehenden KI-Strategie eine ausgeprägte Skepsis gegenüber der Technologie – insbesondere generativer KI-Plattformen wie Chatbots – sowie Sorgen zu Verzerrungen, Fehlinformationen und nationaler Sicherheit aufzeigte.

Im Gespräch mit dem Ethik- und Datenschutzausschuss des Unterhauses erklärte Dufresne, dass der Schutz der Privatsphäre nicht nur Innovation und wirtschaftliche Chancen durch KI fördere, sondern auch sicherstelle, dass alle Kanadier davon profitieren.

„Der Wert dieser Innovation entfaltet sich am besten, wenn sie von Vertrauen begleitet wird“, betonte er.

Besonders wichtig sei der Schutz persönlicher Daten bei KI, da viele Plattformen diese Informationen zur Schulung ihrer Lernmodelle verwenden.

Das Parlament führt mehrere Untersuchungen zum Umgang der Bundesregierung mit KI ein und zur Entwicklung des heimischen Sektors durch. Premierminister Mark Carney fordert eine weitreichende Anwendung von KI im öffentlichen Dienst und der Wirtschaft, wobei die Gleichberechtigung aller Nutzer gewährleistet werden soll.

In einer separaten Anhörung vor dem Wissenschafts- und Forschungsausschuss des Unterhauses erklärte KI-Minister Evan Solomon, dass die „überarbeitete“ Bundes-KI-Strategie, die im ersten Quartal dieses Jahres vorgestellt wird, auf dem Prinzip „KI für alle“ basiert.

„Egal, wo man in Kanada lebt, welche Herkunft, welches Alter oder Einkommen man hat – diese Technologie wird verantwortungsbewusst, zuverlässig und sicher für alle funktionieren“, sagte er gegenüber den Abgeordneten.

„Sie stärkt unsere Wirtschaft, verbessert öffentliche Dienstleistungen, schafft gute Arbeitsplätze und schützt insbesondere Kinder und vulnerable Gruppen vor Schaden.“

Solomon fügte hinzu, dass derzeit auch eine Gesetzesänderung zur Aktualisierung der kanadischen Datenschutzgesetze vorbereitet wird, auf deren Grundlage Dufresnes Büro soziale Netzwerke und andere Unternehmen untersucht.

Zuletzt kündigte der Datenschutzbeauftragte eine Untersuchung von Xs Grok KI-Chatbot an, der nicht einvernehmliche und sexualisierte Bilder von Frauen und Kindern erstellt und verbreitet haben soll.

Dufresne fordert wiederholt, das Datenschutzgesetz zu stärken, indem seinem Amt die Befugnis gegeben wird, Unternehmen zu bestrafen, die Empfehlungen aus Untersuchungen nicht befolgen. Das Gesetz erlaubt es dem Amt bereits, Unternehmen zur Kooperation bei solchen Untersuchungen zu verpflichten.

Er verwies am Montag auf den Fall des kanadischen Eigentümers von Pornhub, Aylo, der sich weigert, eine wirksame Einwilligung von allen Personen einzuholen, die in von Nutzern hochgeladenen Videos zu sehen sind – eine zentrale Empfehlung, die Dufresne gerichtlich durchsetzt.

„Junge Menschen sind besonders gefährdet, da sie ständig damit konfrontiert sind“, sagte er auf Französisch. „Frauen und Senioren sind ebenfalls stark betroffen. Viele Gruppen brauchen Schutz.“

Viele der von Dufresne geäußerten Bedenken fasste auch der am Montag veröffentlichte Regierungsbericht zu den einmonatigen öffentlichen Konsultationen zur neuen KI-Strategie im vergangenen Herbst zusammen.

Er zeigte, dass die Online-Teilnehmer einen menschzentrierten Ansatz forderten, der ethische Standards wahrt und die Souveränität des heimischen Sektors und der Innovation sichert.

„Die Meinungen der Beteiligten reichten von Optimismus hinsichtlich der Chancen von KI bis hin zu Skepsis wegen der Risiken“, heißt es im Bericht.

„Befürworter sehen Potenziale für Produktivitätssteigerungen und Wirtschaftswachstum, Kritiker warnen vor ethischen, ökologischen und sozialen Schäden.“

„Zu den wichtigsten Bedenken zählen der Verlust geistigen Eigentums, mögliche ausländische Dominanz über kanadische Systeme, fehlende Regulierung und Verantwortlichkeit, Umweltbelastungen sowie Arbeitsplatzverluste.“

Von den 11.300 eingereichten Kommentaren – die die Regierung mit KI analysierte und von menschlichen Prüfern validieren ließ – enthielten etwas über 3.100 eine Ortsangabe. Davon stammten zwei Prozent aus dem Ausland.

Der stellvertretende Vorsitzende des Wissenschaftsausschusses, Maxime Blanchette-Joncas von der Bloc Québécois, beantragte am Ende von Solomons Anhörung, dass sein Ministerium die Namen aller Einsender veröffentlicht, um Transparenz zu gewährleisten.

Der Antrag wurde auf einen späteren Zeitpunkt vertagt.

Der Bericht hob hervor, dass die KI-Arbeitsgruppe der Regierung darauf abzielt, globale Talente anzuziehen und zu halten, die Cybersicherheit zu stärken, die Kommerzialisierung zu fördern sowie Datenschutz und Datensicherheit zu gewährleisten.

Solomon betonte, dass die Strategie auch die Schaffung von Arbeitsplätzen und Ausbildungen priorisiert, damit Beschäftigte, die durch KI verdrängt werden könnten, in die „Wirtschaft der Zukunft“ wechseln können.

Er fügte hinzu, dass der Verbleib von KI-Talenten und geistigem Eigentum in Kanada sowie die Nutzung kanadischer Unternehmen und Innovationen ebenfalls oberste Priorität haben.

„Wir wollen nicht im Grunde Miete zahlen, um Materialien anderer Länder zu verwenden“, sagte er.

„Wenn wir es hier entwickeln und hier behalten, schaffen wir Arbeitsplätze und Innovationen in Kanada. Das ist ein zentraler Teil der Souveränität.“

Der Minister erklärte, dass digitale Souveränität „eine zentrale Frage unserer nationalen Strategie“ sei, weshalb Carney ihn beauftragt habe, die neue Bundesstrategie um zwei Jahre zu beschleunigen.

Dufresne berichtete, dass er bei Gesprächen mit G7-Kollegen und anderen internationalen Partnern Bedenken über mögliche negative Auswirkungen von KI gehört habe, diese jedoch nicht einhellig seien.

„Die Botschaft, die wir hören, lautet: Was können wir jetzt tun, um uns zu schützen?“, sagte er auf Französisch.

„Ich denke, die Verbesserung des Datenschutzes sowie Elemente wie menschliche Kontrolle und Einwilligung werden dazu beitragen, dass negative Entwicklungen weniger wahrscheinlich werden.“