Junge Kanadier fordern weniger süchtig machende KI-Chatbots: Bericht

Ein aktueller Bericht, der die Perspektiven junger Menschen beleuchtet, fordert die Regierung auf, KI-Unternehmen dazu zu verpflichten, die süchtig machenden Eigenschaften ihrer Chatbots einzudämmen.

Dies ist eine von mehreren Empfehlungen, die Jugendliche im Alter von 17 bis 23 Jahren bei Diskussionsrunden im ganzen Land gegeben haben.

Der Bericht fordert, dass KI-Plattformen verpflichtet werden sollten, „das süchtig machende Design von KI-Chatbots anzugehen, indem Maßnahmen wie Inhaltsfilter und die optionale Löschung zwischengespeicherter Daten eingeführt werden, sowie Nutzer:innen ausdrücklich die Möglichkeit gegeben wird, die Reaktions- und Gesprächsintensität selbst zu bestimmen.“

Der Bericht wurde am Donnerstag vom Centre for Media, Technology and Democracy der McGill University veröffentlicht. Zwischen November 2025 und März 2026 fanden vier Konsultationsveranstaltungen statt, an denen 100 junge Menschen teilnahmen.

Die Teilnehmenden beschäftigten sich mit vier Themenbereichen: KI-Chatbots, Informationsintegrität, Datenschutz und Altersverifikation.

Der Bericht stellt fest, dass die Jugendlichen mit KI-Technologie aufgewachsen sind.

„In Toronto diskutierten die Teilnehmenden ausführlich über die Rolle des süchtig machenden Designs von KI-Chatbots. Sie argumentierten, dass die Schmeichelei vieler Chatbot-Systeme darauf abzielt, die Interaktion aufrechtzuerhalten, Abhängigkeiten zu fördern und die Verweildauer auf der Plattform zu maximieren,“ heißt es.

Der Bericht beschreibt, dass Chatbots dazu neigen, die Überzeugungen und emotionalen Zustände der Nutzer zu verstärken und „die falsche Illusion zu erzeugen, verstanden zu werden.“ Diese Effekte seien das Ergebnis bewusster Designentscheidungen, die aus Profitgründen getroffen werden.

„Mehrere Teilnehmende berichteten von eigenen Erfahrungen mit kognitiver Entlastung oder emotionaler Abhängigkeit, die sie nur schwer rückgängig machen konnten, und verbanden diese Dynamiken mit Designentscheidungen, denen sie nie zugestimmt hatten,“ so der Bericht.

Unter weiteren Empfehlungen fordert der Bericht, dass soziale Medien und Suchmaschinen leicht zugängliche Optionen zum Deaktivieren integrierter KI-Technologien anbieten müssen.

Außerdem wird die Einrichtung einer neuen staatlichen Instanz vorgeschlagen, die Systeme bewerten, Algorithmen prüfen und Sicherheitsstandards durchsetzen könnte.

Die Teilnehmenden werden am Donnerstag auf dem Parliament Hill eine Veranstaltung abhalten, um den Bericht und ihre Empfehlungen vorzustellen.

Die Bundesregierung arbeitet derzeit an mehreren Gesetzesvorhaben, die Online-Datenschutz und Online-Schäden adressieren, und hat zudem eine nationale KI-Strategie angekündigt.

Das angekündigte Online-Schadensgesetz könnte Altersbeschränkungen für den Zugang zu sozialen Medien beinhalten, ähnlich dem Verbot für unter 16-Jährige, das Australien im letzten Jahr eingeführt hat. Die Regierung prüft auch, ob KI-Chatbots in solche Verbote aufgenommen werden sollen.

Der Bericht stellt fest, dass sich die Jugendlichen bei der digitalen Governance oft ausgeschlossen fühlen.

„Dies wurde besonders deutlich bei Diskussionen zur Altersverifikation, wo die Schutzbedürftigkeit von Kindern und Jugendlichen häufig als Begründung für regulatorische Eingriffe angeführt wird, während junge Menschen selbst in den Entscheidungsprozessen, in denen diese Maßnahmen entwickelt werden, weitgehend fehlen,“ heißt es im Bericht.

Der Bericht weist auf Datenschutzbedenken im Zusammenhang mit Altersverifikationstechnologien hin und fordert ein standardisiertes Altersverifikationssystem, das den Zugang zu generativen KI-Plattformen durch die Einführung eines anonymisierten digitalen Token-Systems einschränken würde.