So gefährdet KI-generierte Desinformation unsere Demokratie

In einem Video spricht sich Olaf Scholz für die AfD aus. Das Bild des Bundeskanzlers ist echt, aber mit einer von KI veränderten Audiospur unterlegt. Jutta Jahnel vom Institut für Technikfolgenabschätzung und Systemanalyse des Karlsruher Instituts für Technologie zeigt es zusammen mit einem vermeintlichen Ausschnitt aus der Tagesschau, in dem sich die Redaktion für verbreitete Falschinformationen entschuldigt und einer Explosion neben dem Pentagon in den USA. Hierbei handelt sich um Deepfakes, die sowohl Bild als auch Ton manipulieren. Alle Videos wirken authentisch. "Man glaubt, was man sieht", sagt Jahnel. Nur wer genau hinschaut, erkennt die Täuschung. Hinweise auf KI-generierte Inhalte geben unscharfe Konturen und auffällige Lichteffekte. Für sich allein genommen, haben die Videos keine Durchschlagskraft. Doch was passiert, wenn Bürgerinnen und Bürger regelmäßig mit Desinformation und Deepfakes konfrontiert sind und nur noch schwer unterscheiden können, welche Nachrichten echt sind? Die Tagung "Wie politisch sind ChatGPT & Co.?" der Akademie für Politische Bildung, der Bayerischen Landeszentrale für politische Bildungsarbeit und des Bayerischen Volkshochschulverbands hat die Auswirken generativer KI auf die politische Öffentlichkeit untersucht.

Desinformation als gezielte Täuschung der Bevölkerung

Demokratie beruht auf Meinungsbildung durch Fakten. Die kann mithilfe KI-generierter Desinformation manipuliert werden. Zu Propagandazwecken gefälschte Videos, Bilder und Audios bedrohen den demokratischen Diskurs. Desinformation ist von Falschinformation dabei folgendermaßen zu unterscheiden: Falschinformation beschreibt falsche oder irreführende Inhalte, die ohne die Absicht, Schaden zu verursachen, verbreitet werden. Desinformation beschreibt hingegen eine nachweislich falsche oder irreführende Information, die wirtschaftlichen Gewinn oder die Täuschung der Öffentlichkeit als Ziel verfolgt. Desinformation gefährdet die Demokratie, da sie zur Polarisierung der digitalen Kommunikation beträgt und Wahlmanipulationen ermöglicht. Letztere kann beispielsweise in Form von Deepfakes erfolgen, in denen Politikerinnen und Politiker vom Wählen abraten.

Die Relevanz generativer Künstlicher Intelligenz

ChatGPT-3 ist seit seinem Launch die am schnellsten wachsende Anwendung des Internets und hat generativer Künstlicher Intelligenz einen Durchbruch beschert. Der von der OpenAI programmierte Chatbot gehört zu den sogenannten Large Language Modells (LLM), die mehr können als nur Daten klassifizieren. LLMs sind in der Lage, neuen Kontext zu erstellen. "Die Büchse der Pandora ist damit geöffnet", meint Gregor Walter, der mit Kidslab Bildung in den Bereichen Informatik und Medien fördert.

Generative KI bezieht ihr Wissen aus den gesamten verfügbaren Daten des Internets. Ihre Vorhersage basiert auf statistischer Wahrscheinlichkeit. Das Problem hierbei ist, dass KI-Systeme selbst nicht konsistent erkennen, ob Inhalte KI-generiert oder menschengemacht sind. Kein bisher verfügbares System kann mit einer Wahrscheinlichkeit von über 80 Prozent zwischen Kreationen von Künstlicher Intelligenz und Menschen unterscheiden. Dabei spielt es keine Rolle, ob es sich um KI-generierte Rechtschreibkorrektur, Online-Übersetzung, Zusammenfassungen oder Erkennung von Texten handelt.

Durch KI-generierte Inhalte ergeben sich Risiken auf individueller, wirtschaftlicher und politischer Ebene. Problematiken auf individueller Ebene beinhalten Urheberrechtsverletzung, Gefährdung von Datensicherheit und Verletzung der Persönlichkeitsrechte. Dabei sind 96 Prozent der Deepfakes visuelle Angriffe mit pornographischen Inhalten. Betroffene sind zumeist Frauen, die belästigt, eingeschüchtert und erpresst werden. Wirtschaftliche Auswirkungen sind unter anderem Börsenmanipulationen sowie die Überlistung von biometrischen Prüfungssystemen. Auf politischer Ebene nennt Jutta Jahnel die Schwächung der Demokratie als eine mögliche Folge KI-generierter Inhalte.

Wie beeinflusst KI-generierte Desinformation die Demokratie?

Desinformation und Falschinformationen belegen laut Global Risk Report 2023 nach Einschätzung von Expertinnen und Experten Platz eins der globalen Risiken. In einer von der Konrad-Adenauer-Stiftung durchgeführten Studie liegt die Angst vor Verbreitung falscher Informationen in Deutschland auf dem dritten Platz unter ausgewählten Bedrohungen. Fachleute schätzen die Polarisierung der Gesellschaft und die Radikalisierung Einzelner als wahrscheinlichste Folgen von Desinformation ein. 51 Prozent der Bürgerinnen und Bürger stimmten 2023 laut TÜV-Verband der Aussage zu, dass KI-Technologien eine Gefahr für die Demokratie darstellen. Noch mehr Zustimmung erhält die Aussage, dass Deepfakes die Demokratie gefährden. Im Vergleich mit anderen europäischen Ländern ist sich die deutsche Bevölkerung allerdings eher selten über den Wahrheitsgehalt von Informationen im Internet unsicher.

Die Manipulation von Medieninhalten ist kein neues Phänomen. Neu sind jedoch die Qualität, die Schnelligkeit, die geringen Kosten und die Zugänglichkeit manipulierter medialer Inhalte. Anfänglich benötigte KI vergleichsweise viel Online-Material, um entsprechende Inhalte zu generieren. Jetzt reicht ein einziges Bild. Jahnel schätzt das damit verbundene Risiko als zunehmend ein.

Regulierung von KI

KI-generierte Inhalte können für unsere Demokratie folgenreich sein. Vertrauen in den Diskurs, in demokratische Prozesse und die eigenen Wirkmöglichkeiten könnten sinken. Für Niina Zuber vom Bayerischen Forschungsinstitut für digitale Transformation sind Austausch und eigenes Denken essentieller Bestandteil von Demokratie. Mit KI-generierten Inhalten erhöht sich allerdings die Schwierigkeit, herauszufinden, woher Argumente stammen. Demokratie braucht zudem Zeit. Dabei stellt sich die Frage, ob sie bei der Regulierung Künstlicher Intelligenz zu langsam agiert.

Auf EU-Ebene gibt es bereits mehrere Regulierungsansätze. Der Digital Service Act, der 2022 in Kraft getreten ist, soll ein transparentes und sicheres Online-Umfeld schaffen. Die Verordnung gilt jedoch nur für Online-Plattformen. Der AI Act hingegen soll KI in allen Bereichen regulieren, ist aber noch nicht rechtskräftig. Gemeinsam haben beide Regulierungsansätze, dass sie risikobasiert sind. Das bedeutet, dass der Einsatz von KI in risikobehafteten Bereichen mehr Regulierungen unterliegt als in weniger risikoreichen Gebieten. Für Julian Jaursch von der Stiftung Neue Verantwortung gilt es vor allem, Nutzerinnen und Nutzer aufzuklären, beginnend bei der alltäglichen Nutzung. Künstliche Intelligenz wird nämlich auch auf Online-Plattformen eingesetzt und dabei oft unkritisch benutzt. "Es ist wichtig, dass wir skeptisch bleiben", sagt Debora Weber-Wulff von der Hochschule für Technik und Wirtschaft in Berlin.