Auf dem Weg zum digitalen Autoritarismus?

"Wir müssen über Faschismus reden, wenn wir über KI reden", sagt Natascha Strobl, Politikwissenschaftlerin und Publizistin. Künstliche Intelligenz spiele zunehmend eine größere Rolle, sowohl im öffentlichen als auch im privaten Raum. Jedoch würde man bisher zu wenig über die zugrunde liegenden Theorien und Ideologien sprechen und den möglichen Gefahren und Tendenzen von KI nicht genügend Beachtung schenken. Über genau diese Themen sowie über die sich daraus ergebenen Gefahren für Demokratie, Menschen- und Grundrechte diskutierten Fachleute auf der Tagung "Auf dem Weg zum digitalen Autoritarismus? Aktuelle gesellschaftliche und ethische Fragen der Digitalisierung" der Akademie für Politische Bildung in Kooperation mit der Gesellschaft für Informatik e.V. 

Vom öffentlichen Hype zur politischen Radikalisierung 

Um die Gefahren, die von KI ausgehen können, besser zu verstehen und daraus Entscheidungen über die Zukunft abzuleiten, sei es wichtig, die dahinterliegenden Ideologien und Theorien zu analysieren und eine Ideologie-Kritik zu üben. Dafür stellt Rainer Mühlhoff, Professor an der Universität Osnabrück, das Zwiebelschalenmodell vor, das zeigt, wie mehrere Schichten bzw. Schalen den Diskurs um KI prägen.  

Die erste und äußerste Schicht, die Mühlhoff nennt, ist der öffentliche Diskurs. Dazu gehörten drei Kernaspekte. Zum einen das Phänomen, dass KI personifiziert werde und ihr menschenähnliche Eigenschaften zugesprochen werden würden. Zum anderen bestehe ein sogenannter Solutionismus - die Ideologie, die annimmt, dass KI die technische Lösung für viele soziale und politische Probleme sei. Der dritte Aspekt des öffentlichen Diskurses sei die Unvermeidbarkeit: es herrsche eine sogenannte „KI-FOMO“ (Fear of Missing Out), begleitet von der Vorstellung, man sei bereits abgehängt, müsse aufholen und könne es sich nicht leisten, nicht "mitzumachen".   

Zieht man diese erste Schale der Zwiebel ab, gelange man zur Ebene der Metaphysik. Hierbei gehe es um die Bedeutung von Weltbildern, die den Diskurs um KI prägen. Jedes einzelne Weltbild habe, im Zusammenhang mit Technik und KI, eine Vorstellung vom Aufbau der Welt und der Zukunft. Dazu gehöre zum Beispiel der Transhumanismus - also die Idee, dass Technikentwicklung eine Naturkraft sei, "natürlich" passiere und die Menschen weiterbringen würde. Technik würde die menschliche Evolution also weiterbringen und die Grenzen menschlicher Möglichkeiten erweitern. Als weiteres Beispiel nennt Mülhoff die Eugenik. Im Zusammenhang mit KI gehe es dabei vor allem um sogenannte IQ-Fixierung und die Vorstellung einer Superintelligenz.  

Aus diesen Weltbildern entständen dann Ethiken, was wiederum, laut Mühlhoff, die nächste Schicht der KI-Diskurs-Zwiebel bildet. Dazu würden zum Beispiel Ethiken wie der Cyber-Libertarismus beziehungsweise Techno-Optimismus oder der Longtermismus gehören. Der Cyber-Libertarismus propagiere einen unbedingten Wachstumsimperativ, lehne staatliche Regulierung und breite politische Partizipation ab und gehe davon aus, dass technologische Innovationen gesellschaftliche Probleme lösen könnten. Der Techno-Optimismus knüpfe daran an, indem er technologische Entwicklungen grundsätzlich als Fortschritt begreife und mögliche soziale, ökologische oder demokratische Risiken in den Hintergrund rücke. Der Longtermismus bewerte politische und ethische Entscheidungen primär danach, welchen Nutzen sie für eine ferne Zukunft der Menschheit versprechen, wodurch gegenwärtige soziale Probleme und Ungleichheiten an Bedeutung verlieren würden. 

Die letzte Schicht nennt Mühlhoff die "Politische Mobilisierung". Hier radikalisiere sich die zweite und dritte Schicht in politische Programme. Die Folge: eine starke Demokratiekritik. Diese Radikalisierung in der Politik zeige sich dann unter anderem auch in der Annahme, dass Demokratie fehlerhaft und ineffizient sei und die technische Entwicklung behindere. Anhänger wünschten sich klare Hierarchien und hätten die Ansicht, dass Selektion, zum Beispiel technologisch nach IQ oder rassifizierend und sexistisch nach Merkmalen und Geschlecht, natürlich sei. Technologie und KI sollen dabei den Eliten dienen. Diese Ideologie nennt Mühlhoff die "Dunkle Aufklärung" oder auch "Neoreaktionäre Bewegung".  

Digitale Räume, reale Gefahr 

Doch wie zeigen sich diese Schichten im Alltag? Zu den dargestellten autoritären Theorien und Ideologien komme außerdem der Aspekt des Faschismus hinzu. Mühlhoff erklärt, dass es drei Merkmale des Faschismus gibt, die in der Gegenwart neu aussehen könnten und nicht in der Vergangenheit bleiben würden: zum einen die Gewalt als politisches Mittel, zum anderen das Ziel, Rechtsstaat und Demokratie zu zerstören, und schließlich die Aneignung von Technologie als Machtinstrument.  

Auch Strobl beobachtet, dass sich Gewalt zunehmend in die digitalen Räume verlagere: Plattformen würden nicht nur als Ort dienen, an dem Gewalttaten visuell dokumentiert werden, sondern auch als Kanal für systematische Schmähungen und digitale Gewaltformen wie Mobbing oder gezielte Hetze. Hinzu komme, dass große Tech-Unternehmen und einflussreiche Persönlichkeiten durch ihre technische Infrastruktur und öffentliche Einflussnahme politische Debatten immer stärker prägen würden - oft als Verstärker antidemokratischer und rechtsextremer Positionen. Für Mühlhoff, Strobl und Constanze Kurz, Sprecherin des Chaos Computer Clubs ist klar, dass diese Merkmale des Faschismus online klar sichtbar sind und aktiv zur Verunsicherung und Polarisierung der Gesellschaft beitragen. Denn zusammen erzeugten diese drei Faktoren online eine Atmosphäre, in der Autoritarismus und aggressiver Populismus leichter Fuß fassen könne: Gewalt werde sichtbarer und teilweise akzeptierbar, Gegner würden delegitimiert werden und einige wenige machtvolle Akteure kontrollierten die zentralen Kanäle der Meinungsbildung. Eine Kombination, die laut den Experten auf dem Podium die gesellschaftliche Stimmung erheblich beunruhige.  

Dabei solle man laut Strobl und Kurz jedoch nicht in Lähmung verharren und glauben, dass es aussichtslos sei. Es gebe zahlreiche positive Beispiele und Möglichkeiten, Plattformen und Technologien zu regulieren. Ein gutes Beispiel sei der Digital-Services-Act der EU, der darauf abzielt, Social Media Plattformen sicherer, transparenter und fairer zu gestalten. Außerdem könne jede Person selbst dazu beitragen Plattformen gerechter und sicherer zu machen, indem man digital wie analog Solidarität mit Betroffenen zeige, sich aktiv für die Demokratie einsetze und weiterhin kritisch bleibe.