So verändert Künstliche Intelligenz die Wissenschaft
Das neue Spannungsfeld von Forschung, Politikberatung und Tech-Kooperation
Für einen verantwortungsvollen Umgang mit Künstlicher Intelligenz sind fundierte wissenschaftliche Erkenntnisse und Empfehlungen entscheidend. Politik und Gesellschaft verlassen sich auf die Expertise der Wissenschaft, um die Risiken und Chancen von KI zu bewerten. Gleichzeitig ist die Wissenschaft aber auch darauf angewiesen, mit Technologiekonzernen zu kooperieren, um an Daten und Ressourcen zu gelangen. Dies steht allerdings im Konflikt mit dem Selbstverständnis einer unabhängigen und transparenten Forschung. In der Tagung "Tutzinger Wissenschaftsgespräche: Macht.Wissenschaft.KI" der Akademie für Politische Bildung und des Wissenschaftsrats haben Fachleute über Rahmenbedingungen und Gestaltung der Zusammenarbeit von Wissenschaft, Gesellschaft und Politik diskutiert.
Tutzing / Tagungsbericht / Online seit: 27.06.2024
Von: Rebecca Meyer / Foto: Rebecca Meyer
Programm: Tutzinger Wissenschaftsgespräche: Macht.Wissenschaft.KI
Flickr-Galerie © Akademie für Politische Bildung Tutzing. Bitte klicken Sie auf das Foto, falls die Galerie nicht lädt. Sie werden zu Flickr weitergeleitet.
"Die Welt ist abhängig von neuem und zuverlässigem Wissen geworden, vor allem, was KI angeht", sagt Natali Helberger von der Universität Amsterdam. Politik und Gesellschaft wünschen sich verlässliche Information über Künstliche Intelligenz, die Auswirkungen auf fast alle Lebensbereiche hat und schenken ihr Vertrauen der Expertise von Wissenschaftlerinnen und Wissenschaftlern. Forschende sind für sie Schlüsselakteurinnen und Schlüsselakteure, die eine zentrale Rolle bei der Prüfung und Überwachung großer Technologieunternehmen sowie der Auswirkungen von KI auf die Gesellschaft spielen. Diese neu zugeschriebene Rolle als verlängerter Arm der Regulierungsbehörden steht potenziell im Konflikt mit der Wissenschaftsfreiheit und der Art und Weise, wie Akademikerinnen und Akademiker ihre Funktion selbst definieren. Was bedeutet es, dass das Vertrauen in die Forschenden als Beraterinnen und Berater im Bereich von Künstlicher Intelligenz deutlich zugenommen hat? Und welche Bedingungen müssen erfüllt werden, damit sie das entgegengebrachte Vertrauen behalten? Diese Fragen haben Expertinnen und Experten im Rahmen der Tagung "Tutzinger Wissenschaftsgespräche: Macht.Wissenschaft.KI" der Akademie für Politische Bildung und des Wissenschaftsrats diskutiert.
KI-Regulierung im europäischen Recht
Die Vision der Vereinten Nationen beschreibt eine Zukunft, in der Akademikerinnen und Akademiker eine prominente Rolle einnehmen, indem sie große Technologieunternehmen und öffentliche Einrichtungen kontrollieren und die gesellschaftlichen Auswirkungen von KI überwachen. Dabei stellen sie Daten und Erkenntnisse bereit, um Entscheidungsträgerinnen und Entscheidungsträger sowie die Öffentlichkeit bei der Bewertung und Regulierung von Künstlicher Intelligenz zu unterstützen. Das Bild der Forschenden als Kontrollinstanz hat ihren Weg bereits in einen europäischen Rechtsrahmen gefunden. Dort sind Wissenschaftlerinnen und Wissenschaftler Teil der KI-Governance, die sicherstellen soll, dass Künstliche Intelligenz verantwortungsbewusst eingesetzt wird, ethische Grundsätze eingehalten sowie Risiken minimiert werden. Das fördert Innovation und Fortschritt im Bereich der Künstlichen Intelligenz und berücksichtigt gleichzeitig die Interessen und Bedenken von Gesellschaft und Politik.
In den vergangenen vier Jahren haben die europäischen Institutionen aktiv daran gearbeitet, eine neue Rechtsordnung für KI zu entwickeln, die unter anderem den Digital Services Act, den European Media Freedom Act und den AI Act umfasst. Diese Gesetze definieren eine neue Rolle der Wissenschaftlerinnen und Wissenschaftlern als "Accountability Actors", die eng mit Politikerinnen und Politiker sowie Regulierungsakteurinnen und Regulierungsakteuren zusammenarbeiten und die Umsetzung und Überwachung dieser Gesetze unterstützen. Der European Media Freedom Act sieht beispielsweise vor, dass ein spezialisiertes akademisches Gremium in Zusammenarbeit mit anderen Akteurinnen und Akteuren die Überwachung von Künstlicher Intelligenz übernimmt. Durch die Einrichtung eines solchen Gremiums soll sichergestellt werden, dass Expertinnen und Experten aus der Wissenschaft aktiv an der Bewertung und Kontrolle von KI-Technologien beteiligt sind.
Zusammenarbeit zwischen Wissenschaft, Regulierungsbehörden und Big Tech
Die neue Rolle der Wissenschaft steht in einem Spannungsverhältnis zu ihrem Selbstverständnis, das auf Prinzipien wie Objektivität, Transparenz und der Suche nach Wahrheit basiert. Die Wissenschaft sieht sich als Instanz, die durch ihre Methoden und Ergebnisse zur Gesellschaft beiträgt, ohne dabei äußeren Einflüssen unterworfen zu sein. Dabei fungieren Wissenschaftlerinnen und Wissenschaftler als unabhängige Forscherinnen und Forscher, die primär neues Wissen generieren und wissenschaftlichen Fortschritt fördern. Auf der anderen Seite ist eine enge Zusammenarbeit zwischen Wissenschaft und Regulierungsbehörden erforderlich, um die Steuerung von Künstlicher Intelligenz zu verbessern. Die Wissenschaftlerinnen und Wissenschaftler können bei der Bewertung von Technologien, der Überwachung von Entwicklungen und der Minimierung von Risiken beraten. Gleichzeitig gefährdet der Austausch mit Regulierungsbehörden die wissenschaftliche Unabhängigkeit.
Viele Fortschritte im Bereich der Künstlichen Intelligenz werden von großen Technologieunternehmen vorangetrieben. Konzerne wie Google, Amazon, Facebook und Apple verfügen über riesige Datenbestände, Rechenkapazitäten und Expertise im Bereich der KI, die für Forschungsprojekte und Innovationen von großem Wert sind. Durch Partnerschaften mit Big Tech können Wissenschaftlerinnen und Wissenschaftler auf diese Ressourcen zugreifen, an der Entwicklung neuer Technologien mitarbeiten, praxisnahe Einblicke gewinnen und ihre theoretischen Erkenntnisse praktisch umsetzen. Diese verstärkte Zusammenarbeit bringt jedoch auch Fragen der Unabhängigkeit, der Transparenz und des Datenschutzes mit sich. Während Technologieunternehmen kommerzielle Ziele verfolgen, konzentrieren sich Wissenschaftlerinnen und Wissenschaftler auf gesellschaftlichen Nutzen. Die enge Verflechtung von Forschung und Industrie kann zu Interessenskonflikten führen und die Neutralität der Forschungsergebnisse beeinträchtigen. Darüber hinaus können Machtungleichgewichte entstehen, wenn Technologieunternehmen Ressourcen nur unvollständig mit der Forschung teilen und so die Ergebnisse und Entscheidungsprozesse beeinflussen. Es ist wichtig, dass die Wissenschaft bei der Zusammenarbeit mit Big Tech Regeln und Standards befolgt, um ihre eigene Integrität und Objektivität zu gewährleisten.
Transparenz und ethische Standards bei der Arbeit mit KI
In Zukunft sind neue Formen der produktiven Zusammenarbeit zwischen Wissenschaft, Regulierungsbehörden und Industrie nötig, um Wissenschaftlerinnen und Wissenschaftlern die Übernahme einer neuen Rolle zu erleichtern. Darunter fallen die Einrichtung von Netzwerken und gemeinsamen Forschungsprojekten, die den Austausch von Informationen, Ideen und Erfolgsmodellen fördern. Um ethische Fragen im Kontext von Künstlicher Intelligenz zu klären, sind auch Ethikkommissionen und Beratungsgremien sinnvoll.
Um das Vertrauen der Gesellschaft zu erhalten, müssen Forschende und Institutionen transparent arbeiten, auf Bedenken der Gesellschaft eingehen und den Dialog suchen. Es bedarf einer breiten Diskussion darüber, wie die Rolle der Wissenschaftlerinnen und Wissenschaftler in der Gesellschaft und in der Politikberatung aussehen soll. Nur so kann sichergestellt werden, dass sie ihre Aufgaben in einer Weise wahrnehmen, die sowohl ihren Idealen entspricht als auch den gesellschaftlichen Erwartungen gerecht wird.
Anpassung der Bewertungssysteme in der Wissenschaft
Aktuell gibt es allerdings kaum Anreize für Forschende, sich intensiv mit ihrer neuen Rolle zu beschäftigen. Die bestehenden Belohnungssysteme und Standards, nach denen sie bewertet werden, fördern inter- und transdisziplinäre Zusammenarbeit und gesellschaftliches Engagement nur unzureichend. In vielen Disziplinen werden Wissenschaftlerinnen und Wissenschaftler hauptsächlich anhand ihrer Publikationen und Zitationen bewertet. Die Anzahl und Qualität der veröffentlichten Artikel sowie die Häufigkeit, mit der sie von anderen Wissenschaftlerinnen und Wissenschaftlern zitiert werden, sind wichtige Kriterien für die Bewertung wissenschaftlicher Leistung. Wissenschaftlerinnen und Wissenschaftler werden außerdem anhand ihrer Lehrtätigkeit und akademischen Dienstleistungen begutachtet, darunter die Qualität der Lehre, die Betreuung von Studierenden und die Beteiligung an universitären Gremien und Kommissionen. Diese traditionellen Maßstäbe reichen nicht aus, um wissenschaftliche Beiträge zu Regulierung und Governance von KI angemessen zu würdigen.
In Anbetracht der neuen Anforderungen an die Wissenschaft ist es wichtig, die bestehenden Belohnungssysteme und Standards zu überdenken und anzupassen. Dabei sollten gesellschaftliche Relevanz, ethische Verantwortung und Interdisziplinarität stärker als bisher berücksichtigt werden. Einige Länder und Organisationen stellen bereits zunehmend Fördermittel und Ressourcen bereit, um interdisziplinäre Forschungsprojekte zu unterstützen, die verschiedene Fachbereiche und Expertisen zusammenbringen und innovative Ansätze fördern.