KI als Vermittlungsinstanz zwischen Wissenschaft und Öffentlichkeit

von Ursula Resch-Esser

KI-Systeme werden zunehmend als Informationsquelle genutzt. Was passiert, wenn Menschen auf KI-generierte Informationsräume treffen?

Aktuell verändert sich die Art, wie wir Informationen finden und einordnen. Bisher haben wir bei einer klassischen Suchmaschine eine Reihe von Treffern angezeigt bekommen und dann selbst entschieden, welchen Quellen wir nutzen. KI-Systeme übernehmen zunehmend einen Teil dieses Prozesses: Sie verarbeiten Informationen, wählen aus, gewichten und verdichten sie zu einer Antwort.

Damit verändert sich nicht nur, welche Informationen wir bekommen, sondern auch, wie sie uns präsentiert werden. KI-Systeme liefern häufig plausible und gut formulierte Antworten. Das erleichtert die Orientierung und führt schnell zu einem Ergebnis. Gleichzeitig wird ein Teil der Auswahl und Prüfung an KI-Systeme delegiert. Gerade bei wissenschaftlichen Inhalten ist das relevant, denn es macht einen Unterschied, welche Quellen berücksichtigt werden, wie Unsicherheiten dargestellt werden und welche Perspektiven in einer verdichteten Antwort möglicherweise fehlen. KI-Systeme können außerdem Bias und stereotypische Abbildungen aus Trainingsdaten reproduzieren. Und auch die Form der Antwort selbst hat eine Wirkung, denn eine souverän und klar formulierte Antwort kann sehr überzeugend erscheinen, selbst wenn die zugrunde liegende Evidenz weniger eindeutig ist.

Für die Wissenschaftskommunikation stellt sich deshalb zunehmend die Frage, wie sie damit umgeht, wenn KI mehr ist als nur ein Werkzeug, und selbst zu einer Vermittlungsinstanz zwischen Wissenschaft und Öffentlichkeit wird.

Wo sehen Sie die Chancen, wo die Probleme dieser Entwicklung – insbesondere in Bezug auf wissenschaftliche Inhalte?

Eine Chance liegt in der Zugänglichkeit von Wissen. Wissenschaftliche Inhalte sind häufig komplex. KI-Systeme können die Inhalte an unterschiedliche Wissensstände anpassen und große Informationsmengen strukturieren. Das kann Hürden abbauen.

„Bei wissenschaftlichen Erkenntnissen wird die Vertrauenswürdigkeit aber nicht allein vom Inhalt, sondern auch von der Herkunft und der wissenschaftlichen Begründung bestimmt.“

Problematisch kann es werden, wenn wissenschaftliche Aussagen zunehmend losgelöst von ihren ursprünglichen Quellen betrachtet werden. Liefert ein KI-System bereits eine fertige Antwort, sinkt der Anreiz, sich zusätzlich mit der zugrunde liegenden Studie oder der veröffentlichenden Institution zu beschäftigen. Bei wissenschaftlichen Erkenntnissen wird die Vertrauenswürdigkeit aber nicht allein vom Inhalt, sondern auch von der Herkunft und der wissenschaftlichen Begründung bestimmt. Angaben zur Autorenschaft oder zur institutionellen Zuordnung sind wichtige Vertrauenssignale, die Aufschluss darüber geben, wer hinter einer Aussage steht und woher die entsprechende Expertise stammt. Werden Originalquellen kaum noch hinzugezogen oder gehen sie durch die mehrfache Verarbeitung durch KI vollständig verloren, fehlen also wichtige Möglichkeiten, wissenschaftliche Aussagen nachzuvollziehen, kritisch einzuordnen und zu überprüfen. Hinzu kommt, dass KI-Systeme nicht zwangsläufig die Gesamtheit der Forschungsergebnisse zu einem Thema berücksichtigen. Dadurch kann sich verschieben, welche wissenschaftlichen Erkenntnisse sichtbar werden und welche nicht.

Fehlende Transparenz bezüglich der Quellennutzung und fehlerhafte Informationen sind Vorwürfe gegenüber KI-generierten Inhalten. Wie wirkt sich das auf die Meinungsbildung aus, wie auf das Vertrauen gegenüber der Wissenschaft?

Wenn ein KI-System eine fehlerhafte Information aus der Wissenschaft ausgibt, ist häufig nicht unmittelbar erkennbar, wo der Fehler entstanden ist. War bereits eine Quelle problematisch? Wurden Ergebnisse falsch zusammengefasst? Hat das KI-System etwas hinzugefügt, das in den Quellen gar nicht enthalten war? Diese Unsicherheit bezüglich Herkunft und Verantwortlichkeit kann für das Vertrauen in die Wissenschaft problematisch werden.

Vertrauen kann künftig immer mehr davon abhängen, ob Herkunft, Prüfung und Verantwortlichkeit einer Information nachvollziehbar sind. Daher muss nicht nur transparent sein, wo KI eingesetzt wurde, sondern auch, wo menschliche fachliche Prüfung stattgefunden hat. Gerade in der Wissenschaftskommunikation ist das besonders wichtig. Eine Arbeitsgruppe, die aus der Taskforce „KI in der Wissenschaftskommunikation" der #FactoryWisskomm hervorgegangen ist, hat daher einen Kennzeichnungsstandard für den Einsatz von generativer KI in der Wissenschaftskommunikation erarbeitet. Der „AI Transparency Standard“ steht aktuell unter ai-label.science zur Diskussion. Das Label macht nicht nur den Umfang der KI-Nutzung sichtbar, sondern signalisiert auch, dass eine verantwortliche Person den Inhalt fachlich geprüft hat. Die sichtbare menschliche Qualitätssicherung könnte damit zu einem wichtigen Orientierungs- und Vertrauenssignal werden. Solche Standards lassen sich aber nur gemeinsam etablieren. Es braucht daher zukünftig Kooperationen und Allianzen, damit verlässliche wissenschaftliche Informationen für die Nutzer*innen auch in KI-geprägten Informationsräumen erkennbar bleiben.

Wie sehr verlieren Wissenschaftler*innen und Einrichtungen durch KI-generierte Informationen an Sichtbarkeit?

Wenn Suchmaschinen bereits eine KI-generierte Zusammenfassung liefern, klicken Nutzer*innen seltener auf die ursprünglichen Suchergebnisse. Das bedeutet noch nicht zwingend, dass wissenschaftliche Einrichtungen an Sichtbarkeit verlieren, aber KI-generierte Antworten können zunehmend an die Stelle des Besuchs bei der ursprünglichen Quelle treten. Informationen können in einer KI-Antwort enthalten sein, ohne dass die Forschenden oder Institutionen dahinter für die Nutzer*innen erkennbar sind.

Der Besuch der eigenen Website kann daher künftig nicht mehr das einzige Maß für Sichtbarkeit und Wirkung sein. Entscheidend wird vielmehr, ob die eigenen Inhalte auch in KI-vermittelten Informationsräumen korrekt wiedergegeben und eindeutig zugeordnet werden. Viele Maßnahmen, die bereits für die klassische Suchmaschinenoptimierung wichtig waren, bleiben auch für die Sichtbarkeit in KI-basierten Suchsystemen zentral, wie gut strukturierte, technisch zugängliche Inhalte und aussagekräftige Metadaten. Neue Ansätze, zum Beispiel die Aufbereitung von Informationen in möglichst kompakten und klar abgegrenzten Informationseinheiten, werden derzeit erprobt. Verlässliche Standards haben sich bislang jedoch noch nicht herausgebildet.

Wissenschaftliche Einrichtungen und Kommunikator*innen sollten deshalb beobachten, ob und wie ihre Inhalte in KI-Antworten enthalten sind. Ein solches Monitoring kann zeigen, welche Themen und Quellen sichtbar werden und wo Nachsteuerung nötig ist, weil Informationen verkürzt oder fehlerhaft wiedergegeben werden.

„Gerade für Forschende und Wissenschaftskommunikator*innen ist zentral, dass die Verantwortung nicht an ein KI-System delegiert werden kann.“

Auch Forschende und Kommunikator*innen nutzen zunehmend KI-Systeme für ihre Arbeit. Welche Aspekte sollten sie selbst dabei im Auge behalten?

Gerade für Forschende und Wissenschaftskommunikator*innen ist zentral, dass die Verantwortung nicht an ein KI-System delegiert werden kann. KI-Systeme können bei der Arbeit in verschiedenen Bereichen unterstützen. Die Bewertung, ob ein Ergebnis fachlich richtig und für den jeweiligen Zweck geeignet ist, bleibt aber eine menschliche Aufgabe.

Für die konkrete Arbeit sind neben der Verantwortung auch die Aspekte Qualität, Kompetenz und Transparenz besonders relevant. Für die Wissenschaftskommunikation haben verschiedene Akteur*innen bereits Handlungsempfehlungen, Leitlinien und Empfehlungen veröffentlicht, die Orientierung bieten. Genannt seien hier bespielhaft die Handlungsempfehlungen der #FactoryWisskomm-Taskforce „KI in der Wissenschaftskommunikation“ und die „Reflexionsfragen zur Nutzung von Generativer KI in der Wissenschaftskommunikation“ gemeinsam veröffentlicht von Wissenschaft im Dialog, dem Informationsdienst Wissenschaft, dem Bundesverband Hochschulkommunikation, der #FactoryWisskomm-Taskforce „KI in der Wissenschaftskommunikation“ und dem Institut für Kommunikationswissenschaft an der TU Braunschweig.

Was erwartet die Teilnehmenden in Ihrem Workshop – und was können sie mitnehmen?

In unserem Workshop schauen wir zunächst was sich durch KI-gestützte Suche und agentische Systeme aktuell verändert und welche Auswirkungen das hat. Dabei interessiert uns nicht nur, welche Quellen durch KI-Systeme gefunden werden, sondern auch, was daraus entsteht. Sind wissenschaftliche Unsicherheiten noch sichtbar? Werden unterschiedliche Positionen zu einer vermeintlich eindeutigen Aussage verdichtet? Warum wirkt eine Antwort glaubwürdig? Und welche Vertrauenssignale bleiben noch erhalten, wenn wissenschaftliche Informationen durch eine KI-Oberfläche vermittelt werden? Anschließend wollen wir diese Fragen gemeinsam auf die Praxis beziehen. Welche Handlungsmöglichkeiten haben Kommunikator*innen und wo liegen die Grenzen ihres Einflusses?

Uns geht es dabei ausdrücklich nicht darum, fertige Lösungen zu präsentieren. Das Feld entwickelt sich sehr schnell. Wir wollen vorhandenes Wissen und unterschiedliche Erfahrungen zusammenbringen und daraus konkrete Handlungsmöglichkeiten für die eigene Praxis ableiten.

Infos zum Workshop:
Forum Wissenschaftskommunikation, Mittwoch, 9. Dezember, 11.30–13 Uhr
Workshop: „Wenn KI das Antworten übernimmt: Neue Fragen für die Wissenschaftskommunikation“
Referent*innen:
Nicole Hillebrand, #FactoryWisskomm-Taskforce „KI in der Wissenschaftskommunikation“
Prof. Dr. Olaf Kramer, Eberhard Karls Universität Tübingen
Samantha Morgaine Prange, Deutsches Forschungszentrum für Künstliche Intelligenz
Kerstin Sellerberg, SICP Software Innovation Campus Paderborn, Universität Paderborn

Programm und Anmeldung zum Forum Wissenschaftskommunikation