Studie: KI-Modell Claude zitiert russisches Desinformations-Netz als Nachrichtenquelle

Hier sind die aktuellen Nachrichten aus aller Welt: Studie zu Künstlicher Intelligenz KI-Chatbot Claude zitiert russische Desinformation als Nachrichtenquelle Immer mehr Menschen Nutzen KI als Nachrichtenquelle und hoffen auf neutrale und objektive Antworten. Nun warnt eine neue Studie vor »schwer wahrnehmbaren Verzerrungen« durch die Modelle von Anthropic, OpenAI und Co. 54 Uhr Zur Merkliste hinzufügen Artikel anhören (9 Minuten) 9 Min X.

com Facebook E-Mail Link kopieren Weitere Optionen zum Teilen X. com Facebook E-Mail Messenger WhatsApp Link kopieren SPIEGEL bei Google bevorzugen Bild vergrößern Handy-Nutzerin: Desinformation, gleichberechtigt neben anderen Quellen Foto: We Are / Digital Vision / Getty Images Die Berliner Denkfabrik Agora Digitale Transformation untersucht für eine neue Studie, wie KI-Modelle Fragen zu aktuellen Nachrichten beantworten und welche Verzerrungen es dabei geben kann. Das am Mittwoch erscheinende Papier mit dem Titel »Meinungsbildung im Wandel: wie KI-Modelle Nachrichtenquellen selektieren« lag dem SPIEGEL vorab vor.

Die Einzelheiten

Aus Sicht der Hauptautorin Vivien Benert, die sich bei der Denkfabrik mit »digitaler Öffentlichkeit« befasst, entwickeln sich KI-Systeme wie ChatGPT zu zentralen Gatekeepern in der Vermittlung aktueller Nachrichten. Das habe weitreichende Auswirkungen für die Meinungsbildung wie auch für die Geschäftsmodelle etablierter Medien. Quellenauswahl sei »eine Blackbox«Die eigenen Erhebungen zeigten unter anderem, dass »KI-Systeme aus einer schmalen Quellenbasis schöpfen und Aufmerksamkeitsverzerrungen verstärken«, ohne dass die Auswahlkriterien dokumentiert oder nachvollziehbar seien, so Benert in einem Begleitpapier.

Die Quellenauswahl führender Systeme bezeichnet sie darin als »eine Blackbox«. Bild vergrößern Agora-Expertin Benert: KI-Anbieter als neue Gatekeeper Foto: Robert Günther / Agora Digitale Transformation Die Analyse untersuchte, welche Quellen unter anderem die KI-Chatbots ChatGPT und Claude und die KI-Angebote Gemini und AI Overview von Google bei Antworten zu Nachrichtenthemen heranziehen. Dazu stellten die Autoren in diesem Mai an fünf Werktagen 675 Anfragen zu fünf Themen und werteten rund 4.

800 daraus resultierende Quellenverweise aus. Es handelt es sich also eher um eine Stichprobe als um eine Langzeituntersuchung. Bei ChatGPT gibt es eine klare DominanzDie untersuchten KI-Systeme erzeugten ihre Ergebnisse aus einer engen Quellenbasis und zeigten stark unterschiedliche Verteilungen bei ihren zehn meistgenutzten Nachrichtenquellen, so die Analyse.

Die Methodik der KI-Modell sei für Nutzerinnen und Nutzer dabei nicht ersichtlich: »Kein Anbieter dokumentiert transparent, wie die Quellenauswahl zur Beantwortung von Prompts funktioniert«, so Benert. Der Agora-Analyse zufolge nutzen ChatGPT und Perplexity bei Nachrichtensuchen überwiegend journalistische Quellen.

Die Entwicklung hat international große Aufmerksamkeit erregt; diplomatische Kreise verfolgen sie genau.