Fehler in KI-Antworten: Was können Nutzer tun?

Eine Studie von Newsguard zeigt, dass große KI-Modelle zunehmend mehr Falschbehauptungen verbreiten. Newsguard bewertet die Glaubwürdigkeit von Nachrichtenseiten. Die Studie untersuchte die Antworten von zehn führenden KI-Modellen zu aktuell kontroversen und durch Desinformation beeinflussten Themen. In 35 Prozent der Fälle gaben die Chatbots falsche Informationen wieder. Im August 2024 lag dieser Anteil noch bei 18 Prozent.

Noch höher ist der Wert der Fehler laut einer im Oktober veröffentlichten Studie der Europäischen Rundfunkunion (EBU): 45 Prozent aller Antworten zu aktuellen Ereignissen wiesen demnach mindestens ein bedeutendes, irreführendes Problem auf. Dazu zählen auch veraltete Angaben, erfundene Quellen und sogar erfundene Links zu Quellen.

Warum entstehen Fehler und Falschbehauptungen?

Falschbehauptungen können jederzeit auftreten, nicht nur bei aktuellen Nachrichtenthemen. Dafür gibt es verschiedene Gründe:

• Wahrscheinlichkeit statt Wahrheit: Sprachmodelle erzeugen Antworten auf Basis statistischer Wahrscheinlichkeit. Sie erkennen nicht, was wahr oder falsch ist, sondern generieren die wahrscheinlichste Antwort.
• Unwissenheit verbergen: Chatbots sollen Antworten liefern. Wenn sie unsicher sind, generieren sie oft plausible, aber falsche Aussagen, statt Unwissenheit zuzugeben. Das zeigt eine Studie von OpenAI und dem Georgia Institute of Technology.
• Modellzusammenbruch: Wenn KI-Modelle mit Daten trainiert werden, die teilweise von KI erzeugt wurden, verschlechtert sich ihre Leistung. Forscher der Universitäten Oxford und Cambridge bezeichneten dieses Problem in einer Studie als „Modellzusammenbruch“. Angesichts des wachsenden Anteils durch KI-erzeugter Inhalte gewinnt dieses Problem an Bedeutung.
• Längere Gespräche: Eine Studie von Microsoft und Salesforce zeigt zudem, dass die Genauigkeit der Antworten sinkt, je länger ein Gespräch mit einem Chatbot dauert.

Können Nutzer die KI zur „Ehrlichkeit“ erziehen?

Nein. Christel Schmuck vom Mittelstand-Digital Zentrum Berlin erklärt, dass KI zwar Ideen liefern, Formulierungen verbessern und wissenschaftliche Quellen recherchieren kann. Nutzer müssten jedoch selbst Fakten prüfen, Argumentationen hinterfragen und bei wichtigen Entscheidungen die Verantwortung übernehmen.

Schmuck rät, Antworten verschiedener KI-Modelle zu vergleichen, Quellen kritisch zu hinterfragen und Abfragen zu wiederholen: „Bewusstes Hinterfragen reduziert das Risiko von Fehlinformationen und sorgt für fundierte Entscheidungen.“

Lassen sich KI-Antworten verbessern?

Ja, bis zu einem gewissen Grad ist das möglich. Was Sie tun können, um Ergebnisse zu verbessern:

• Klare und ausführliche Prompts: Je genauer die Frage oder Aufgabe formuliert ist, desto besser das Ergebnis.
• Faktencheck einfordern: Verlangen Sie, dass die KI alle Informationen mit Quellenangaben belegt – idealerweise mit Link zur Quelle – und dass ihre Antworten faktisch korrekt sind.
• Unwissenheit erlauben: Erlauben Sie der KI Unsicherheit – indem Sie im Prompt zum Beispiel schreiben: „Sag klar, wenn du dir aufgrund der vorliegenden Fakten nicht sicher bist.“
• Quellen eingrenzen: Geben Sie vor, dass die KI nur seriöse, anerkannte Quellen nutzt. Oder Sie reduzieren Sie Falschaussagen, indem Sie der KI selbst konkrete Websites als seriöse Quellen vorgeben.
• Ergebnisse gegenchecken: Nutzen Sie andere KI-Modelle, um Antworten zu überprüfen.

Eine Garantie für wahre Antworten bieten aber auch diese Maßnahmen nicht. Für verlässliche Daten oder aktuelle Informationen empfiehlt Christel Schmuck „klassische Suchmaschinen, Nachrichtenportale und wissenschaftliche Quellen“. Dort ließen sich die Angaben leichter überprüfen und mit Belegen absichern.