Woran merke ich, ob die Antwort einer KI stimmt?

Sprachmodelle erzeugen Text, indem sie fortlaufend die wahrscheinlichste Fortsetzung bilden. Sie führen dabei keinen Abgleich mit einer Wissensbasis durch, sofern ihnen nicht ausdrücklich eine mitgegeben wird.

Daraus folgt der entscheidende Punkt. Eine erfundene Angabe entsteht auf demselben Weg wie eine zutreffende. Sie ist deshalb genauso flüssig, genauso sicher im Ton und genauso plausibel aufgebaut. Fachlich heißen diese Fälle Halluzinationen, das Bundesamt für Sicherheit in der Informationstechnik führt sie als eines der zentralen Qualitätsrisiken beim Einsatz generativer KI.

Ein Unsicherheitssignal im Text gibt es nicht. Wer darauf wartet, wartet vergeblich.

Wo Fehler gehäuft auftreten

Nicht alle Angaben sind gleich anfällig. Besondere Aufmerksamkeit verdienen fünf Arten.

Zahlen und Statistiken. Größenordnungen wirken oft stimmig, die konkrete Zahl ist es nicht.

Quellenangaben. Titel, Autor und Jahr können vollständig frei entstehen und dabei völlig glaubwürdig aussehen.

Namen und Zuschreibungen. Zitate werden Personen zugeordnet, die sie nie gesagt haben.

Datumsangaben und Fristen. Besonders heikel, weil sie sich rasch ändern und der Trainingsstand des Modells zurückliegt.

Paragrafen und Normen. Die Nummer stimmt oft nicht, der Inhalt manchmal auch nicht.

Die wirksamste Regel

Wähle Aufgaben so, dass ein Fehler auffallen würde.

Das ist der Kern und er ist unspektakulär. Bei einer Zusammenfassung eines Textes, den du selbst kennst, siehst du sofort, wenn etwas fehlt oder verdreht wurde. Bei einer Recherche zu einem Thema, das du nicht kennst, hast du keine Grundlage für ein Urteil, und genau dort entsteht der Schaden.

Praktisch heißt das, dass sich Sprachmodelle für Umformungsarbeit besser eignen als für Wissensbeschaffung. Umformung lässt sich beurteilen, Beschaffung muss geprüft werden.

Was allgemein empfohlen wird

Für die Arbeitsweise haben sich mehrere Schritte etabliert, die sich auch in den Empfehlungen des BSI wiederfinden.

Das Material mitgeben, statt nach Wissen zu fragen. Wer ein Dokument beifügt und Fragen dazu stellt, arbeitet auf einer prüfbaren Grundlage. Wer eine offene Wissensfrage stellt, bekommt eine Rekonstruktion.

Aufgabe, Zusammenhang und Grenzen benennen. Also wofür der Text gebraucht wird, was vorausgesetzt werden kann und was nicht enthalten sein soll.

Komplexe Fragen zerlegen. Mehrere kleine Schritte sind einzeln prüfbar, ein großer Wurf ist es nicht.

Ausdrücklich nach Unsicherheit fragen. Die Aufforderung, offene Punkte und fehlende Angaben zu benennen, statt sie zu ergänzen, verändert das Ergebnis spürbar.

Belege verlangen und selbst nachsehen. Das Verlangen allein genügt nicht, denn auch die Quellenangabe kann erfunden sein. Geprüft wird an der Quelle.

Was nicht funktioniert

Die Nachfrage „bist du sicher” ist kein Prüfmittel. Sie erzeugt häufig eine Korrektur, unabhängig davon, ob die erste Antwort richtig war.

Auch der Vergleich mehrerer Modelle ersetzt keine Prüfung. Übereinstimmung bedeutet nicht Richtigkeit, denn ähnliche Trainingsdaten führen zu ähnlichen Fehlern.

Werkzeuge mit Websuche verringern das Problem, sie lösen es nicht. Die Quelle existiert dann zwar, die Zusammenfassung kann sie trotzdem verzerren.

Die Zuständigkeit bleibt

Wer einen Text weitergibt, steht für seinen Inhalt ein. Diese Verantwortung wandert nicht zum Werkzeug, und sie lässt sich auch nicht durch einen Hinweis auf den Einsatz von KI verschieben.

Daraus folgt eine einfache Festlegung, die sich im Alltag bewährt hat. Alles, was das Haus verlässt, wird gelesen, bevor es verschickt wird.

Quelle: Bundesamt für Sicherheit in der Informationstechnik, Veröffentlichungen zu Chancen und Risiken generativer KI-Modelle. Die genannten Arbeitsschritte sind gängige Praxis und keine amtliche Vorgabe.