Was ist eine KI- Halluzination?

Warum Sprachmodelle halluzinieren

Ein Large Language Model schlägt keine Fakten nach, sondern berechnet, welche Wörter wahrscheinlich folgen. Fehlt das nötige Wissen in den Trainingsdaten oder im Kontext, erzeugt das Modell trotzdem eine flüssige Antwort – es füllt die Lücke mit etwas, das sprachlich passt. Typische Ursachen sind:

• Fehlendes Wissen: Unternehmensinterne Informationen oder Ereignisse nach dem Trainingsstand kennt das Modell nicht.
• Unklare Fragen: Vage oder mehrdeutige Prompts laden zu Annahmen ein.
• Schlechte Quellen: Veraltete oder widersprüchliche Dokumente im Kontext führen zu falschen Schlüssen.
• Lange Kontexte: Bei sehr großen Eingaben können Modelle Details übersehen oder verwechseln.
• Rechenaufgaben: Sprachmodelle sind keine Taschenrechner; Zahlen aus Tabellen sind eine häufige Fehlerquelle.

Warum Halluzinationen ein Geschäftsrisiko sind

Eine falsche Zahl im Angebot, eine erfundene Vertragsklausel oder eine nicht existierende Quelle im Bericht kann reale Folgen haben – finanziell, rechtlich oder für Ihren Ruf. Das Tückische: Halluzinationen sind schwer zu erkennen, weil sie genauso überzeugt formuliert sind wie korrekte Antworten. Teams brauchen deshalb klare Regeln, welche Ergebnisse vor der Verwendung geprüft werden müssen.

So reduzieren Sie Halluzinationen

1. Quellen bereitstellen: Verbinden Sie das Modell über RAG mit geprüftem Unternehmenswissen und lassen Sie die genutzten Textstellen nennen.
2. Präzise fragen: Klare Aufgaben, Kontext und die ausdrückliche Erlaubnis, „weiß ich nicht“ zu sagen, helfen – siehe Prompt Engineering.
3. Rechnen statt raten: Zahlen mit passenden Werkzeugen berechnen lassen, statt sie aus Text zu schätzen.
4. Wissen pflegen: Veraltete Dokumente entfernen und Zuständigkeiten klären.
5. Menschen einbinden: Ergebnisse mit Außenwirkung – Angebote, Verträge, Kundenkommunikation – brauchen eine Prüfung.
6. Strukturiertes Wissen nutzen: Zusammenhänge zwischen Kunden, Projekten und Produkten sind in einem KI-Wissensgraphen verlässlicher abgebildet.

Was nicht funktioniert

Halluzinationen lassen sich mit heutiger Technik nicht vollständig ausschließen. Weder ein größeres Modell noch ein perfekter Prompt garantiert korrekte Antworten. Ziel ist daher nicht Fehlerfreiheit, sondern Überprüfbarkeit: Jede wichtige Aussage sollte sich auf eine Quelle zurückführen lassen.

Halluzinationen und AIPE

AIPE senkt das Risiko mit quellenbasierten Antworten: Dokumente werden semantisch indexiert, die Suche berücksichtigt nur Dokumente, die die fragende Person lesen darf, und Antworten verweisen auf die genutzten Quelldokumente, sodass Aussagen prüfbar sind. Fragen zu Tabellen berechnet AIPE mit einem eigenen Analysewerkzeug. Auch AIPE kann Halluzinationen nicht ausschließen – die Prüfung wichtiger Ergebnisse bleibt notwendig. Wie Sie eine verlässliche Wissensbasis aufbauen, beschreibt der Ratgeber KI-Wissensdatenbank; die Funktionen finden Sie auf der Seite Wissen.