Wenn die KI halluziniert: Warum Sprachmodelle Fakten erfinden – und wie RAG das Problem löst

Warum ein Sprachmodell Fakten erfindet

Ein Sprachmodell speichert kein Lexikon. Es hat während des Trainings aus riesigen Textmengen Muster gelernt und daraus ein sogenanntes parametrisiertes Wissen gebildet – vergleichbar mit einem Gedächtnis, das sich an den Sinn von Gelesenem erinnert, aber nicht an den exakten Wortlaut. Wenn Sie eine Frage stellen, ruft das Modell keine gespeicherte Tatsache ab. Es sagt Wort für Wort das wahrscheinlichste nächste Wort voraus.

Das funktioniert erstaunlich gut, solange das Modell auf gut abgedecktes Wissen zurückgreifen kann. Sobald aber eine Lücke entsteht – weil das Thema zu speziell ist, zu neu, oder im Training schlicht nicht vorkam – füllt das Modell diese Lücke selbstständig mit einer plausibel klingenden Erfindung. Und es merkt nicht, dass es das tut.

Was eine Halluzination in der Praxis anrichtet

Ein klassisches Beispiel: Bitten Sie ein Sprachmodell um Literaturempfehlungen zu einem Nischenthema, erhalten Sie eine tadellos formatierte Liste – mit Autoren, Titeln und sogar ISBN-Nummern. Nur existieren die Bücher nicht. Alles ist erfunden, aber überzeugend strukturiert.

Im Website-Kontext wird das schnell heikel: eine KI, die Kundenfragen beantwortet und dabei Preise, Fristen oder rechtliche Angaben frei erfindet, richtet mehr Schaden an als Nutzen. Rückfragen wie „Bist du sicher?" helfen übrigens nicht – das Modell bestätigt sich dann oft nur selbst. Der Ausweg liegt nicht im besseren Nachfragen, sondern im Zugang zu echten Fakten.

Die Lösung: Wissen statt Raten

Hier kommt Retrieval Augmented Generation ins Spiel, kurz RAG. Die Idee ist so einfach wie wirkungsvoll: Statt das Modell aus seinem unzuverlässigen Gedächtnis antworten zu lassen, legt man ihm die relevanten Informationen direkt vor – und weist es an, ausschließlich auf dieser Grundlage zu antworten.

Der Ablauf in vier Schritten:

• Frage entgegennehmen. Die Nutzerfrage geht nicht sofort ans Modell, sondern zuerst an eine Suche.
• Wissensbasis durchsuchen. Das System findet in Ihren eigenen Dokumenten – Website-Texten, Handbüchern, FAQs – die inhaltlich passenden Passagen.
• Fakten mitliefern. Diese Passagen werden zusammen mit der Frage in das Kontextfenster des Modells geladen, quasi in seinen Arbeitsspeicher.
• Geerdet antworten. Der Systemprompt lautet sinngemäß: „Beantworte die Frage ausschließlich anhand der bereitgestellten Dokumente." Fehlt die Antwort dort, soll das Modell das offen sagen – statt zu erfinden.

Damit die Suche versteht, was inhaltlich zusammengehört, kommen Embeddings zum Einsatz: Texte werden in Zahlenlisten (Vektoren) übersetzt, die ihre Bedeutung abbilden. Inhaltlich Ähnliches liegt in diesem Zahlenraum nah beieinander – so findet eine Vektordatenbank auch dann die passende Stelle, wenn die Frage ganz andere Wörter verwendet als der Originaltext.

Was das für Ihre Website bedeutet

Die eigentliche Erkenntnis hinter RAG ist grundsätzlicher als die Technik: KI wird verlässlich, wenn man sie erdet – wenn sie mit echten, geprüften Daten arbeitet statt mit Wahrscheinlichkeiten. Genau nach diesem Prinzip entwickeln wir unsere eigenen KI-Werkzeuge für TYPO3.

nt-ai, unsere KI-Erweiterung für Barrierefreiheit, rät nicht – sie prüft. Das Barrierefreiheits-Audit arbeitet regelbasiert nach den WCAG-2.2-Kriterien; wo KI zum Einsatz kommt, etwa bei Alternativtexten für Bilder oder PDF-Dokumente, stützt sie sich auf den tatsächlichen Bild- bzw. Dokumentinhalt. Auch der Entwurf einer Erklärung zur Barrierefreiheit entsteht ausschließlich aus den gemessenen Audit-Daten – nicht aus dem, was ein Modell für plausibel hält.

nt-lingua, unsere Übersetzungslösung, folgt derselben Logik: Übersetzungen laufen über etablierte Fachdienste, werden in einem Glossar an Ihre Terminologie gebunden und zwischengespeichert. So bleiben Fachbegriffe konsistent und das Ergebnis reproduzierbar – statt bei jeder Anfrage neu und womöglich anders erfunden zu werden.

Und die Wissensbasis für ein RAG-System haben die meisten Unternehmen längst: die eigene Website. Gut strukturierte, aktuelle Inhalte sind nicht nur für Besucher und Suchmaschinen wertvoll – sie sind das Fundament, auf dem eine KI verlässlich Auskunft geben kann.

Fazit

Sprachmodelle sind mächtige Werkzeuge, aber sie sind keine Wissensdatenbanken. Sie erfinden dort, wo ihnen Fakten fehlen – höflich, flüssig und leider überzeugend. Wer KI sinnvoll einsetzen will, sorgt deshalb dafür, dass sie auf echte Quellen zugreift, statt frei zu formulieren. RAG ist der technische Weg dorthin; das Prinzip dahinter – erden statt raten – ist der eigentliche Kern.

Sie möchten KI verantwortungsvoll in Ihre TYPO3-Website integrieren – barrierefrei, mehrsprachig und faktenbasiert? Sprechen Sie mit uns über nt-ai und nt-lingua.