KI-Halluzinationen: Wer haftet für falsche Outputs?

23. Oktober 20264 Min. Lesezeit

Dein KI-Chatbot beantwortet Kundenfragen rund um die Uhr. Dein Vertriebsteam nutzt KI für Angebote und Produkttexte. Klingt produktiv. Aber was, wenn die KI Fakten erfindet? Ein deutsches Oberlandesgericht hat im Mai 2026 klargestellt: Dein Unternehmen haftet dafür, genauso wie für einen Mitarbeiter, der Kunden falsche Informationen gibt.

KI-Halluzinationen

Als KI-Halluzinationen bezeichnet man Antworten eines Sprachmodells, die zwar überzeugend klingen, aber dennoch falsch sind. Ob erfundene Quellen, nicht existierende Gerichtsurteile oder falsche Produktmerkmale, KI präsentiert Inhalte oft ohne erkennbares Zögern als gesicherte Tatsachen.

Wie häufig das passiert, zeigen aktuelle Benchmarks. Laut dem AI Hallucination Rate Report 2026 liegen die Fehlerquoten der führenden Modelle je nach Aufgabentyp zwischen 22 % und 94 %. Selbst bei einfachen Zusammenfassungen eigener Dokumente halluzinierten Modelle in bis zu 24 % der Fälle.

Auch die neuesten Modelle sind davon nicht ausgenommen. Fortschrittlichere Reasoning-Modelle zeigten in einigen Benchmarks höhere Halluzinationsraten als ihre Vorgänger. Halluzinationen sind, zumindest derzeit noch, ein strukturelles Merkmal der Technologie.

Zwei deutsche Urteile zur Haftung für KI-Aussagen

Die Rechtslage für Unternehmensinhaber war lange unklar. Zwei Entscheidungen aus dem Jahr 2026 konkretisieren die Haftung.

OLG Hamm, Mai 2026: Chatbot-Aussagen sind Unternehmensaussagen

Ein Website-Chatbot einer Schönheitsklinik bezeichnete die beiden Geschäftsführer als Fachärzte. Keiner von beiden trägt diesen Titel. Das Oberlandesgericht Hamm entschied: Die Antworten des Chatbots sind Werbeaussagen des Unternehmens. Dass eine KI sie generiert hat, entlastet den Betreiber nicht. Das gilt ausdrücklich auch dann, wenn dem System ausschließlich korrekte Daten eingespielt wurden.

München, Mai 2026: Google haftet für KI-Zusammenfassungen

Googles KI-Übersicht unterstellte einem Münchener Verlagshaus fälschlicherweise unseriöse Geschäftspraktiken. Google argumentierte, die KI fasse lediglich fremde Inhalte zusammen. Das Landgericht München I ließ das nicht gelten. Da die KI Informationen eigenständig verarbeitet und neu formuliert, ist das Ergebnis rechtlich eine eigene Aussage des Betreibers.

KI ist ein Werkzeug deines Unternehmens. Für das, was dieses Werkzeug nach außen vermittelt, trägst du die Verantwortung.

Die regulatorische Lage in 2026

Neben der zivilrechtlichen Haftung kommen zwei regulatorische Fristen hinzu.

EU AI Act, August 2026: Seit dem 2. August 2026 gelten Transparenzpflichten gemäß Artikel 50 des EU AI Acts. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes belegt werden. Für kleinere Unternehmen gilt der niedrigere Wert als Höchstgrenze.
EU-Produkthaftungsrichtlinie, Dezember 2026: Bis zum 9. Dezember 2026 muss die neue Richtlinie in nationales Recht umgesetzt sein. Sie erfasst ausdrücklich auch Software und KI-Systeme. Kläger müssen die internen Mechanismen einer KI nicht im Detail darlegen. Die Beweislast verschiebt sich zugunsten der Geschädigten.

Die rechtliche Gesamtlage für 2026 erhöht den Bedarf an klaren Prozessen für den geschäftlichen KI-Einsatz. Ein Disclaimer alleine reicht hierbei nicht aus.

Wo das Risiko besonders hoch ist

Die Risiken steigen dort, wo KI-Outputs direkt nach außen wirken oder rechtlich bindende Folgen haben.

Kundenservice-Chatbots
Der Air-Canada-Fall ist inzwischen ein Präzedenzfall. Der Konzern musste eine Rabattrichtlinie einhalten, die sein Chatbot erfunden hatte. Dasselbe Risiko besteht bei Chatbots ohne menschliche Kontrolle.
Angebote und Produkttexte
Falsche technische Angaben, nicht existierende Zertifizierungen, erfundene Testergebnisse. Werden solche Inhalte im Verkaufsprozess eingesetzt, ist das wettbewerbsrechtlich relevant.
Rechts- und Vertragsrecherche
Wie die Analyse zu KI-Halluzinationen in Geschäftsprozessen zeigt, erfanden KI-Systeme in realen Tests nicht existierende Gerichtsentscheidungen für Vertragsentwürfe. Über 200 Gerichtsfälle weltweit dokumentieren solche Fälle.
Berichte und Dokumentationen
Eine 2025 veröffentlichte Studie im JMIR Mental Health zeigte, dass 19,9 % der von KI generierten Literaturzitate vollständig erfunden waren. Weitere 45,4 % der echten Zitate enthielten erhebliche Fehler.

Risiko verringern

Du brauchst keine große IT-Abteilung, um das Risiko zu reduzieren. Drei Maßnahmen lassen sich direkt in bestehende Abläufe integrieren.

1. Menschliche Freigabe für externe Kommunikation

Kein KI-Output sollte nach außen gehen, ohne dass ein Mensch ihn geprüft hat. In der Praxis wird das aber leider oft durch zu stark automatisierte Workflows ausgehebelt. Gerichte behandeln KI-Outputs zunehmend wie professionelle Beratung. Für fahrlässige Beratung haftest du.

2. Faktenprüfung als fester Schritt im Prozess

Statistiken, Zitate, Quellenangaben und konkrete Behauptungen in KI-Outputs müssen gegen die tatsächlichen Quellen geprüft werden. Nicht gegen die KI-Aussage, dass die Quelle existiert. Prüfe die Quelle selbst. Für Angebote, Verträge und Kundenkommunikation ist das kein optionaler Schritt.

3. Mehrere Modelle für wichtige Recherchen nutzen

Stelle dieselbe Frage an mehrere Modelle und prüfe die Antworten auf faktische Widersprüche. Das reduziert die Fehlerquote spürbar, ersetzt jedoch keine Primärquellenprüfung.

Praxis-Tipp: Wenn du KI-Tools für Recherche, Dokumente und Kundenkommunikation nutzt, hilft dir eine Plattform mit quellenbasierter Recherche. Der RechercheMeister in ConRat AI liefert Antworten mit verlinkten Quellen, die du direkt öffnen und prüfen kannst. Das reduziert das Halluzinationsrisiko bei Rechercheaufgaben deutlich. 30 Tage kostenlos testen, keine Kreditkarte nötig: conrat-ai.de

Praktische Konsequenz

Lege vor dem Einsatz fest, welche Inhalte ein Mensch freigibt, welche Quellen geprüft werden müssen und wie dein Unternehmen diese Prüfung dokumentiert. Das betrifft besonders Kundenkommunikation, Angebote, Verträge und Produkttexte.