KI erfindet Fakten: Was Halluzinationen sind und wie Sie sich als KMU-Inhaber schützen

Sie tippen eine Frage in ein KI-Tool, bekommen eine flüssig formulierte, sachlich klingende Antwort — und stellen später fest, dass ein Teil davon schlicht erfunden war. Eine Telefonnummer, die nicht existiert. Ein Gesetz, das so nicht gilt. Ein Produktname, den es nicht gibt. Dieses Phänomen hat einen Namen: Halluzination.

Für einen KMU-Inhaber, der KI im Tagesgeschäft einsetzt, ist das kein theoretisches Problem. Es ist ein konkretes Betriebsrisiko. Dieser Ratgeber erklärt, warum KI-Modelle so arbeiten, wann Halluzinationen besonders häufig auftreten — und was Sie ganz praktisch dagegen tun können.

Was ist eine KI-Halluzination überhaupt?

Sprachmodelle wie ChatGPT, Claude oder vergleichbare Tools funktionieren nicht wie eine Suchmaschine. Sie suchen keine Informationen in einer Datenbank, sondern generieren Text — Wort für Wort, auf Basis statistischer Muster aus riesigen Textmengen, mit denen sie trainiert wurden.

Das bedeutet: Das Modell “weiß” nichts im menschlichen Sinne. Es berechnet, welche Wortfolge in einem bestimmten Kontext wahrscheinlich korrekt ist. Meistens stimmt das. Aber manchmal produziert es eine plausibel klingende Antwort, die sachlich falsch ist — ohne jeden Hinweis, dass sie falsch ist.

Beispielhaft aus dem Betriebsalltag: Ein Gastronom fragt das KI-Tool nach der aktuellen Hygienevorschrift für Kühltemperaturen. Die Antwort klingt präzise und fachkundig. Aber ob sie dem tatsächlich geltenden Recht entspricht, kann das Modell nicht garantieren — sein Trainingsstand liegt in der Vergangenheit, und Vorschriften ändern sich.

Wann halluzinieren KI-Modelle besonders häufig?

Es gibt Situationen, in denen das Risiko deutlich steigt. Die kennen zu wissen, hilft Ihnen, gezielter vorzugehen:

• Aktuelle oder sehr spezifische Informationen: Gesetze, Normen, Preise, Öffnungszeiten, lokale Gegebenheiten — das Modell hat keinen Echtzeit-Zugriff auf aktuelle Quellen.
• Nischenwissen: Je spezieller das Thema, desto dünner ist die Datenbasis, auf der das Modell trainiert wurde.
• Zahlen und Quellen: Modelle erfinden Studientitel, Statistiken oder Literaturangaben mit erschreckender Überzeugung.
• Personen und Unternehmen: Namen, Funktionen, Lebensläufe — hier kommt es regelmäßig zu Verwechslungen oder Erfindungen.
• Lange, komplexe Aufgaben: Je länger das Gespräch oder der Auftrag, desto häufiger schleichen sich Fehler ein.

Für einen Handwerksbetrieb, der KI für Angebote nutzt: Wenn das Tool eine Materialnorm oder eine Herstellerangabe nennt, sollten Sie diese immer prüfen, bevor sie ins finale Dokument fließen.

Warum sagt die KI nicht einfach “ich weiß es nicht”?

Das ist eine der häufigsten Frustrationsfragen von Anwendern — und die Antwort liegt im Grundprinzip der Technologie. Das Modell ist darauf trainiert, hilfreich und vollständig zu antworten. “Ich weiß es nicht” ist für das System keine natürliche Ausgabe, weil es tatsächlich immer etwas ausgeben kann — ob richtig oder falsch.

Neuere Modelle wurden nachtrainiert, um häufiger auf Unsicherheiten hinzuweisen. Aber verlassen sollten Sie sich darauf nicht. Der Hinweis “ich bin mir nicht sicher” bleibt eine freiwillige Einschätzung des Modells, keine zuverlässige Warnung.

So erkennen Sie potenziell halluzinierte Inhalte

Es gibt einige praktische Signale, bei denen Sie besonders aufmerksam sein sollten:

1. Sehr spezifische Zahlen ohne Quellenangabe — z. B. Grenzwerte, Fristen, Bußgelder
2. Namen von Personen, Behörden oder Produkten, die Sie nicht kennen
3. Gesetzliche oder normative Aussagen (“Laut §… ist vorgeschrieben…”)
4. Widersprüche im gleichen Text — wenn das Modell sich selbst widerspricht, ist das ein Warnsignal
5. Zu glatte Antworten auf sehr komplexe oder umstrittene Fragen

Grundsätzlich gilt: Je bedeutsamer die Entscheidung, die Sie auf Basis der KI-Antwort treffen, desto gründlicher sollte Ihre Prüfung sein.

Fünf konkrete Maßnahmen für Ihren Betrieb

Halluzinationen lassen sich nicht vollständig vermeiden — aber Sie können den Schaden systematisch begrenzen:

1. Fakten immer extern prüfen Nutzen Sie KI für Struktur, Formulierung und Ideenfindung — aber prüfen Sie konkrete Fakten immer an einer Originalquelle. Für rechtliche Fragen: die offizielle Gesetzesseite oder Ihr Steuerberater. Für Normen: das zuständige Regelwerk.

2. Kritische Bereiche klar definieren Besprechen Sie mit Ihren Mitarbeitenden, in welchen Bereichen KI-Ausgaben nicht ungeprüft verwendet werden dürfen. Typisch: Angebote mit konkreten Normangaben, Kundenkommunikation zu rechtlichen Fragen, Produktbeschreibungen mit Maß- oder Materialangaben.

3. Gegenprüfung einbauen Fragen Sie das Modell nach derselben Aussage nochmals, anders formuliert. Oder bitten Sie es ausdrücklich: “Bist du dir bei dieser Angabe sicher? Wenn nicht, sag es direkt.” Das erhöht die Chance, dass das Modell Unsicherheiten benennt.

4. Quellen anfordern — und prüfen Wenn das Modell eine Zahl oder eine Norm nennt, fragen Sie: “Woher stammt diese Angabe?” Die genannte Quelle sollten Sie dann tatsächlich aufrufen. Nicht selten stellt sich heraus, dass sie entweder nicht existiert oder die Aussage nicht stützt.

5. KI als Entwurf, nicht als Endprodukt Dieses Prinzip sollte in Ihrem Betrieb zur festen Regel werden: KI liefert einen ersten Entwurf. Jemand im Betrieb schaut drüber. Für kurze interne Texte kann das schnell gehen — für Angebote, Verträge oder Kundenkommunikation mit konkreten Faktenaussagen sollte es ein bewusstes Schritt sein.

Wie Sie Ihre Mitarbeitenden sensibilisieren

Wenn mehrere Personen in Ihrem Betrieb KI-Tools nutzen, reicht es nicht, selbst aufmerksam zu sein. Ein kurzes internes Gespräch — oder eine einfache schriftliche Notiz — kann viel bewirken:

• Erklärt in einem Satz, was Halluzinationen sind
• Nennt konkrete Beispielfälle aus Ihrem Branchenalltag
• Legt fest, welche Inhalte vor Verwendung geprüft werden müssen
• Benennt, wer im Zweifelsfall angesprochen wird

Gerade in kleineren Betrieben, wo einer für alles zuständig ist, hilft eine solche Orientierung dabei, Fehler zu vermeiden, bevor sie beim Kunden ankommen.

Was die Technologie leisten kann — und was nicht

Es wäre falsch, KI deshalb grundsätzlich zu misstrauen. Die Stärken dieser Werkzeuge liegen in Bereichen, in denen Halluzinationen kaum relevant sind: Texte strukturieren, E-Mails formulieren, Checklisten erstellen, Ideen entwickeln, Dokumentationen zusammenfassen. Hier ist die Qualität in der Regel zuverlässig hoch.

Das Problem entsteht, wenn KI als Wissensdatenbank eingesetzt wird — als Ersatz für eine Fachperson, eine offizielle Quelle oder eine eigene Recherche. Das ist sie nicht.

KI-Halluzinationen sind keine Bugs, die irgendwann behoben werden. Sie sind ein strukturelles Merkmal der Technologie. Wer das versteht, kann damit arbeiten — klug, effizient und ohne böse Überraschungen.

Fazit

KI-Tools sind im Betriebsalltag echte Helfer — aber nur, wenn Sie wissen, wo ihre Grenzen liegen. Halluzinationen sind kein Versagen im Einzelfall, sondern ein grundlegendes Merkmal der Technologie. Die gute Nachricht: Mit einem einfachen Prüf-Workflow, klaren internen Regeln und dem richtigen Verständnis für risikoreiche Inhalte können Sie dieses Risiko zuverlässig beherrschen. Wer KI als starkes Werkzeug nutzt — und nicht als allwissende Instanz —, profitiert von der Technologie, ohne ihr blindlings zu vertrauen.