Die gefährlichste KI-Antwort ist nicht die, die offensichtlich Unsinn ist. Es ist die, die sich liest wie eine richtige: sauber formuliert, selbstsicher, mit Aktenzeichen und Zahlen. In meinen Schulungen sehe ich immer wieder dasselbe: Das Problem ist selten, dass jemand der KI blind vertraut. Das Problem ist, dass er nicht weiß, wonach er suchen soll. "Stimmt nicht" ist als Prüfauftrag zu unscharf. In diesem Artikel zeige ich dir, wie du KI-Halluzinationen erkennst, indem du sechs Sorten von falsch unterscheidest. Wer die Sorte kennt, kennt auch die Reparatur.
Ein Sprachmodell schlägt nichts nach. Es berechnet, welches Wort mit hoher Wahrscheinlichkeit als nächstes kommt, und hängt es an. Dann das nächste, und das nächste. Es gibt dabei kein Nachschlagewerk und keine Wahrheitsprüfung, nur Wahrscheinlichkeiten. Fehlt dem Modell das Wissen, kommt trotzdem eine Antwort, und zwar in der Form einer richtigen. Ein erfundenes Aktenzeichen sieht aus wie ein echtes. Ein inneres Warnsignal gibt es nicht.
Das ist keine Panne, die der nächste Software-Stand behebt. Es ist die Bauart. Die Modelle werden besser, aber ein Modell, das auf Wahrscheinlichkeit arbeitet, wird immer auch plausibel klingende Fehler machen können. Und genau deshalb hilft dir ein Gefühl wie "da stimmt was nicht" nur begrenzt: Eine falsche Antwort klingt exakt so sicher wie eine richtige. Der Tonfall sagt nichts über den Inhalt.
Tipp: Stell dir die KI als brillanten Praktikanten ohne Wahrheitsbegriff vor. Er hat sehr viel gelesen, formuliert hervorragend und merkt nicht, wann er rät. Du würdest ihm viel zutrauen, aber nichts ungelesen unterschreiben.
Die einfachste Sorte: Die Aussage stimmt schlicht nicht. Die KI nennt für einen Lieferanten den falschen Firmensitz, ein falsches Gründungsjahr oder verwechselt zwei ähnliche Produkte.
Besser: Frag die KI nicht noch einmal, ob das stimmt. Sie wird in den allermeisten Fällen höflich zustimmen oder ihre Antwort umformulieren. Lösung: Prüf die Angabe an einer verlässlichen Quelle, etwa dem Handelsregister, der Herstellerseite oder dem Impressum des Lieferanten.
Das ist die Sorte, die in den Schlagzeilen landet: Etwas klingt echt, existiert aber nicht. Ein Urteil mit Aktenzeichen, eine Gesetzesnorm, ein Studienzitat, ein Link, der ins Leere führt.
Der bekannteste Fall aus der Praxis ist Mata gegen Avianca in den USA: Anwälte reichten bei Gericht einen Schriftsatz ein, der sich auf Entscheidungen stützte, die es nicht gab. Sie stammten aus ChatGPT. Das Gericht verhängte Sanktionen, die Details und den Ablauf kannst du auf der Übersichtsseite zum Fall nachlesen. Der Schaden entstand nicht beim Erfinden. Er entstand beim Nicht-Prüfen.
Lösung: Öffne jede Quelle im Original. Keine Quelle, keine Verwendung. Das gilt für Zahlen, Paragrafen, Zitate und Links ganz besonders, denn das ist der klassische Erfindungsbereich.
Das war einmal richtig und gilt nicht mehr. Ein Modell kennt nur Texte bis zu einem bestimmten Stand. Neueres kennt es nicht, außer es darf aktiv im Internet suchen. Typische Kandidaten sind Förderbedingungen, Fristen, Preise, Gesetzesstände und Ansprechpartner.
Besser: Gib die aktuelle Quelle selbst mit, statt aus dem Gedächtnis der KI zu fragen. Tipp: Schau an der Originalquelle nach Stand und Datum. Ohne aktive Suche ist jede aktuelle Angabe ein Verdachtsfall.
Hier stimmt jede einzelne Aussage vielleicht sogar, aber es fehlt die Gegenseite. Du fragst nach Argumenten für eine Anschaffung und bekommst eine Liste mit nur Vorteilen. Die Antwort wirkt vollständig, ist aber ein halbes Bild.
Lösung: Verlange die Gegenposition ausdrücklich. Zum Beispiel: "Nenne mir die stärksten Einwände gegen diese Entscheidung und sag, wann sie falsch wäre." Gerade bei Fragen, in denen ein Modell eher zustimmt als widerspricht, ist das Gold wert.
Der Inhalt stimmt womöglich, trifft aber nicht deine Aufgabe. Eine lockere Antwort in Du-Form an einen langjährigen Geschäftskunden, der förmlich angesprochen werden möchte. Ein Text für Fachleute, obwohl der Leser Laie ist.
Besser: Das ist selten ein Fehler der KI, sondern meist eine Lücke im Prompt. Lösung: Nenne Leser, Ton, Zweck und Länge, bevor du den Entwurf anforderst. Wie du solche Anweisungen sauber formulierst, habe ich in ChatGPT richtig fragen: Prompt-Techniken für KMU beschrieben.
Richtig, aber nichtssagend. "Kommunizieren Sie offen mit Ihren Kunden" stimmt immer und hilft nie. Diese Sorte ist tückisch, weil sie nicht auffällt: Niemand findet einen Fehler, und trotzdem hast du nichts gewonnen.
Lösung: Gib Material und Beispiele aus deinem Betrieb mit und frag nach konkreten Schritten, die ein Mitarbeiter morgen früh umsetzen kann. Je mehr echtes Material im Prompt steht, desto weniger muss das Modell aus dem Allgemeinen raten.
Stell dir vor, du lässt die KI eine Antwort an eine Kundin entwerfen, die nach einem Fensteraustausch in ihrem Altbau gefragt hat. Die KI kennt nur die Anfrage, sonst nichts. Der Entwurf liest sich professionell: Nach einer bestimmten DIN-Norm seien dreifach verglaste Fenster in ihrem Altbau Pflicht. Auf Einbau und Material gebe es zwölf Jahre volle Gewährleistung. Die Förderung über ihre Hausbank sei bereits vorgemerkt, ein Antrag nicht nötig. Und das Montageteam komme am Dienstag um 7:30 Uhr zum Aufmaß.
Das ist ein erfundenes Beispiel, aber es zeigt das Muster. Jeder dieser Sätze ist eine Zusage oder eine Rechtsbehauptung, die das Modell nicht wissen kann: die Norm, die Gewährleistung, die Förderung, der Termin. Gewährleistung, Förderung und Termin kennt kein öffentliches Modell, das sind Interna deines Betriebs. Wenn so ein Entwurf unbesehen rausgeht, hast du etwas zugesagt, das du nie zugesagt hast.
Tipp: Markier dir beim Lesen jede Stelle mit Zahl, Frist, Norm, Preis oder Zusage. Das sind die Stellen, die du vor dem Absenden prüfst. Der Rest ist Lesen und Ton.
Ein Test, den ich dir empfehle und der nur drei Minuten dauert: Stell der KI eine Frage aus deinem Fach, deren Antwort du sicher kennst. Je spezieller, desto besser, etwa eine Norm, ein Fachbegriff oder ein Produktdetail aus deiner Branche. Dann bitte um die Fundstelle: "Nenne mir die Quelle mit Link."
Stell dir vor, die Antwort wirkt überzeugend, die genannte Fundstelle aber führt ins Leere oder passt nicht zum Thema. Du hast dann am eigenen, bekannten Fall erlebt, wie sich eine falsche Antwort anfühlt: genau wie eine richtige. Diese Erfahrung ist wertvoller als jede Warnung. Wer sie einmal gemacht hat, prüft anders.
Du musst nicht alles doppelt kontrollieren. Das wäre auch unwirtschaftlich. Es reicht, an den richtigen Stellen zu prüfen. Das Risiko für erfundene Inhalte ist besonders hoch bei Zahlen, Daten, Paragrafen, Zitaten und Links, bei Nischenwissen wie lokalen Betrieben, Spezialprodukten und Interna, bei allem nach dem Wissensstand des Modells und bei Fragen mit falscher Annahme. Letzteres ist leicht zu übersehen: Wenn du ein Modell nach etwas fragst, das auf einer falschen Prämisse beruht, widerspricht es selten. Es spielt mit.
Besser: Formuliere neutral statt suggestiv. Statt "Warum ist Förderung X für meinen Betrieb ideal?" frag: "Ist Förderung X für meinen Betrieb relevant, und wenn nicht, warum nicht?"
Vier Dinge nutze ich selbst und empfehle sie jedem Betrieb:
Erstens: Gib die Quelle mit, statt aus dem Gedächtnis zu fragen. Steht der Text im Prompt, sinkt das Risiko erfundener Angaben deutlich. Zweitens: Erlaube Unsicherheit mit einem Satz wie "Wenn du es nicht sicher weißt, sag das." Drittens: Prüfe an der Originalquelle, nicht beim Modell. Viertens: Mach daraus einen Prozess: Kein KI-Ergebnis geht ungeprüft nach außen.
Wie du die Qualität systematisch testest, statt nur Stichproben zu machen, beschreibe ich in KI-Qualität testen: Das Prüfset für KMU.
Wenn du dir nur etwas merken willst, dann diese fünf Fragen, die du auf jedes Ergebnis anwenden kannst:
Stimmt es? Zahlen, Namen, Daten und Fundstellen an der Quelle prüfen. Ist es vollständig? Fehlt ein Punkt, den du erwartet hättest? Passt es zur Aufgabe? Leser, Zweck, Ton und Länge. Versteht man es? Auch jemand ohne dein Vorwissen? Ist es fair? Keine Klischees, niemand wird benachteiligt.
Tipp: Sag in deinem Team nicht "das ist falsch", sondern "das ist erfunden" oder "das ist veraltet". Wer die Sorte benennt, weiß sofort, welche Reparatur dran ist.
Die KI verantwortet nichts. Du verantwortest, was deinen Betrieb verlässt. Das zeigt ein Fall aus Kanada: Ein Chatbot auf der Website einer Fluggesellschaft nannte einem Kunden eine Erstattungsregel, die so nicht existierte. Das zuständige Tribunal entschied 2024 in Moffatt gegen Air Canada, dass das Unternehmen für die Aussage seines Chatbots einstehen muss. Du findest die Entscheidung im Volltext beim Civil Resolution Tribunal. Auch wenn kanadisches Recht nicht deutsches Recht ist, ist die Botschaft für dich praktisch: Kunden dürfen sich auf das verlassen, was dein Betrieb ihnen sagt, egal wer oder was es formuliert hat.
Lösung: Eine Hausregel in einem Satz: Alles, was den Betrieb verlässt, liest ein Mensch, bevor es rausgeht. E-Mail, Angebot, Website-Text, Auskunft am Telefon. Dabei darf die Prüftiefe zur Wichtigkeit passen. Eine interne Notiz oder Ideensammlung liest du nur kurz. Einen Kundentext ohne Zahlen und Zusagen liest du und prüfst den Ton. Bei Zahlen, Fristen, Preisen und Zusagen prüfst du jede Angabe an der Quelle. Bei Recht, Personal und Gesundheit gehört es nicht ohne die zuständige Stelle raus. Und wenn deine Mitarbeiter KI nutzen, gehört das Wissen darüber zur Pflicht: Mehr dazu in KI-Schulungspflicht für Mitarbeiter nach Artikel 4.
KI-Halluzinationen lassen sich nicht abschalten, aber du kannst lernen, sie einzuordnen. Unterscheide die sechs Sorten: falsch, erfunden, veraltet, einseitig, unpassend und zu allgemein. Prüfe konsequent an den Hochrisiko-Stellen, also bei Zahlen, Quellen, Aktuellem und Zusagen, und mach aus der Prüfung eine feste Regel im Betrieb. Dann bekommst du den Zeitgewinn der KI, ohne das Risiko blind mitzukaufen.
Wenn du wissen möchtest, wie du das in deinem Betrieb verankerst, schau dir an, wie ein Strategiegespräch mit mir aussieht. Ich schaue mit dir an, wo KI in deinem Alltag schon läuft und wo ein Prüfschritt fehlt.
Über den Autor
Danilo à Tellinghusen
Inhaber von À Tellinghusen Marketing, M.Sc. Informatik
Seit über 15 Jahren entwickle ich Software. Heute baue ich für kleine und mittelständische Unternehmen Websites, die Anfragen bringen, und Automatisierungen, die Zeit sparen. In meinen Artikeln schreibe ich auf, was in der Praxis wirklich funktioniert.
