KI-Werkzeuge erzeugen Texte, die flüssig und sicher klingen, manchmal aber schlicht falsch sind. Das nennt man Halluzination, und es ist Stand der Technik, kein Bug, den der nächste Anbieter wegpatcht. Für kleine Betriebe lautet die einfache Regel: Wer mit KI etwas erstellt, gibt es nicht selbst final frei. Ein zweiter Blick prüft Fakten und Zahlen an der echten Quelle, bevor etwas zum Kunden, zum Amt oder in einen Vertrag geht.
Ein KI-Chatbot liefert dir innerhalb von Sekunden ein fertig formuliertes Angebot, einen Vertragsentwurf oder eine Antwort auf eine Steuerfrage. Der Text liest sich souverän, die Zahlen stehen sauber da, sogar ein passender Paragraf ist genannt. Und genau das ist die Falle. Sprachmodelle sind darauf trainiert, plausibel zu klingen, nicht darauf, die Wahrheit zu kennen. Sie können Beträge erfinden, Quellen frei zusammensetzen und Gesetze zitieren, die es so nicht gibt. Der sichere Tonfall sagt nichts über die Richtigkeit aus. Wer das im Betrieb übersieht, verschickt früher oder später eine Rechnung mit falschem Betrag oder ein Schreiben mit einer Zusage, die niemand halten kann.
Warum die KI so überzeugend daneben liegt
Ein Sprachmodell rechnet Wahrscheinlichkeiten aus. Es fragt nicht, ob etwas stimmt. Es fragt, welches Wort als Nächstes am besten passt.
Das funktioniert verblüffend gut für Sprache und Struktur. Es funktioniert schlecht, sobald es um harte Fakten geht, die das Modell nicht kennt. Dann füllt es die Lücke mit etwas, das stimmig aussieht. In der Praxis heißt das: Ein erfundener Aktenzeichen-Verweis sieht aus wie ein echtes Aktenzeichen. Eine erfundene Norm hat das Format einer echten Norm. Ein falsch addierter Posten steht so selbstbewusst in der Tabelle wie ein richtiger. Das Tückische ist, dass die KI kein Warnsignal sendet, wenn sie rät. Sie schreibt Falsches mit derselben Selbstverständlichkeit wie Richtiges. Bei einer Suchmaschine merkst du noch, dass du selbst auf eine Quelle klicken musst. Beim Chatbot kommt die Antwort schon als fertiges Ergebnis, und das verführt dazu, sie ungeprüft zu übernehmen.
In unseren DigiMan-Kursen erlebe ich das regelmäßig: Teilnehmer sind anfangs beeindruckt, wie gut die Entwürfe wirken, und eben das senkt die Wachsamkeit. Die erste eigene Halluzination, die jemand entdeckt, ist meist der wichtigste Lernmoment im ganzen Kurs.
Wo Fehler im Betrieb richtig teuer werden
Nicht jeder KI-Fehler kostet Geld. Ein holpriger Satz in einer internen Notiz ist egal. Aber es gibt Bereiche, in denen eine falsche Aussage direkt durchschlägt.
Bei allem, was Zahlen enthält, ist die Gefahr am größten: Angebote, Kostenvoranschläge, Rechnungen, Kalkulationen. Eine vertauschte Ziffer im Stundensatz, eine falsch aufaddierte Position, ein übernommener Mehrwertsteuersatz, der nicht stimmt, und der Betrieb verschenkt entweder Marge oder verprellt den Kunden. Genauso heikel sind rechtliche und steuerliche Texte. Wenn die KI einen Paragrafen nennt, der nicht passt oder gar nicht existiert, und das landet in einem Vertrag oder einer Beratung, haftet am Ende der, der unterschrieben hat, nicht das Werkzeug.
Auch die Kundenkommunikation ist ein Minenfeld. Eine KI-formulierte Mail kann eine Zusage enthalten, die so nie besprochen wurde, etwa eine Lieferzeit, einen Rabatt oder eine Garantie. Steht das erst schriftlich beim Kunden, ist es schwer zurückzuholen. Dazu kommen technische Anleitungen, bei denen ein erfundener Schritt jemanden in die Irre führt, und erfundene Quellen, die einer Aussage einen seriösen Anstrich geben, der bei der ersten Nachfrage zusammenfällt.
Das Vier-Augen-Prinzip, schlank gedacht
Die Lösung ist alt und bewährt, sie kommt aus der Buchhaltung: Wer etwas erstellt, gibt es nicht selbst frei. Ein zweiter Mensch schaut drauf, bevor es das Haus verlässt.
Auf KI übertragen heißt das: Die Person, die einen Entwurf mit dem Chatbot erstellt, ist nicht zugleich die, die ihn final absegnet. In größeren Teams ist das eine echte zweite Person. In einer Zwei-Mann-Werkstatt ist es zumindest ein bewusster zweiter Durchgang mit klarem Kopf, idealerweise mit etwas Abstand zum ersten Schreiben. Der entscheidende Punkt liegt darin, woran geprüft wird. Fakten und Zahlen gehören gegen die Originalquelle geprüft, nicht gegen die KI. Die KI noch einmal zu fragen, ob ihre Antwort stimmt, bringt wenig, denn sie bestätigt sich oft selbst, auch wenn sie falsch lag. Bei Zahlen heißt Prüfen nachrechnen. Bei einem Paragrafen heißt es im Gesetzestext nachschlagen. Bei einer Quelle heißt es die Quelle tatsächlich öffnen und lesen.
Nimm einen Malerbetrieb, der Angebote teilweise mit KI vorbereitet. Der Geselle diktiert das Aufmaß und ein paar Stichpunkte, die KI macht daraus ein sauberes Angebot mit Leistungsbeschreibung. Bevor das rausgeht, schaut der Chef einmal über die Mengen und die Summen, weil dort der Fehler sitzen würde. Die Formulierungen darf die KI liefern, die Preise verantwortet der Mensch. Diese Aufteilung ist der Kern: KI für Sprache und Struktur, Mensch für Zahlen und verbindliche Aussagen.
Risiko abstufen statt alles gleich streng prüfen
Jeden KI-Text gleich gründlich zu kontrollieren wäre unrealistisch und würde den Zeitgewinn auffressen. Deshalb lohnt es sich, nach Risiko zu unterscheiden.
Ein interner Entwurf, eine erste Gliederung, ein Brainstorming für einen Social-Media-Beitrag braucht keine strenge Kontrolle. Hier reicht eine Stichprobe oder der gesunde Menschenverstand beim Lesen. Streng geprüft wird dagegen alles, was nach außen geht oder verbindlich ist: jede Ausgabe an Kunden, jeder Schriftverkehr mit einem Amt, jeder Vertragstext, jede Kalkulation. Faustregel für den Alltag: Sobald eine Zahl drinsteht, wird nachgerechnet. Sobald ein Fakt, ein Paragraf oder eine Quelle drinsteht, wird an der Originalquelle gegengeprüft. Sobald es jemand außerhalb des Betriebs liest, geht es nicht ohne den zweiten Blick raus.
Eine Hausverwaltung, die Mieterschreiben mit KI vorformuliert, kann das gut so handhaben: Routine-Mails an Mieter laufen mit kurzem Gegenlesen, ein Schreiben mit rechtlicher Bedeutung wie eine Kündigung oder eine Nebenkostenabrechnung wird Wort für Wort geprüft, bei der Abrechnung zusätzlich jede Zahl. So bleibt der Zeitvorteil erhalten, ohne dass die teuren Fehler durchrutschen.
Wie du das im Team verankerst
Damit der zweite Blick nicht nur eine gute Absicht bleibt, gehört er als knappe Regel festgehalten. Ein halber A4-Zettel reicht.
Darauf steht, was immer geprüft wird und was nur stichprobenartig, und wer im konkreten Fall freigibt. Das klärt die Verantwortlichkeit, denn ohne klare Zuständigkeit fühlt sich am Ende niemand zuständig und der Entwurf rutscht ungeprüft durch. Hilfreich ist außerdem, KI-Entwürfe als Entwurf zu kennzeichnen, bis sie freigegeben sind, etwa durch einen Vermerk im Dateinamen oder einen Hinweis im Betreff. So kann niemand versehentlich einen ungeprüften Text für die fertige Version halten. Bei einer Steuerkanzlei mit acht Leuten kann das bedeuten: Der Sachbearbeiter erstellt mit KI einen Entwurf, der Berufsträger prüft und gibt frei, und erst dann verliert das Dokument seinen Entwurfsstatus. Solange das nicht passiert ist, geht nichts an den Mandanten.
Das Vier-Augen-Prinzip ist dabei kein Bremsklotz, sondern das, was den KI-Einsatz im Betrieb überhaupt erst belastbar macht. Mit einer klaren Prüfregel kannst du KI breiter und mutiger einsetzen, weil du weißt, dass kein Fehler ungefiltert beim Kunden landet. Ohne die Regel bleibt jeder Entwurf ein Glücksspiel, und das eine Mal, in dem die erfundene Zahl durchgeht, kann mehr kosten als die gesamte Zeitersparnis der Monate davor.
Häufige Fragen
Was bedeutet es, dass KI halluziniert?
Halluzination heißt, dass ein Sprachmodell plausibel klingende, aber falsche Aussagen, Zahlen oder Quellen erzeugt. Das Modell rechnet Wahrscheinlichkeiten für das nächste Wort aus, es prüft nicht, ob etwas wahr ist. Deshalb kann es Beträge erfinden oder Paragrafen nennen, die es so nicht gibt. Das ist Stand der Technik und lässt sich nicht völlig abstellen.
Wie funktioniert das Vier-Augen-Prinzip bei KI?
Wer mit KI einen Text erstellt, gibt ihn nicht selbst final frei. Eine zweite Person oder zumindest ein bewusster zweiter Durchgang prüft das Ergebnis, bevor es zum Kunden, zum Amt oder in einen Vertrag geht. Wichtig ist, dass Fakten und Zahlen gegen die echte Quelle geprüft werden und nicht gegen die KI selbst, denn die bestätigt sich oft auch dann, wenn sie falsch lag.
Muss ich wirklich jeden KI-Text prüfen?
Nein, du kannst nach Risiko abstufen. Interne Entwürfe, Gliederungen oder Brainstormings reichen mit einer Stichprobe. Streng geprüft wird alles, was nach außen geht oder verbindlich ist: Angebote, Rechnungen, Verträge, Schreiben an Ämter, Kundenkommunikation. Faustregel: Bei Zahlen nachrechnen, bei Fakten und Paragrafen an der Originalquelle gegenprüfen.
Wo sind KI-Fehler im Betrieb am teuersten?
Überall, wo Zahlen oder verbindliche Aussagen drinstehen. Falsche Beträge in Angeboten und Rechnungen kosten direkt Marge oder Kundenvertrauen. Falsche Paragrafen in Verträgen oder Beratung führen zu Haftung. Eine erfundene Zusage in einer Kundenmail lässt sich kaum zurückholen. Auch erfundene Quellen und technische Anleitungen mit falschen Schritten richten Schaden an.
Mehr über KI im Mittelstand lernen?
Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI praktisch im Arbeitsalltag einsetzen. Vollkurs Digitalisierungsmanager mit Bildungsgutschein. Förderwege: Bildungsgutschein, QCG und AFBG im Vergleich.
Zuletzt aktualisiert: 16.06.2026. Stand der Recherche: 16.06.2026.