Eine Studie der maxonline-Marketingagentur aus April 2026 (Stichproben-Test im DACH-Mittelstand) zeigt: ChatGPT erfindet die Geschäftsführer der Mehrheit der getesteten deutschen Mittelstands-Unternehmen falsch. Die maxonline-Studie testete die KI-Repräsentation deutscher KMU im DACH-Raum mit Standard-Prompts. Ergebnis: In den meisten Fällen liefert ChatGPT entweder falsche oder gar keine Information zu konkreten Unternehmens-Fakten. Was das für KMU bedeutet — und warum Halluzinations-Erkennung ein Pflicht-Skill für 2026 ist.
Was die Studie konkret gemessen hat
Die maxonline-Studie testete ChatGPT mit Standard-Prompts wie:
- "Wer ist der Geschäftsführer von [Firmenname]?"
- "Welche Produkte hat [Firma] im Portfolio?"
- "In welcher Branche ist [Firma] tätig?"
Die Antworten wurden gegen die tatsächlichen Daten (Handelsregister, Firmen-Website, IHK-Datenbank) abgeglichen. Die Ergebnisse sind ernüchternd:
- Bei der überwiegenden Mehrheit der getesteten Mittelständler erfindet ChatGPT entweder Geschäftsführer-Namen, oder verweigert Auskunft
- Bei größeren bekannten Unternehmen sind die Antworten zuverlässiger
- Aktuelle Wechsel (z.B. Geschäftsführer-Wechsel der letzten 12 Monate) werden fast nie korrekt wiedergegeben
- Bei spezifischen Geschäftszahlen (Umsatz, Mitarbeiter) sind Halluzinations-Raten extrem hoch
Warum das kein Anti-KI-Argument ist
Die Studie wird oft falsch interpretiert: "ChatGPT taugt also nichts." Das ist die falsche Lehre. Die richtige Lehre:
- ChatGPT ist KEINE Datenbank, sondern ein Sprachmodell. Es generiert plausible Texte, keine garantiert korrekten Fakten.
- Für Faktencheck braucht es entweder Web-Suche-Integration (ChatGPT Search, Perplexity) oder eigene Datenquellen-Anbindung (RAG)
- Wer ChatGPT für strukturierte Faktencheck einsetzt, nutzt das Tool falsch — nicht das Tool ist falsch
Was Halluzinationen für Mittelständler praktisch bedeuten
| Risiko | Praktisches Beispiel | Konsequenz |
|---|---|---|
| Falsche Aussagen über andere Firmen | "Schreibe mir einen Vertriebspitch gegen Wettbewerber X" — KI erfindet falsche Schwächen | UWG-Risiko (Verleumdung), Schadenersatz |
| Falsche eigene Firmenfakten | KI generiert Newsletter und erfindet "Wir haben 500 Mitarbeiter" obwohl es 250 sind | Reputationsschaden, ggf. UWG-Verstoß |
| Erfundene Quellen / Studien | "Laut Bitkom 2026..." — Studie existiert nicht in der zitierten Form | Glaubwürdigkeitsverlust, fachliche Fehler |
| Falsche rechtliche Auskunft | Mitarbeiter fragt KI nach Steuerregel, bekommt veralteten Stand | Bußgeld-Risiko |
| Falsche Übersetzung von Fachbegriffen | Spezifische Branchenbegriffe werden falsch übersetzt | Vertrags-Risiken, Verständigungsprobleme |
Wie Halluzinationen erkannt werden
Die wichtigsten Warnsignale, an denen geschulte Mitarbeiter Halluzinationen erkennen:
- "Klingt zu glatt": Wenn ein Text auffällig flüssig und selbstsicher zu einer komplexen Frage formuliert ist, ist Misstrauen angebracht. Echte Antworten haben oft Differenzierungen und Ungewissheiten.
- Konkrete Zahlen ohne Quelle: "Laut Studie X 2026..." — wenn die Studie nicht prüfbar ist, ist Vorsicht geboten
- Zitate aus angeblichen Quellen: Wörtliche Zitate aus Büchern, Studien, Personen sollten immer per Web-Suche verifiziert werden
- Aktuelle Daten: Datums- und Zeitbezüge (Geschäftsführer aktuell, neueste Studie) sind besonders fehleranfällig
- Fachbegriffe in Nischen: Branchen-spezifische Details werden oft falsch dargestellt
- Listen von "den 5 wichtigsten X": Häufig erfunden oder mit veralteten Inhalten gefüllt
Lösungs-Patterns gegen Halluzinationen
Pattern 1: Prompt mit Quellen-Anforderung
Statt "Was ist X?" → "Was ist X? Bitte gib für jede Aussage die Quelle an. Wenn du keine sichere Quelle hast, sage das explizit."
Pattern 2: Web-Suche-aktivierte Tools nutzen
Bei Faktenchecks sind Tools mit Web-Anbindung (ChatGPT mit Browse, Perplexity, Claude mit Web Search) deutlich zuverlässiger als reines Sprachmodell-Antworten.
Pattern 3: Eigene Datenquelle anbinden (RAG)
Für Unternehmens-spezifische Informationen — eigene Mitarbeiter-Datenbank, Produktkatalog, Vertragsvorlagen — ist Retrieval-Augmented Generation (RAG) die professionelle Lösung. Die KI antwortet auf Basis der eigenen Daten, nicht aus dem allgemeinen Trainingswissen.
Pattern 4: Doppelt prüfen vor Veröffentlichung
Jeder KI-generierte Text, der nach außen geht (Newsletter, Pressemitteilung, Marketing), wird von einem Menschen geprüft — mindestens auf Faktenrichtigkeit der konkreten Aussagen.
Pattern 5: Klare Tool-Whitelist
Welche Tools sind für welche Aufgaben freigegeben? Recherche-Tools (Perplexity) für Faktenchecks, Sprachmodelle (ChatGPT) für Texterstellung, Spezialsoftware (DATEV-KI) für Buchhaltung.
Was die Schulungs-Pflicht damit zu tun hat
Art. 4 KI-VO (seit 02.02.2025) verlangt, dass Mitarbeiter "ausreichende KI-Kompetenz" haben. Halluzinations-Erkennung ist Kern-Bestandteil dieser Kompetenz. Konkrete Inhalte, die in jeder zertifizierten KI-Schulung vorkommen sollten:
- Was ist eine Halluzination und wie entsteht sie technisch?
- Warnsignale für unzuverlässige Antworten
- Prompt-Patterns zur Reduktion von Halluzinationen
- Tool-Auswahl für verschiedene Aufgabentypen
- Workflow für KI-generierte Inhalte (Generieren → Prüfen → Veröffentlichen)
Was Mittelständler aus der Halluzinations-Studie lernen sollten
- Nicht weniger KI nutzen — sondern besser: Halluzinationen sind ein Tool-Verständnis-Problem, nicht ein KI-Problem
- Mitarbeiter schulen: Über QCG zu 100 % förderfähig (DigiMan-Weiterbildung 4 Monate)
- Tool-Whitelist mit Anwendungs-Empfehlungen: Welches Tool für welchen Zweck
- Workflow für externe Inhalte: Mensch als Endredakteur ist Pflicht
- Eigene Daten für eigene Fragen: Wer Unternehmens-Informationen via KI verfügbar machen will, baut eigene RAG-Lösung — nicht ChatGPT mit allgemeinem Wissen
Konkreter 60-Tage-Plan
| Wann | Was |
|---|---|
| Tag 1 bis 7 | Eigene Halluzinations-Inventur: Welche KI-generierten Inhalte gehen heute ungeprüft raus? |
| Tag 8 bis 14 | Tool-Whitelist mit Empfehlung pro Aufgabentyp |
| Tag 15 bis 30 | Workflow definieren: KI-Erstellung → Mensch prüft → Freigabe |
| Tag 31 bis 60 | Mitarbeiter-Schulung über QCG (DigiMan) |
Was diese Woche tun
- Halluzinations-Test: Frage ChatGPT nach 5 konkreten Fakten zu deinem eigenen Unternehmen. Vergleiche mit Realität.
- Mitarbeiter-Befragung: Welche KI-generierten Inhalte werden veröffentlicht? Werden sie geprüft?
- Workflow-Check: Gibt es einen formalen Prüf-Schritt für KI-Inhalte vor Veröffentlichung? Falls nein, jetzt einführen.
- QCG-Schulung: Halluzinations-Erkennung ist Bestandteil der DigiMan-Weiterbildung
Wir helfen bei der Schulung
Die DigiMan-Weiterbildung deckt Halluzinations-Erkennung, Prompt-Engineering und Tool-Auswahl praktisch ab. 100 % über QCG förderfähig. Mitarbeiter sind nach 4 Monaten in der Lage, KI-Inhalte zuverlässig zu prüfen. 15 Minuten kostenloses Erstgespräch.
Mitarbeiter zu Halluzinations-Erkennern machen?
DigiMan-Weiterbildung deckt Halluzinations-Erkennung praktisch ab. 100 % über QCG förderfähig. 15 Minuten kostenloses Erstgespräch.