KI im Mittelstand: Die fünf häufigsten Startfehler (und wie sie vermeidbar sind)

Fast jede mittelständische Firma, die 2025 oder 2026 ein KI-Projekt gestartet hat, kennt das Gefühl nach drei Monaten: Das Tool steht, aber keiner benutzt es. Oder schlimmer: Das Tool wurde nie richtig eingeführt, weil irgendwo zwischen Geschäftsleitung und IT ein Detail steckengeblieben ist.

Die meisten dieser Sackgassen sind vermeidbar. Die folgenden fünf Fehler tauchen in Projekten immer wieder auf, quer durch Branchen, in Firmen mit 20 bis 500 Mitarbeitern. Wer sie kennt, hat die halbe Miete.

Fehler 1: Mit dem Tool starten statt mit dem Prozess

Der Klassiker. Geschäftsführer sieht auf einer Messe eine Demo von einem KI-gestützten CRM, kauft das Abo, und drei Wochen später liegt die Lizenz brach. Der Grund: Niemand hat vorher geklärt, welchen konkreten Prozess das Tool verbessern soll.

Richtig wäre die umgekehrte Reihenfolge. Erst den Prozess aufnehmen, die Engpässe identifizieren, dann das passende Werkzeug suchen. Ein Digitalisierungsmanager fängt in der Regel mit zwei Wochen reiner Prozessanalyse an, bevor er auch nur ein einziges Tool vorschlägt.

Praktisch heißt das: Vor der Tool-Entscheidung mit der Abteilung reden, die betroffen ist. Den aktuellen Ablauf aufzeichnen, inklusive Medienbrüchen, Wartezeiten, Doppelarbeiten. Und dann prüfen, welcher Teil davon mit KI tatsächlich besser wird.

Fehler 2: Ohne Betriebsrat reden

Viele Unternehmen behandeln KI-Projekte als reine IT-Maßnahme. Spätestens wenn die Lösung in einem Bereich landet, der Mitarbeiterdaten verarbeitet oder die Arbeitsorganisation verändert, hat der Betriebsrat ein Mitbestimmungsrecht nach Paragraf 87 Betriebsverfassungsgesetz.

Wer den Betriebsrat erst bei der Ankündigung ans Kollegium einbindet, zieht sich Monate Verzögerung zu. Wer ihn von Anfang an mitnimmt, erlebt das Gegenteil: Betriebsräte können sehr wirksame Multiplikatoren sein, wenn sie verstehen, dass das Tool den Mitarbeitern die lästige Arbeit abnimmt und nicht die Arbeit selbst.

Seit 2. Februar 2025 kommt zusätzlich die KI-Kompetenzpflicht aus Artikel 4 der EU-KI-Verordnung hinzu. Unternehmen müssen sicherstellen, dass Mitarbeiter, die mit KI-Systemen arbeiten, ausreichend geschult sind. Das ist keine Formalität mehr, sondern Pflicht.

Fehler 3: Datenqualität unterschätzen

Das berühmte „Garbage in, Garbage out" gilt für KI doppelt. Eine KI-gestützte Rechnungserkennung funktioniert nur, wenn die Rechnungen sauber abgelegt sind. Eine KI-gestützte Kundenkommunikation funktioniert nur, wenn das CRM gepflegt ist. Ein Chatbot mit Firmenwissen funktioniert nur, wenn das Wissen dokumentiert und aktuell ist.

In der Praxis heißt das oft: Bevor die KI kommt, muss erst aufgeräumt werden. Ordner-Strukturen bereinigen, CRM-Datensätze deduplizieren, veraltete Dokumente archivieren. Das ist die unglamouröse Arbeit, die in Präsentationen von Beratern kaum vorkommt, aber 60 Prozent des Projekterfolgs bestimmt.

Fehler 4: Mitarbeiter nicht ernstgenommen

Die typische Abfolge in gescheiterten KI-Projekten: Tool wird eingeführt, einmalige Schulung mit 60 Slides, danach läuft der Kollege nach vier Wochen wieder zurück zum alten Prozess. Nicht aus Böswilligkeit, sondern weil der alte Prozess einfach schneller von der Hand geht.

Was stattdessen funktioniert: Schulung in kleinen Einheiten, über mehrere Wochen. Ein Kollege aus der Abteilung als Champion, der im Alltag Fragen beantwortet. Regelmäßige Check-ins in den ersten drei Monaten. Und ein klares Versprechen: Das Tool ersetzt nicht den Menschen, es nimmt ihm die stupide Arbeit ab.

Der Betriebswirt Michael Sanders hat mal sinngemäß gesagt: Eine Veränderung setzt sich durch, wenn die Menschen sie als Vorteil erleben, nicht als Anweisung. Das gilt für KI-Einführungen mehr als für fast jede andere Technologie.

Fehler 5: Keine Verantwortlichkeit im Unternehmen

In vielen Mittelstandsfirmen ist KI Nebenjob von Herrn Meier aus der IT, der ohnehin schon Exchange-Server, Firewall und den ERP-Support zu managen hat. Das funktioniert nicht. KI-Projekte brauchen eine klar benannte Person, die dafür verantwortlich ist, und idealerweise Zeit dafür freigeschaufelt bekommt.

Diese Rolle gibt es inzwischen als eigenen Beruf: den Digitalisierungsmanager. Vier Monate Weiterbildung, AZAV-zertifiziert, mit Bildungsgutschein der Agentur für Arbeit kostenfrei. Wer im eigenen Unternehmen jemanden qualifizieren möchte, kann das über das Qualifizierungschancengesetz fördern lassen. Die Kurskosten übernimmt die Arbeitsagentur ab zehn Mitarbeitern zu 50 Prozent, bei kleineren Unternehmen sogar zu 100 Prozent, plus Lohnzuschuss während der Weiterbildungszeit.

Das Modell „externer Berater" funktioniert bei größeren Einmalprojekten, aber für die laufende KI-Integration über Jahre ist eine interne Person fast immer wirtschaftlicher.

Wer so etwas plant: Die praktische Reihenfolge

Kurze Checkliste für Geschäftsführer oder IT-Leiter, die 2026 mit KI starten wollen:

1. Klären, welcher Prozess tatsächlich das Problem ist. Nicht welches Tool als Erstes interessiert.
2. Betriebsrat (falls vorhanden) von Anfang an einbinden.
3. Prüfen, ob die Datenbasis solide genug ist. Falls nicht, das zuerst aufräumen.
4. Eine Person benennen, die das verantwortet. Intern qualifizieren oder extern einkaufen, aber nicht nebenbei machen lassen.
5. Mit einem kleinen, klar abgrenzbaren Pilotprozess starten. Nicht die ganze Firma gleichzeitig transformieren wollen.

Wer diese fünf Schritte sauber durchläuft, hat erfahrungsgemäß nach sechs Monaten eine KI-Lösung, die tatsächlich genutzt wird. Wer sie abkürzt, steht nach sechs Monaten da, wo er angefangen hat, nur mit einer teureren Softwarelizenz.

Häufige Fragen

Ab welcher Unternehmensgröße lohnt sich KI?

Die Frage ist falsch gestellt. Richtiger wäre: Ab welchem Prozessvolumen lohnt sich Automatisierung. Ein Handwerksbetrieb mit fünf Mitarbeitern, der täglich 30 Rechnungen per E-Mail bekommt, kann von einer einfachen KI-gestützten Rechnungsverarbeitung genauso profitieren wie ein 200-Mann-Konzern.

Was kostet ein KI-Projekt typischerweise?

Bandbreite ist groß. Ein einzelner automatisierter Workflow über n8n oder Make kostet oft nur 80 bis 150 Euro Setup-Kosten plus Monatslizenz. Eine komplette Prozessautomatisierung mit Datenintegration liegt eher bei 5.000 bis 25.000 Euro Einmalkosten plus laufende Lizenzen. Teuer wird es erst, wenn eine Individualentwicklung nötig ist.

Braucht mein Unternehmen einen Datenschutzbeauftragten für KI?

Sobald regelmäßig personenbezogene Daten durch KI-Systeme verarbeitet werden, schreibt Paragraf 38 Bundesdatenschutzgesetz bei über 20 beteiligten Personen einen Datenschutzbeauftragten vor. Unabhängig davon sollte jede KI-Einführung eine Datenschutz-Folgenabschätzung durchlaufen, wenn kritische Prozesse betroffen sind.

Was passiert, wenn die KI einen Fehler macht?

Die Haftung bleibt beim Unternehmen. Ein „Die KI war schuld"-Argument trägt rechtlich nicht. Deshalb ist menschliche Aufsicht über kritische Entscheidungen Pflicht und steht so auch in Artikel 14 der EU-KI-Verordnung. Praktisch heißt das: KI schlägt vor, Mensch entscheidet bei allem, was rechtliche oder finanzielle Folgen hat.