Die 7 teuersten KI-Fehler im Mittelstand (und wie Sie sie vermeiden)

Wo KI-Projekte im Mittelstand teuer werden

Die sieben Fehler in diesem Beitrag fallen alle vor der Modellwahl: bei der Zielsetzung, bei den Daten, bei der Frage, wer das Ergebnis später benutzt. Teuer sind sie, weil sie den Nutzen des Vorhabens angreifen und nicht nur seinen Aufwand erhöhen – zu jedem steht deshalb nicht nur, wie Sie ihn vermeiden, sondern woran Sie ihn erkennen und was er kostet, wenn Sie ihn übersehen.

Das lohnt sich, weil ein Abbruch mehr kostet als das eingesetzte Budget. Er kostet Zeit, in der nichts anderes passiert ist, und internes Vertrauen – nach einem Fehlschlag ist ein zweiter Anlauf intern schwerer zu begründen. Als Geschäftsführer oder IT-Verantwortlicher stehen Sie dabei vor einer unangenehmen Asymmetrie: Das Budget ist sofort gebunden, der volle Nutzen zeigt sich erst im laufenden Betrieb.

Eine Abgrenzung vorweg: Ob Ihr Unternehmen die Voraussetzungen für den Einstieg überhaupt mitbringt, klärt der KI-Readiness-Check. Dieser Beitrag setzt eine Stufe später an, am konkreten Vorhaben.

Die 7 Fehler bei der KI-Einführung

Fehler 1: KI-Strategie ohne Business Case

Er beginnt mit einem Satz wie diesem: „Unsere Konkurrenz nutzt bereits KI, wir müssen auch.“ Fehlt der konkrete Geschäftsnutzen, entsteht ein technologiegetriebenes Projekt, das beeindruckend klingen mag, aber keinen Maßstab für messbaren Mehrwert hat.

Woran Sie es erkennen: Fragen Sie drei Personen aus verschiedenen Abteilungen, welches Problem das Projekt lösen soll. Bekommen Sie drei verschiedene Antworten – oder Antworten, die eine Technologie nennen statt eines Prozesses –, dann existiert der Business Case nicht. Ein belastbarer Business Case lässt sich in einem Satz sagen: welcher Vorgang, wie oft im Monat, wie viel Zeit oder Geld pro Mal.

Was es kostet: Hier steht nicht ein Teil des Budgets im Feuer, sondern das ganze. Ein Projekt ohne definiertes Problem hat auch keinen Maßstab, an dem sich ein Teilerfolg zeigen ließe – es endet entweder im Abbruch oder in einem System, das niemand vermisst, wenn man es abschaltet. Was Aufbau und Betrieb überhaupt kosten, lässt sich vorab überschlagen.

So vermeiden Sie diesen Fehler:

• Identifizieren Sie zuerst konkrete Geschäftsprobleme mit messbaren Kosten
• Definieren Sie klare Erfolgsziele vor Projektstart
• Starten Sie nur Projekte, deren erwarteter Nutzen die Investition deutlich übersteigt

Fehler 2: Unrealistische Erwartungen an KI-Fähigkeiten

Wer von KI erwartet, dass sie den Vorgang vollständig übernimmt, legt damit den Maßstab fest, an dem das Projekt anschließend gemessen wird. Prüfen Sie deshalb, welcher Teil des Vorgangs einem wiederkehrenden Muster folgt, und legen Sie für den Rest fest, wer ihn bearbeitet und woran er erkennbar ist. In einem unserer Vertriebsprojekte recherchiert und qualifiziert das System die Leads, und ein Mensch prüft jeden einzelnen, bevor er ins CRM geht.

Woran Sie es erkennen: Taucht in der Projektbeschreibung das Wort „vollautomatisch“ auf, fragen Sie, was mit den Fällen passiert, die das System nicht schafft. Wer darauf keine Antwort hat, hat kein Zielbild, sondern eine Hoffnung.

Was es kostet: Nicht die Umsetzung, sondern das Urteil darüber. Eine Teilautomatisierung, die den Großteil der Fälle zuverlässig erledigt, kann als „gescheitert“ abgebucht werden, weil sie an einem Ziel gemessen wurde, das nie erreichbar war – und der bereits erarbeitete Nutzen wird dann mit abgeschaltet.

So setzen Sie realistische Ziele:

• Planen Sie mit Teilautomatisierung und definieren Sie den Rest mit
• Legen Sie vor Projektstart fest, ab welchem Ergebnis das Projekt erfolgreich ist
• Starten Sie mit einem zeitlich begrenzten Pilotprojekt, bevor Sie skalieren

Fehler 3: Fehlende Datenqualität und -verfügbarkeit

„Wir haben ja viele Daten“ – doch Quantität ist nicht Qualität. Aus einem lückenhaften Bestand entsteht kein verlässliches Ergebnis. Unvollständige, veraltete oder inkonsistente Daten kosten erst Ergebnisqualität und dann Zeit und Geld bei der Bereinigung.

Woran Sie es erkennen: Wird die Datenfrage mit einer Mengenangabe beantwortet („zehn Jahre Historie“) statt mit einer Aussage zur Qualität, ist sie nicht beantwortet. Danach hilft nur noch der Blick in die Daten selbst. Ein schneller Test: Nehmen Sie sich eine Stunde und fünfzig Datensätze aus der Quelle, die das System nutzen soll – vollständig, einheitlich formatiert, über den ganzen Zeitraum dieselbe Bedeutung? Fallen mehr als eine Handvoll durch, bereinigen Sie zuerst. Wie eng Sie die Frage nach der Datenqualität stellen sollten, steht in unserer FAQ zur KI-Einführung.

Was es kostet: Nicht die Bereinigung selbst – die fällt so oder so an. Teuer wird, sie im laufenden Projekt zu machen: Der Termin verschiebt sich, das Team wartet, und über Umfang und Qualität entscheidet man unter Zeitdruck statt in Ruhe.

Ihre Daten-Checkliste vor dem KI-Start:

• Prüfen Sie die Daten, die der erste Prozess tatsächlich anfasst, bevor das Projekt startet
• Klären Sie, ob das System aus historischen Daten lernen soll oder nur mit aktuellen Feldern arbeitet – davon hängt ab, wie weit zurück Sie die Datenqualität prüfen müssen
• Investieren Sie bei Bedarf zuerst in Datenqualität, dann in KI

Fehler 4: Mangelnde Mitarbeiter-Einbindung und Change Management

Wird die KI-Einführung als rein technisches Vorhaben geführt, erfahren die Mitarbeitenden leicht erst spät von den Änderungen. Prüfen Sie, ob das bei Ihnen Sorgen um den eigenen Arbeitsplatz auslöst – bleiben sie unbeantwortet, kann daraus Widerstand werden, und ohne Akzeptanz der Anwender bleibt auch eine gute KI-Lösung ungenutzt.

Gibt es einen Betriebsrat, ist die frühe Einbindung keine Stilfrage. Nach § 90 BetrVG hat der Arbeitgeber ihn über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten und die vorgesehenen Maßnahmen so rechtzeitig mit ihm zu beraten, dass seine Vorschläge und Bedenken bei der Planung berücksichtigt werden können. Bei technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen, hat er mitzubestimmen, soweit eine gesetzliche oder tarifliche Regelung nicht besteht (§ 87 Abs. 1 Nr. 6 BetrVG). Ob das auf Ihr System zutrifft, klären Sie im Einzelfall arbeitsrechtlich.

Woran Sie es erkennen: Fragen Sie zwei Personen, die das System täglich benutzen sollen, was sich für sie ändert. Wissen sie es nicht, entscheidet später die Nutzungsrate über das Projekt und nicht die Technik. Legen Sie außerdem vorher fest, wie Sie diese Rate messen: Welcher Anteil der Vorgänge läuft nach drei Monaten tatsächlich durch das neue System? Wer die Zahl nicht nennen kann, erhebt sie nicht – und dann erhebt sie niemand.

Was es kostet: Den Doppelbetrieb. Das System ist bezahlt und läuft, daneben kann der alte Prozess weiterlaufen, weil ihn niemand abgeschaltet hat. Dieser Fehler fällt leicht durch, weil nichts sichtbar schiefgeht – es wird nur nichts besser.

Change Management von Anfang an:

• Binden Sie betroffene Mitarbeitende bereits in die Planungsphase ein
• Kommunizieren Sie KI als Unterstützung, nicht als Ersatz
• Planen Sie einen festen Teil Ihres KI-Budgets für Schulungen und Change Management ein
• Benennen Sie „KI-Champions“ in den Fachabteilungen

Fehler 5: Falsche Partner-Auswahl und Technologie-Lock-in

Prüfen Sie bei Lösungen, die für Konzernstrukturen entworfen wurden, den Zuschnitt: lange Konzeptphasen, viele Beteiligte, Ergebnisse erst am Ende. Passt er nicht zu Ihrem Betrieb, hilft auch eine gute Lösung wenig.

Woran Sie es erkennen: Zwei Fragen an jedes Angebot. Erstens: Was läuft nach den ersten Wochen produktiv? Zweitens: Was passiert bei einer Kündigung – was nehmen wir mit, und was bleibt beim Anbieter? Bleibt eine der beiden Antworten vage, ist das der Preis, den Sie später zahlen. In eigener Sache: Wir sind selbst ein solcher Anbieter, und diese Kriterien sind auf unseren Zuschnitt gemünzt. Legen Sie deshalb auch die Gegenprobe an – wer 24/7-Betrieb, Konzern-Rollout oder eine zertifizierte Enterprise-Plattform braucht, sollte prüfen, ob ein kleiner Umsetzungspartner das abdecken kann – auch bei uns.

Was es kostet: Die Konzeptphase. Ein Angebot, das nur Phasen und Liefergegenstände beschreibt, aber kein arbeitendes Zwischenergebnis, verschiebt das Risiko auf Sie: Sie zahlen vom ersten Tag an und sehen erst am Ende, ob es funktioniert. Beim Lock-in kommt der zweite Posten dazu – was Sie beim Wechsel neu bauen müssen, weil es Ihnen nicht gehört.

Partner-Auswahl für den Mittelstand:

• Wählen Sie Partner mit nachweisbarer Mittelstands-Erfahrung
• Fordern Sie Referenzen von Unternehmen ähnlicher Größe
• Bestehen Sie auf frühen, sichtbaren Ergebnissen statt langer Konzeptphasen
• Klären Sie vor Vertragsschluss, wem Workflows, Modelle und Daten am Ende gehören

Fehler 6: Fehlende interne KI-Governance

KI-Systeme bringen rechtliche und organisatorische Anforderungen mit sich, die im Projektplan leicht untergehen. Ohne klare Zuständigkeit entstehen Risiken, die erst auffallen, wenn jemand nachfragt – der Betriebsrat, ein Kunde oder eine Aufsichtsbehörde. Welche Pflichten für reine Anwenderunternehmen tatsächlich gelten, steht in unserem Beitrag zum EU AI Act; dort finden Sie auch, wie eine Bestandsaufnahme praktisch abläuft.

Woran Sie es erkennen: Dieser Fehler lässt sich erst prüfen, wenn schon Systeme laufen – dafür dann gründlich. Machen Sie die Bestandsaufnahme und halten Sie das Ergebnis gegen Ihre eigene Erwartung: Was auf der Liste steht und Ihnen neu ist, läuft ohne Regel. Der zweite Test: Kann jemand für ein eingesetztes System erklären, wie es zu seinem Ergebnis kommt und wer die Entscheidung verantwortet? Wenn nicht, ist die Dokumentation die Lücke, nicht das System.

Was es kostet: Sichtbar wird es erst bei der ersten Nachfrage – entstanden ist der Aufwand vorher. Dann wird nachträglich dokumentiert, was während des Betriebs hätte mitlaufen können, und zwar unter Termindruck und für Systeme, die inzwischen niemand mehr im Detail kennt.

KI-Governance aufbauen:

• Benennen Sie einen KI-Verantwortlichen mit klaren Befugnissen
• Führen Sie ein Verzeichnis der eingesetzten KI-Systeme und halten Sie es aktuell
• Dokumentieren Sie nachvollziehbar, wie KI-gestützte Entscheidungen zustande kommen
• Prüfen Sie bei Systemen, die Menschen bewerten – etwa Bewerbungen oder Bonität –, ob die Ergebnisse systematisch eine Gruppe benachteiligen; ob daraus zusätzliche Pflichten folgen und ab wann, steht im EU-AI-Act-Beitrag
• Erstellen Sie KI-Nutzungsrichtlinien für Mitarbeitende
• Sorgen Sie dafür, dass Mitarbeitende, die KI-Systeme nutzen, geschult werden; welche Pflicht der AI Act dazu vorsieht, steht im EU-AI-Act-Beitrag

Fehler 7: Keine Skalierungsstrategie nach dem Pilotprojekt

Ein erfolgreicher Pilot ist noch kein Nutzen. Ohne Skalierungsstrategie bleiben KI-Initiativen isolierte Insellösungen.

Woran Sie es erkennen: Dieser Fehler hat zwei Signale, und nur das erste kommt rechtzeitig. Fragen Sie schon bei der Pilotplanung, welcher zweite Prozess dieselben Bausteine nutzen würde – dieselbe Datenquelle, dieselbe Anbindung, dieselbe Freigabelogik. Gibt es darauf keine Antwort, bauen Sie eine Einzellösung. Das zweite Signal kommt Monate später und ist dann nur noch eine Feststellung: Der Pilot läuft, er funktioniert, und er ist immer noch der einzige.

Was es kostet: Die Verteilung. Ein Teil des Aufwands – Einrichtung der Plattform, Anbindung der Systeme, Grundbetrieb – fällt unabhängig davon an, wie viele Prozesse darauf laufen; bei einem einzigen Prozess muss dieser eine die gesamten Fixkosten rechtfertigen.

Skalierung von Anfang an mitdenken:

• Entwickeln Sie bereits beim Pilotprojekt einen Skalierungsplan
• Wählen Sie Use Cases, die sich auf andere Bereiche übertragen lassen
• Planen Sie Ressourcen für die Ausweitung ein
• Klären Sie vor dem Go-live, wer den laufenden Betrieb verantwortet und wer eine Störung bemerkt – ein Workflow, den niemand betreut, fällt irgendwann aus, ohne dass es auffällt
• Messen Sie nicht nur den Pilot-Erfolg, sondern den Gesamtnutzen nach der Skalierung

Für den Mittelstand heißt das

Die Fehler 1, 2, 4 und 5 klären Sie mit einer Frage an die richtigen Leute, bevor Budget freigegeben ist. Nach unserer Einschätzung entsteht der teure Teil einer KI-Einführung in dem, was zu diesem Zeitpunkt nicht geklärt wurde.

Drei brauchen mehr als eine Frage. Fehler 3 verlangt den Blick in die echten Daten statt eine Einschätzung darüber. Fehler 7 verlangt dieselbe Frage zum richtigen Zeitpunkt, nämlich in der Pilotplanung. Und Fehler 6 prüft nicht Ihr Vorhaben, sondern Ihren Bestand – er lohnt sich, sobald irgendwo im Haus KI-Werkzeuge genutzt werden.

Ein Hinweis zur Reihenfolge: Wer Fehler 1 vermeidet, entschärft damit auch 2 und 7: Ein Business Case, der einen konkreten Vorgang mit Häufigkeit und Aufwand benennt, macht unrealistische Erwartungen sichtbar und liefert das Kriterium, an dem sich die Ausweitung später messen lässt. Wie die Einführung danach Schritt für Schritt abläuft, steht im Leitfaden in fünf Phasen.

FAQ

Scheitern KI-Projekte an der Technik oder an der Organisation?

Prüfen Sie zuerst die Entscheidungen, die vor dem Modell fallen: die Zielsetzung, die Daten und die Frage, wer das Ergebnis später benutzt. Die sieben Fehler in diesem Beitrag sind entsprechend ausgewählt – keiner davon ist ein Modellproblem. Das heißt nicht, dass es keine technischen Hürden gibt; es heißt, dass die teuren Weichen vorher gestellt werden.

Wie erkenne ich einen KI-Einführungsfehler, bevor er teuer wird?

Bei den meisten genügt eine Frage an die richtigen Leute; Fehler 3 braucht zusätzlich einen Blick in die echten Daten, Fehler 6 eine Bestandsaufnahme der laufenden Systeme. Fragen Sie drei Personen aus verschiedenen Abteilungen, welches Problem das Projekt löst. Fragen Sie, was mit den Fällen passiert, die das System nicht schafft. Fragen Sie zwei künftige Anwender, was sich für sie ändert. Wo Sie keine Antwort bekommen, lohnt der genauere Blick.

Unser KI-Pilotprojekt ist fehlgeschlagen – was jetzt?

Drei Schritte, in dieser Reihenfolge. Erstens: Rekonstruieren Sie das Erfolgskriterium, an dem gemessen wurde. Ein Pilot, der den Großteil der Fälle zuverlässig erledigt, ist kein Fehlschlag, sondern ein Ergebnis mit definiertem Rest – gescheitert ist er nur an einem Ziel, das Vollautomatisierung hieß. Zweitens: Prüfen Sie, ob dieses Teilergebnis produktiv gestellt werden kann, bevor Sie abschalten. Drittens, erst wenn auch das keinen Nutzen bringt: Sehen Sie sich Fehler 1 an, denn dann fehlte der Business Case von Anfang an.

Muss KI vollautomatisch laufen, damit sich das Projekt lohnt?

Nein. Planen Sie mit Teilautomatisierung und definieren Sie vorher, was mit dem Rest passiert – wer ihn bearbeitet und woran er erkennbar ist. Ein System, das einen klar abgegrenzten Teil der Fälle zuverlässig erledigt und den Rest sauber übergibt, müssen Sie nur an dieser Übergabe kontrollieren; eines, das alles versucht, überall.

Fazit: KI-Erfolg ist planbar

Die sieben Fehler in diesem Beitrag sind vermeidbar. Die meisten lassen sich ohne Spezialwissen erkennen – sie setzen nur voraus, dass jemand die Frage stellt, solange die Antwort noch etwas ändert.

Es geht deshalb weniger darum, ob Sie KI einführen, als darum, was Sie vorher geklärt haben. Falls Sie noch ganz am Anfang stehen, beginnen Sie eine Stufe früher – mit einer ehrlichen Bewertung der eigenen KI-Readiness. Steht das Vorhaben und ist das Budget noch nicht freigegeben, gehen Sie die Fehler 1, 2, 4 und 5 durch, bevor Sie unterschreiben. Läuft es bereits, fangen Sie bei Fehler 6 an.