Fünf KI-Trends für den Mittelstand – und was sie konkret bedeuten

Für mittelständische Unternehmen lohnt derzeit der Blick auf fünf KI-Entwicklungen: KI-Agenten, die Routineprozesse im Tagesbetrieb übernehmen, der EU AI Act, dessen Pflichten für Anwenderunternehmen ein eigener Beitrag einordnet, deutlich gesunkene Modellkosten, No-Code-Automatisierung als Brücke zu bestehenden Systemen sowie der Datenstandort als Auswahlkriterium. Die Frage lautet nicht mehr, ob KI in den Unternehmen ankommt: Laut Bitkom nutzen inzwischen 41 Prozent der Unternehmen ab 20 Beschäftigten KI, im Vorjahr waren es 17 Prozent.

Dieser Artikel ordnet die fünf Trends ein und zeigt jeweils, was sie für Unternehmen mit 50 bis 500 Mitarbeitenden konkret bedeuten, mit belegten Zahlen und einem Rechenbeispiel zu den Modellkosten.

KI im Mittelstand: vom Experiment zum Arbeitsalltag

Neben den 41 Prozent aktiver Nutzer planen oder diskutieren laut Bitkom weitere 48 Prozent den Einsatz; 77 Prozent der KI-nutzenden Unternehmen sehen ihre Wettbewerbsposition verbessert. Der KI-Index Mittelstand 2026 von Salesforce und dem Deutschen Mittelstands-Bund zählt für mittelständische Unternehmen 51,2 Prozent, die KI-Lösungen nutzen oder testen, nach 33,1 Prozent im Jahr 2024.

Die beiden Werte sind nicht gegeneinander zu lesen:

	Bitkom	KI-Index Mittelstand 2026
Befragte	604 Unternehmen ab 20 Beschäftigten, repräsentativ	rund 700 mittelständische Unternehmen
Befragungszeitraum	Januar und Februar 2026	November 2025
Was gezählt wird	Einsatz; Planung und Diskussion getrennt	Einsatz und Test zusammen
Wert	41 Prozent nutzen KI	51,2 Prozent nutzen oder testen KI

Vergleichbar ist die Richtung, nicht die Höhe: Beide Erhebungen zeigen einen deutlichen Anstieg binnen eines Jahres. Wer eine der Zahlen in einer Präsentation verwendet, sollte die Grundgesamtheit dazuschreiben.

Für Unternehmen, die KI bereits nutzen, verschiebt sich damit die Aufgabe: vom ersten Pilotprojekt dahin, aus einzelnen Werkzeugen verlässliche Prozesse zu machen, technisch, organisatorisch und rechtlich sauber. Eine erste Einschätzung, wo Ihr Unternehmen dabei steht, gibt der KI-Quick-Check.

Trend 1: KI-Agenten übernehmen Routineprozesse im Tagesbetrieb

KI arbeitet nicht mehr nur auf Zuruf, sondern kann mehrstufige Aufgaben selbstständig erledigen. Solche KI-Agenten können Kundenanfragen inklusive Rückfrage im ERP-System beantworten, eingehende Leads qualifizieren oder Rechnungen mit Bestellungen abgleichen, mit definierten Freigabepunkten, an denen ein Mensch entscheidet. Laut KI-Index Mittelstand 2026 setzen 16,6 Prozent der befragten Mittelständler KI-Agenten ein, 2024 waren es 8,7 Prozent.

Was heißt das konkret für Sie: Suchen Sie nicht nach dem spektakulärsten Anwendungsfall, sondern nach dem langweiligsten: ein Prozess mit hohem Volumen, klaren Regeln und messbarem Aufwand, etwa Auftragserfassung, Rechnungsprüfung oder die Erstqualifizierung von Anfragen. Lassen Sie den Agenten dort zunächst Vorschläge machen, die Ihr Team freigibt, und lockern Sie die Freigabepflicht erst, wenn die Fehlerquote nachweislich niedrig ist. Wie Sie den passenden Prozess auswählen und ein Pilotprojekt aufsetzen, beschreibt unser Leitfaden zur KI-Einführung.

Trend 2: Der EU AI Act – erst ein Inventar, dann die Einordnung

Welche Pflichten die europäische KI-Verordnung für Unternehmen vorsieht, die KI nur anwenden, seit wann sie gelten, was der Digital Omnibus daran geändert hat und was für KI in Personalprozessen zu beachten ist, ordnet unser Beitrag EU AI Act für Anwenderunternehmen am Verordnungstext ein. Dieser Überblick wiederholt die Rechtslage bewusst nicht, damit es nur eine Stelle gibt, an der sie aktuell gehalten wird.

Was heißt das konkret für Sie: Erstellen Sie ein einfaches Inventar aller KI-Anwendungen im Haus, auch der inoffiziell genutzten. Notieren Sie je Anwendung, wofür sie eingesetzt wird, wer sie nutzt, welche Daten sie verarbeitet und ob sie Entscheidungen über Beschäftigte oder Bewerber berührt. Mit dieser Liste lassen sich die Anwendungen anhand des verlinkten Beitrags vorsortieren.

Trend 3: Modellkosten fallen – die Auswahl entscheidet sich an anderer Stelle

Der Stanford AI Index 2025 dokumentiert, dass die Kosten für Abfragen eines Modells, das auf dem Benchmark MMLU das Niveau von GPT-3.5 erreicht, von 20 US-Dollar je Million Tokens im November 2022 auf 0,07 US-Dollar im Oktober 2024 gefallen sind, mehr als das 280-Fache.

Was das für einen Prozess bedeutet, zeigt ein Rechenbeispiel mit offengelegten Annahmen: Ein Unternehmen lässt 1.000 Vorgänge im Monat von einem Modell verarbeiten, etwa eingehende Anfragen, und rechnet je Vorgang mit 2.000 Tokens für Eingabe und Antwort zusammen. Das sind 2 Millionen Tokens im Monat. Zum Preis vom November 2022 kostet das 40 US-Dollar, zum Preis vom Oktober 2024 rund 0,14 US-Dollar. Die Rechnung ist vereinfacht: Sie setzt einen Einheitspreis je Token an; prüfen Sie im Angebot, ob Eingabe und Ausgabe unterschiedlich berechnet werden. Leistungsstärkere Modelle als das GPT-3.5-Niveau können deutlich mehr kosten. Die Richtung bleibt: Auf diesem Preisniveau liegen die Modellkosten für 1.000 Vorgänge unter einem US-Dollar im Monat, der Aufwand für Einrichtung, Anbindung und Betrieb gehört deshalb genauso in die Kalkulation.

Was heißt das konkret für Sie: Rechnen Sie Angebote mit den aktuellen Preisen des Anbieters neu durch und prüfen Sie laufende Verträge auf veraltete Preismodelle. Die reine Modellleistung ist bei der Auswahl nur ein Kriterium; prüfen Sie sie an Ihrem eigenen Anwendungsfall. Daneben zählen Integration, Datenschutz, Support und die Passung zu Ihrem Prozess.

Trend 4: No-Code-Automatisierung verbindet KI mit Ihren bestehenden Systemen

KI lässt sich als Baustein in einer Prozesskette einsetzen: E-Mail geht ein, KI extrahiert die Daten, das Ergebnis landet im ERP- oder CRM-System, bei Unklarheiten wird ein Mensch benachrichtigt. Solche Ketten lassen sich mit No-Code- und Low-Code-Plattformen über eine grafische Oberfläche aus fertigen Bausteinen zusammensetzen, statt sie zu programmieren. Damit können Fachabteilungen Automatisierungen selbst umsetzen, während die IT den Rahmen vorgibt.

Die Eingänge müssen dabei nicht aus reinem Text bestehen. Laut Googles Dokumentation zur Gemini-API (Stand 28. September 2026) werten die Gemini-Modelle in PDF-Dokumenten neben Text auch Bilder, Diagramme und Tabellen aus. Das ist relevant für gescannte Lieferscheine oder Formulare mit Tabellen; prüfen Sie diese Fähigkeit bei dem Modell, das Ihre Plattform anbindet.

Was heißt das konkret für Sie: Benennen Sie pro Abteilung eine Person, die Automatisierungspotenziale sammelt und einfache Workflows selbst baut. Legen Sie gleichzeitig Leitplanken fest: welche Daten die Plattform verarbeiten darf, wer Workflows freigibt und wie Fehler gemeldet werden. Prüfen Sie vor der Plattformwahl, ob Versionierung, Fehlerbehandlung, Zugriffsrechte und Protokollierung in dem Tarif enthalten sind, den Sie buchen wollen. So vermeiden Sie Wildwuchs, den Sie später aufräumen müssten.

Trend 5: Der Datenstandort wird zur Konfigurationsfrage

Je mehr KI-Anwendungen produktiv laufen, desto wichtiger wird die Frage, wo Daten verarbeitet werden. Einzelne Anbieter sagen den Datenstandort vertraglich zu. Microsoft etwa hat sich mit der EU Data Boundary verpflichtet, Kundendaten und personenbezogene Daten seiner Unternehmens-Onlinedienste, darunter Microsoft 365 und Azure, innerhalb von EU und EFTA zu speichern und zu verarbeiten, mit dokumentierten Ausnahmen (Microsoft-Dokumentation, abgerufen am 28. September 2026). Ob ein Dienst darunter fällt, hängt von der Konfiguration ab, bei Microsoft 365 etwa vom Land, in dem der Mandant angemeldet ist. Die Frage muss deshalb bei der Auswahl gestellt werden, nicht nach der Einführung.

Was heißt das konkret für Sie: Nehmen Sie drei Fragen fest in jede Anbieterprüfung auf: Wo werden die Daten verarbeitet, und welche Ausnahmen nennt der Anbieter? Werden unsere Daten für das Training fremder Modelle genutzt? Falls der Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet: Liegt ein Auftragsverarbeitungsvertrag vor? Wer diese Fragen nicht schriftlich beantwortet, kommt nicht in die engere Wahl.

Für den Mittelstand heißt das

Die fünf Trends greifen ineinander: Fallende Modellkosten machen KI-Agenten eher wirtschaftlich, No-Code-Plattformen machen sie ohne großes IT-Projekt umsetzbar, und ein Inventar der KI-Anwendungen zeigt, welche Regeln für welche davon gelten (siehe EU AI Act für Anwenderunternehmen). Für den Start empfehlen sich drei Dinge: einen klar abgegrenzten Prozess mit messbarem Aufwand als Startpunkt, ein Inventar der KI-Anwendungen mit dokumentierten Regeln für Datenschutz und KI-Einsatz sowie Mitarbeitende, die geschult sind und die Ergebnisse der Systeme beurteilen können. Die Werkzeuge können Ihre Wettbewerber genauso kaufen. Ob die Werkzeuge Ihnen einen Vorsprung bringen, zeigt sich deshalb erst im Alltag: Prüfen Sie nach jeder Einführung, ob das Werkzeug tatsächlich genutzt wird und der Prozess messbar weniger Aufwand verursacht.

FAQ

Welche Zahlen zur KI-Nutzung im Mittelstand sind belastbar?

Zwei aktuelle Erhebungen liefern verschiedene Werte. Laut Bitkom nutzen 41 Prozent der Unternehmen ab 20 Beschäftigten KI (repräsentative Befragung von 604 Unternehmen im Januar und Februar 2026). Der KI-Index Mittelstand 2026 zählt 51,2 Prozent, die KI nutzen oder testen (rund 700 mittelständische Unternehmen, befragt im November 2025). Weil beide Studien unterschiedliche Unternehmen befragen und anders zählen, ist die Richtung vergleichbar, nicht die Höhe.

Wir haben bisher keine KI im Einsatz – lohnt sich der Einstieg noch?

Die Einstiegshürden sind gesunken: Laut Stanford AI Index 2025 sind die Kosten für Abfragen eines Modells auf GPT-3.5-Niveau zwischen November 2022 und Oktober 2024 um mehr als das 280-Fache gefallen, und für Standardaufgaben gibt es Lösungen, die keine Eigenentwicklung brauchen. Da laut Bitkom bereits 41 Prozent der Unternehmen ab 20 Beschäftigten KI nutzen, sollten Sie Abwarten als bewusste Entscheidung treffen und prüfen, welcher Prozess sich für einen ersten Versuch eignet.

Was unterscheidet einen KI-Agenten von einem KI-Assistenten?

Ein Assistent antwortet auf Anfragen und liefert Text- oder Analysevorschläge, die ein Mensch weiterverarbeitet. Ein Agent führt einen mehrstufigen Prozess selbstständig aus: Er greift auf Systeme wie ERP oder CRM zu, trifft innerhalb definierter Regeln Zwischenentscheidungen und liefert ein fertiges Ergebnis. Wo ein Mensch freigeben muss, legen Sie selbst fest.

Brauchen wir für KI-Automatisierung eine eigene IT-Abteilung?

Nicht zwingend. No-Code-Plattformen erlauben es Fachabteilungen, Workflows selbst zu bauen. Was Sie brauchen, ist Governance: klare Regeln, welche Daten verarbeitet werden dürfen, wer Automatisierungen freigibt und wie Fehler eskaliert werden. Externe Unterstützung lohnt sich zu prüfen, wo Bestandssysteme angebunden oder Datenschutzfragen geklärt werden müssen.