KI im Mittelstand: Was sie heute kann und was wir ihr fälschlich zutrauen

Von Dirk Sommerfeld · Stand: 21. Oktober 2026

Eine KI beantwortet eine Kundenfrage in Sekunden. Der Text klingt freundlich, fachkundig und verbindlich. In der Vorführung beeindruckt das. Aus Geschäftsführungssicht beginnt die eigentliche Prüfung allerdings erst danach: Stimmt die Antwort? Kennt das System unsere Bedingungen? Wer bemerkt einen Fehler, bevor er beim Kunden ankommt?

An dieser Stelle treffen technische Möglichkeiten auf unternehmerische Verantwortung. Eine überzeugende Ausgabe kann den Eindruck erwecken, der zugrunde liegende Prozess sei bereits beherrscht. Dabei sind Wissenszugriff, Zuständigkeiten und Ausnahmefälle möglicherweise noch ungeklärt.

Für Entscheider entsteht daraus eine doppelte Aufgabe: Sie müssen neue Möglichkeiten erkennen und zugleich einschätzen, unter welchen Bedingungen daraus ein verlässlicher betrieblicher Nutzen wird. Dazu gehört, Fähigkeiten, Grenzen und organisatorische Voraussetzungen gemeinsam zu betrachten.

Die Kernthese lautet deshalb: Fehlentscheidungen drohen dort, wo Erwartungen, tatsächliche Fähigkeiten und Verantwortung auseinanderfallen. Gute KI-Einführung beginnt mit einer präzisen Aufgabe und einem überprüfbaren Ergebnis.

Wo KI heute steht

Ein Sprachmodell ist ein System, das aus gelernten Mustern sprachliche Ausgaben erzeugt. Es kann Texte entwerfen, Dokumente zusammenfassen, Anliegen sortieren, Informationen gegenüberstellen und beim Programmieren unterstützen. Besonders interessant sind Aufgaben, bei denen Menschen anschließend beurteilen können, ob das Ergebnis brauchbar ist.

Diese Fähigkeiten sind erheblich, aber ungleich verteilt. Der Stanford AI Index 2026 beschreibt Fortschritte bei anspruchsvollen Aufgaben und zugleich fortbestehende Schwächen, etwa bei mehrstufiger Planung. Ein gutes Testergebnis lässt sich deshalb nicht unmittelbar auf Ihren Betriebsalltag übertragen. Stanford HAI, 2026.

Ein Sprachmodell kann Fakten falsch wiedergeben und Quellen erfinden. Bei Rechnungen sollte es ein geeignetes Rechenwerkzeug nutzen; eine überzeugende sprachliche Herleitung ersetzt keine Zahlenprüfung. Unternehmenswissen kennt das System nur insoweit, wie es zuverlässig und mit passenden Zugriffsrechten bereitgestellt wird. Das US-Standardisierungsinstitut NIST behandelt überzeugend vorgetragene Falschaussagen ausdrücklich als Risiko generativer KI, also von Systemen, die neue Inhalte erzeugen. NIST, 2024.

Auch „Muster erkennen“ umfasst unterschiedliche Verfahren. Maschinenmesswerte werden häufig mit spezialisierten statistischen oder lernenden Modellen ausgewertet. Ein Sprachmodell kann solche Befunde erklären. Daraus folgt nicht, dass es selbst einen Lagerschaden zuverlässig diagnostiziert.

Verlässliche Anwendungen brauchen deshalb klare Grenzen: Fehlen belastbare Informationen, muss der Prozess eine Rückfrage oder eine menschliche Prüfung auslösen können. Solche Begrenzungen gehören in die Anwendung und ihre Berechtigungen. Eine freundliche Bitte an das Modell, keine Fehler zu machen, genügt nicht.

Dabei sind Beobachtung, Erklärung und Entscheidung auseinanderzuhalten. Ein erkennbarer Zusammenhang kann einen Prüfbedarf begründen, ohne die Ursache zu beweisen. Wer aus einer Auffälligkeit unmittelbar eine Handlung ableitet, überspringt möglicherweise genau die fachliche Bewertung, die für eine verantwortbare Entscheidung nötig wäre.

Zwischen einer überzeugenden Vorführung und einem verlässlichen Betrieb liegen damit Datenqualität, Ausfallszenarien, Rechte, Schulung und laufende Überprüfung. Entscheidend ist, wie sich das System unter den tatsächlichen Bedingungen im Unternehmen bewährt.

Fünf Fehleinschätzungen, die Entscheidungen verzerren

„KI weiß, was stimmt.“

Die Annahme: Eine klare, detaillierte Antwort ist auch eine richtige Antwort.

Die Realität: Sprachliche Sicherheit ist kein verlässliches Maß für Wahrheit. Auch ein Text mit Quellenangaben kann falsche Schlussfolgerungen enthalten; die Quellen selbst können ungeeignet sein.

Was das für Sie heißt: Legen Sie fest, welche Belege erforderlich sind und wer sie prüft. Bei einer verbindlichen Kundenzusage reicht ein flüchtiger Blick nicht. Die zuständige Person braucht Fachkenntnis, Zeit und die Möglichkeit, den Vorschlag abzulehnen. Ein Freigabeknopf allein schafft noch keine wirksame Kontrolle.

„Wir brauchen erst perfekte Daten.“ Oder: „Die KI wird die Daten schon verstehen.“

Die Annahme: Entweder muss zunächst das ganze Unternehmen aufgeräumt werden, oder Datenqualität spielt durch KI keine Rolle mehr.

Die Realität: Für einen begrenzten Anwendungsfall kann eine kleine, gepflegte Wissensbasis ausreichen. Unklare Begriffe, falsche Einheiten oder veraltete Dokumente bleiben jedoch Fehlerquellen. Fehlende Informationen müssen als fehlend erkennbar bleiben und dürfen nicht stillschweigend zu vermeintlich gesicherten Aussagen werden.

Was das für Sie heißt: Prüfen Sie die Daten für die konkrete Aufgabe. Benennen Sie einen Verantwortlichen für ihre Bedeutung und Aktualität. Verkleinern Sie gegebenenfalls den Umfang des Vorhabens.

„KI ersetzt Mitarbeiter eins zu eins.“

Die Annahme: Wenn KI eine Tätigkeit schneller erledigt, lässt sich eine ganze Stelle entsprechend ersetzen.

Die Realität: Eine Rolle umfasst unterschiedliche Tätigkeiten, Abstimmungen und Verantwortung. Eine Kundenservicestudie von Brynjolfsson und Kollegen zeigt Produktivitätsgewinne, aber deutliche Unterschiede nach Erfahrung der Beschäftigten. Die überarbeitete Fassung von 2024 ist kein allgemeiner Personalabbauplan. Generative AI at Work, 2024.

Was das für Sie heißt: Untersuchen Sie Tätigkeiten und Engpässe. Frei werdende Zeit kann kürzere Wartezeiten, bessere Beratung oder zusätzliche Kapazität ermöglichen. Rechnen Sie Prüfaufwand und Nacharbeit mit. Personalentscheidungen benötigen eine eigenständige betriebliche Bewertung.

„Ein Tool einführen reicht.“

Die Annahme: Lizenz kaufen, Zugang verteilen, Nutzen erzielen.

Die Realität: Ein Werkzeug klärt weder Zuständigkeiten noch Qualitätsmaßstäbe. Zusätzliche Vorschläge können auch zusätzliche Arbeit verursachen. METR fand 2025 bei erfahrenen Entwicklern in einem untersuchten Arbeitsumfeld längere Bearbeitungszeiten mit KI. Die Aktualisierung von 2026 betont allerdings Probleme bei der Messung und Hinweise auf inzwischen größere Vorteile. Gerade diese Entwicklung warnt vor pauschalen Urteilen. METR, 2025, Aktualisierung 2026.

Was das für Sie heißt: Definieren Sie den neuen Ablauf, schulen Sie die Beteiligten und vergleichen Sie den tatsächlichen Aufwand einschließlich Kontrolle.

„Wo die KI läuft, ist nebensächlich.“

Die Annahme: Ein Betrieb in der Cloud, also auf extern bereitgestellten Servern, ist automatisch unsicher. Oder umgekehrt: Der Anbieter wird Datenschutz und Verantwortung schon vollständig übernehmen.

Die Realität: Entscheidend sind Datenflüsse, Zugriffsrechte, Verträge und Betrieb. Der Europäische Datenschutzausschuss weist 2024 darauf hin, dass mit personenbezogenen Daten trainierte Modelle nicht automatisch als anonym gelten. Lokaler Betrieb beantwortet ebenfalls nicht jede Datenschutzfrage. EDSA, 2024.

Was das für Sie heißt: Klären Sie vorab Datenverwendung, Speicherung und Zuständigkeiten. Beziehen Sie Datenschutzverantwortliche und gegebenenfalls den Betriebsrat ein. Lassen Sie Beteiligungsrechte und Haftungsfragen für den konkreten Einsatz juristisch prüfen.

Wie sich KI entwickeln könnte

Für die kommenden zwölf bis vierundzwanzig Monate halte ich weitere Verbesserungen für plausibel. Verlässlich vorhersagen lassen sich weder ihre Geschwindigkeit noch ihre Wirtschaftlichkeit im einzelnen Unternehmen.

Mehr KI in vorhandener Software: Assistenzfunktionen sind bereits in Büroanwendungen integriert, beispielsweise in Microsoft 365. Daraus leite ich ab, dass Unternehmen häufiger bestehende Arbeitsabläufe bewerten müssen, statt nur über zusätzliche Einzelprogramme zu entscheiden. Welche Funktionen verfügbar sind, hängt vom konkreten Produkt und Vertrag ab. Microsoft, Dokumentationsstand 2026.

Effizientere Modelle und lokale Einsatzmöglichkeiten: Der Stanford AI Index 2025 dokumentiert stark gesunkene Nutzungskosten für ein bestimmtes Leistungsniveau. Google stellte 2025 mit Gemma 3n Modelle für ressourcenärmere Geräte vor. Das macht weitere lokale Anwendungen plausibel. Es garantiert weder sinkende Gesamtkosten noch die Eignung jedes Modells für jede Aufgabe. Integration, Wartung und menschliche Prüfung bleiben Teil der Rechnung. Stanford HAI, 2025, Google, 2025.

Mehr Handlungsmöglichkeiten: Sogenannte Agenten, also KI-Systeme, die über Werkzeuge mehrere Arbeitsschritte ausführen, erweitern den möglichen Nutzen. Mit Schreibrechten auf Bestellungen oder Kundendaten wachsen jedoch auch die Folgen von Fehlern. Für Ihre Planung sollten zusätzliche Befugnisse deshalb an nachgewiesene Zuverlässigkeit und überprüfbare Grenzen gebunden sein.

Für einen Horizont von drei bis fünf Jahren sind Szenarien sinnvoller als feste Vorhersagen. In einem günstigen Szenario bearbeiten Systeme zunehmend vollständige, klar begrenzte Abläufe; Menschen konzentrieren sich auf Ausnahmen und Entscheidungen. Voraussetzung wären zuverlässigere Systeme, zugängliche Unternehmensdaten und tragfähige Betriebsmodelle.

In einem zurückhaltenderen Szenario verbessern sich einzelne Aufgaben deutlich, während komplexe Abläufe wegen uneinheitlicher Daten, unklarer Zuständigkeiten und hoher Kontrollkosten nur langsam automatisiert werden. Beide Szenarien sprechen dafür, heute Daten und Prozesse zu ordnen und technische Wechselmöglichkeiten zu erhalten.

Auch Fachleute sind über Tempo und grundlegende Grenzen uneinig. Dario Amodei skizziert in seinem ausdrücklich spekulativen Essay von 2024 weitreichende Fortschritte. Yann LeCun betont im Interview von 2024 dagegen fehlende Fähigkeiten zum Verständnis der physischen Welt und zur Planung. Das sind unterschiedliche Perspektiven, keine vollständige Aufteilung des Fachgebiets. Daraus lässt sich kein belastbarer Termin für Ihren nächsten Automatisierungsschritt ableiten. Amodei, 2024, LeCun, 2024.

Was Sie jetzt tun können

Erstens: Wählen Sie einen konkreten Engpass. Beispielsweise die Suche nach freigegebenem Servicewissen oder die Bewertung auffälliger Messwerte einer Anlage. Beschreiben Sie Eingabe, gewünschtes Ergebnis und erlaubte Grenzen. Prüfen Sie auch, ob eine einfachere Lösung ohne KI genügt.

Zweitens: Legen Sie Verantwortung und Freigaben fest. Wer pflegt das Wissen? Wer prüft Ergebnisse? Wann muss das System stoppen oder einen Menschen hinzuziehen? Sorgen Sie dafür, dass die Prüfung im Arbeitsalltag tatsächlich möglich ist. Klären Sie dabei Datenzugriff und rechtliche Rahmenbedingungen.

Drittens: Testen Sie klein und messen Sie vollständig. Vergleichen Sie mit dem bisherigen Ablauf: fachliche Qualität, Bearbeitungszeit, Nacharbeit, Kosten und Akzeptanz. Halten Sie vor Beginn fest, welche Ergebnisse eine Ausweitung rechtfertigen und wann Sie abbrechen. Ein Pilot darf auch zeigen, dass der Anwendungsfall noch nicht trägt. Dieses Wissen ist wertvoller als eine erfolgreiche Vorführung ohne belastbare Vergleichsdaten.

Die nächste gute Entscheidung

KI braucht realistische Erwartungen und klare Verantwortung. Für Ihr Unternehmen zählt, ob ein überprüfbarer Ablauf besser funktioniert. Die nächste gute Entscheidung beginnt deshalb mit einer nüchternen Bestandsaufnahme: Welche Aufgabe soll besser gelöst werden, welche Voraussetzungen sind dafür nötig und woran lässt sich der Nutzen erkennen? Diese Fragen bleiben auch dann relevant, wenn die Modelle leistungsfähiger werden. Sie verbinden technische Entwicklung mit unternehmerischem Urteil.