KI-Beratung für den Mittelstand: Leistungen, Ablauf und Auswahl

Warum dieses Thema gerade im Mittelstand drängt

KI ist in deutschen Unternehmen keine Randerscheinung mehr. Nach der ifo-Konjunkturumfrage vom Mai 2026 nutzen 54,5 % der Unternehmen Künstliche Intelligenz in ihren Geschäftsprozessen — ein Jahr zuvor waren es noch 40,9 %. Gleichzeitig zeigt dieselbe Erhebung eine Lücke: Großunternehmen liegen bei 67,2 % Nutzung, mittlere Unternehmen bei 47,2 %. Der Mittelstand zieht nach, aber langsamer.

Die Gründe dafür sind gut dokumentiert. Das Statistische Bundesamt hat Unternehmen, die keine KI einsetzen, nach dem Warum gefragt (Erhebung 2025): 72 % nennen fehlendes Wissen, 62 % Unklarheit über rechtliche Folgen, 60 % Datenschutzbedenken. Es scheitert also selten am Willen — es scheitert daran, dass niemand im Haus sicher beurteilen kann, was geht, was es kostet und was man besser lässt.

Genau diese Lücke soll eine KI-Beratung schließen. Dieser Artikel erklärt, was du dafür realistisch erwarten darfst, wann sich externe Hilfe lohnt und wie du Anbieter auseinanderhältst. Er richtet sich an Geschäftsführung, Operations, IT und Fachbereiche in kleinen und mittleren Unternehmen. Eine Übersicht über weitere Strategie-Themen findest du auf der Kategorieseite KI-Strategie.

Begriffe: Was KI-Beratung ist — und was nicht

Unter „KI-Beratung” laufen am Markt sehr unterschiedliche Dinge. Eine kurze Abgrenzung:

• KI-Strategieberatung entwickelt die übergeordnete Linie: Wo positioniert sich das Unternehmen, welche Leitplanken gelten, wie werden Daten und Governance organisiert. Sinnvoll ab einer gewissen Organisationsgröße, für viele KMU zu abstrakt als Einstieg.
• KI-Umsetzungsberatung (manchmal „KI-Consulting” oder „AI Implementation”) arbeitet prozessnah: konkrete Abläufe analysieren, Use Cases bewerten, Werkzeuge bauen oder einführen. Das ist die Form, um die es in diesem Artikel primär geht.
• Tool-Vertrieb im Beratungsgewand: Anbieter, deren „Beratung” verlässlich bei der eigenen Software endet. Nicht per se schlecht — aber keine unabhängige Beratung.
• KI-Schulung vermittelt Kompetenzen im Team, ersetzt aber keine Prozessanalyse. Beides ergänzt sich; wenn dein Engpass fehlendes Anwenderwissen ist, sind Schulungen oft der günstigere erste Schritt.

Wichtig ist auch, was KI-Beratung nicht ist: keine Rechtsberatung (AI Act, Datenschutz — hier braucht es bei kritischen Fällen Fachanwälte), keine Garantie für Einsparungen und kein Ersatz für Menschen, die den Prozess fachlich verstehen.

Was leistet eine KI-Beratung?

Der Kern jeder seriösen KI-Beratung besteht aus vier Leistungen:

1. Prozesse sichtbar machen. Bevor über KI gesprochen wird, muss klar sein, wie die Arbeit heute tatsächlich läuft — nicht wie sie im Organigramm steht. Wo entstehen Wartezeiten, Medienbrüche, manuelle Doppelerfassung? Das klingt banal, ist aber der Teil, der in meiner Praxis am häufigsten übersprungen wird. Ohne ihn bewertet man Use Cases auf Basis von Vermutungen.

2. Potenziale bewerten statt aufzählen. Eine Liste mit „20 KI-Ideen für Ihre Branche” bekommst du von jedem Sprachmodell kostenlos. Wert entsteht erst durch Bewertung: Was bringt der Use Case konkret in deinem Ablauf, was kostet die Umsetzung, welche Datenqualität setzt er voraus, welches Risiko trägt er? Ergebnis sollte eine kurze, priorisierte Liste sein — mit expliziten Absagen an Ideen, die sich nicht rechnen.

3. Entscheidungen vorbereiten. Machen wir es selbst, kaufen wir ein Tool, beauftragen wir extern? Welche Reihenfolge, welche Abhängigkeiten, welcher Aufwand? Eine Beratung, die diese Fragen offen lässt, hat ihren Job nicht gemacht.

4. Umsetzung begleiten oder übernehmen. Je nach Modell endet die Beratung mit dem Plan — oder sie baut den ersten Piloten gleich mit. Für KMU ohne eigene Entwicklungskapazität ist die zweite Variante meist die ehrlichere, weil ein Plan ohne Umsetzer sonst in der Schublade landet.

Was du nicht erwarten solltest: fertige Zahlen zum ROI vor der Analyse, garantierte Automatisierungsquoten oder die Aussage, KI löse ein Problem, das eigentlich ein Organisationsproblem ist.

Wann lohnt sich externe Hilfe?

Externe KI-Beratung lohnt sich in vier typischen Situationen:

1. Das Wissen fehlt intern. Der mit Abstand häufigste Fall — und deckungsgleich mit dem Hauptgrund, den Unternehmen laut Statistischem Bundesamt gegen KI-Nutzung nennen (72 % „fehlendes Wissen”). Wenn niemand im Haus einschätzen kann, ob ein Use Case technisch trivial oder ein Jahresprojekt ist, kostet jeder interne Anlauf mehr als eine fokussierte Analyse.
2. Erste Experimente sind versandet. Ein paar Lizenzen gekauft, ein paar Leute probieren ChatGPT — messbar geändert hat sich nichts. Hier hilft der Blick von außen, weil er die Frage vom Werkzeug zurück zum Prozess verschiebt.
3. Eine teure Entscheidung steht an. Vor einem Tool-Vertrag mit mehrjähriger Bindung oder einer Eigenentwicklung ist eine unabhängige Zweitmeinung günstig im Verhältnis zum Fehlerrisiko.
4. Rechtliche und organisatorische Unsicherheit blockiert. Unklarheit über rechtliche Folgen (62 %) und Datenschutz (60 %) sind laut Destatis die Gründe zwei und drei gegen KI-Einsatz. Eine Beratung ersetzt hier keine Rechtsberatung, kann aber strukturieren, welche Fragen tatsächlich juristisch geklärt werden müssen und welche nur Unsicherheit sind.

Und wann lohnt sie sich nicht? Wenn es noch kein benennbares Problem gibt („wir müssen mal was mit KI machen”), wenn die Prozesse so im Umbruch sind, dass jede Analyse in drei Monaten veraltet wäre, oder wenn das Budget nur für die Analyse reicht und für keinerlei Umsetzung. In diesen Fällen ist ein Workshop oder eine Schulung meist der bessere Einstieg — oder schlicht Warten, bis das Problem konkret ist. Diese Ehrlichkeit darfst du übrigens auch vom Anbieter erwarten.

Welche Ergebnisse sollten entstehen?

Konkrete, prüfbare Artefakte — keine Stimmung. Als Mindeststandard:

• Ist-Analyse: die untersuchten Prozesse mit ihren tatsächlichen Schwachstellen, in einer Form, die auch Fachfremde nachvollziehen können.
• Bewertete Use-Case-Liste: jeder Kandidat mit erwartetem Nutzen, geschätztem Aufwand, Voraussetzungen (Daten, Schnittstellen, Rechte) und Risiko. Inklusive der verworfenen Kandidaten mit Begründung.
• Priorisierte Roadmap: Reihenfolge, Abhängigkeiten, Aufwandsbandbreiten und die Annahmen dahinter. Eine Aufwandsschätzung ohne genannte Annahmen ist keine Schätzung, sondern eine Zahl.
• Build-Buy-Empfehlung pro priorisiertem Use Case: selbst bauen, Tool kaufen oder extern vergeben — mit Begründung.
• Bei Umsetzungsprojekten: ein funktionierender Pilot im echten Arbeitsablauf, mit definierten Kriterien, an denen ihr nach einigen Wochen entscheidet, ob ausgerollt oder eingestampft wird.

Mein persönlicher Lackmustest: Könnte dein Unternehmen mit den Ergebnissen auch dann weiterarbeiten, wenn der Berater morgen nicht mehr erreichbar wäre? Wenn nein, hast du Folien gekauft, keine Beratung.

Audit, Roadmap, Umsetzung: die drei Stufen im Vergleich

Die drei Begriffe werden oft vermischt, bezeichnen aber unterschiedliche Leistungen mit unterschiedlichem Aufwand. Die folgende Matrix stammt aus meiner eigenen Projektpraxis; die Aufwandsangaben sind Bandbreiten für ein KMU mit einem klar umrissenen Bereich (z. B. Auftragsabwicklung oder Backoffice) und gelten nicht für konzernweite Programme:

	Prozess-Audit	Automatisierungs-Roadmap	Umsetzung / Pilot
Kernfrage	Wo stecken Potenziale?	Was tun wir in welcher Reihenfolge?	Funktioniert es im Alltag?
Ergebnis	Ist-Analyse + bewertete Use-Case-Liste	Priorisierter Plan mit Aufwand, Abhängigkeiten, Build-Buy-Empfehlung	Lauffähiges Werkzeug im echten Prozess + Entscheidungsgrundlage für Rollout
Typischer Aufwand (Erfahrungswert, ein Fachbereich)	wenige Tage bis ca. 2 Wochen	ca. 1–3 Wochen, aufbauend auf dem Audit	stark fallabhängig: Wochen bis Monate
Dein interner Aufwand	Interviews + Prozesseinblick gewähren	Priorisierungs-Workshop, Entscheidungen treffen	Testnutzer stellen, Feedback geben
Ausstieg danach möglich?	Ja — Ergebnisse sind eigenständig nutzbar	Ja — Plan ist auch mit anderen Umsetzern verwendbar	Nach dem Piloten: bewusste Rollout-Entscheidung
Typischer Fehler	Audit als Verkaufsvehikel für ein vorbestimmtes Tool	Roadmap ohne Aufwandsannahmen („Wunschliste”)	Pilot ohne Abbruchkriterien, der ewig „Pilot” bleibt

Zwei Hinweise zur Einordnung: Erstens sind das bewusst Bandbreiten — der tatsächliche Aufwand hängt an Prozesskomplexität, Datenlage und daran, wie schnell intern Entscheidungen fallen. Zweitens bauen die Stufen aufeinander auf, sind aber einzeln beauftragbar. Seriöse Anbieter koppeln sie nicht zwangsweise: Ein Audit, dessen Ergebnis du nur beim selben Anbieter „einlösen” kannst, ist ein Angebot, kein Audit.

Woran erkennst du einen passenden Anbieter?

Der Markt ist unübersichtlich, die Einstiegshürden sind niedrig — entsprechend groß ist die Spannbreite. Positive Signale:

• Der Anbieter baut selbst. Wer nur moderiert und präsentiert, kann Aufwände schlecht schätzen. Frag konkret: „Wer setzt um, wenn wir Stufe drei beauftragen — Sie oder ein Partner?”
• Referenzen mit nachvollziehbaren Ergebnissen aus Unternehmen deiner Größenordnung. Ein Konzernprojekt sagt wenig über KMU-Tauglichkeit.
• Bereitschaft zum Abraten. Frag im Erstgespräch: „In welchem Fall würden Sie uns von KI abraten?” Wer darauf keine Antwort hat, berät nicht, sondern verkauft.
• Transparente Annahmen bei jeder Zahl. Aufwand und Kosten als Bandbreite mit Bedingungen sind ein Qualitätsmerkmal, keine Schwäche.
• Kleine erste Schritte. Ein Anbieter, der mit einem überschaubaren Audit startet statt mit einem Rahmenvertrag, hat weniger Anreiz, Probleme größer zu machen als sie sind.

Warnsignale: garantierte Einsparquoten oder Automatisierungsgrade vor jeder Analyse, „KI-Strategie” als Pflichtvorleistung vor jedem konkreten Schritt, Empfehlungen, die verdächtig zuverlässig beim Partnerprodukt des Anbieters landen, und Zeitdruck („das Zeitfenster schließt sich”).

Wie die Auswahl im Detail abläuft — von der Longlist bis zu Vertragsfragen — behandelt ein eigener Artikel in dieser Kategorie. Wenn du direkt prüfen willst, ob dein Fall zu meiner Arbeitsweise passt: Die KI-Beratung von Philogic Labs startet bewusst mit einem kostenlosen Erstcheck, gerade damit diese Passungsfrage vor jeder Beauftragung geklärt ist.

So gehst du konkret vor

Ein pragmatischer Ablauf für den Einstieg, unabhängig davon, welchen Anbieter du wählst:

1. Problem benennen. Ein Satz: „In Prozess X verlieren wir Zeit/Geld/Qualität durch Y.” Wenn dieser Satz nicht formulierbar ist, starte mit einem Workshop, nicht mit einer Beratung.
2. Internen Sponsor festlegen. Jemand mit Entscheidungsbefugnis muss das Projekt wollen — Beratung gegen die eigene Organisation funktioniert nicht.
3. Zwei bis drei Anbieter sprechen. Gleiche Ausgangsfrage stellen, Antworten vergleichen. Achte weniger auf die versprochenen Ergebnisse als auf die Qualität der Rückfragen.
4. Klein starten. Erst Audit, dann entscheiden. Kein Rahmenvertrag vor dem ersten belastbaren Ergebnis.
5. Umsetzung von Anfang an mitdenken. Kläre vor dem Audit, wer eine spätere Umsetzung tragen würde — intern, der Berater oder ein Dritter. Sonst produzierst du einen Plan ohne Adressaten.
6. Erfolg messbar machen. Definiere vor dem Piloten, woran ihr nach vier bis acht Wochen erkennt, ob es funktioniert — und was passiert, wenn nicht.

Risiken und ehrliche Grenzen

• KI-Beratung repariert keine kaputten Prozesse. Ein chaotischer Ablauf wird durch Automatisierung schneller chaotisch. Manchmal ist die richtige Empfehlung eine organisatorische, keine technische — gute Berater sagen das.
• Datenlage ist häufig der Engpass. Viele attraktive Use Cases scheitern nicht an der KI, sondern daran, dass die nötigen Daten verstreut, unvollständig oder nicht zugreifbar sind. Das Statistische Bundesamt weist Datenverfügbarkeit und -qualität als eigenständigen Hinderungsgrund aus (43–45 % je nach Größenklasse).
• Rechtsfragen bleiben Rechtsfragen. Stand Juli 2026 entwickeln sich AI-Act-Umsetzung und Aufsichtspraxis weiter; eine KI-Beratung kann strukturieren und auf offizielle Quellen verweisen, ersetzt aber keine Rechtsberatung. Dieser Artikel ist ebenfalls keine.
• Ergebnisse sind nicht garantierbar. Jeder, der dir vor der Analyse Einsparquoten zusagt, rät. Realistisch ist: bewertete Potenziale, ein belastbarer Plan und Piloten mit klaren Abbruchkriterien.
• Abhängigkeit vermeiden. Bestehe darauf, dass Dokumentation, Zugänge und ggf. Code bei dir liegen. Der Wert einer Beratung zeigt sich auch daran, wie gut du ohne sie weiterarbeiten kannst.

Checkliste: Bist du bereit für eine KI-Beratung?

Vor dem ersten Anbietergespräch — je mehr Haken, desto mehr holst du aus der Beratung heraus:

• Wir können mindestens ein konkretes Problem in einem Satz benennen.
• Es gibt eine Person mit Entscheidungsbefugnis, die das Thema trägt.
• Wir wissen grob, welche Systeme und Daten im betroffenen Prozess stecken.
• Budget ist nicht nur für Analyse, sondern auch für einen ersten Umsetzungsschritt denkbar.
• Die betroffenen Mitarbeitenden wissen, dass analysiert wird — und warum.
• Wir haben intern geklärt, was mit den Ergebnissen passieren soll (selbst umsetzen, vergeben, beides).
• Wir sind bereit, auch ein „lohnt sich nicht” als wertvolles Ergebnis zu akzeptieren.

Wenn drei oder mehr Punkte offen sind: erst intern klären oder mit einem kompakten Workshop starten. Wenn die meisten Haken gesetzt sind und du eine ehrliche Außensicht auf deine Prozesse willst, ist ein unverbindliches Erstgespräch der logische nächste Schritt.