KI-Projekte im Mittelstand: „90 Prozent eines KI-Projekts sind gar nicht KI“

In vielen mittelständischen Unternehmen sieht der Einstieg in Künstliche Intelligenz (KI) ähnlich aus: Workshops, KI-Arbeitskreise oder Strategietage führen zu zahlreichen Ideen. Was danach kommt, entscheidet über den langfristigen Erfolg. Die Herausforderung liegt selten darin, Ideen zu finden, sondern darin, die richtigen auszuwählen und umzusetzen. 

Häufig steigen Unternehmen direkt mit Themen ein, die strategisch vielversprechend, in der Umsetzung jedoch aufwendig sind: neue datengetriebene Geschäftsmodelle, komplexe Automatisierung über mehrere Systeme hinweg oder unternehmensweite Plattformlösungen. Solche Vorhaben brauchen Zeit, Ressourcen und oft externe Unterstützung. Im Mittelstand dauern Projekte dann lange, intern fehlen Kapazitäten und erste Ergebnisse bleiben aus. Wie es anders gehen kann, haben wir mit Leon Rocca, AI Solution Consultant bei AlgebraX, einem Mitglied der KI-Allianz Baden-Württemberg, besprochen: Was braucht ein KI-Projekt im Mittelstand, damit es im Unternehmen angenommen wird, und wohin fließt die Zeit in so einem Projekt?

Leon Rocca, AI Solution Consultant und COO/CFO bei AlgebraX.
Leon Rocca, AI Solution Consultant und COO/CFO bei AlgebraX.

Leon Rocca im Interview:

Herr Rocca, wie erleben Sie das in der Praxis: Was passiert nach der Ideenphase, und woran scheitert die Umsetzung häufig?

Nach der Ideenphase beginnt der schwierigste und am wenigsten glamouröse Teil. Im Workshop ist die Energie hoch und alle sind begeistert. Am Montag danach wartet aber wieder das Tagesgeschäft. Genau dort entscheidet sich, ob aus einer Idee etwas wird. Auch wenn es banal klingt: Es scheitert oft an klarer Verantwortung, Zuständigkeiten, Zeit und Ressourcen. Die Umsetzung „nebenbei“ ist kein nachhaltiger Ansatz. Für ein Projekt müssen Kapazitäten der Mitarbeitenden eingeplant werden. Außerdem wird in der Ideenphase oft angenommen, dass man in kürzester Zeit eine hundertprozentig fehlerfreie Lösung baut. Das ist in der Regel nicht der Fall.
Richtwerte: Je nach Vorhaben verschieben sich die Anteile. Der größte Teil der Zeit fließt aber meist in Problemverständnis und Daten, nicht in die Technik.

Mit welchen Vorhaben sollten Unternehmen anfangen?

Mit einem Problem, das sich klar benennen lässt. Eine Lösung muss nicht von Anfang an perfekt sein. Man kann mit wenig Zeit, wenig Geld, unvollständigen Daten und ohne übertriebene Fachexpertise anfangen. Wenn das Problem klar ist und eine Strategie dahintersteht, hilft eine Lösung den Mitarbeitenden auch dann, wenn sie anfangs nicht jede Frage beantwortet.

Warum liegt der Schwerpunkt eines KI-Projekts nicht in der Technik?

Weil 90 Prozent eines KI-Projekts oft gar nicht aus KI bestehen. Zuerst muss man eine Basis schaffen: das eigentliche Problem erkennen und mit den Menschen sprechen, die es jeden Tag erleben. Nur so kommt man überhaupt auf die Idee, ein Problem mit KI zu lösen. Darauf entfällt der größte Teil der Zeit, neben dem Aufbereiten der Daten. Die technische Umsetzung dauert vergleichsweise kurz, auch weil die Entwicklung dank KI heute so schnell geht.

Wann nehmen Mitarbeitende eine KI-Lösung an?

Wenn sie früh merken, dass die Lösung ihnen Arbeit abnimmt. Deshalb ist es wichtig, von Anfang an eine Qualitätsschwelle zu erreichen, bei der die Mitarbeitenden merken: Ich werde entlastet. Wird sie verfehlt, nutzen sie eine Lösung vielleicht ein paar Tage und geben dann auf, weil sie ihnen nicht hilft.

Hinzu kommt, dass die Lösung dort ansetzen muss, wo die Mitarbeitenden ohnehin arbeiten. Dafür binden wir KI-Workflows in bestehende Systeme ein, zum Beispiel in Outlook oder Google Mail, in die Google Suite, in SharePoint, in Copilot oder Open WebUI, aber auch in individuelle Systeme und unternehmensspezifische Datenbanken. Sie sollen nichts in ein zusätzliches Werkzeug kopieren oder selbst formulieren müssen. Die Lösung muss auf die Mitarbeitenden zugehen, nicht umgekehrt. Das ist ein entscheidender Faktor.

Dafür empfehle ich von Anfang an ein Gedankenmodell: Mache ich dieser Person das Leben leichter mit dem, was wir tun? Im besten Fall gelingt das so, dass die Mitarbeitenden die Lösung gern nutzen, weil sie im Arbeitsalltag selbst etwas davon haben.

Setzen Sie bei KI-Projekten auf Low-Code, also auf Werkzeuge ohne aufwendige Programmierung? Warum?

Mir ist wichtig, dass sich ein Projekt wiederholen lässt. Wir möchten Menschen beibringen, KI selbst zu nutzen. Ich will den Unternehmen nicht das Gefühl geben: Wir sind die Experten, gehen einen Monat in unser Stübchen und bauen euch etwas. Wer eine KI-Lösung braucht, soll sie sich irgendwann selbst bauen können. Außerdem möchten wir Projekte übergeben können. Für einen schnellen Machbarkeitsnachweis (Proof of Concept) und eine einfache Übergabe an den Kunden eignet sich Low-Code wie n8n. In der Microsoft-Welt geht das auch mit Copilot Studio. Wird es tiefer oder komplexer, muss man gegebenenfalls auf individuelle Softwareentwicklung zurückgreifen, was heutzutage recht schnell machbar ist.

n8n in Aktion: KI-Antwortvorschlag im Kundenservice Animierte Darstellung des Low-Code-Werkzeugs n8n: Ein Klick auf „Execute workflow“ startet den Workflow. Der Trigger „Neue E-Mail“ läuft, dann der KI-Agent, der ein Sprachmodell und eine Wissensbasis abfragt, danach wird ein Antwortentwurf angelegt. Jeder Schritt wird grün markiert, am Ende meldet n8n „Workflow executed successfully“. Eine Notiz hält fest: Die Mitarbeiterin prüft den Entwurf und sendet selbst. Personal / KI-Antwortvorschlag Kundenservice Editor Executions Evaluations Active Share Saved 1 item 1 item Neue E-Mail Message Received KI-Agent Tools Agent Chat Model* Memory Tool Sprachmodell Chat Model Wissensbasis Vector Store Tool Antwortentwurf create: draft Mensch entscheidet Der Entwurf landet im Postfach. Die Mitarbeiterin prüft ihn und sendet die Antwort selbst. Execute workflow Executing workflow Workflow executed successfully
Schematische Darstellung: So sieht ein Low-Code-Workflow für Antwortvorschläge im Kundenservice in n8n aus.

Welche Rolle spielt das Thema Datenschutz bei KI-Projekten im Mittelstand, auch aus Sicht der Kunden?

Eine große. Vor dem Start sollte geklärt sein, wo die Daten liegen, welche Sprachmodelle genutzt werden und ob die Kunden mit der Verarbeitung einverstanden sind. Außerdem ist zu klären, ob und inwieweit die Daten vor der Verarbeitung anonymisiert werden müssen.

Was braucht eine KI-Anwendung im Unternehmen, damit sie auch nach Monaten noch zuverlässig hilft?

Sie muss gepflegt werden. Eine Anwendung, die mit Unternehmenswissen arbeitet, einfach über Jahre hinweg laufen zu lassen, funktioniert nicht. Je mehr Daten hineinkommen, desto schwieriger wird es, die richtige Information zu finden, und desto stärker sinkt irgendwann die Antwortqualität. Deshalb sollte in regelmäßigen Abständen, zum Beispiel vierteljährlich oder halbjährlich, jemand mit Fachkenntnis den Bestand durchsehen und entfernen, was veraltet oder falsch ist. Das ist wie bei jeder Software: Die Welt verändert sich, es kommen neue Daten hinzu. Ein solches Projekt braucht einen regelmäßigen Verbesserungszyklus und muss begleitet werden.

Wie hat sich das bei Ihrem Projekt mit etg24 konkret gezeigt?

AlgebraX arbeitet bereits mit etg24 zusammen, einem Anbieter einer Cloud-Plattform für die digitale Immobilienverwaltung. Als dort die Kundenlast stieg und das Wissen der Mitarbeiterinnen nicht abrufbar dokumentiert war, kam etg24 auf uns zu. Gemeinsam mit dem IDEV Institut der Hochschule Karlsruhe haben wir einen KI-Agenten entwickelt, der im Kundenservice eingehende Anfragen liest und eine Antwort vorschlägt. Die Mitarbeiterinnen prüfen sie, passen sie bei Bedarf an und senden sie selbst ab. Aus den versendeten Antworten lernt der Agent dazu.

Gestartet sind wir mit einem veralteten Handbuch und 412 abgeschlossenen Kundenkommunikationen. Die Zeit ging zu 60 bis 70 Prozent in das Verstehen des Problems und die Gespräche mit den Mitarbeitenden, zu etwa 20 Prozent in Daten und Verifizierung und nur zu etwa 10 Prozent in die Technik.

Die Mitarbeitenden waren zunächst skeptisch, weil eine frühere KI-Initiative zur automatischen Dokumentation sie kaum entlastet hatte. Deshalb liegt der Antwortvorschlag direkt im E-Mail-Postfach, oft musste nur noch ein Satz angepasst werden. Die Datenbank liegt DSGVO-konform in Deutschland, alle Kunden stimmten der Verarbeitung zu. Der Chefentwickler hat die Lösung nach kurzer Übergabe auf eigene Systeme übertragen.

Workflow: KI-Antwortvorschlag im Kundenservice Animierter Low-Code-Workflow: Eine neue E-Mail startet einen KI-Agenten. Er nutzt ein Sprachmodell und eine Wissensbasis aus Handbuch und bisherigen Antworten und legt einen Antwortentwurf im Postfach an. Eine Mitarbeiterin prüft und sendet die Antwort selbst. Aus den gesendeten Antworten lernt die Wissensbasis dazu. KI-Antwortvorschlag im Kundenservice Low-Code-Workflow ✓ Durchlauf erfolgreich lernt aus gesendeten Antworten Neue E-Mail im Kundenservice KI-Agent formuliert Vorschlag Sprachmodell versteht und formuliert Wissensbasis Handbuch + Antworten Antwortentwurf direkt im Postfach Mitarbeiterin prüft und sendet 1 E-Mail Entwurf Prüfung
Schematische Darstellung: Der KI-Agent schlägt Antworten direkt im Postfach vor, die Mitarbeiterin prüft und sendet selbst. Aus den gesendeten Antworten lernt die Wissensbasis dazu.

Und was braucht ein KI-Projekt in einem KMU, damit es angenommen wird?

Aus meiner Erfahrung vor allem vier Dinge. Erstens ein klar erkanntes Problem, das man gemeinsam mit den Menschen klärt, die es jeden Tag erleben. Zweitens eine Qualität, bei der die Mitarbeitenden von Anfang an merken, dass es ihnen hilft, sonst geben sie schnell wieder auf. Drittens eine Lösung, die dort ansetzt, wo die Mitarbeitenden ohnehin arbeiten. Und viertens die Einsicht, dass eine KI-Lösung nie hundert Prozent löst. Es muss nicht auf Knopfdruck die perfekte Lösung sein.

Leon Rocca, AI Solution Consultant und COO/CFO bei AlgebraX.

Über Leon Rocca

Leon Rocca ist AI Solution Consultant und COO/CFO bei AlgebraX. Er studierte International Management (B.A.) und Technology Entrepreneurship (M.A.) an der Hochschule Karlsruhe mit Schwerpunkt auf KI-Agentensystemen.

Weitere Beiträge entdecken

KI-Beratung, KI-Infrastruktur, KI-Lösungen, KI-Schulungen: Mitglieder der KI-Allianz Baden-Württemberg teilen KI-Angebote vergünstigt oder sogar kostenfrei im Netzwerk.

Wie ein KI-Agent Erfahrungswissen im Kundenservice sichert, ohne es vorher zu dokumentieren: Ansatz, Aufbau und Testergebnisse aus einem Praxisprojekt.