In vielen mittelständischen Unternehmen sieht der Einstieg in Künstliche Intelligenz (KI) ähnlich aus: Workshops, KI-Arbeitskreise oder Strategietage führen zu zahlreichen Ideen. Was danach kommt, entscheidet über den langfristigen Erfolg. Die Herausforderung liegt selten darin, Ideen zu finden, sondern darin, die richtigen auszuwählen und umzusetzen.
Häufig steigen Unternehmen direkt mit Themen ein, die strategisch vielversprechend, in der Umsetzung jedoch aufwendig sind: neue datengetriebene Geschäftsmodelle, komplexe Automatisierung über mehrere Systeme hinweg oder unternehmensweite Plattformlösungen. Solche Vorhaben brauchen Zeit, Ressourcen und oft externe Unterstützung. Im Mittelstand dauern Projekte dann lange, intern fehlen Kapazitäten und erste Ergebnisse bleiben aus. Wie es anders gehen kann, haben wir mit Leon Rocca, AI Solution Consultant bei AlgebraX, einem Mitglied der KI-Allianz Baden-Württemberg, besprochen: Was braucht ein KI-Projekt im Mittelstand, damit es im Unternehmen angenommen wird, und wohin fließt die Zeit in so einem Projekt?
Leon Rocca im Interview:
Herr Rocca, wie erleben Sie das in der Praxis: Was passiert nach der Ideenphase, und woran scheitert die Umsetzung häufig?
Richtwerte aus der Praxis
Wohin die Zeit in KI-Projekten fließt
10–30 %Die technische Umsetzung ist oft der kleinste Teil. Die meiste Zeit steckt im Verstehen des Problems und in den Daten.
Schraffiert: typische Spanne im Projekt.
Mit welchen Vorhaben sollten Unternehmen anfangen?
Mit einem Problem, das sich klar benennen lässt. Eine Lösung muss nicht von Anfang an perfekt sein. Man kann mit wenig Zeit, wenig Geld, unvollständigen Daten und ohne übertriebene Fachexpertise anfangen. Wenn das Problem klar ist und eine Strategie dahintersteht, hilft eine Lösung den Mitarbeitenden auch dann, wenn sie anfangs nicht jede Frage beantwortet.
Warum liegt der Schwerpunkt eines KI-Projekts nicht in der Technik?
Weil 90 Prozent eines KI-Projekts oft gar nicht aus KI bestehen. Zuerst muss man eine Basis schaffen: das eigentliche Problem erkennen und mit den Menschen sprechen, die es jeden Tag erleben. Nur so kommt man überhaupt auf die Idee, ein Problem mit KI zu lösen. Darauf entfällt der größte Teil der Zeit, neben dem Aufbereiten der Daten. Die technische Umsetzung dauert vergleichsweise kurz, auch weil die Entwicklung dank KI heute so schnell geht.
Wann nehmen Mitarbeitende eine KI-Lösung an?
Wenn sie früh merken, dass die Lösung ihnen Arbeit abnimmt. Deshalb ist es wichtig, von Anfang an eine Qualitätsschwelle zu erreichen, bei der die Mitarbeitenden merken: Ich werde entlastet. Wird sie verfehlt, nutzen sie eine Lösung vielleicht ein paar Tage und geben dann auf, weil sie ihnen nicht hilft.
Hinzu kommt, dass die Lösung dort ansetzen muss, wo die Mitarbeitenden ohnehin arbeiten. Dafür binden wir KI-Workflows in bestehende Systeme ein, zum Beispiel in Outlook oder Google Mail, in die Google Suite, in SharePoint, in Copilot oder Open WebUI, aber auch in individuelle Systeme und unternehmensspezifische Datenbanken. Sie sollen nichts in ein zusätzliches Werkzeug kopieren oder selbst formulieren müssen. Die Lösung muss auf die Mitarbeitenden zugehen, nicht umgekehrt. Das ist ein entscheidender Faktor.
Dafür empfehle ich von Anfang an ein Gedankenmodell: Mache ich dieser Person das Leben leichter mit dem, was wir tun? Im besten Fall gelingt das so, dass die Mitarbeitenden die Lösung gern nutzen, weil sie im Arbeitsalltag selbst etwas davon haben.
Setzen Sie bei KI-Projekten auf Low-Code, also auf Werkzeuge ohne aufwendige Programmierung? Warum?
Mir ist wichtig, dass sich ein Projekt wiederholen lässt. Wir möchten Menschen beibringen, KI selbst zu nutzen. Ich will den Unternehmen nicht das Gefühl geben: Wir sind die Experten, gehen einen Monat in unser Stübchen und bauen euch etwas. Wer eine KI-Lösung braucht, soll sie sich irgendwann selbst bauen können. Außerdem möchten wir Projekte übergeben können. Für einen schnellen Machbarkeitsnachweis (Proof of Concept) und eine einfache Übergabe an den Kunden eignet sich Low-Code wie n8n. In der Microsoft-Welt geht das auch mit Copilot Studio. Wird es tiefer oder komplexer, muss man gegebenenfalls auf individuelle Softwareentwicklung zurückgreifen, was heutzutage recht schnell machbar ist.
Welche Rolle spielt das Thema Datenschutz bei KI-Projekten im Mittelstand, auch aus Sicht der Kunden?
Eine große. Vor dem Start sollte geklärt sein, wo die Daten liegen, welche Sprachmodelle genutzt werden und ob die Kunden mit der Verarbeitung einverstanden sind. Außerdem ist zu klären, ob und inwieweit die Daten vor der Verarbeitung anonymisiert werden müssen.
Was braucht eine KI-Anwendung im Unternehmen, damit sie auch nach Monaten noch zuverlässig hilft?
Sie muss gepflegt werden. Eine Anwendung, die mit Unternehmenswissen arbeitet, einfach über Jahre hinweg laufen zu lassen, funktioniert nicht. Je mehr Daten hineinkommen, desto schwieriger wird es, die richtige Information zu finden, und desto stärker sinkt irgendwann die Antwortqualität. Deshalb sollte in regelmäßigen Abständen, zum Beispiel vierteljährlich oder halbjährlich, jemand mit Fachkenntnis den Bestand durchsehen und entfernen, was veraltet oder falsch ist. Das ist wie bei jeder Software: Die Welt verändert sich, es kommen neue Daten hinzu. Ein solches Projekt braucht einen regelmäßigen Verbesserungszyklus und muss begleitet werden.
Wie hat sich das bei Ihrem Projekt mit etg24 konkret gezeigt?
AlgebraX arbeitet bereits mit etg24 zusammen, einem Anbieter einer Cloud-Plattform für die digitale Immobilienverwaltung. Als dort die Kundenlast stieg und das Wissen der Mitarbeiterinnen nicht abrufbar dokumentiert war, kam etg24 auf uns zu. Gemeinsam mit dem IDEV Institut der Hochschule Karlsruhe haben wir einen KI-Agenten entwickelt, der im Kundenservice eingehende Anfragen liest und eine Antwort vorschlägt. Die Mitarbeiterinnen prüfen sie, passen sie bei Bedarf an und senden sie selbst ab. Aus den versendeten Antworten lernt der Agent dazu.
Gestartet sind wir mit einem veralteten Handbuch und 412 abgeschlossenen Kundenkommunikationen. Die Zeit ging zu 60 bis 70 Prozent in das Verstehen des Problems und die Gespräche mit den Mitarbeitenden, zu etwa 20 Prozent in Daten und Verifizierung und nur zu etwa 10 Prozent in die Technik.
Die Mitarbeitenden waren zunächst skeptisch, weil eine frühere KI-Initiative zur automatischen Dokumentation sie kaum entlastet hatte. Deshalb liegt der Antwortvorschlag direkt im E-Mail-Postfach, oft musste nur noch ein Satz angepasst werden. Die Datenbank liegt DSGVO-konform in Deutschland, alle Kunden stimmten der Verarbeitung zu. Der Chefentwickler hat die Lösung nach kurzer Übergabe auf eigene Systeme übertragen.
Und was braucht ein KI-Projekt in einem KMU, damit es angenommen wird?
Aus meiner Erfahrung vor allem vier Dinge. Erstens ein klar erkanntes Problem, das man gemeinsam mit den Menschen klärt, die es jeden Tag erleben. Zweitens eine Qualität, bei der die Mitarbeitenden von Anfang an merken, dass es ihnen hilft, sonst geben sie schnell wieder auf. Drittens eine Lösung, die dort ansetzt, wo die Mitarbeitenden ohnehin arbeiten. Und viertens die Einsicht, dass eine KI-Lösung nie hundert Prozent löst. Es muss nicht auf Knopfdruck die perfekte Lösung sein.
Über Leon Rocca
Leon Rocca ist AI Solution Consultant und COO/CFO bei AlgebraX. Er studierte International Management (B.A.) und Technology Entrepreneurship (M.A.) an der Hochschule Karlsruhe mit Schwerpunkt auf KI-Agentensystemen.