Agentic AI im Mittelstand: Wenn KI nicht nur antwortet, sondern selbst handelt
Stellen Sie sich vor, Ihr Wareneinkauf läuft nachts automatisch weiter. Ein KI-System prüft Lagerbestände, vergleicht Lieferantenpreise und löst Bestellungen aus – ohne dass morgens jemand aus dem Einkauf grünes Licht geben musste. Klingt praktisch. Und genau hier beginnt eine Frage, die ich in den letzten Monaten immer häufiger von Kunden gestellt bekomme: Wer ist eigentlich verantwortlich, wenn die KI eine falsche Entscheidung trifft?
In meinen bisherigen Beiträgen ging es oft um KI als Werkzeug, das Fragen beantwortet oder Informationen zusammenträgt – etwa wenn ich gezeigt habe, wie sich überfällige Rechnungen aus Lexware Office per Claude abfragen lassen. Dort liest die KI Daten, formuliert eine Antwort, und ein Mensch entscheidet, was damit passiert. Das ist reaktive KI. Agentic AI ist etwas anderes: Hier handelt die KI selbst. Sie liest nicht nur, sie schreibt. Sie schlägt nicht nur vor, sie führt aus.
Was Agentic AI eigentlich bedeutet
Der Begriff klingt nach Marketingsprech, beschreibt aber einen realen technischen Unterschied. Ein klassisches KI-Tool bekommt eine Frage und liefert eine Antwort. Ein KI-Agent bekommt ein Ziel und sucht sich selbstständig die Schritte, um es zu erreichen. Dafür kann er mehrere Systeme nacheinander ansprechen: eine Datenbank abfragen, eine E-Mail verschicken, einen Datensatz in der Warenwirtschaft anlegen, ein Dokument erzeugen – alles ohne dass nach jedem einzelnen Schritt ein Mensch bestätigt.
Technisch basiert das meist auf denselben Sprachmodellen, die auch hinter Chatbots stecken, nur eingebettet in eine Schicht, die Werkzeuge aufrufen und Zwischenergebnisse bewerten kann. Das Modell „entscheidet" bei jedem Schritt, was als Nächstes sinnvoll ist – basierend auf Wahrscheinlichkeiten, nicht auf einem festen Regelwerk wie bei klassischer Software. Genau das macht den Ansatz einerseits mächtig und andererseits unberechenbarer als ein klassisches Programm.
In meiner Fallstudie zur KI-Automation im Mittelstand hatte ich bereits einen Prozess beschrieben, bei dem KI unterstützend eingreift. Dort war die Automatisierung aber noch stark vordefiniert: feste Abläufe, klar begrenzte Entscheidungsspielräume. Agentic AI geht einen Schritt weiter – und genau dieser Schritt verdient eine eigene, ehrliche Betrachtung.
Wo Agentic AI im Mittelstand bereits ankommt
Noch ist das Thema für die meisten Betriebe, mit denen ich arbeite, eher Zukunftsmusik als Alltag. Aber es gibt bereits konkrete Anwendungsfälle, die ich in Projekten diskutiere oder die am Markt verfügbar sind:
- Ein Agent überwacht Lagerbestände und löst selbstständig Nachbestellungen bei hinterlegten Lieferanten aus.
- Ein Agent beantwortet eingehende Kundenanfragen per E-Mail, prüft dafür Bestelldaten im System und formuliert eine individuelle Antwort inklusive Versandstatus.
- Ein Agent erstellt und verschickt Mahnungen, sobald Zahlungsfristen überschritten sind, inklusive Anpassung des Tons je nach Kundenhistorie.
- Ein Agent gleicht Daten zwischen zwei Systemen ab und korrigiert Abweichungen selbstständig, etwa zwischen Onlineshop und Warenwirtschaft.
Jeder dieser Fälle spart Zeit. Jeder dieser Fälle hat aber auch einen Punkt, an dem eine falsche Entscheidung real wird – nicht als Textvorschlag, der noch geprüft wird, sondern als ausgeführte Handlung. Eine falsch interpretierte Bestandsmenge führt zu einer echten Bestellung. Ein falsch eingeschätzter Kunde bekommt eine unpassende Mahnung. Das ist der entscheidende Unterschied zu den Tools, über die ich sonst schreibe.
Warum Autonomie und Kontrolle sich nicht ausschließen müssen
Die gute Nachricht zuerst: Autonome KI-Agenten lassen sich mit Kontrollmechanismen ausstatten, die das Risiko deutlich reduzieren, ohne den Nutzen zu zerstören. Die Technik dafür ist vorhanden, sie muss nur bewusst eingeplant werden – und genau das passiert in vielen vorschnell eingeführten KI-Projekten nicht.
Freigabegrenzen statt Vollautomatik
Der wichtigste Hebel ist, nicht alles zu automatisieren, nur weil es technisch möglich wäre. Sinnvoller ist ein abgestuftes Modell: Bis zu einem bestimmten Bestellwert darf der Agent selbstständig handeln, darüber braucht es eine menschliche Freigabe. Bei Kundenkommunikation kann der Agent Entwürfe erstellen, die ein Mitarbeiter vor dem Versand kurz prüft – zumindest in der Anfangsphase, bis genug Vertrauen in die Qualität der Ergebnisse besteht.
Protokollierung und Nachvollziehbarkeit
Jede Handlung eines Agenten sollte lückenlos protokolliert werden: Was wurde entschieden, auf Basis welcher Daten, mit welchem Ergebnis. Das klingt banal, wird aber oft vernachlässigt, weil es bei der Einrichtung mehr Aufwand bedeutet. Ohne ein solches Protokoll lässt sich im Streitfall – sei es mit einem Kunden, einem Lieferanten oder im eigenen Betrieb – kaum rekonstruieren, warum eine Entscheidung gefallen ist. Das ist kein rein technisches Detail, sondern am Ende eine Frage der Beweisbarkeit.
Sandboxing und Testläufe
Bevor ein Agent produktiv auf echte Systeme zugreift, lohnt sich eine Testphase in einer isolierten Umgebung, die mit echten, aber folgenlosen Daten arbeitet. So lässt sich beobachten, wie der Agent in Grenzfällen reagiert, ohne dass gleich eine echte Bestellung oder eine echte E-Mail ausgelöst wird. In der Softwareentwicklung ist dieses Prinzip unter dem Stichwort automatisierte Tests seit Langem etabliert – ich habe das an anderer Stelle für klassische Individualsoftware beschrieben, im Beitrag Software, die hält. Bei KI-Agenten ist dieses Prinzip, wenn überhaupt, noch wichtiger, weil das Verhalten weniger vorhersehbar ist als bei klassisch programmierter Logik.
Rückholbarkeit
Nicht jede Handlung eines Agenten sollte endgültig sein. Eine Bestellung, die erst nach einer kurzen Wartezeit tatsächlich an den Lieferanten rausgeht, lässt sich im Zweifel noch stoppen. Eine E-Mail, die sofort verschickt wird, nicht. Wo immer möglich, lohnt sich ein kurzer Puffer zwischen Entscheidung und unumkehrbarer Ausführung.
Die Haftungsfrage: Wer trägt die Verantwortung?
Hier wird es juristisch dünner, als mancher Anbieter von KI-Lösungen es gerne darstellt. Die Rechtslage rund um KI-Haftung entwickelt sich derzeit noch, auch im Zusammenhang mit der EU-KI-Verordnung, die abgestufte Pflichten je nach Risikoklasse eines Systems vorsieht. Für die meisten Agentic-AI-Anwendungen im Mittelstand – Bestellwesen, Kundenkommunikation, Dateabgleich – greifen aktuell in erster Linie die allgemeinen Grundsätze: Ein Unternehmen haftet für Handlungen, die in seinem Namen und mit seinen Systemen ausgeführt werden, unabhängig davon, ob ein Mensch oder eine Software den konkreten Klick ausgeführt hat.
Das bedeutet in der Praxis: Die KI ist kein eigenständiges Rechtssubjekt, das selbst zur Verantwortung gezogen werden kann. Verantwortlich bleibt das Unternehmen, das den Agenten einsetzt – ähnlich wie bei einem Mitarbeiter, dem man eine Vollmacht erteilt. Und wie bei einer Vollmacht gilt: Je weitreichender die Befugnisse, desto sorgfältiger sollte die Kontrolle sein.
Für Verträge mit Softwaredienstleistern oder KI-Anbietern folgt daraus eine klare Empfehlung: Verantwortlichkeiten, Protokollpflichten und Haftungsgrenzen sollten vor der Einführung eines Agenten schriftlich geklärt sein – nicht erst, wenn etwas schiefgelaufen ist. Das gehört für mich in dieselbe Kategorie wie eine vernünftige Dokumentation, über die ich im Beitrag Dokumentation als Teil des Produkts geschrieben habe: Es wirkt im ersten Moment wie Mehraufwand, erspart aber im Ernstfall erheblichen Ärger.
Datenschutz und Datensouveränität bleiben relevant
Ein Agent, der autonom handelt, greift in der Regel auf mehr Systeme zu als ein einfacher Chatbot – Kundendaten, Lagerbestände, Finanzinformationen. Die Frage, wo diese Daten verarbeitet werden und wer Zugriff darauf hat, wird dadurch nicht kleiner, sondern größer. Ich hatte das grundsätzlich im Beitrag Wo laufen Ihre Daten wirklich? beschrieben. Bei autonomen Agenten kommt hinzu, dass sie oft mehrere Datenquellen gleichzeitig verknüpfen, um eine Entscheidung zu treffen. Das erhöht die Angriffsfläche und macht es umso wichtiger, vorab zu klären, welche Daten ein Agent überhaupt sehen darf und welche tabu bleiben.
Ein pragmatischer Einstieg für Mittelständler
Mein Rat an Unternehmer, die mit dem Gedanken spielen, Agentic AI einzuführen, ist derselbe, den ich auch für klassische Prozessautomatisierung gebe: klein anfangen. Im Beitrag zur Prozessautomatisierung im Mittelstand hatte ich beschrieben, warum sich ein erster, überschaubarer Schritt oft schneller auszahlt als ein großes Projekt. Bei autonomen Agenten gilt das umso mehr, weil hier zusätzlich Vertrauen aufgebaut werden muss – sowohl bei den Mitarbeitern, die mit dem System arbeiten, als auch beim Unternehmer selbst.
Ein sinnvoller erster Schritt ist ein Prozess mit geringem Risiko und klarer Rückholbarkeit: Ein Agent, der Rechnungsentwürfe vorbereitet statt sie zu verschicken. Ein Agent, der Bestellvorschläge erstellt statt sie auszulösen. Erst wenn sich über Wochen zeigt, dass die Ergebnisse zuverlässig sind und die Protokolle nachvollziehbar bleiben, lohnt es sich, den Grad der Autonomie schrittweise zu erhöhen.
Agentic AI eröffnet echte Möglichkeiten, Mitarbeiter von Routineaufgaben zu entlasten – aber nur, wenn Kontrolle und Nachvollziehbarkeit von Anfang an mitgedacht werden, statt sie nachträglich zu reparieren. Wer vor der Einführung klärt, wer wofür haftet und wie sich Entscheidungen zurückverfolgen lassen, kann die Technik nutzen, ohne sich von ihr überraschen zu lassen.
Wenn Sie überlegen, ob und wie autonome KI-Systeme in Ihrem Betrieb sinnvoll und kontrolliert eingesetzt werden können, sprechen wir gerne unverbindlich darüber, wo ein sicherer erster Schritt für Sie liegen könnte.
