Wo laufen Ihre Daten wirklich? Datensouveränität beim KI-Einsatz im Mittelstand

Vor einigen Wochen saß ich mit einem Unternehmer zusammen, dessen Buchhaltung seit kurzem ChatGPT nutzt, um Rechnungstexte zu formulieren und Kundenanfragen vorzusortieren. Auf meine Frage, wo die eingegebenen Daten eigentlich landen, kam ein Schulterzucken: „Keine Ahnung, läuft halt über die Browser-Oberfläche.“ Das ist keine Ausnahme, sondern der Normalfall. Die meisten Unternehmen, die KI-Tools einsetzen, haben sich nie bewusst entschieden, wo ihre Daten verarbeitet werden – sie sind einfach in ein fertiges Produkt eingestiegen, weil es funktioniert und schnell Nutzen bringt.

Das ist verständlich, aber riskant. Denn sobald Kundendaten, Vertragsinhalte, Personalinformationen oder interne Kalkulationen in ein KI-System eingegeben werden, stellt sich eine Frage, die mit Technik eigentlich wenig, mit Verantwortung aber sehr viel zu tun hat: Wer hat Zugriff auf diese Daten, und nach welchem Recht werden sie behandelt?

Warum diese Frage gerade jetzt an Bedeutung gewinnt

In den bisherigen Beiträgen hier im Blog ging es oft um den Nutzen von KI im Alltag – etwa in der Fallstudie zur KI-Automation im Mittelstand oder im Beitrag über KI als Sparringspartner für kleine Betriebe. Zu Recht, denn der praktische Nutzen ist real und oft schnell spürbar.

Was dabei bislang zu kurz kam: die Frage der Datenhoheit. Je selbstverständlicher KI-Tools im Arbeitsalltag werden, desto mehr sensible Informationen fließen hinein – oft ohne dass jemand im Unternehmen eine bewusste Entscheidung darüber getroffen hat. Das ist nicht nur ein abstraktes Datenschutzthema. Es betrifft sehr konkret die Frage, ob ein Unternehmen seine vertraglichen Pflichten gegenüber Kunden und Mitarbeitenden einhält, ob es im Streitfall haftet, und ob es im Zweifel überhaupt erklären kann, was mit welchen Daten passiert ist.

Wo liegen die Daten wirklich?

Die erste und wichtigste Frage lautet: In welchem Rechenzentrum, in welchem Land, unter welcher Rechtsordnung werden die Daten verarbeitet?

Viele bekannte KI-Dienste verarbeiten Daten standardmäßig auf Servern in den USA. Das ist nicht automatisch unzulässig – es gibt mittlerweile Mechanismen, die eine Datenübermittlung in die USA unter bestimmten Voraussetzungen rechtlich absichern sollen. Aber diese Mechanismen sind komplex, ändern sich politisch immer wieder, und sie entbinden ein Unternehmen nicht von der Pflicht, selbst zu prüfen und zu dokumentieren, auf welcher Grundlage die Datenübermittlung erfolgt.

Hinzu kommt: Viele Anbieter arbeiten mit Subunternehmern. Ein KI-Dienst, der auf den ersten Blick "europäisch" wirkt, kann im Hintergrund auf Infrastruktur oder Modelle eines amerikanischen Anbieters zurückgreifen. Das ist weder gut noch schlecht an sich, aber es bedeutet: Ein einzelner Blick auf den Firmensitz des Anbieters reicht nicht aus. Entscheidend ist die gesamte Kette der Datenverarbeitung.

Fragen, die Sie jedem KI-Anbieter stellen sollten

Bevor ein KI-Tool im Unternehmen eingeführt wird, lohnt sich ein kurzer, aber systematischer Check:

• In welchem Land stehen die Server, auf denen meine Eingaben verarbeitet werden?
• Werden meine Daten zum Training des Modells verwendet, oder ausschließlich zur Beantwortung meiner Anfrage?
• Wie lange werden Eingaben gespeichert, und kann ich diese Speicherung abschalten oder begrenzen?
• Gibt es einen Auftragsverarbeitungsvertrag (AVV), wie es die Datenschutz-Grundverordnung für die Verarbeitung personenbezogener Daten im Auftrag vorschreibt?
• Welche Subunternehmer sind in die Datenverarbeitung eingebunden, und wo sitzen diese?

Diese Fragen klingen nach juristischem Kleinklein. Sind sie aber nicht. Sie entscheiden darüber, ob ein Unternehmen im Zweifel nachweisen kann, dass es sorgfältig gehandelt hat – gegenüber Kunden, gegenüber Aufsichtsbehörden und gegenüber den eigenen Mitarbeitenden, deren Daten ja ebenfalls betroffen sein können.

Nicht jede Information ist gleich sensibel

Ein Missverständnis, das ich häufig erlebe: Entweder wird KI komplett gemieden, aus Angst vor Datenschutzproblemen, oder sie wird unreflektiert für alles eingesetzt. Beides ist unnötig pauschal.

Sinnvoller ist eine Einordnung nach Sensibilität:

• Allgemeine Textarbeit ohne Bezug zu konkreten Personen oder Geschäftsgeheimnissen – etwa das Umformulieren eines Standardtextes – ist in den meisten gängigen Tools unkritisch.
• Kundendaten, Mitarbeiterdaten, Gesundheitsdaten, Vertragsdetails oder interne Kalkulationen gehören in eine andere Kategorie. Hier braucht es entweder einen Anbieter mit nachweisbar europäischer Datenverarbeitung und einem sauberen AVV, oder eine Lösung, die ganz ohne Datenabfluss nach außen auskommt.
• Besonders schützenswerte Daten, etwa aus dem Gesundheits- oder Sozialbereich, sollten aus meiner Sicht gar nicht erst in öffentliche KI-Dienste eingegeben werden, egal wie gut deren Datenschutzerklärung klingt.

Diese Einordnung sollte nicht dem Zufall einzelner Mitarbeitender überlassen werden. Sie gehört in eine kurze, verständliche interne Richtlinie – ähnlich wie ich es im Beitrag über Dokumentation als Teil des Produkts für Software beschrieben habe: Was nicht dokumentiert und klar geregelt ist, wird im Alltag improvisiert, und Improvisation bei Datenflüssen ist selten eine gute Idee.

Drei typische Wege für den Mittelstand

In der Praxis sehe ich bei KI-Projekten für kleinere und mittlere Unternehmen im Wesentlichen drei Herangehensweisen, die sich im Grad der Datensouveränität deutlich unterscheiden.

Öffentliche KI-Dienste mit Business- oder Enterprise-Tarif

Viele große Anbieter bieten mittlerweile kostenpflichtige Geschäftskunden-Varianten an, bei denen Eingaben nicht zum Training verwendet werden und bei denen sich oft auch eine europäische Datenverarbeitung vereinbaren lässt. Das ist für viele Anwendungsfälle ein vernünftiger Kompromiss aus Aufwand und Schutzniveau – vorausgesetzt, der AVV wird tatsächlich abgeschlossen und nicht nur in Aussicht gestellt, und die Konfiguration wird auch wirklich so eingestellt, wie es nötig ist. Hier passiert in der Praxis am häufigsten der Fehler, dass ein Unternehmen zwar den "richtigen" Tarif gebucht, die entsprechenden Einstellungen aber nie aktiviert hat.

Cloud-Dienste mit expliziter EU-Datenhaltung

Einige Anbieter, insbesondere größere Cloud-Plattformen, ermöglichen es, KI-Funktionen so zu konfigurieren, dass die Verarbeitung nachweisbar in europäischen Rechenzentren stattfindet. Das schafft mehr Klarheit, erfordert aber auch mehr technisches Verständnis bei der Einrichtung – man muss die entsprechenden Regionen und Einstellungen aktiv auswählen, sie sind selten der Standard.

Selbst gehostete oder lokal betriebene KI-Modelle

Für besonders sensible Anwendungsfälle, etwa wenn es um Vertragsdaten, Personalakten oder Geschäftsgeheimnisse geht, lohnt sich der Blick auf Modelle, die auf eigener oder angemieteter Infrastruktur in Deutschland oder der EU laufen, ohne dass Daten an einen externen Dienst übermittelt werden. Die Leistungsfähigkeit solcher Modelle ist inzwischen für viele praktische Aufgaben – Textzusammenfassung, Klassifizierung, einfache Auswertungen – völlig ausreichend, auch wenn sie bei sehr komplexen kreativen Aufgaben nicht immer an die größten öffentlichen Modelle herankommt. Der Aufwand für Einrichtung und Betrieb ist höher, dafür bleibt die Kontrolle vollständig im Haus. Für Unternehmen, die ohnehin bereits eigene Server oder eine gewachsene IT-Infrastruktur betreiben, ist das oft eine naheliegende Erweiterung, ähnlich wie bei der Prozessautomatisierung im Mittelstand, wo sich der erste kleine Schritt oft schnell auszahlt.

Welcher dieser drei Wege der richtige ist, lässt sich nicht pauschal beantworten. Es hängt davon ab, welche Daten verarbeitet werden sollen, wie hoch das Schutzbedürfnis ist, und wie viel Aufwand ein Unternehmen bereit ist zu investieren. Entscheidend ist, dass die Wahl bewusst getroffen wird, und nicht einfach aus Bequemlichkeit beim erstbesten Tool landet.

Organisatorisch absichern, nicht nur technisch

Datensouveränität ist kein rein technisches Problem, das sich mit der richtigen Serverauswahl erledigt. Sie braucht auch organisatorische Leitplanken:

• Eine kurze, verständliche Richtlinie, welche Daten in welche Tools eingegeben werden dürfen und welche nicht.
• Klare Zuständigkeit: Wer im Unternehmen entscheidet, welche neuen KI-Tools eingeführt werden dürfen?
• Auftragsverarbeitungsverträge, die tatsächlich geprüft und nicht nur unterschrieben abgelegt werden.
• Eine kurze Schulung der Mitarbeitenden, damit niemand aus Unwissenheit sensible Daten in ein ungeeignetes Tool einfügt.

Das klingt nach zusätzlicher Bürokratie, ist aber meist mit überschaubarem Aufwand zu erledigen – vor allem im Vergleich zu dem Schaden, der entstehen kann, wenn ein Datenschutzverstoß öffentlich wird oder ein Kunde merkt, dass seine Vertragsdaten irgendwo unkontrolliert gelandet sind.

Wo ich als Entwickler ansetze

Wenn ich mit Mittelständlern über KI-Automatisierung spreche, geht es fast immer zuerst um den Nutzen: Welcher Prozess lässt sich beschleunigen, welche Routinearbeit lässt sich abgeben. Die Frage der Datensouveränität kommt dann meist erst in der Umsetzung ins Spiel – etwa wenn eine Schnittstelle zu einem bestehenden System gebaut wird, wie ich es im Beitrag Schnittstellen statt Ablöse beschrieben habe. Genau an dieser Stelle lässt sich die Weiche sauber stellen: Welche Daten verlassen überhaupt das eigene System, welche bleiben intern, und welcher KI-Dienst ist für welchen Teilschritt geeignet.

Aus meiner Sicht gehört diese Abwägung von Anfang an in jedes KI-Projekt, nicht als nachträgliche Rechtsprüfung, sondern als Teil der technischen Konzeption. Das verursacht etwas Mehraufwand zu Beginn, erspart aber später unangenehme Überraschungen – und meistens lässt sich eine datensouveräne Lösung finden, die fast genauso praktisch ist wie die bequeme Variante, nur eben mit einer sauberen Antwort auf die Frage, wo die Daten wirklich liegen.

Wer KI-Tools einführt, trifft damit auch eine Entscheidung über Kontrolle und Verantwortung – diese Entscheidung sollte bewusst getroffen werden, nicht nebenbei. Wenn Sie klären möchten, wie sich das für Ihr Unternehmen konkret umsetzen lässt, sprechen wir gerne in einem unverbindlichen Erstgespräch darüber, welcher Weg zu Ihren Daten und Ihrem Betrieb passt.