KI-Agenten DSGVO-konform einsetzen: Datenflüsse, Rollen, Hosting, Freigaben

Kurzantwort

KI-Agenten DSGVO-konform einzusetzen bedeutet: Datenflüsse sind dokumentiert, Hosting und Subprozessoren sind geprüft, Rollen sind klar verteilt (Verantwortlicher vs. Auftragsverarbeiter), kritische Aktionen laufen über Freigaben und jede Verarbeitung ist protokolliert. Wer diese fünf Voraussetzungen vor dem Pilot klärt, vermeidet die meisten Datenschutz-Risiken — unabhängig davon, ob es um E-Mail-Triage, Dokumenten-Extraktion oder Auftragseingang geht.

Definition: Was bedeutet "KI-Agenten DSGVO" konkret?

Ein KI-Agent ist DSGVO-konform, wenn personenbezogene Daten nach den Grundsätzen der Artikel 5 und 25 verarbeitet werden: Zweckbindung, Datenminimierung, Integrität, Vertraulichkeit, Nachweisbarkeit und Privacy by Design. In der Praxis heißt das, dass der Agent nur die Daten sieht, die er für den konkreten Vorgang braucht, dass jede Aktion protokolliert wird und dass eine zuständige Person die Verantwortung für die Verarbeitung trägt.

Eine isolierte Modell-API ist kein KI-Agent im DSGVO-Sinn. Ein Agent entsteht erst dort, wo Eingangsdaten, Verarbeitung, Hosting, Freigabe und Zielsystem zusammenwirken. Genau deshalb ist die DSGVO-Bewertung kein Tool-Test, sondern eine Prozess-Bewertung: Welche Daten bewegen sich wohin, welcher Anbieter sieht sie, wer steuert die Freigabe und wie wird das nachgewiesen?

Entscheidungstabelle: Welcher Setup-Pfad passt zu welcher Datenlage?

Datenkategorie	Empfehlung	Begründung
Geschäftsdaten ohne Personenbezug (Maschinendaten, anonymisierte Logistik-IDs)	EU-gehostetes Standard-Setup mit Audit-Log	Risikoarme Klasse; übliche AVV reicht aus, Schwerpunkt auf Idempotenz und Monitoring
Personenbezogene Daten mit niedrigem Schutzbedarf (geschäftliche Kontakt- und Auftragsdaten)	EU-Hosting, vollständige AVV, dokumentierte Löschfristen	Standard-DSGVO-Pfad; SCC nur relevant bei Drittland-Subprozessor
Personenbezogene Daten mit hohem Schutzbedarf (Bewerbungen, Mieterdaten, Gesundheitsbezug)	EU-Hosting, Pseudonymisierung im Prompt, Mensch im Loop, DPIA	Höhere Risikoklasse erfordert Vorab-Folgenabschätzung und konsequente Datenminimierung
Berufsgeheimnis (§ 203 StGB) oder Art. 9-Kategorien	Kein Standard-Setup; nur on-prem oder dediziert nach Einzelfallprüfung	Risiko zu hoch für Cloud-Standardsetup; rechtliche Bewertung vor Setup zwingend
Daten in US-Cloud ohne Schrems-II-Maßnahmen	Nicht starten	Übermittlung ohne tragfähige Grundlage; EU-Modell oder lokales Modell prüfen

Datenfluss-Diagramm: Eingang → Verarbeitung → Speicherung → Ausgabe

Ein KI-Agent ist DSGVO-bewertbar, wenn jeder dieser vier Schritte mit Rolle, Anbieter und Speicherort dokumentiert ist. Das folgende Schema zeigt einen typischen Mittelstands-Workflow für E-Mail- oder Dokumenten-Triage:

Stufe	Inhalt	Rolle des Agenten	Hosting / Anbieter	Datenschutz-Pflichten
1. Eingang	E-Mail, Dokument, API-Push, Webhook	Erkennt Vorgang, extrahiert Metadaten	EU-Mail-Server, DMS oder ERP des Kunden	Zugriffsrechte pro Workflow begrenzen, keine Sammelpostfächer ohne Zweckbindung
2. Verarbeitung	Klassifikation, Extraktion, Vorschlag	Aufruf an LLM, Tool-Calls für strukturierte Schritte	LLM-Anbieter (EU-Region oder lokales Modell); bei OpenClaw/Hermes KoBra-Hosting	AVV mit Modell-Anbieter, vollständige Subprozessoren-Liste, Prompt minimal halten, keine Klartext-Personennummern wenn vermeidbar
3. Speicherung	Audit-Log, Zwischenstatus, Vorschlag, Kontext	Schreibt nur strukturierte Ergebnisse; Roh-Prompts werden gehasht oder gekürzt	EU-Datenbank des Kunden oder KoBra-EU-Hosting	Löschfristen pro Datenart, Trennung von Vorgangsdaten und Personenbezug, Zugriff per Rolle
4. Ausgabe	Entwurf für Freigabe, Eintrag in CRM, ERP, DMS oder Ticket	Übergibt Vorschlag an Menschen oder schreibt nach Freigabe ins Zielsystem	Bestandssystem des Kunden	Freigabe-Protokoll, kein automatischer Versand an Dritte ohne Rechtsgrundlage

Drei Beobachtungen aus der Praxis: Erstens wird Stufe 1 oft unterschätzt — wenn ein Sammelpostfach ungeprüft an den Agenten geht, sieht das Modell mehr personenbezogene Daten als nötig. Zweitens prägt Stufe 2 die rechtliche Bewertung am stärksten, weil dort der Modell-Anbieter und sein Hosting sichtbar werden. Drittens entscheidet Stufe 4, ob die Verarbeitung als automatisierte Einzelentscheidung nach Art. 22 DSGVO gilt — was bei rein vorbereitenden Vorschlägen mit menschlicher Freigabe in der Regel nicht der Fall ist.

Wann KI-Agenten DSGVO-rechtlich nicht eingesetzt werden sollten

Diese Negativfälle sind keine theoretischen Sonderfälle, sondern Standard-Stopper im Mittelstand. Wenn einer zutrifft, wird kein Workflow produktiv gestellt:

• Besondere Kategorien personenbezogener Daten (Art. 9 DSGVO) ohne dedizierte Rechtsgrundlage: Gesundheitsdaten, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, biometrische Daten oder Daten zur sexuellen Orientierung erfordern eine ausdrückliche gesetzliche Grundlage oder Einwilligung. Cloud-LLMs ohne dedizierten Vertrag, ohne DPIA und ohne Pseudonymisierung im Prompt sind hier nicht geeignet.
• Fehlender Auftragsverarbeitungsvertrag mit Modell- oder Hosting-Anbieter: Ohne Art. 28-AVV mit jedem Subprozessor entlang der Kette ist die Verarbeitung rechtlich nicht abgesichert. Das gilt auch für vermeintlich harmlose Helper-Tools wie Logging-, Vector- oder Monitoring-Dienste, wenn sie Klartext-Inhalte sehen.
• US-Hosting bei sensiblen Daten ohne Schrems-II-Maßnahmen: Übermittlungen in Drittländer brauchen SCC plus zusätzliche technische und organisatorische Maßnahmen — etwa Pseudonymisierung im Prompt, Verschlüsselung und vertragliche Zugriffsbegrenzung. Sind diese Maßnahmen nicht belastbar umgesetzt, wird der Workflow nicht aktiviert.
• Berufsgeheimnisträger (§ 203 StGB) ohne separate Einbindung: Steuer-, Rechts-, Heil- oder Sozialberufe brauchen vor Cloud-Verarbeitung eine zusätzliche schriftliche Vereinbarung mit dem Auftragsverarbeiter und sollten besonders schutzwürdige Inhalte aus dem Prompt halten.
• Volle Automatisierung ohne menschliche Prüfung bei kritischen Vorgängen: Vertragsabschluss, Mahnungen, Personalentscheidungen oder Kunden-Kommunikation ohne Mensch-im-Loop können als automatisierte Einzelentscheidung nach Art. 22 DSGVO gelten — mit Auskunfts-, Begründungs- und Widerspruchspflichten, die in einer reinen API-Pipeline nicht abgedeckt sind.

Risiken und typische Fehlerklassen

Diese sechs Risiken treten in der Praxis am häufigsten auf, wenn der DSGVO-Pfad nebenbei statt vorab geplant wird:

• Zu breiter Datenzugriff: Wenn der Agent jedes Postfach, alle Dokumente und jeden Kundendatensatz sehen darf, entsteht ein unnötig großer Angriffs- und Fehlerraum. Datenminimierung pro Workflow begrenzt sowohl Risiko als auch Modellkosten.
• Fehlende Protokolle: Ohne Audit-Log fehlt die Nachweisbarkeit nach Art. 5 Abs. 2 DSGVO. Was nicht protokolliert ist, lässt sich gegenüber Aufsichtsbehörden, dem internen Datenschutz oder betroffenen Personen nicht belegen.
• Unklare Rechtsgrundlage: Vertragserfüllung, berechtigtes Interesse oder Einwilligung müssen pro Verarbeitungszweck festgelegt sein. Sammelfreigaben "für KI" sind keine tragfähige Grundlage und halten einer Prüfung nicht stand.
• Übermittlung an ungeeignete Subprozessoren: Telemetrie-, Logging- oder Vector-Dienste, die Klartext-Inhalte mitlesen, können den gesamten Workflow rechtlich kippen. Subprozessoren-Listen müssen aktuell, vollständig und unterzeichnet sein.
• Modell-Drift bei Anbieter-Updates: Wenn der Anbieter Modelle wechselt oder anpasst, verschieben sich Qualität und Verhalten — und damit potenziell die Risiko-Einschätzung der Verarbeitung. Regressionstests gehören zur Pflicht.
• Automatische Einzelentscheidung ohne Freigabe: Vollautomatische Entscheidungen mit rechtlicher Wirkung lösen erweiterte Pflichten nach Art. 22 DSGVO aus. Vorschlagsmodus mit Mensch im Loop ist der sichere Default.

Rollen- und AVV-Checkliste: Verantwortlicher, Auftragsverarbeiter, TOMs

Bevor ein KI-Agenten-Workflow produktiv geht, müssen die folgenden Punkte schriftlich geklärt sein. Sie bilden die DSGVO-Mindestebene, ohne die ein Pilot nicht in den Betrieb übergeht:

1. Verantwortlicher festlegen (Art. 4 Nr. 7 DSGVO): Das beauftragende Unternehmen bleibt für Zweck und Mittel der Verarbeitung verantwortlich. Im Fachbereich gibt es eine namentliche Ansprechperson, die fachliche Freigaben verantwortet; der Datenschutzbeauftragte ist eingebunden.
2. Auftragsverarbeiter benennen (Art. 4 Nr. 8 / Art. 28): Implementierungspartner, Hosting-Anbieter und Modell-Anbieter sind klar zugeordnet. KoBra unterzeichnet als Implementierungspartner den AVV mit dem Kunden; Modell- und Hosting-AVV werden separat ergänzt.
3. Subprozessoren-Liste pflegen: Jeder weitere Dienst entlang der Pipeline (Logging, Monitoring, Vector-DB, Mail-Provider) wird in einer aktuellen Liste geführt. Änderungen lösen eine Informationspflicht gegenüber dem Verantwortlichen aus.
4. AVV-Inhalte vollständig (Art. 28 Abs. 3): Gegenstand, Dauer, Art und Zweck der Verarbeitung, Datenarten, Kategorien Betroffener, Pflichten des Auftragsverarbeiters, Weisungsrechte des Verantwortlichen, Löschung oder Rückgabe nach Beendigung — alles im Vertrag, nicht im Mailwechsel.
5. Standardvertragsklauseln (SCC) bei Drittlandbezug: Sobald ein Subprozessor außerhalb der EU oder des EWR sitzt, kommen die 2021er-SCC plus dokumentierte zusätzliche Maßnahmen dazu. Ohne Schrems-II-Bewertung kein Drittland-Routing.
6. Technische und organisatorische Maßnahmen (TOMs) vereinbaren: Zugriffskontrolle mit Rollen und Mehr-Faktor-Authentifizierung, Verschlüsselung im Transport und at-rest, Pseudonymisierung im Prompt, Audit-Log über jede Verarbeitung, Backup- und Wiederherstellungskonzept, regelmäßige Tests, Löschkonzept, Trennung Test/Produktion. Pro Workflow konkret benennen, nicht generisch kopieren.
7. Datenschutz-Folgenabschätzung (DPIA) prüfen: Bei systematischer Auswertung personenbezogener Daten, neuen Technologien oder hohem Risiko ist eine DPIA nach Art. 35 Pflicht. Für Standard-Workflows wie geschäftliche E-Mail-Triage ist sie häufig nicht erforderlich — die Begründung wird dokumentiert.
8. Betroffenenrechte operationalisieren: Auskunfts-, Berichtigungs-, Lösch- und Widerspruchsanfragen müssen über die Agenten-Pipeline beantwortbar sein. Ohne Zugriff auf Audit-Log und Vorgangsdaten ist Art. 15 DSGVO nicht umsetzbar.

Implementierungs-Checkliste: KI-Agenten DSGVO produktiv setzen

Diese operativen Schritte gehören vor jedem Pilot abgehakt — in dieser Reihenfolge:

1. Zweck und Datenkategorien benennen: Welche Datenart fließt durch den Workflow, welche personenbezogenen Felder sind nötig, welche sind verzichtbar? Datenminimierung beginnt hier, nicht im Prompt.
2. Datenfluss vollständig zeichnen: Eingang, Verarbeitung, Speicherung, Ausgabe — pro Stufe mit Anbieter, Speicherort und Rechtsgrundlage. Ohne Datenfluss-Diagramm keine belastbare DSGVO-Bewertung.
3. AVV und Subprozessoren klären: Verträge mit Implementierungspartner, Modell- und Hosting-Anbieter unterzeichnet, Subprozessoren-Liste aktuell, Informationspflichten festgelegt.
4. Hosting-Entscheidung treffen: EU-Region als Default, Drittland nur mit dokumentierten Schrems-II-Maßnahmen. Bei besonders schutzwürdigen Daten lokales oder dediziertes Modell prüfen.
5. Freigabe-Matrix definieren: Welche Fälle laufen vollautomatisch, welche brauchen Mensch im Loop, welche eskalieren an wen? Vorschlagsmodus als Pilot-Default.
6. Audit-Log und Aufbewahrung: Was wird protokolliert, wie lange, wer hat Zugriff, wie wird gelöscht? Trennung von Vorgangsdaten und Personenbezug, wo möglich Pseudonymisierung.
7. Testfälle für Edge-Cases: Sonderzeichen, falsche Klassifikation, unvollständige Daten, unberechtigte Anfragen, Löschanfragen — diese Fälle sind vor dem Pilot reproduzierbar.
8. Betriebs- und Eskalationsregeln: Wer reagiert bei Modell-Ausfall, wer bewertet Fehlfälle, wer ergänzt Kategorien? Ohne klare Rollen läuft kein Workflow produktiv.

Wie KoBra DSGVO-Workflows umsetzt

KoBra behandelt KI-Agenten nicht als Tool-Kauf, sondern als Prozessprojekt mit dokumentiertem Datenfluss, AVV-Paket, Freigabematrix und Audit-Log. Hermes nutzt KoBra intern als Agenten-Framework; OpenClaw kommt als Framework für Kunden-Agenten-Workflows zum Einsatz. Beide Frameworks hat KoBra nicht gebaut — der Wert entsteht aus Prozessanalyse, Integration, Rollenklärung und produktivem Betrieb.

Ein belastbarer DSGVO-Pfad entsteht nicht durch eine einzelne Einstellung im Tool, sondern durch die Kombination aus Datenminimierung, EU-Hosting, Mensch im Loop, Audit-Log und sauberem AVV-Stack. Genau diese Bausteine machen aus einer Demo einen Workflow, der personenbezogene Daten zuverlässig und nachvollziehbar in den nächsten Prozessschritt überführt — ohne dass der Datenschutz zur Bremse wird.

Weiterführende Beiträge

• Human-in-the-Loop bei KI-Agenten
• E-Mail-Agenten in der Praxis
• Dokumenten-Agenten und Belegerkennung
• Idempotenz bei KI-Agenten
• KI-Agenten Kosten im Mittelstand
• OpenClaw in der Praxis
• Was sind KI-Agenten?

Kostenloser KI-Potenzialcheck

Sie möchten wissen, ob sich ein KI-Agent in Ihrem Unternehmen wirtschaftlich lohnt? Machen Sie den kostenlosen KI-Potenzialcheck: In wenigen Minuten prüfen Sie Volumen, Prozessreife, Datenlage und Einsparpotenzial — inklusive Checkliste per E-Mail.