KI-Agenten und DSGVO: Welche Bauweise aus den Regeln folgt
Was die DSGVO von KI-Agenten verlangt, die Daten abrufen und handeln: Zweck, Zugriffe, Freigaben, Protokolle, Verträge. Mit Prüftabelle.
Ein KI-Agent, der selbst Daten abruft und Aktionen ausführt, muss in erster Linie die DSGVO einhalten, sobald er personenbezogene Daten verarbeitet: Zweckbindung und Datenminimierung begrenzen, worauf er zugreift, Artikel 22 begrenzt, was er ohne Menschen entscheiden darf, und die Rechenschaftspflicht verlangt, dass Sie seine Verarbeitung nachweisen können. Wie Sie prüfen, ob die KI-Verordnung (AI Act) zusätzlich greift, steht im Beitrag zu den Pflichten des EU AI Act für Anwenderunternehmen; dieser Beitrag behandelt die DSGVO-Seite.
Eine Bauweise, mit der sich diese Anforderungen erfüllen und nachweisen lassen, hat nach unserer Einschätzung vier Bestandteile: ein eng gefasster Zweck je Agent, eigene Zugänge mit wenigen Rechten, Freigabestufen für folgenreiche Aktionen und ein Protokoll je Durchlauf. Dieser Beitrag ordnet jede zentrale Anforderung einer solchen Bauentscheidung und einer Prüffrage zu. Was einen Agenten von Chatbot und RPA unterscheidet, erklärt der Beitrag Was ist ein KI-Agent?.
Warum ein Agent anders zu prüfen ist als ein Chat-Werkzeug
Die DSGVO versteht unter Verarbeitung jeden Vorgang im Zusammenhang mit personenbezogenen Daten, ausdrücklich auch das Abfragen, die Verwendung und die Offenlegung durch Übermittlung (Artikel 4 Nummer 2). Ein Chat-Werkzeug ohne angebundene Systeme verarbeitet, was ein Mitarbeiter hineingibt. Ein Agent holt sich Daten selbst: Er liest ein Postfach, fragt das CRM ab, schreibt einen Datensatz zurück und versendet eine E-Mail. Jeder dieser Werkzeugaufrufe ist eine Verarbeitung, sobald personenbezogene Daten betroffen sind, und die Zugangsdaten, mit denen der Agent arbeitet, legen fest, welche Vorgänge überhaupt möglich sind.
Daraus ergibt sich die Leitfrage für die Prüfung. Ob das Sprachmodell dahinter datenschutzfreundlich betrieben wird, ist eine Frage an den Dienstleister und den Vertrag. Welche Daten der Agent lesen, welche Aktionen er auslösen und welche Entscheidungen er ohne Menschen treffen kann, legen Sie selbst beim Bau fest.
Die Zuordnung: Anforderung, Norm, Architekturentscheidung, Prüffrage
Die Tabelle ordnet die zentralen Anforderungen der DSGVO ihrer Norm samt Geltungsbedingung zu, dann der Entscheidung, die sie im Agenten auslöst, und einer Frage, mit der Sie einen bestehenden oder geplanten Agenten prüfen. Die Abschnitte danach erläutern die Zeilen, bei denen Ausnahmen eine Rolle spielen.
| Anforderung | Norm und Geltung | Entscheidung im Agenten | Prüffrage |
|---|---|---|---|
| Rechtsgrundlage | DSGVO Art. 6 Abs. 1, für jede Verarbeitung personenbezogener Daten; bei besonderen Kategorien wie Gesundheitsdaten zusätzlich Art. 9 | Rechtsgrundlage je Zweck festlegen, bevor der Agent Zugriff bekommt | Auf welche Rechtsgrundlage stützt sich jede Datenquelle, die der Agent nutzt? |
| Zweckbindung | DSGVO Art. 5 Abs. 1 lit. b, sobald personenbezogene Daten verarbeitet werden | Ein schriftlich festgelegter Zweck je Agent; nur Werkzeuge, die diesem Zweck dienen | Lässt sich der Zweck in einem Satz nennen, und dient jedes angebundene Werkzeug ihm? |
| Datenminimierung | DSGVO Art. 5 Abs. 1 lit. c; Art. 25 Abs. 1 (Maßnahmen unter Berücksichtigung von Stand der Technik, Kosten und Risiko) und Abs. 2 (Voreinstellungen) | Eigener Zugang je Agent, Rechte nur auf benötigte Postfächer, Ordner und Felder | Welche Daten könnte der Agent mit seinen Zugangsdaten lesen, die er für den Zweck nicht braucht? |
| Speicherbegrenzung | DSGVO Art. 5 Abs. 1 lit. e | Löschfristen für Gesprächsverläufe, Caches und Protokolle | Wo legt der Agent Kontext ab, und wann wird er gelöscht? |
| Grenze für automatisierte Entscheidungen | DSGVO Art. 22 Abs. 1, mit Ausnahmen nach Abs. 2 und Schutzmaßnahmen nach Abs. 3 | Aktionen nach Wirkung gestuft; Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung gehen an einen Menschen, oder die Ausnahme ist dokumentiert | Kann eine Aktion des Agenten eine Person rechtlich oder ähnlich erheblich treffen, ohne dass ein Mensch sie inhaltlich prüft? |
| Nachweisbarkeit | DSGVO Art. 5 Abs. 2 (Rechenschaftspflicht) | Protokoll je Durchlauf: Auslöser, gelesene Quellen, ausgeführte Aktionen, Freigaben | Können Sie für einen Vorgang der letzten Woche zeigen, was der Agent gelesen und getan hat? |
| Information der Betroffenen | DSGVO Art. 13 und 14; Ausnahmen Art. 13 Abs. 4, Art. 14 Abs. 5 | Datenschutzhinweise auf die Verarbeitung durch den Agenten prüfen | Decken Ihre Datenschutzhinweise Zwecke, Rechtsgrundlage, Empfänger (auch Dienstleister) und Drittlandübermittlungen dieser Verarbeitung ab? |
| Sicherheit der Verarbeitung | DSGVO Art. 32 Abs. 1, Maßnahmen unter Berücksichtigung von Stand der Technik, Kosten und Risiko | Zugangsdaten des Agenten sicher verwahren, Schutz gegen manipulierte Eingaben, Zugriff auf Protokolle beschränken | Was kann ein Angreifer auslösen, der dem Agenten eine präparierte E-Mail oder ein präpariertes Dokument unterschiebt? |
| Verzeichnis von Verarbeitungstätigkeiten | DSGVO Art. 30; Ausnahme für Unternehmen unter 250 Beschäftigten nach Abs. 5 nur, wenn die Verarbeitung kein Risiko für die Rechte und Freiheiten der Betroffenen birgt, nur gelegentlich erfolgt und weder besondere Kategorien (Art. 9 Abs. 1) noch Daten über strafrechtliche Verurteilungen und Straftaten (Art. 10) betrifft | Verarbeitung durch den Agenten ins Verzeichnis aufnehmen | Steht der Agent mit Zweck, Datenkategorien und Empfängern im Verzeichnis? |
| Verträge mit Dienstleistern | DSGVO Art. 28 Abs. 1 und 3, bei Verarbeitung im Auftrag | Vertrag nach Art. 28 mit jedem Dienst, der personenbezogene Daten in Ihrem Auftrag verarbeitet | Welche Dienste (Modell-Schnittstelle, Hosting, Automatisierungsplattform) verarbeiten in Ihrem Auftrag, und gibt es mit jedem einen Vertrag nach Art. 28? |
| Übermittlung in Drittländer | DSGVO Art. 44 bis 46 | Verarbeitungsregion und Unterauftragsverarbeiter festlegen | Auf welche Grundlage nach Kapitel V stützt sich jede Übermittlung außerhalb des EWR? |
| Datenschutz-Folgenabschätzung | DSGVO Art. 35, bei voraussichtlich hohem Risiko; Liste der Aufsichtsbehörden nach Abs. 4 | Vor der Inbetriebnahme durchführen, wenn die Schwelle erreicht ist | Steuert der Agent die Interaktion mit Betroffenen, etwa im Kundendialog, oder bewertet er persönliche Aspekte? |
Zweck und Zugriff: was der Agent lesen darf
Personenbezogene Daten dürfen nur für festgelegte, eindeutige und legitime Zwecke erhoben werden und müssen auf das für diese Zwecke notwendige Maß beschränkt sein (Artikel 5 Absatz 1 Buchstaben b und c DSGVO). Artikel 25 verpflichtet Sie, das sowohl bei der Festlegung der Mittel als auch während der Verarbeitung durch technische und organisatorische Maßnahmen umzusetzen und per Voreinstellung nur die Daten zu verarbeiten, die für den jeweiligen Zweck erforderlich sind. Die Pflicht erstreckt sich ausdrücklich auf die Menge der Daten, den Umfang der Verarbeitung, die Speicherfrist und die Zugänglichkeit. Welche Maßnahmen nach Absatz 1 geeignet sind, bemisst die Norm unter anderem am Stand der Technik, an den Implementierungskosten und am Risiko der Verarbeitung.
Für einen Agenten heißt das konkret:
- Ein Zweck je Agent. Ein Agent, der Rechnungseingänge vorsortiert und nebenbei Bewerbungen beantwortet, hat zwei Zwecke. Getrennte Agenten mit getrennten Zugängen lassen sich einzeln begründen, dokumentieren und abschalten.
- Eigene Zugangsdaten statt geliehener. Arbeitet der Agent mit dem Konto einer Mitarbeiterin, kann er alles lesen, was sie lesen kann. Ein eigenes Dienstkonto mit Rechten nur auf das Rechnungspostfach begrenzt den Zugriff auf den Zweck. Wie eine Berechtigungslücke bei einem selbst gebauten Wissensassistenten entsteht, zeigt der Beitrag zum Wissensassistenten auf SharePoint-Daten.
- Nur die Felder, die der Schritt braucht. Braucht das Sprachmodell für die Einordnung einer Anfrage nur Betreff und Text, muss es die Kundenhistorie nicht sehen.
- Werkzeuge statt freier Zugriffe. Stellen Sie dem Agenten eng definierte Werkzeuge bereit, etwa „Rechnung als geprüft markieren“, statt eines allgemeinen Schreibzugriffs auf die Datenbank. Die Liste der Werkzeuge ist dann zugleich die Liste dessen, was er tun kann.
Dazu kommt die Speicherbegrenzung (Artikel 5 Absatz 1 Buchstabe e): Gesprächsverläufe, Caches für den Kontext und Protokolle enthalten dieselben personenbezogenen Daten wie die Quellsysteme und brauchen eine eigene Löschfrist.
Greift der Agent auf persönliche Postfächer oder andere Daten von Beschäftigten zu, beziehen Sie, falls vorhanden, Ihre Arbeitnehmervertretung und Ihre Datenschutzberatung vor dem Start ein.
Handlungsspielraum: was der Agent ohne Menschen entscheiden darf
Artikel 22 Absatz 1 DSGVO gibt jeder Person das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Erwägungsgrund 71 nennt als Beispiele die automatische Ablehnung eines Online-Kreditantrags und Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen.
Das Recht gilt nicht absolut. Nach Absatz 2 ist eine solche Entscheidung zulässig, wenn sie
- für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und Ihnen erforderlich ist,
- aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten zulässig ist, die angemessene Schutzmaßnahmen enthalten, oder
- mit ausdrücklicher Einwilligung der betroffenen Person erfolgt.
In den Fällen Vertrag und Einwilligung müssen Sie nach Absatz 3 angemessene Maßnahmen treffen, mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Auf besondere Kategorien personenbezogener Daten wie Gesundheitsdaten dürfen solche Entscheidungen nach Absatz 4 nur beruhen, wenn die ausdrückliche Einwilligung oder ein erhebliches öffentliches Interesse auf Grundlage des Unions- oder mitgliedstaatlichen Rechts nach Artikel 9 Absatz 2 Buchstabe a oder g vorliegt und angemessene Schutzmaßnahmen getroffen sind. Und wer automatisiert nach Artikel 22 entscheidet, muss die Betroffenen darüber, über die involvierte Logik sowie über Tragweite und angestrebte Auswirkungen informieren (Artikel 13 Absatz 2 Buchstabe f, Artikel 14 Absatz 2 Buchstabe g).
Zwei Punkte machen das für Agenten praktisch relevant:
- Vorbereitung kann schon Entscheidung sein. Der EuGH hat 2023 entschieden, dass bereits der automatisiert erstellte Bonitätswert einer Wirtschaftsauskunftei eine Entscheidung im Sinne von Artikel 22 ist, wenn von ihm maßgeblich abhängt, ob ein Dritter einen Vertrag mit der Person begründet, durchführt oder beendet (Rechtssache C-634/21). Sortiert ein Agent Anfragen so vor, dass abgelehnte Fälle faktisch nie ein Mensch sieht, prüfen Sie, ob seine Einstufung maßgeblich für das Ergebnis ist.
- Eine Freigabe zählt nur, wenn sie echt ist. Nach den Leitlinien der Artikel-29-Datenschutzgruppe, die der Europäische Datenschutzausschuss übernommen hat, darf die Beteiligung eines Menschen keine symbolische Geste sein; entscheiden soll eine Person, die befugt und befähigt ist, die Entscheidung zu ändern. Ein Bestätigungsknopf, den niemand ablehnt, weil die Person die zugrunde liegenden Daten nicht sieht, erfüllt das nicht.
Architektonisch lässt sich das über Wirkungsstufen umsetzen, die Sie je Werkzeug festlegen:
- Stufe 1, lesen und vorbereiten: Daten abrufen, zusammenfassen, Entwürfe anlegen. Der Agent handelt allein.
- Stufe 2, ausführen ohne Wirkung auf Rechte einer Person: Eingangsbestätigung senden, Termin vorschlagen, Datensatz ergänzen. Der Agent handelt allein, jeder Schritt wird protokolliert.
- Stufe 3, Wirkung auf eine Person: Antrag ablehnen, Vertrag kündigen, Bewerbung aussortieren. Ein Grenzfall ist das Verweigern einer Kulanz: Weil der Kunde darauf keinen Rechtsanspruch hat, fehlt die rechtliche Wirkung, und ob eine erhebliche Beeinträchtigung vorliegt, hängt von der Bedeutung für den Betroffenen ab. Der Agent legt einen Vorschlag mit Begründung und Datengrundlage vor, ein befugter Mensch entscheidet. Soll eine solche Entscheidung vollautomatisch ergehen, dokumentieren Sie vorher, welche Ausnahme nach Absatz 2 greift und wie Sie die Rechte aus Absatz 3 gewährleisten.
Wo die Grenze zwischen Stufe 2 und 3 verläuft, hängt vom Einzelfall ab; die Einordnung sollte Ihre Datenschutzberatung mitprüfen.
Ob ein Einsatz der Stufe 3 wie das Aussortieren von Bewerbungen zusätzlich unter die Hochrisiko-Regeln der KI-Verordnung fällt, prüfen Sie mit Frage 2 im Beitrag zum EU AI Act.
Artikel 22 steht zur Überarbeitung an: Die Europäische Kommission hat am 19. November 2025 vorgeschlagen, die Absätze 1 und 2 neu zu fassen (COM(2025) 837). Nach dem Stand der Legislative-Train-Übersicht des Europäischen Parlaments vom 1. August 2026 ist der Vorschlag nicht verabschiedet; im Legislative Observatory steht das Verfahren am 28. September 2026 auf „Awaiting committee decision“. Bis dahin gilt der zitierte Wortlaut.
Nachvollziehbarkeit: was protokolliert wird
Für jeden Agenten, der personenbezogene Daten verarbeitet, gilt die Rechenschaftspflicht: Sie sind für die Einhaltung der Grundsätze verantwortlich und müssen sie nachweisen können (Artikel 5 Absatz 2 DSGVO). Die DSGVO schreibt dafür kein bestimmtes Protokoll vor. Ohne Aufzeichnung dessen, was der Agent gelesen und getan hat, wird es aber schwer, bei einer Auskunftsanfrage nach Artikel 15 anzugeben, welche Daten er verarbeitet und an welche Empfänger er sie übermittelt hat, oder zu zeigen, dass er beim Zweck geblieben ist.
Ein Protokoll je Durchlauf sollte deshalb mindestens festhalten: den Auslöser, die abgerufenen Quellen, die aufgerufenen Werkzeuge mit Ergebnis, jede Freigabe mit Person und Zeitpunkt. Das Protokoll enthält selbst personenbezogene Daten und braucht deshalb einen eigenen Zweck, beschränkte Zugriffsrechte und eine Löschfrist.
Verträge und Datenwege: Auftragsverarbeitung, Drittland, Folgenabschätzung
Ein Agent kann mehrere externe Dienste nutzen: die Schnittstelle eines Sprachmodells, eine Automatisierungsplattform, einen Server. Verarbeitet einer davon personenbezogene Daten in Ihrem Auftrag, dürfen Sie nach Artikel 28 Absatz 1 DSGVO nur mit Auftragsverarbeitern arbeiten, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Der Vertrag nach Absatz 3 muss unter anderem festlegen, dass der Dienst die Daten nur auf Ihre dokumentierte Weisung verarbeitet, auch bei Übermittlungen in ein Drittland. Wie sich der Vertragspartner zwischen Cloud-Betrieb und selbst betriebener Plattform verschiebt, zeigt der Beitrag zum DSGVO-konformen Betrieb von n8n.
Prüfen Sie im Vertrag, ob der Modell- oder Plattformanbieter Eingaben für eigene Zwecke oder zum Training nutzen darf, und klären Sie mit Ihrer Datenschutzberatung, was das für seine Rolle als Auftragsverarbeiter bedeutet.
Liegt ein Dienst oder einer seiner Unterauftragsverarbeiter außerhalb des EWR, ist die Übermittlung nur zulässig, wenn die Bedingungen von Kapitel V eingehalten sind (Artikel 44). Grundlage kann ein Angemessenheitsbeschluss der Kommission sein (Artikel 45) oder, wenn keiner vorliegt, geeignete Garantien wie Standarddatenschutzklauseln (Artikel 46). Prüfen Sie für jede Übermittlung, welche Grundlage der Dienst dafür angibt.
Eine Datenschutz-Folgenabschätzung ist nach Artikel 35 Absatz 1 vorab durchzuführen, wenn eine Verarbeitung, insbesondere bei Verwendung neuer Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Absatz 3 nennt Fälle, in denen sie insbesondere erforderlich ist, darunter die systematische und umfassende Bewertung persönlicher Aspekte auf Grundlage automatisierter Verarbeitung, die als Grundlage für Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Wirkung dient. Zusätzlich veröffentlichen die Aufsichtsbehörden Listen der Verarbeitungen, für die eine Folgenabschätzung durchzuführen ist (Absatz 4). Die Liste der deutschen Datenschutzkonferenz für den nicht-öffentlichen Bereich (Version 1.1 vom 17. Oktober 2018; eine neuere Fassung ist Stand September 2026 nicht bekannt) nennt unter Nummer 11 den Einsatz künstlicher Intelligenz zur Verarbeitung personenbezogener Daten, um die Interaktion mit den Betroffenen zu steuern oder persönliche Aspekte zu bewerten, mit dem Beispiel eines Systems, das mit Kunden durch Konversation interagiert und für deren Beratung personenbezogene Daten durch künstliche Intelligenz verarbeitet. Prüfen Sie deshalb, ob Ihr Agent personenbezogene Daten verarbeitet, um den Dialog mit Kunden oder anderen Betroffenen zu steuern; dann fällt er unter Nummer 11, auch wenn er keine Entscheidungen der Stufe 3 vorbereitet. Ein Agent, der nur Lieferantenrechnungen vorsortiert, fällt nach unserer Einschätzung nicht ohne Weiteres darunter.
Information der Betroffenen
Artikel 13 und 14 DSGVO verlangen, dass Sie die Betroffenen über Zwecke und Rechtsgrundlage der Verarbeitung informieren. Die Informationspflicht entfällt nach Artikel 13 Absatz 4, soweit die Person die Informationen bereits hat; Artikel 14 Absatz 5 enthält weitere Ausnahmen, wenn die Daten nicht bei der Person selbst erhoben wurden.
KI-Verordnung: wo Sie das prüfen
Ob und wie Ihr Agent unter die KI-Verordnung fällt, prüfen Sie mit den vier Fragen im Beitrag zu den Pflichten des EU AI Act für Anwenderunternehmen. Der Beitrag ist für Unternehmen geschrieben, die KI einsetzen; bauen Sie den Agenten selbst oder lassen ihn bauen, beginnen Sie dort mit Frage 1: Dort klären Sie, ob Sie Anbieter sind; die Anbieterpflichten behandelt der Beitrag nur am Rande. Nehmen Sie dafür die Zweckbeschreibung und die Werkzeugliste des Agenten zur Hand; beide brauchen Sie ohnehin für die Tabelle oben.
Für den Mittelstand heißt das
Die Bauweise aus diesem Beitrag ist nach unserer Einschätzung auch die, die im Betrieb weniger Ärger macht: Ein Agent mit einem Zweck, eigenem Zugang und wenigen Werkzeugen lässt sich begründen, testen und abschalten. Freigabestufen verringern das Risiko, dass ein Fehler des Modells in folgenreichen Fällen unmittelbar bei einem Kunden oder Bewerber ankommt. Ein Protokoll je Durchlauf erleichtert Auskunftsanfragen und Fehleranalysen mit derselben Aufzeichnung.
Ein praktischer Einstieg: Nehmen Sie einen geplanten oder laufenden Agenten und gehen Sie die Prüffragen aus der Tabelle durch. Jede Frage, die Sie nicht aus der Dokumentation beantworten können, ist ein Punkt für die Umsetzung, bevor der Agent mehr Rechte bekommt. Setzen Sie Agenten zuerst dort ein, wo alle Aktionen in den Stufen 1 und 2 bleiben, und erweitern Sie den Handlungsspielraum erst, wenn Protokoll und Freigabeprozess im Alltag funktionieren.
Dieser Beitrag gibt einen Überblick nach bestem Wissen zum Stand 28. September 2026 und ersetzt keine Rechtsberatung. Maßgeblich ist der amtliche Text der DSGVO.
FAQ
Darf ein KI-Agent selbstständig E-Mails an Kunden versenden?
Das hängt vom Inhalt ab. Prüfen Sie zuerst, ob die E-Mail eine Entscheidung übermittelt, die für den Empfänger rechtliche Wirkung hat oder ihn ähnlich erheblich beeinträchtigt. Lehnt sie etwa einen Kreditantrag ab oder kündigt sie einen Vertrag, und hat der Agent diese Entscheidung ohne inhaltliche Prüfung durch einen Menschen getroffen, greift Artikel 22 DSGVO: Eine solche Entscheidung ist nur zulässig, wenn eine der Ausnahmen aus Absatz 2 vorliegt und Sie in den Fällen Vertrag und Einwilligung die Schutzmaßnahmen nach Absatz 3 treffen. Unabhängig davon muss die Verarbeitung der Kundendaten auf das für den Zweck notwendige Maß beschränkt sein und, soweit keine Ausnahme nach Artikel 13 Absatz 4 oder Artikel 14 Absatz 5 greift, in Ihren Datenschutzhinweisen stehen.
Reicht es, wenn ein Mitarbeiter Entscheidungen des Agenten mit einem Klick bestätigt?
Bei Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung nicht, wenn der Klick nur formal ist. Die Leitlinien der Artikel-29-Datenschutzgruppe, die der Europäische Datenschutzausschuss übernommen hat, verlangen dafür, dass eine Entscheidung nicht als ausschließlich automatisiert gilt, eine echte Aufsicht statt einer symbolischen Geste: Die Entscheidung soll eine Person treffen, die befugt und befähigt ist, sie zu ändern. Prüfen Sie deshalb, ob die freigebende Person die zugrunde liegenden Daten sieht und die Aktion tatsächlich ändern oder verwerfen kann.
Braucht jeder KI-Agent eine Datenschutz-Folgenabschätzung?
Nein. Artikel 35 DSGVO verlangt sie, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei einer systematischen und umfassenden Bewertung persönlicher Aspekte, die als Grundlage für Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Wirkung dient. Prüfen Sie zusätzlich die Liste nach Artikel 35 Absatz 4: Die Liste der Datenschutzkonferenz für den nicht-öffentlichen Bereich nennt den Einsatz künstlicher Intelligenz zur Verarbeitung personenbezogener Daten, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte zu bewerten, etwa im Kundendialog. Ein Agent, der nur Rechnungen von Lieferanten vorsortiert, erreicht die Schwelle nach unserer Einschätzung nicht ohne Weiteres.
Quellen
- Verordnung (EU) 2016/679 (DSGVO), amtlicher Text auf EUR-Lex: Art. 4 Nr. 2, Art. 5, 6, 9, 10, 13, 14, 15, 22, 25, 28, 30, 32, 35, 44 bis 46, Erwägungsgrund 71 (gelesen am 28. September 2026)
- Datenschutzkonferenz: Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (nicht-öffentlicher Bereich), Version 1.1 vom 17.10.2018, Nr. 11 (Einsatz künstlicher Intelligenz zur Steuerung der Interaktion mit Betroffenen)
- EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding, Scoring): automatisierte Entscheidung, wenn von einem automatisiert erstellten Wert maßgeblich abhängt, ob ein Vertrag begründet, durchgeführt oder beendet wird
- Artikel-29-Datenschutzgruppe: Leitlinien zu automatisierten Entscheidungen im Einzelfall einschließlich Profiling (WP251rev.01), deutsche Fassung
- Europäischer Datenschutzausschuss: Übernahme der DSGVO-Leitlinien der Artikel-29-Gruppe, darunter die Leitlinien zu automatisierten Entscheidungen und Profiling
- Europäische Kommission: Vorschlag COM(2025) 837 vom 19.11.2025 (Digital Omnibus), u. a. Neufassung von Art. 22 Abs. 1 und 2 DSGVO
- Europäisches Parlament, Legislative Train Schedule: Stand des Digital-Omnibus-Vorschlags zur DSGVO (nicht verabschiedet, letzte Aktualisierung 1. August 2026)
- Europäisches Parlament, Legislative Observatory: Verfahren 2025/0360(COD), Stand am 28. September 2026 „Awaiting committee decision“