DSFA und Grundrechte-Folgenabschätzung: zwei Prüfungen für KI-Systeme in Luxemburg
Die DSFA der DSGVO erfasst Risiken für personenbezogene Daten, die FRIA der KI-Verordnung alle Grundrechte, für bestimmte Betreiber ab dem 2. Dezember 2027.
Das Wichtigste
- Eine Datenschutz-Folgenabschätzung (DSFA) nach Artikel 35 DSGVO ist vor jeder Verarbeitung personenbezogener Daten nötig, die voraussichtlich ein hohes Risiko mit sich bringt, mit oder ohne KI.
- Die Grundrechte-Folgenabschätzung (FRIA) nach Artikel 27 der KI-Verordnung gilt nur für bestimmte Betreiber von Hochrisiko-KI-Systemen, vor der ersten Verwendung, ab dem 2. Dezember 2027 für Systeme aus Anhang III.
- Die FRIA betrifft Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von KI für die Kreditwürdigkeitsprüfung natürlicher Personen oder die Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung.
- Die Luxemburger Liste der DSFA-pflichtigen Verarbeitungen hat die CNPD mit der Beratung Nr. 34/2019 vom 6. März 2019 angenommen.
- Nach dem Gesetzentwurf Nr. 8476 würden Banken und Versicherer ihre FRIA-Ergebnisse der CSSF bzw. dem Commissariat aux assurances melden, die meisten anderen Betreiber der CNPD.
Luxemburger Organisationen, die KI mit personenbezogenen Daten einsetzen, können zwei verschiedenen Folgenabschätzungen unterliegen. Die Datenschutz-Folgenabschätzung (DSFA) nach Artikel 35 der Datenschutz-Grundverordnung gilt bereits heute für jede Verarbeitung personenbezogener Daten mit hohem Risiko, mit oder ohne KI. Die Grundrechte-Folgenabschätzung (FRIA) nach Artikel 27 der KI-Verordnung betrifft nur bestimmte Betreiber von Hochrisiko-KI-Systemen, etwa Banken, die die Kreditwürdigkeit von Privatkunden bewerten, und gilt ab dem 2. Dezember 2027 für Systeme aus Anhang III.
Zwei Prüfungen, zwei Fragen
Nehmen Sie eine Luxemburger Bank, die ein Kreditscoring-Modell für Verbraucherkredite einkauft. Wer in der Bank verantwortet die DSFA, und wer wird die FRIA verantworten? Lautet die Antwort „der Datenschutzbeauftragte, vermutlich beides“, hat die Bank eine Lücke, die nur darauf wartet, aufzufallen.
Die beiden Dokumente stellen unterschiedliche Fragen. Die DSFA fragt: Was kann Menschen passieren, weil wir ihre Daten auf diese Weise verarbeiten? Die FRIA fragt: Was kann ihren Grundrechten passieren, darunter Nichtdiskriminierung, Zugang zu Leistungen und wirksamer Rechtsbehelf, weil wir dieses KI-System in diesem Prozess einsetzen? Die erste Frage betrifft Daten. Die zweite betrifft Entscheidungen.
Die DSFA schützt die betroffenen Personen. Die FRIA schützt die Menschen, über die ein System entscheidet. Oft sind das dieselben. Nicht immer.
Im Vergleich
| DSFA (DSGVO) | FRIA (KI-Verordnung) | |
|---|---|---|
| Rechtsgrundlage | Art. 35 DSGVO | Art. 27 KI-Verordnung |
| Wer | Jeder Verantwortliche | Einrichtungen des öffentlichen Rechts, private Erbringer öffentlicher Dienste, Betreiber von KI für Kreditscoring und Tarifierung in der Lebens- und Krankenversicherung |
| Auslöser | Verarbeitung mit voraussichtlich hohem Risiko | Erste Verwendung eines Hochrisiko-KI-Systems aus Anhang III (außer Nummer 2, kritische Infrastruktur) |
| Geltung | Gilt bereits | Ab 2. Dezember 2027 für Anhang III |
| Umfang | Rechte und Freiheiten, die die Datenverarbeitung berührt | Grundrechte der voraussichtlich betroffenen Personen und Gruppen |
| Meldung | Standardmäßig keine; vorherige Konsultation der CNPD in den Fällen des Art. 36 | Ergebnisse an die Marktüberwachungsbehörde, mit einer Vorlage des Büros für Künstliche Intelligenz |
Wann eine DSFA nötig ist
Artikel 35 Absatz 3 DSGVO nennt drei Fälle, in denen eine DSFA immer erforderlich ist: die systematische und umfassende Bewertung persönlicher Aspekte auf Grundlage automatisierter Verarbeitung einschließlich Profiling, die als Grundlage für Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Wirkung dient; die umfangreiche Verarbeitung besonderer Kategorien von Daten oder von Daten über strafrechtliche Verurteilungen; und die systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche.
In Luxemburg ergänzt die CNPD eine eigene Liste. Ihre Beratung Nr. 34/2019 vom 6. März 2019 nennt unter anderem das Zusammenführen oder Abgleichen von Daten, die für unterschiedliche Zwecke erhoben wurden, wenn es Rechtswirkung oder ähnlich erhebliche Wirkung entfaltet, die regelmäßige und systematische Kontrolle der Tätigkeiten von Beschäftigten und die systematische Verfolgung des Aufenthaltsorts von Personen. Die Liste ist nicht abschließend: Für alles Weitere verweist die CNPD auf die neun Kriterien der europäischen Leitlinien.
KI-Projekte treffen diese Auslöser häufig. Ein Tool zur Vorauswahl von Lebensläufen, ein Produktivitäts-Dashboard für Mitarbeitende oder ein Modell, das Kundendaten aus mehreren Quellen zusammenführt, kann schon heute eine DSFA erfordern, Jahre vor jeder FRIA.
Den Mindestinhalt legt Artikel 35 Absatz 7 fest: eine Beschreibung der Verarbeitung und ihrer Zwecke, eine Bewertung von Notwendigkeit und Verhältnismäßigkeit, eine Bewertung der Risiken und die geplanten Abhilfemaßnahmen. Der Verantwortliche holt den Rat seines Datenschutzbeauftragten ein.
Wann eine FRIA nötig ist
Die FRIA hat einen engen Anwendungsbereich. Nach Artikel 27 Absatz 1 ist sie vor der ersten Verwendung eines Hochrisiko-KI-Systems aus Anhang III durchzuführen, aber nur von zwei Gruppen von Betreibern:
- Einrichtungen des öffentlichen Rechts und privaten Einrichtungen, die öffentliche Dienste erbringen;
- jedem Betreiber von KI zur Kreditwürdigkeitsprüfung natürlicher Personen oder zur Ermittlung ihrer Kreditpunktzahl (Anhang III Nummer 5 Buchstabe b, ohne Betrugserkennung) oder zur Risikobewertung und Preisbildung für natürliche Personen in der Lebens- und Krankenversicherung (Buchstabe c).
Für Luxemburg zählt vor allem die zweite Gruppe. Sie erfasst Banken, Verbraucherkreditgeber und Versicherer.
Die Abschätzung beschreibt den Prozess des Betreibers, Zeitraum und Häufigkeit der Verwendung, die voraussichtlich betroffenen Kategorien von Personen und Gruppen, die konkreten Schadensrisiken, die Maßnahmen der menschlichen Aufsicht und das Vorgehen, wenn Risiken eintreten, einschließlich interner Governance und Beschwerdeverfahren. Betreiber können sich in ähnlichen Fällen auf eine frühere oder vom Anbieter durchgeführte FRIA stützen, müssen sie aber aktualisieren, wenn sich ein Element ändert.
Die Ergebnisse gehen an die Marktüberwachungsbehörde. Nach Artikel 7 des Gesetzentwurfs Nr. 8476, eingereicht am 23. Dezember 2024, wäre das die CSSF für die von ihr beaufsichtigten Unternehmen, das Commissariat aux assurances für Versicherer und die CNPD als Standardbehörde. Zum Zeitpunkt der Veröffentlichung war der Entwurf noch nicht verabschiedet, die Zuständigkeiten können sich also noch ändern.
Wo sie sich überschneiden
Die gute Nachricht: Die KI-Verordnung verlangt keine doppelte Arbeit. Artikel 27 Absatz 4 sieht vor, dass die FRIA eine DSFA ergänzt, wenn eine Pflicht bereits durch diese erfüllt ist. Artikel 26 Absatz 9 fügt hinzu, dass Betreiber die Informationen des Anbieters nach Artikel 13 für ihre DSFA verwenden.
In der Praxis lassen sich Systembeschreibung, Kategorien betroffener Personen und viele Abhilfemaßnahmen einmal schreiben. Die FRIA ergänzt den Blick über die Daten hinaus: Diskriminierung von Gruppen, die Folgen einer falschen Entscheidung für den Zugang zu Kredit oder Versicherung, wie Kunden das Ergebnis anfechten können und wer im Fachbereich das System stoppen kann.
Der letzte Punkt ist entscheidend. Die DSFA liegt meist beim Datenschutz. Die FRIA beschreibt, wie ein Geschäftsprozess ein KI-System nutzt, also muss der Verantwortliche dieses Prozesses sie unterschreiben. Ein System, ein benannter Verantwortlicher. Nicht der Datenschutzbeauftragte, nicht die IT, keine Arbeitsgruppe.
Was jetzt zu tun ist
- KI-Anwendungsfälle erfassen und jene markieren, die personenbezogene Daten verarbeiten und unter die CNPD-Liste oder Artikel 35 Absatz 3 fallen. Sie brauchen schon heute eine DSFA.
- FRIA-Kandidaten bestimmen: Kreditscoring von Privatpersonen, Tarifierung in der Lebens- und Krankenversicherung und jede Hochrisiko-KI einer öffentlichen Stelle oder in einem öffentlichen Dienst. Den 2. Dezember 2027 einplanen.
- Anbieter fragen nach der Betriebsanleitung nach Artikel 13 und nach bereits durchgeführten Abschätzungen. Beides brauchen Sie für DSFA und FRIA.
- Eine gemeinsame Vorlage bauen, die die DSFA aufnimmt und um einen FRIA-Teil zu betroffenen Gruppen, menschlicher Aufsicht und Beschwerden ergänzt, mit einem benannten fachlichen Verantwortlichen je System. Wer diese Struktur prüfen lassen möchte, kann eine unabhängige Prüfung der eigenen KI-Governance nutzen.
- Den Gesetzentwurf Nr. 8476 auf chd.lu verfolgen, um zu wissen, welche Behörde Ihre FRIA-Meldung erhält.
Fragen & Antworten
Ist eine FRIA dasselbe wie eine DSFA?
Nein. Die DSFA nach der DSGVO prüft Risiken aus der Verarbeitung personenbezogener Daten. Die FRIA nach der KI-Verordnung prüft Risiken für alle Grundrechte aus dem Einsatz eines Hochrisiko-KI-Systems, und ihre Ergebnisse gehen an die Marktüberwachungsbehörde.
Kann ein Dokument zugleich DSFA und FRIA sein?
Teilweise. Nach Artikel 27 Absatz 4 der KI-Verordnung ergänzt die FRIA eine DSFA, wenn diese bereits einzelne Pflichten abdeckt. Die Grundrechtsfragen, die die DSFA nicht beantwortet, müssen trotzdem behandelt werden.
Ab wann gilt die FRIA-Pflicht?
Zusammen mit den übrigen Hochrisiko-Pflichten: ab dem 2. Dezember 2027 für eigenständige Systeme aus Anhang III, wie es der Digital-Omnibus, die Verordnung (EU) 2026/1744, festlegt.
Braucht eine Luxemburger Bank eine FRIA für ihr Betrugserkennungsmodell?
Nicht nach Anhang III Nummer 5 Buchstabe b, der KI zur Aufdeckung von Finanzbetrug ausnimmt. Eine DSFA kann nach der DSGVO dennoch nötig sein, wenn die Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung) · EUR-Lex
- Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI) · EUR-Lex
- Délibération n° 34/2019 du 6 mars 2019 (liste des traitements soumis à une AIPD) · CNPD
- Projet de loi n° 8476 – document de dépôt (23. Dezember 2024) · Chambre des Députés
- Article 27: Fundamental rights impact assessment for high-risk AI systems · artificialintelligenceact.eu
- Article 26: Obligations of deployers of high-risk AI systems · artificialintelligenceact.eu
- Annex III: High-risk AI systems referred to in Article 6(2) · artificialintelligenceact.eu
- Art. 35 DSGVO: Datenschutz-Folgenabschätzung · gdpr-info.eu
- Art. 36 DSGVO: Vorherige Konsultation · gdpr-info.eu
Geschrieben und anhand von Primärquellen geprüft.