Onofhängeg Informatiounen iwwer Daten, KI an digital Reguléierung zu Lëtzebuerg

KI-Verordnung · Erkläert

DSFA a FRIA: déi zwou Impaktanalyse fir KI-Systemer zu Lëtzebuerg

D'DSFA vun der DSGVO deckt Risike fir perséinlech Donnéeën of, d'FRIA vun der KI-Verordnung all Grondrechter, fir verschidde Benotzer ab dem 2. Dezember 2027.

D'Wichtegst a Kuerz

  • Eng Dateschutz-Folgenofschätzung (DSFA) nom Artikel 35 vun der DSGVO ass virun all Veraarbechtung vu perséinleche Donnéeë néideg, déi wahrscheinlech en héicht Risiko mat sech bréngt, mat oder ouni KI.
  • D'Grondrechter-Folgenofschätzung (FRIA) nom Artikel 27 vun der KI-Verordnung gëllt just fir verschidde Benotzer vun Héichrisiko-KI-Systemer, virun der éischter Notzung, ab dem 2. Dezember 2027 fir Systemer aus dem Annex III.
  • D'FRIA betrëfft ëffentlech-rechtlech Organismen, privat Entitéiten, déi ëffentlech Servicer ubidden, an d'Benotzer vu KI fir d'Bonitéitsbewäertung vu Privatpersounen oder d'Tariffer an der Liewens- a Krankeversécherung.
  • D'CNPD huet hir Lëscht vun de Veraarbechtungen, déi eng DSFA brauchen, mat der Deliberatioun Nr. 34/2019 vum 6. Mäerz 2019 ugeholl.
  • Nom Gesetzesprojet Nr. 8476 géife Banken a Versécherungen d'Resultater vun hirer FRIA der CSSF respektiv dem Commissariat aux assurances mellen, déi meescht aner Benotzer der CNPD.

Lëtzebuerger Organisatiounen, déi KI mat perséinlechen Donnéeë benotzen, kënnen zwou verschiddenen Impaktanalysen ënnerleien. D’Dateschutz-Folgenofschätzung (DSFA) nom Artikel 35 vun der Dateschutz-Grondverordnung (DSGVO) gëllt haut schonn fir all Veraarbechtung vu perséinlechen Donnéeë mat héijem Risiko, mat oder ouni KI. D’Grondrechter-Folgenofschätzung (FRIA) nom Artikel 27 vun der KI-Verordnung betrëfft just verschidde Benotzer vun Héichrisiko-KI-Systemer, wéi Banken, déi d’Bonitéit vu Privatclientë bewäerten, a gëllt ab dem 2. Dezember 2027 fir Systemer aus dem Annex III.

Zwou Analysen, zwou Froen

Huelt eng Lëtzebuerger Bank, déi e Scoring-Modell fir Konsumkreditter keeft. Wie vun der Bank ass verantwortlech fir d’DSFA, a wie fir d’FRIA? Wann d’Äntwert ass „den DPO, wahrscheinlech fir allebéid“, dann huet d’Bank e bléine Fleck.

Déi zwee Dokumenter stellen net déi selwecht Fro. D’DSFA freet: Wat ka mat de Leit geschéien, well mir hir Donnéeën esou veraarbechten? D’FRIA freet: Wat ka mat hire Grondrechter geschéien, dorënner Net-Diskriminatioun, Accès zu Servicer an e wierksame Recours, well mir dëse KI-System an dësem Prozess asetzen? Déi éischt Fro geet iwwer Donnéeën. Déi zweet iwwer Decisiounen.

D’DSFA schützt déi betraffe Persounen. D’FRIA schützt d’Leit, iwwer déi e System decidéiert. Dacks sinn et déi selwecht. Net ëmmer.

Am Verglach

DSFA (DSGVO) FRIA (KI-Verordnung)
Rechtsbasis Art. 35 DSGVO Art. 27 KI-Verordnung
Wien All Verantwortleche fir eng Veraarbechtung Ëffentlech-rechtlech Organismen, privat Ubidder vun ëffentleche Servicer, Benotzer vu KI fir Kredit-Scoring an Tariffer an der Liewens- a Krankeversécherung
Ausléiser Veraarbechtung mat wahrscheinlech héijem Risiko Éischt Notzung vun engem Héichrisiko-KI-System aus dem Annex III (ausser Punkt 2, kritesch Infrastruktur)
Gëltegkeet Gëllt schonn Ab dem 2. Dezember 2027 fir den Annex III
Ëmfang Rechter a Fräiheeten, déi d’Dateveraarbechtung beréiert Grondrechter vun de Persounen a Gruppen, déi wahrscheinlech betraff sinn
Meldung Par défaut keng; virdrun d’CNPD consultéieren an de Fäll vum Art. 36 Resultater un d’Maartiwwerwaachungsautoritéit, mat engem Modell vum KI-Büro

Wéini eng DSFA néideg ass

Den Artikel 35(3) vun der DSGVO nennt dräi Fäll, an deenen eng DSFA ëmmer néideg ass: eng systematesch an ëmfaassend Bewäertung vu perséinlechen Aspekter mat automatiséierter Veraarbechtung, Profiling abegraff, op där Decisioune mat rechtlechem oder ähnlech staarkem Effekt baséieren; d’Veraarbechtung am grousse Stil vu besonnesche Kategorie vun Donnéeën oder vun Donnéeën iwwer strofrechtlech Veruerteelungen; an d’systematesch Iwwerwaachung am grousse Stil vun ëffentlech zougängleche Plazen.

Zu Lëtzebuerg huet d’CNPD eng eege Lëscht. Hir Deliberatioun Nr. 34/2019 vum 6. Mäerz 2019 nennt ënner anerem d’Kombinéiere vun Donnéeën, déi fir aner Zwecker gesammelt goufen, wann dat e rechtlechen oder ähnlech staarken Effekt huet, déi reegelméisseg a systematesch Kontroll vun den Aktivitéite vu Salariéen an d’systematesch Verfollegung vum Openthaltsuert vu Persounen. D’Lëscht ass net komplett: Fir alles anescht verweist d’CNPD op déi néng Critèrë vun den europäesche Leitlinnen.

KI-Projeten treffen dës Ausléiser dacks. En Tool, dat CVe sortéiert, en Dashboard iwwer d’Produktivitéit vun de Mataarbechter oder e Modell, dat Clientsdonnéeën aus verschiddene Quelle kombinéiert, kann haut schonn eng DSFA brauchen, Joere virun enger FRIA.

De Mindestinhalt steet am Artikel 35(7): eng Beschreiwung vun der Veraarbechtung an hiren Zwecker, eng Bewäertung vun Noutwennegkeet a Proportionalitéit, eng Bewäertung vun de Risiken an d’Moossnamen dogéint. De Verantwortleche freet säin Dateschutzbeoptragten ëm Rot.

Wéini eng FRIA néideg ass

D’FRIA huet en enken Ëmfang. Nom Artikel 27(1) muss se virun der éischter Notzung vun engem Héichrisiko-KI-System aus dem Annex III gemaach ginn, mee just vun zwee Gruppe vu Benotzer:

  • ëffentlech-rechtlech Organismen a privat Entitéiten, déi ëffentlech Servicer ubidden;
  • all Benotzer vu KI, fir d’Bonitéit vu Privatpersounen ze bewäerten oder hire Kredit-Score ze berechnen (Annex III Punkt 5(b), ouni d’Erkenne vu Bedruch), oder fir Risikobewäertung an Tariffer fir Privatpersounen an der Liewens- a Krankeversécherung (Punkt 5(c)).

Fir Lëtzebuerg zielt virun allem déi zweet Grupp: Banken, Konsumkreditgeber a Versécherungen.

D’Analyse beschreift de Prozess vum Benotzer, d’Dauer an d’Frequenz vun der Notzung, d’Kategorie vu Persounen a Gruppen, déi betraff kéinte sinn, déi konkret Risiken, d’Moossname fir mënschlech Opsiicht a wat geschitt, wann e Risiko agetrueden ass, mat interner Governance a Plainteprozeduren. Bei ähnleche Fäll däerf de Benotzer sech op eng méi fréi FRIA oder eng vum Fournisseur stäipen, mee muss se aktualiséieren, wa sech eppes ännert.

D’Resultater ginn un d’Maartiwwerwaachungsautoritéit. Nom Artikel 7 vum Gesetzesprojet Nr. 8476, deen den 23. Dezember 2024 deposéiert gouf, wier dat d’CSSF fir d’Betriber ënner hirer Opsiicht, de Commissariat aux assurances fir d’Versécherungen an d’CNPD als allgemeng Autoritéit. De Projet war beim Schreiwen nach net gestëmmt, d’Zoustännegkeete kënne sech also nach änneren.

Wou se sech iwwerschneiden

Déi gutt Noriicht: D’KI-Verordnung verlaangt net, datt d’Aarbecht zweemol gemaach gëtt. Den Artikel 27(4) gesäit vir, datt d’FRIA eng DSFA ergänzt, wann eng Flicht schonn doduerch erfëllt ass. Den Artikel 26(9) seet, datt de Benotzer d’Informatioune vum Fournisseur nom Artikel 13 fir seng DSFA notze muss.

An der Praxis kann een d’Beschreiwung vum System, d’Kategorie vu betraffene Persounen a vill Moossnamen eemol schreiwen. D’FRIA bréngt de Bléck iwwer d’Donnéeën eraus: Diskriminatioun vu Gruppen, d’Folge vun enger falscher Decisioun fir den Accès zu Kredit oder Versécherung, wéi e Client d’Resultat kann ufechten, a wien am Fachberäich de System stoppe kann.

Dee leschte Punkt ass entscheedend. D’DSFA läit meeschtens beim Dateschutz. D’FRIA beschreift, wéi e Geschäftsprozess e KI-System notzt, also muss de Verantwortleche vun deem Prozess se ënnerschreiwen. Ee System, ee benannte Verantwortlechen. Net den DPO, net d’IT, keng Aarbechtsgrupp.

Wat elo ze maachen ass

  1. KI-Usagen opzielen an déi markéieren, déi perséinlech Donnéeë veraarbechten an ënner d’Lëscht vun der CNPD oder den Artikel 35(3) falen. Si brauchen haut schonn eng DSFA.
  2. FRIA-Kandidaten identifizéieren: Kredit-Scoring vu Privatpersounen, Tariffer an der Liewens- a Krankeversécherung an all Héichrisiko-KI vun enger ëffentlecher Stell oder an engem ëffentleche Service. Den 2. Dezember 2027 aplangen.
  3. D’Fournisseure froen no der Notzungsuleedung nom Artikel 13 an no Analysen, déi se scho gemaach hunn. Dir braucht allebéid fir d’DSFA an d’FRIA.
  4. Ee gemeinsame Modell opbauen, deen d’DSFA iwwerhëlt an en FRIA-Deel iwwer betraffe Gruppen, mënschlech Opsiicht a Plainten derbäisetzt, mat engem benannte Verantwortlechen am Fachberäich pro System. Wien dës Struktur wëll préiwe loossen, ka mat enger onofhängeger Analys vun der eegener KI-Governance ufänken.
  5. De Gesetzesprojet Nr. 8476 op chd.lu verfollegen, fir ze wëssen, wéi eng Autoritéit Är FRIA-Meldung kritt.

Froen an Äntwerten

Ass eng FRIA datselwecht wéi eng DSFA?

Nee. D'DSFA kuckt op d'Risike vun der Veraarbechtung vu perséinlechen Donnéeën. D'FRIA kuckt op d'Risike fir all Grondrechter, wann en Héichrisiko-KI-System agesat gëtt, an hir Resultater ginn un d'Maartiwwerwaachungsautoritéit.

Kann een Dokument gläichzäiteg DSFA an FRIA sinn?

Deelweis. Nom Artikel 27(4) vun der KI-Verordnung ergänzt d'FRIA eng DSFA, wann dës schonn eenzel Flichten ofdeckt. D'Froen iwwer Grondrechter, déi d'DSFA net beäntwert, mussen awer trotzdeem behandelt ginn.

Ab wéini gëllt d'FRIA?

Zesumme mat deenen anere Héichrisiko-Flichten: ab dem 2. Dezember 2027 fir eegestänneg Systemer aus dem Annex III, wéi den Digital-Omnibus, d'Verordnung (EU) 2026/1744, et festleet.

Brauch eng Lëtzebuerger Bank eng FRIA fir hire Modell géint Bedruch?

Net op Basis vum Annex III Punkt 5(b), deen d'Erkenne vu Finanzbedruch ausschléisst. Eng DSFA ka mat der DSGVO awer néideg sinn, wann d'Veraarbechtung wahrscheinlech en héicht Risiko mat sech bréngt.

Quellen

  1. Verordnung (EU) 2024/1689 (KI-Verordnung) · EUR-Lex
  2. Verordnung (EU) 2026/1744 (Digital-Omnibus iwwer KI) · EUR-Lex
  3. Délibération n° 34/2019 du 6 mars 2019 (liste des traitements soumis à une AIPD) · CNPD
  4. Projet de loi n° 8476 – document de dépôt (23. Dezember 2024) · Chambre des Députés
  5. Article 27: Fundamental rights impact assessment for high-risk AI systems · artificialintelligenceact.eu
  6. Article 26: Obligations of deployers of high-risk AI systems · artificialintelligenceact.eu
  7. Annex III: High-risk AI systems referred to in Article 6(2) · artificialintelligenceact.eu
  8. Art. 35 DSGVO: Datenschutz-Folgenabschätzung · gdpr-info.eu
  9. Art. 36 DSGVO: Vorherige Konsultation · gdpr-info.eu

Geschriwwen an anhand vu Primärquelle kontrolléiert.