EDPB in EDPS: skupno mnenje o predlogu AI uredbe
EDPB in EDPS sta sprejela skupno mnenje o predlogu uredbe, ki določa usklajena pravila o umetni inteligenci (AI).
EDPB in EDPS močno pozdravljata cilj reševanja uporabe sistemov AI v Evropski uniji, vključno z uporabo sistemov AI s strani institucij, organov ali agencij EU. Hkrati pa sta oba izrazila zaskrbljenost zaradi izključitve mednarodnega sodelovanja na področju pregona kaznivih dejanj.
EDPB in EDPS prav tako poudarjata, da je treba izrecno pojasniti, da obstoječa zakonodaja EU za varstvo podatkov velja za vsako obdelavo osebnih podatkov, ki sodi v področje uporabe uredbe AI.
Medtem ko EDPB in EDPS pozdravljata t. i. “risk-based” pristop, obenem tudi opozarjata, da je treba pojem “tveganje za temeljne pravice” uskladiti z okvirom EU za varstvo osebnih podatkov. EDPB in EDPS priporočata, da se ocenijo in ublažijo tudi družbena tveganja za skupine posameznikov. Poleg tega se strinjata s predlogom, da klasifikacija sistema AI kot visoko tveganje ne pomeni nujno, da je potem ta zakonit sam po sebi. EDPB in EDPS prav tako menita, da je skladnost s pravnimi obveznostmi, ki izhajajo iz zakonodaje Unije – vključno z varstvom osebnih podatkov – predpogoj za vstop na evropski trg.
Ob upoštevanju izjemno visokih tveganj, ki jih predstavlja biometrična identifikacija posameznikov na daljavo v javno dostopnih prostorih, EDPB in EDPS zahtevata splošno prepoved kakršne koli uporabe AI za avtomatizirano prepoznavo človeških značilnosti, kot so prepoznava obrazov, hoja, prstni odtisi, DNK, glas, in drugi biometrični ali vedenjski signali v kateremkoli kontekstu. Podobno priporočata prepoved sistemov AI, ki bi z uporabo biometričnih podatkov posameznike kategorizirali na temelju etnične pripadnosti, spola, politične ali spolne usmerjenosti ali iz drugih razlogov, na katerih je diskriminacija prepovedana v skladu s členom 21 Listine o temeljnih pravicah. Poleg tega menita, da je uporaba AI za namen sklepanja o čustvih posameznika zelo nezaželena in jo je treba prepovedati, razen zelo določenih primerov, kot so nekateri zdravstveni nameni.
“Uvajanje oddaljene biometrične identifikacije v javno dostopnih prostorih pomeni konec anonimnosti na teh mestih. Ideje, kot so prepoznavanje obraza v živo, posegajo v temeljne pravice in svoboščine v tolikšni meri, da lahko postavljajo pod vprašaj bistvo teh pravic in svoboščin. To zahteva takojšnjo uporabo previdnostnega pristopa. Splošna prepoved uporabe prepoznavanja obraza na javno dostopnih območjih je potrebno izhodišče, če želimo ohraniti naše svoboščine in ustvariti človeško-centrični pravni okvir za AI. Predlagana uredba bi morala prepovedati tudi vse vrste uporabe AI za socialno točkovanje, saj je proti temeljnim vrednotam EU in lahko privede do diskriminacije.”
Andrea Jelinek, EDPB & Wojciech Wiewiórowski, EDPS
EDPB in EDPS dodatno pozdravljata dejstvo, da predlog imenuje EDPS kot pristojni organ in regulator za nadzor institucij, agencij in organov Unije. Vendar pa je treba vlogo in naloge EDPS dodatno pojasniti, zlasti ko gre za njeno vlogo organa za nadzor trga.
EDPB in EDPS opozarjata, da organi za varstvo podatkov (DPA) že nadzorujejo varstvo osebnih podatkov v AI sistemih. Posledično bi imenovanje DPA, potem ko bodo nacionalni nadzorni organi zagotovili bolj usklajen regulativni pristop, prispeval k dosledni in enotni razlagi obdelave osebnih podatkov po vsej EU. Zato EDPB in EDPS menita, da bi bilo treba DPA-je imenovati za nacionalne nadzorne organe v skladu s členom 59 predloga.
