Objavljen AI akt EU

12. julija 2024 je bil v Uradnem listu Evropske unije objavljena uredba Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil na področju umetne inteligence (AI Act). AI Act bo začel veljati 20 dni po objavi, torje 1. avgusta 2024.

Obseg

AI Act se uporablja za:

• ponudnike, ki dajejo na trg ali v uporabo sisteme umetne inteligence (AI) ali splošnonamenske modele umetne inteligence (GPAI) v EU, ne glede na to, ali so ti ponudniki ustanovljeni ali locirani v EU ali v tretji državi;
• uporabnike AI sistemov, ki imajo sedež ali se nahajajo v EU;
• ponudnike in uporabnike AI sistemov, ki imajo sedež ali se nahajajo v tretji državi, kjer se rezultat, ki ga proizvaja AI sistem, uporablja v EU;
• uvoznike in distributerje AI sistemov;
• proizvajalce izdelkov, ki dajejo na trg ali v uporabo AI sistem skupaj s svojim izdelkom in pod svojim imenom ali blagovno znamko;
• pooblaščene zastopnike ponudnikov, ki niso ustanovljeni v EU; in
• prizadete osebe v EU.

AI Act zagotavlja določene izjeme, vključno za sisteme, ki se uporabljajo izključno za vojaške in obrambne namene ter za raziskovalne namene.

Razvrstitev AI sistemov

AI Act uporablja pristop, ki temelji na tveganju, in prepoveduje določene prakse AI, vključno s kognitivno vedenjsko manipulacijo, družbenim točkovanjem, AI za prediktivno policijsko delo na podlagi profiliranja ter sisteme, ki uporabljajo biometrične podatke za razvrščanje ljudi glede na specifične kategorije, kot so rasa, vera ali spolna usmerjenost.

Nadalje, AI Act razvršča določene AI sisteme kot visoko tvegane in določa zahteve za visoko tvegane AI sisteme, vključno z obveznostmi različnih subjektov. Zlasti visoko tvegani AI sistemi, ki jih uporabljajo nekateri subjekti, ki zagotavljajo javne storitve, bi zahtevali oceno vpliva na temeljne pravice.

AI Act tudi ureja GPAI sisteme, pri čemer bodo sistemi, ki ne predstavljajo sistemskih tveganj, podvrženi določenim zahtevam, na primer glede preglednosti. Vendar bodo tisti s sistemskimi tveganji morali spoštovati dodatna pravila.

Izvrševanje in kazni

AI Act vzpostavlja naslednje upravne organe:

• AI urad znotraj Komisije za izvrševanje skupnih pravil po vsej EU;
• znanstveni panel neodvisnih strokovnjakov za podporo izvršilnim dejavnostim;
• AI odbor s predstavniki držav članic, ki svetujejo in pomagajo Komisiji in državam članicam pri dosledni in učinkoviti uporabi AI Act; in
• posvetovalni forum za deležnike, da zagotavljajo tehnično strokovno znanje AI odboru in Komisiji.

AI Act določa različne pragove za globe, ki so določene kot odstotek globalnega letnega prihodka podjetja v preteklem finančnem letu ali vnaprej določeni znesek, kar je višje. Mala in srednje velika podjetja (MSP) in zagonska podjetja so podvržena sorazmernim upravnim globam. Zlasti neskladnost s prepovedjo AI praks iz člena 5 AI Acta bi bila predmet upravnih glob do 35 milijonov evrov ali, če je kršitelj podjetje, do 7% njegovega skupnega svetovnega letnega prometa za preteklo finančno leto, kar je višje.

Naslednji koraki

AI Act bo v celoti uporabljiv 24 mesecev po začetku veljavnosti, razen za:

• prepovedi prepovedanih praks, ki se bodo uporabljale šest mesecev po začetku veljavnosti;
• kodekse ravnanja, ki se bodo uporabljali devet mesecev po začetku veljavnosti;
• pravila za splošno namensko AI, vključno z upravljanjem, ki se bodo uporabljala 12 mesecev po začetku veljavnosti; in
• obveznosti za visoko tvegane sisteme, ki se bodo uporabljale 36 mesecev po začetku veljavnosti.

Do AI Acta lahko dostopate tukaj, njegovo zgodovino pa si lahko preberete tukaj.