Legea Inteligenței Artificiale a fost adoptată. Interdicții, obligații și riscuri
Parlamentul European a adoptat azi un act normativ considerat piatră de hotar: Legea Inteligenței Artificiale care asigură siguranța și respectă drepturile fundamentale. Actul normativ vizează protejarea drepturilor fundamentale, a democrației, a statului de drept și a mediului împotriva IA cu risc ridicat. În același timp, urmărește să stimuleze inovarea și să stabilească Europa ca lider în domeniul IA. Normele instituie obligații pentru utilizarea IA pe baza riscurilor potențiale și a nivelului de impact.
Aplicații interzise
Legea interzice anumite aplicații AI care afectează drepturile cetățenilor:
- sistemele de identificare biometrică bazate pe caracteristici specifice,
- blurarea nedirecționată a imaginilor faciale de pe internet,
- înregistrările CCTV pentru bazele de date de recunoaștere facială, recunoașterea stărilor de conflict la locul de muncă și în școli,
- evaluarea socială (IA poate stabili diverse „ranguri” pentru cetățeni, în funcție de site-uri accesate și preferințe exprimate),
- poliția predictivă (folosită de forțele de ordine pentru identificarea unei potențiale activități infracționale) bazată exclusiv pe profilarea unei persoane sau evaluarea caracteristicilor acesteia,
- IA care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Excepții
Utilizarea sistemelor de identificare biometrică (RBI) de către poliție este interzisă, în principiu, cu excepția situațiilor strict definite. "Real-time" RBI poate fi desfășurat numai în condiții stricte de siguranță, de exemplu, limitat în timp și domeniul geografic, cu autorizare judiciară sau administrativă prealabilă. Astfel de utilizări implică, de exemplu, căutarea unei persoane dispărute sau prevenirea unui atac terorist. Aceste activități sunt considerate cu risc ridicat și necesită, de asemenea, autorizare judiciară și trebuie să fie legate de o infracțiune.
Obligații la utilizarea sistemelor IA cu risc ridicat
De asemenea, au fost convenite obligații clare pentru alte sisteme AI cu risc ridicat, care ar putea avea un impact semnificativ asupra sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept. Printre utilizările cu risc ridicat se numără cele din:
- infrastructurile critice,
- educația și formarea profesională, ocuparea forței de muncă,
- serviciile esențiale (de exemplu, asistența medicală, serviciile bancare),
- anumite sisteme de aplicare a legii,
- migrația și gestionarea frontierelor,
- justiția și procesele democratice (de exemplu, influențarea alegerilor).
Potrivit Legii IA, cetățenii vor avea dreptul să facă reclamații cu privire la sistemele IA și să primească explicații cu privire la deciziile bazate pe sisteme IA cu risc ridicat care le afectează drepturile.
Cerințe de transparență
Sistemele IA cu scop general (GPIA) și modelele pe care se bazează trebuie să îndeplinească anumite cerințe de transparență și să respecte legislația UE privind drepturile de autor. Modelele GPIA mai puternice care ar putea prezenta riscuri sistemice se vor confrunta cu cerințe suplimentare, inclusiv evaluarea modelului, evaluarea riscurilor și raportarea incidentelor. În plus, imaginea artificială sau manipulată, conținutul audio sau video ("deepfakes") trebuie etichetate în mod clar ca atare.
Ce urmează
Textul Legii Inteligenței Artificiale a fost adoptat azi de Parlamentul European cu 523 de voturi pentru, 46 împotrivă și 49 de abțineri și urmează aprobarea finală a Consiliului European. Prevederile legii se vor aplica integral la 24 de luni de la intrarea în vigoare, cu excepția interdicțiilor privind:
- practici interzise, care se vor aplica la 6 luni de la intrarea în vigoare;
- coduri de practică – 9 luni de la intrarea în vigoare;
- norme IA de uz general, inclusiv guvernanță - 12 luni de la intrarea în vigoare;
- obligații pentru sistemele cu risc ridicat - 36 de luni.
Coraportorul Comisiei pentru libertăți civile Dragoș Tudorache a declarat: „UE a obținut rezultate. Am legat conceptul de inteligență artificială de valorile fundamentale care stau la baza societăților noastre. Cu toate acestea, vom avea mult de lucru în afara legii IA în sine. IA ne va obliga să regândim contractul social în centrul democrațiilor noastre, al modelelor noastre educaționale, al piețelor forței de muncă și al modului în care se desfășoară operațiunile militare. Legea IA reprezintă un punct de plecare pentru un nou model de guvernanță construit în jurul tehnologiei. Acum trebuie să ne concentrăm pe punerea în practică a acestei legi”.
