UE vrea să interzică utilizarea inteligenței artificiale pentru urmărirea oamenilor

În viitoarele sale reglementări pentru inteligența artificială (AI), Comisia Europeană dorește să interzică algoritmii invazivi care au ca scop stabilirea unei supravegheri pe scară largă sau manipularea comportamentului uman. Pe de altă parte, această excludere nu se va aplica organismelor publice care invocă motive de securitate.

Ca parte a proiectului de regulament privind o „abordare europeană a inteligenței artificiale”, executivul european propune interzicerea tehnologiilor de AI care sunt utilizate pentru „supravegherea fără discriminare aplicată în mod generalizat tuturor persoanelor fizice fără diferențiere”.

Textul detaliază astfel de metode de supraveghere precum cele care includ „monitorizarea și urmărirea persoanelor în medii digitale sau fizice, precum și agregarea și analiza automatizată a datelor cu caracter personal provenind din diverse surse”.

În plus, Comisia intenționează să interzică utilizarea aplicațiilor de AI care încalcă „valorile Uniunii sau încalcă drepturile omului”. Acestea includ sisteme AI care manipulează comportamentul uman și sisteme AI predictive care vizează vulnerabilitățile.

Amenzile pentru încălcarea acestor interdicții ar putea reprezenta până la 4% din cifra de afaceri anuală unei companii la nivel mondial.

Toate bune și frumoase, dar…

Cu toate acestea, proiectul prevede că aceste interdicții nu se vor aplica guvernelor UE și autorităților publice atunci când vor fi implementate „pentru a păstra securitatea publică”.

Aceasta înseamnă că guvernele UE pot justifica în viitor utilizarea aplicațiilor AI invazive din motive de securitate. Pentru moment, nu s-a dat nici o definiție a acestui concept. De obicei, vizează criminalitatea organizată sau terorismul.

Un Mao digital, un Stalin Big Brother

Proiectul interzice, de asemenea, practica „ratingului social” în aplicațiile AI, o tehnologie infamă aplicată de guvernul Chinei pentru supravegherea populației.

Cu ajutorul inteligenței artificiale, China a inventat un nou totalitarism: in funcție de comportamentul cetățenilor, așa numitul „sistem de credit social” stabilește, via AI, ce au voie și nu să facă cetățenii, ce au voie să cumpere sau nu, unde au voie să călătorească sau nu etc.

Un volum incredibil de date (biometrie, GPS, recunoaștere facială, ADN etc) a generat o monitorizare totală și permanentă a populației Chinei.

Rusia se apropie cu pași repezi de această nouă formă digitală de totalitarism. La Moscova funcționează unul din cel mai mare sistem de supraveghere video din lume iar recunoașterea facială se aplică în metrou și la casele supermarketurilor.

Autoritățile invocă măsuri de securitate dar criticii afirmă că aceste tehnologii, care se află sub controlul poliției, au scopul de a submina democrația, opozanții regimului și consolidarea mâinii de fier a Kremlinului pentru a controla totul.

Un Consiliu european pentru inteligența artificială

În plus, aplicațiile AI cu risc ridicat care ar putea fi supuse noilor cerințe de evaluare a conformității de către terți includ cele „utilizate pentru identificarea biometrică la distanță a persoanelor în spații accesibile publicului”. Care, prin definiție, ar acoperi și tehnologia de recunoaștere facială – un domeniu în care Comisia a considerat anterior o interdicție temporară.

Unele aplicații cu risc ridicat le includ și pe cele utilizate ca componente de siguranță în „rețelele publice de infrastructură” critice, inclusiv drumuri, apă, gaz și energie electrică.

Există cerințe de conformitate de autoevaluare pentru anumite tehnologii utilizate în serviciile de primă intervenție de urgență, procesele de recrutare și sistemele „utilizate pentru a determina accesul sau atribuirea persoanelor la instituții de învățământ și formare profesională” .

În plus, Comisia descrie, de asemenea, crearea unui „Consiliu european pentru inteligență artificială”, format dintr-un reprezentant din fiecare dintre cele 27 de țări ale UE și un reprezentant al Comisiei, precum și din supraveghetorul european de protecție a datelor.

Consiliul va fi responsabil pentru „ emiterea de recomandări și avize relevante către Comisie, în ceea ce privește lista practicilor de inteligență artificială interzise și lista sistemelor de AI cu risc ridicat”.

Propunerea, care se așteaptă să fie prezentată de vicepreședintele executiv al Comisiei pentru domeniul digital, Margrethe Vestager, la 21 aprilie, urmează cartea albă a Comisiei privind inteligența artificială de anul trecut, care a stabilit bazele pentru noi reguli împotriva tehnologiilor AI considerate a fi „ cu risc ridicat” .

Ursula merge mai departe

Mai recent, o scrisoare obținută de Euractiv detaliază modul în care președintele Comisiei Europene, Ursula von der Leyen, îi asigura pe deputați că executivul va „merge mai departe” în introducerea unor reguli mai solide pentru tehnologiile de informații care prezintă un risc pentru drepturile fundamentale.

Declarația urmează unei scrisori a mai multor părți interesate din partea a 116 deputați care solicită Comisiei să abordeze riscurile legate de drepturile fundamentale pe care le prezintă aplicațiile AI cu risc ridicat.

Săptămâna viitoare va fi publicat noul regulament al Comisiei cu privire la AI iar parlamentarii UE vor avea din nou ocazia să-și facă cunoscute opiniile cu privire la poziția UE față de tehnologiile AI.