Inteligență artificială și poliție: cum vrea UE să scape de supravegherea în masă

Parlamentul European tocmai a votat  un raport din proprie inițiativă în care solicită garanții solide pentru a evita discriminarea și a respecta viața privată atunci când instrumentele cu inteligență artificială(IA) sunt folosite de agențiile de aplicare a legii pentru a-și îndeplini misiunea.

Europarlamantarii au cerut interzicerea utilizării de către poliție a tehnologiei de recunoaștere facială în locurile publice și a poliției predictive – o practică ce implică utilizarea instrumentelor de inteligență artificială în speranța profilării potențialilor infractori.

Deputații europeni au solicitat și interzicerea bazelor de date private de recunoaștere facială, precum cele utilizate de controversatul sistem Clearview IA, deja utilizat.

Propunerea Comisiei Europene de proiect de lege restricționează utilizarea identificării biometrice la distanță în locuri publice, cu excepția cazului în care este vorba de combaterea infracțiunilor „grave”, cum ar fi răpirile și terorismul.

Tehnologia Big Brother

Domeniul aplicațiilor care utilizează IA este vast: recunoaștere facială, identificarea și monitorizarea grupurilor, sisteme sofisticate de supraveghere pe cale acustică și video, analiză social media etc.

În numele eficienței acțiunii poliției, notează AFP,  inteligența artificială ar putea servi chiar ca forță de poliție predictivă asupra centrelor de detenție sau, în domeniul judiciar, instrumentele IA pot fi utilizate pentru a calcula probabilitățile de recidivă și pentru a determina probațiunea sau chiar sentința.

Acest câmp de posibilități deschide multe întrebări etice, respectarea dreptului la protecția vieții private, prelucrarea unor cantități mari de date fiind în centrul instrumentelor care utilizează inteligența artificială.

Care sunt cele mai mari riscuri?

Deputații menționează în textul lor că “utilizarea din ce în ce mai frecventă a IA nu își respectă întotdeauna promisiunile”, de exemplu cu privire la reducerea anumitor tipuri de infracțiuni și la luarea unor decizii mai obiective .

Mai ales că “instrumentele care utilizează inteligența artificială pot avea grade de fiabilitate foarte diferite și nu sunt conforme cu jurisprudența Uniunii Europene privind protecția datelor”.

În cazul poliției predictive, aleșii europeni recunosc că e posibil să “permită analiza seturilor de date în vederea identificării tiparelor infracționale, dar nu poate răspunde la întrebarea cauzalității și nu poate prezice în mod fiabil comportamentul oamenilor și, prin urmare, nu are cum să constituie singură o bază de intervenție”.

Ultimul risc major subliniat este o “încredere prea mare în natura aparent obiectivă a instrumentelor IA, care ar impinge forțele de ordine și justiția să nu ia în considerare posibilitatea ca aceste instrumente să fie incorente, incomplete, irelevante și discriminatorii”.

Drepturile fundamentale ca ghid

Prin urmare, deputații solicită interzicerea oricărei utilizări a IA incompatibilă cu drepturile omului, respectarea vieții private, nediscriminarea și controlul judiciar al proporționalității mijloacelor folosite de poliție.

“Deciziile finale trebuie să fie întotdeauna luate de o ființă umană, iar persoanele supuse sistemelor alimentate de IA trebuie să beneficieze de drepturi”, au adăugat europarlamentarii, cu ocazia votului de la Strasbourg.

Parlamentul European cere ca o evaluare obligatorie a impactului asupra drepturilor  omului să fie efectuată înainte de implementarea  oricărui sistem IA în scopuri de aplicare a legii sau în cele judiciare.