Ca tehnologie, inteligența artificială (IA) a fost susținută ca un “glonț de argint” pentru multe dintre problemele societății. Dar există o parte întunecată: pandemia a deschis ușa colectării datelor oamenilor și urmăririi lor la o scară inimaginabilă.
Aplicațiile inteligenței artificiale se bazează pe munți de date pentru a „instrui” algoritmii să recunoască tiparele și a lua decizii. O mare parte din acestea sunt recoltate de la consumatori fără ca ei să-și dea seama. Giganții internetului urmăresc click-urile noastre pentru a stoca preferințele pentru produse, știri sau reclame.
Compania de recunoaștere facială Clearview strânge imagini de pe site-uri precum Facebook și YouTube. Facebook a anunțat recent că va începe să antreneze modeleIe IA cu videoclipuri publice pe care utilizatorii le-au încărcat pe platformă.
Dar s-a mai întâmplat ceva: odată cu pandemia, algoritmii nu sunt doar alimentați de supraveghere – sunt folosiți în serviciul supravegherii.
Un Big Brother perfect
Criza Covid – și nevoia de date rapide privind sănătatea publică – a deschis ușa colectării și urmăririi populațiilor pe o scară care ar fi fost aproape de neimaginat cu un an în urmă, notează Politico.Guvernele au folosit informațiile despre telefoanele mobile pentru a urmări mișcările din Uniunea Europeană.
Companiile au instalat camere dotate cu IA pentru a verifica dacă lucrătorii și clienții respectă regulile de distanțare socială. Franța a lansat tehnologia de recunoaștere facială în transportul public pentru a monitoriza purtarea măștii.
Se dezvoltă și algoritmi similari pentru așa-numita recunoaștere biometrică, identificând oamenii pe baza aspectului lor, a sunetului sau a mersului.
Există un „impuls din ce în ce mai mare în câmpurile biometrice de a identifica emoțiile oamenilor”, a spus Ella Jakubowska , membră a grupului pentru drepturi digitale EDRi, care a militat pentru interzicerea acestor tehnologii de supraveghere pe motiv că “nu se bazează serios pe nicio știință credibilă”.
De asemenea, activiștii au declanșat alarma cu privire la răul pe care aceste sisteme îl pot provoca grupurilor marginalizate.
„Este destul de clar în modelele pe care le vedem în toată Europa, utilizarea acestor tehnologii stabilește stereotipuri și idei discriminatorii cu privire la cine este mai probabil să fie suspect și în cine nu se poate avea încredere, într-un mod care este cu adevărat periculos”, explică Jakubowska.
Reglementarea tehnologiei de urmărire, un basm pentru naivi
Cu toate acestea, până acum, tehnologia IA a scăpat în mare parte de reglementare. În prezent, Europa dezbate reguli privind recunoașterea facială live. Criticii – inclusiv cei din Comitetul european pentru protecția datelor(CEPD) – spun că acest lucru va duce la supravegherea în masă.
În aprilie, Comisia Europeană a propus interzicerea recunoașterii faciale la distanță în locurile publice pentru aplicarea legii „în principiu”, dar a lăsat un spațiu pentru ca statele membre să poată utiliza tehnologia.
Astfel,propunerea va rămâne încuiată în birourile de la Bruxelles. În fond, cum să reglementezi tehnologiile de supraveghere, când taman UE le acceptă tacit?
Doar pentru naivi mai funcționează mitul că inteligența artificială este un instrument obiectiv și neutru. Nu este. IA a devenit o rețea majoră de supraveghere, implementată după bunul plac al creatorilor săi.