Drepturile omului, mai presus de noile tehnologii

Ce ne rezervă viitorul tehnologiilor emergente și al inteligenței artificiale (IA) din punctul de vedere al drepturilor omului?

Limitele inteligenței artificiale și ale altor tehnologii în curs de dezvoltare reprezintă una dintre cele mai urgente probleme cu care trebuie să se confrunte societatea, guvernele și sectorul corporatist.În ultimele luni, notează Modern Diplomacy, am fost cu toții martori și am urmărit progresele fantastice în domeniul IA generativă, ChatGPT și alte programe – acum ușor accesibile unui public mai larg.

Inteligența artificială ar putea stimula progresul științific, democratiza accesul la cunoștințe, îmbunătăți previziunea și prognoza strategică și crește capacitatea de procesare a volumelor masive de date. Însă, pentru a realiza pe deplin acest potențial, trebuie să stabilim limite și să ne asigurăm că avantajele depășesc pericolele.

Limitele înseamnă reglementare. Orice soluție sau legislație trebuie să se bazeze pe respectarea drepturilor omului pentru a fi adecvată și pentru a pune oamenii în centrul dezvoltării noilor tehnologii.

Două tendințe influențează în prezent evoluția legislației IA. Prima se bazează doar pe riscuri și se concentrează foarte mult pe autoreglementare și pe autoevaluarea inginerilor IA. Se pune accentul pe identificarea și minimizarea riscurilor pentru a obține rezultate, mai degrabă decât pe reguli specifice. Această strategie conferă sectorului privat o mulțime de responsabilități.

A doua tendință este cea alternativă, care incorporează principiile drepturilor omului pe tot parcursul procesului de colectare și selecție a datelor, proiectării, dezvoltării, implementării și utilizării modelelor, instrumentelor și serviciilor produse. Există motive: inteligența artificială poate sprijini un regim autoritar. Este capabilă să tragă cu armament autonom mortal. Poate sta la baza unor sisteme tot mai puternice de control, monitorizare și cenzură societală. De exemplu, tehnologia IA poate fi utilizată pentru supravegherea în masă.

S-a stabilit deja că sistemele de inteligență artificială implementate în sistemul de justiție penală pentru a prevedea viitoarele activități ilegale consolidează inegalitatea și pun în pericol drepturile, inclusiv prezumția de nevinovăție. Cu toate acestea, factorii de decizie politică și dezvoltatorii IA nu au răspuns suficient sau rapid la aceste îngrijorări.

Atât guvernele, cât și companiile Big Tech trebuie să ia măsuri imediate. Organizația Națiunilor Unite poate fi crucială pentru a reuni părțile esențiale la nivel global și pentru a oferi îndrumări privind progresele înregistrate. Nu mai este timp de pierdut.

Mai ales politicienii să acorde atenție utilizării IA în serviciile publice și private, inclusiv în justiție, aplicarea legii, migrație, protecție socială și servicii financiare, unde există un risc mai mare de abuz de autoritate sau de invadare a vieții private.

Legile trebuie să impună evaluări ale amenințărilor la adresa drepturilor omului și ale efectelor sistemelor de inteligență artificială înainte, în timpul și după utilizare. În special atunci când statul utilizează tehnologii de IA, sunt necesare garanții de transparență, monitorizare independentă și acces la căi de atac eficiente.

Tehnologiile care nu pot fi utilizate în temeiul legislației internaționale privind drepturile omului trebuie interzise sau suspendate până la instituirea unor protecții adecvate.

Este necesară punerea în aplicare a reglementărilor și a garanțiilor deja existente în afaceri,  cadrele pentru protecția datelor, legislația privind concurența și reglementările sectoriale specifice, cum ar fi cele pentru sănătate, tehnologie sau piețele financiare.

Toate companiile și sectoarele legate de tehnologiile emergente trebuie să își asume responsabilitatea pentru produsele pe care le lansează pe piață. În cele din urmă ar putea merita crearea unui organism consultativ internațional pentru tehnologiile cu risc ridicat.