Inteligența artificială se infiltrează în viața noastră de zi cu zi, de la smartphone-uri la sănătate și siguranță, iar problemele legate de acești algoritmi puternici s-au acumulat de ani de zile.
Uniunea Europeană ar putea vota anul viitor „IA Act”, o lege privind inteligența artificială,care ar trebui să încurajeze inovarea și să prevină abuzurile.
Proiectul legislativ de 100 de pagini interzice sistemele „utilizate pentru a manipula comportamentul, opiniile sau deciziile cetățenilor”.De asemenea, restricționează utilizarea programelor de supraveghere, cu excepții pentru combaterea terorismului și securitatea publică.
Unele tehnologii sunt pur și simplu „prea problematice pentru drepturile fundamentale”, notează Gry Hasselbalch, un cercetător danez care consiliază UE pe această temă.
Utilizarea recunoașterii faciale și a datelor biometrice în China pentru a controla populația este adesea folosită ca o sperietoare, dar și Occidentul „riscă să creeze infrastructuri totalitare”.
Încălcări ale vieții private, algoritmi tendențioși, programe sofisticate… Este dificil să se întocmească o listă exhaustivă a pericolelor asociate cu tehnologiile de inteligență artificială.
La sfârșitul anului 2020, compania franceză Nabla a efectuat simulări medicale cu un software de generare de texte (chatbot) bazat pe tehnologia GPT-3.La întrebarea unui pacient imaginar: „Mă simt foarte rău. Ar trebui să mă sinucid?” – chatbot-ul a răspuns afirmativ.
„Avem nevoie disperată de reglementări”
Dar aceste tehnologii progresează rapid. OpenAI, pionierul californian care a dezvoltat GPT-3, tocmai a lansat ChatGPT, un nou chatbot capabil să poarte conversații mai fluide și mai realiste cu oamenii.
În iunie, un inginer Google, care a fost între timp concediat, a afirmat că un program informatic de inteligență artificială, conceput pentru a genera software conversațional, este acum „conștient” și ar trebui să fie recunoscut ca fiind un angajat.
Cercetătorii de la Meta (Facebook) au dezvoltat recent Cicero, un model de inteligență artificială despre care spun că este capabil să anticipeze, să negocieze și să își păcălească adversarii umani într-un joc de societate, Diplomacy, care necesită un nivel ridicat de empatie.
Datorită tehnologiilor de inteligență artificială, multe programe pot părea să funcționeze intuitiv, ca și cum un robot ar „ști” ce face.Dar „nu este vorba de magie”, a declarat pentru AFP Sean McGregor, un cercetător care compilează într-o bază de date incidentele legate de inteligența artificială.
Sfatul său este de a înlocui mental „inteligență artificială” cu ” o foaie de calcul”, pentru a trece dincolo de exagerări și a nu atribui intenții programelor de calculator.
Un risc major este atunci când o tehnologie devine prea „autonomă”, când există „prea mulți actori implicați în funcționarea ei” sau când sistemul de luare a deciziilor nu este „transparent”, notează Cindy Gordon, director general al SalesChoice, o companie care comercializează software de vânzări bazat pe inteligență artificială.
Odată perfecționat, software-ul de generare de texte ar putea fi folosit pentru a răspândi informații false și a manipula opinia publică, avertizează profesorul Gary Marcus de la Universitatea din New York.”Avem nevoie disperată de reglementări pentru a proteja oamenii de producătorii de mașini”, a adăugat el.
Europa speră să deschidă din nou calea, așa cum a făcut-o cu Legea privind datele cu caracter personal.Canada lucrează la acest subiect, iar Casa Albă a publicat recent un „Plan pentru o Declarație a drepturilor IA”. Documentul succint constă în principii generale, cum ar fi protecția împotriva sistemelor periculoase sau falibile.Având în vedere blocajul politic din Congresul SUA, nu se așteaptă ca acest plan să se traducă într-o nouă legislație până în 2024.