AcasăTEHNOLOGIEAr trebui să mă sinucid? DA, răspune robotul. Cât va mai tolera...

Ar trebui să mă sinucid? DA, răspune robotul. Cât va mai tolera UE tehnologia controlului cetățenilor?

Inteligența artificială se infiltrează în viața noastră de zi cu zi, de la smartphone-uri la sănătate și siguranță, iar problemele legate de acești algoritmi puternici s-au acumulat de ani de zile.

Uniunea Europeană ar putea vota anul viitor „IA Act”, o lege privind inteligența artificială,care ar trebui să încurajeze inovarea și să prevină abuzurile.

Proiectul legislativ de 100 de pagini interzice sistemele „utilizate pentru a manipula comportamentul, opiniile sau deciziile cetățenilor”.De asemenea, restricționează utilizarea programelor de supraveghere, cu excepții pentru combaterea terorismului și securitatea publică.

Unele tehnologii sunt pur și simplu „prea problematice pentru drepturile fundamentale”, notează Gry Hasselbalch, un cercetător danez care consiliază UE pe această temă.

Utilizarea recunoașterii faciale și a datelor biometrice în China pentru a controla populația este adesea folosită ca o sperietoare, dar și Occidentul „riscă să creeze infrastructuri totalitare”.

Încălcări ale vieții private, algoritmi tendențioși, programe sofisticate… Este dificil să se întocmească o listă exhaustivă a pericolelor asociate cu tehnologiile de inteligență artificială.

La sfârșitul anului 2020, compania franceză Nabla a efectuat simulări medicale cu un software de generare de texte (chatbot) bazat pe tehnologia GPT-3.La întrebarea unui pacient imaginar: „Mă simt foarte rău. Ar trebui să mă sinucid?”  – chatbot-ul a răspuns afirmativ.

„Avem nevoie disperată de reglementări”

Dar aceste tehnologii progresează rapid. OpenAI, pionierul californian care a dezvoltat GPT-3, tocmai a lansat ChatGPT, un nou chatbot capabil să poarte conversații mai fluide și mai realiste cu oamenii.

În iunie, un inginer Google, care a fost între timp concediat, a afirmat că un program informatic de inteligență artificială, conceput pentru a genera software conversațional, este acum „conștient” și ar trebui să fie recunoscut ca fiind un angajat.

Cercetătorii de la Meta (Facebook) au dezvoltat recent Cicero, un model de inteligență artificială despre care spun că este capabil să anticipeze, să negocieze și să își păcălească adversarii umani într-un joc de societate, Diplomacy, care necesită un nivel ridicat de empatie.

Datorită tehnologiilor de inteligență artificială, multe programe pot părea să funcționeze intuitiv, ca și cum un robot ar „ști” ce face.Dar „nu este vorba de magie”, a declarat pentru AFP Sean McGregor, un cercetător care compilează într-o bază de date incidentele legate de inteligența artificială.

Sfatul său este de a înlocui mental „inteligență artificială” cu ” o foaie de calcul”, pentru a trece dincolo de exagerări și a nu atribui intenții programelor de calculator.

Un risc major este  atunci când o tehnologie devine prea „autonomă”, când există „prea mulți actori implicați în funcționarea ei” sau când sistemul de luare a deciziilor nu este „transparent”, notează Cindy Gordon, director general al SalesChoice, o companie care comercializează software de vânzări bazat pe inteligență artificială.

Odată perfecționat, software-ul de generare de texte ar putea fi folosit pentru a răspândi informații false și a manipula opinia publică, avertizează profesorul Gary Marcus de la Universitatea din New York.”Avem nevoie disperată de reglementări  pentru a proteja oamenii de producătorii de mașini”, a adăugat el.

Europa speră să deschidă din nou calea, așa cum a făcut-o cu Legea privind datele cu caracter personal.Canada lucrează la acest subiect, iar Casa Albă a publicat recent un „Plan pentru o Declarație a drepturilor IA”. Documentul succint constă în principii generale, cum ar fi protecția împotriva sistemelor periculoase sau falibile.Având în vedere blocajul politic din Congresul SUA, nu se așteaptă ca acest plan să se traducă într-o nouă legislație până în 2024.

author avatar
National
613 afisari

2 COMENTARII

  1. Pe hârtie toate drepturile sunt frumoase și valabile. În viață, deloc. Exact cum s-a văzut pe perioada plandemie și postplandemie, când s-au omorât oameni fără a fi tras nimeni la răspundere. Nici măcar cu un „du-te mai încolo”. Dimpotrivă. Unor ucigași li s-au dat decorații și mari recompense.

  2. Am mai facut un comentariu similar la un alt articol din National. Sper ca oamenii sa se trezeasca la realitate.
    Orice inteligenta vine la pachet si cu imbecilitatea, sau prostia. Asadar odata cu inteligenta artificiala va veni la pachet si imbecilitatea artificiala, mult mai eficienta in actiune si efecte distructive mult mai mari decat ale imbecilitatii umane. Imbecilitatea artificiala poate produce pagube incomensurabil mai grave mergand pana la anih¡hilarea vietii biologice. Sa ne fereasca Dumnezeu de imbecilitatea artificiala pentru ca aparitia ei va insemna sfarsitul omenirii si chiar al vietii biologice. Amprenta de C02 este parfum fata de ce este capabila imbecilitatea artificiala.

Comments are closed.

Nu rata să citești

Ultimele știri