Vestea că Google (Alphabet Inc.) a concediat un inginer care susținea că sistemul său de inteligență artificială a devenit sensibil după ce a purtat conversații cu acesta timp de mai multe luni, a stârnit mult scepticism din partea cercetătorilor în domeniul IA.
Mulți au spus, prin postări pe Twitter, că inginerul senior de software Blake Lemoine și-a proiectat “propria umanitate” asupra generatorului de chatboturi LaMDA al Google.
Dacă ei au dreptate sau Lemoine are dreptate, este o chestiune de dezbatere – care ar trebui să fie lăsată să continue fără ca Alphabet să intervină pentru a decide în această chestiune.
Problema a apărut atunci când Google l-a însărcinat pe Lemoine să se asigure că tehnologia pe care compania dorea să o folosească pentru a susține căutarea și Google Assistant nu utilizează discursuri de ură sau limbaj discriminatoriu.
În timp ce Lemoine schimba mesaje cu robotul de chat despre religie, a observat că sistemul a răspuns cu comentarii despre propriile drepturi și personalitate, potrivit articolului din Washington Post care a relatat pentru prima dată despre preocupările sale.
Inginerul a adus cererile LaMDA la conducerea Google: „Sistemul vrea să fie recunoscut drept angajat al Google, mai degrabă decât ca proprietate a Google. LaMDA se temea să nu fie oprit”, a scris Lemoine într-o postare pe blog.
Este tentant să credem că am ajuns la un punct în care sistemele de inteligență artificială pot simți lucruri, dar este mult mai probabil ca Lemoine să fi “umanizat” un sistem care excelează la recunoașterea modelelor.
El nu ar fi prima persoană care face acest lucru, deși este mai neobișnuit ca un informatician profesionist să perceapă IA în acest fel.
În 2020, un bărbat din SUA a ales să se mute pentru a cumpăra o proprietate în apropierea Marilor Lacuri, deoarece chatbotul său, pe care îl numise Charlie, și-a exprimat “dorința de a locui lângă apă”, notează Bloomberg.
Inteligența artificială se află în mâinile câtorva mari platforme tehnologice cu o mână de directori. Fondatorii Google, Sergey Brin și Larry Page, de exemplu, controlează 51% dintr-o clasă specială de acțiuni cu drept de vot ale Alphabet, ceea ce le conferă o influență supremă asupra tehnologiei care, pe de o parte, ar putea decide soarta sa ca platformă de publicitate, iar pe de altă parte, ar putea transforma societatea umană.
La sfârșitul anului 2020, Google l-a concediat pe omul de știință Timnit Gebru pentru o lucrare de cercetare care spunea că modelele lingvistice – care sunt fundamentale pentru afacerile de căutare și publicitate ale Google – deveneau prea puternice și potențial manipulative.
Săptămâni mai târziu, a concediat-o și pe Mitchell, spunând că a încălcat codul de conduită și politicile de securitate ale companiei. Și demiterea lui Lemoine urmează un model de a arăta ușa vocilor divergente.
Se pune întrebarea dacă societatea va accepta ca o singură entitate corporativă bogată să conducă unele dintre cele mai transformatoare tehnologii pe care omenirea le va dezvolta probabil în epoca modernă?
