Nebunia Chat GPT: chiar am ajuns să ne închinăm la o mașinărie?

Pe măsură ce performanțele tehnologiei de procesare a limbajului continuă să avanseze, potențialul roboților de chat și al sistemelor de inteligență artificială conversațională este din ce în ce mai mare. Și periculos.

Capabil să genereze răspunsuri în numeroase limbi, inclusiv română,Chat GPT pare un concurent real al motoarelor de căutare. Utilizatorii încep să se sperie de capacitățile sale. Dar are o problemă: trebuie să mai lucreze la precizie.

Există un val tot mai mare de interes în jurul chatbots. Un sistem ChatGPT pretinde că este capabil să se angajeze într-o conversație naturală, asemănătoare cu cea a oamenilor și chiar să ofere informații și sfaturi utile.

Cu toate acestea, notează The Guardian,există preocupări valabile cu privire la limitările ChatGPT și ale altor sisteme de inteligență artificială conversațională, precum și la capacitatea lor de a reproduce cu adevărat inteligența și interacțiunea umană.

ChatGPT se bazează pe cantități uriașe de text creat de oameni și caută regularități statistice în aceste date, învață ce cuvinte și fraze sunt asociate cu altele și, astfel, este capabil să prezică ce cuvinte ar trebui să urmeze în orice propoziție și cum se potrivesc propozițiile între ele. Rezultatul este o mașină care poate imita în mod convingător limbajul uman. O nebunie.

Această capacitate de imitație permite ChatGPT să scrie eseuri și poezii, să potrivească glume, să formuleze coduri și să răspundă la întrebări, fie că este vorba de un copil sau de un expert.

Un fluent bullshitter!

Și să o facă atât de bine încât mulți, în ultima săptămână, au sărbătorit sau au intrat în panică. „Eseurile sunt o porcărie”, a scris omul de știință cognitivă Tim Kietzmann, un punct de vedere amplificat de mulți academicieni.

Alții susțin că se va termina cu Google ca motor de căutare. Iar programul însuși „crede” că ar putea înlocui oamenii în meserii de la agent de asigurări la grefier.

Și totuși, chatbotul care poate scrie eseuri vă va spune, de asemenea, că dacă o femeie poate naște un copil în nouă luni, nouă femei pot naște un copil într-o lună; că un kilogram de carne de vită cântărește mai mult decât un kilogram de aer comprimat; și că sticla spartă este un supliment util pentru sănătate. Poate inventa fapte și poate reproduce multe dintre prejudecățile lumii pe care este antrenat.

ChatGPT poate fi atât de convingător de greșit încât Stack Overflow, o platformă care permite dezvoltatorilor să obțină ajutor pentru a scrie coduri, a interzis utilizatorilor să posteze răspunsuri generate de chatbot.

“Deși răspunsurile pe care ChatGPT le produce au o rată ridicată de a fi incorecte, de obicei arată ca și cum ar putea fi bune.” Sau, după cum a spus un alt critic, este un “fluent bullshitter”.

Fiecare conversație în care este implicat ChatGPT devine parte din banca de date folosită pentru a îmbunătăți programul. Următoarea iterație, GPT-4, este programată pentru anul viitor și va fi mai convingătoare și va face probabil mai puține erori.

Cu toate acestea, dincolo de aceste îmbunătățiri progresive, există o problemă fundamentală cu care se confruntă orice formă de inteligență artificială.

“O imitație care nu știe despre ce vorbește”

Un computer manipulează simboluri, deoarece programul său specifică un set de reguli cu ajutorul cărora transformă un șir de simboluri în altul sau recunoaște modele statistice.

Dar nu specifică ce înseamnă aceste simboluri sau modele. Pentru un computer, semnificația este irelevantă. ChatGPT „știe” (cel puțin în cea mai mare parte a timpului) ce pare a avea sens pentru oameni, dar nu și ce are sens pentru el însuși. Este, în cuvintele cercetătorului cognitiv Gary Marcus, o „imitație care nu știe despre ce vorbește”.

Oamenii, atunci când gândesc, vorbesc, citesc și scriu, manipulează, de asemenea, simboluri. Totuși, pentru oameni, spre deosebire de computere, sensul este totul.

În mod mai imediat, ChatGPT ridică întrebări și cu privire la modul în care trebuie să ne raportăm la mașinile care se pricep mult mai bine la minciuni și la răspândirea dezinformării decât oamenii înșiși. Nu ar trebui să fim atât de fascinați de puterea de convingere a ChatGPT încât să uităm problemele reale pe care le pot ridica astfel de programe.