Modelele lingvistice importrante, precum ChatGPT, sunt furnizori de plauzibilitate. Roboții de chat, mulți dintre ei bazați pe așa-numita inteligență artificială generativă, sunt antrenați să răspundă la întrebările utilizatorilor, căutând pe internet informații relevante și știri credibile. Cel puțin așa se speră.
Dar există o problemă: deoarece datele disponibile public conțin informații eronate și dezinformări, este posibil ca unele texte generate automat să nu fie exacte sau adevărate. Asta a declanșat o luptă pentru a dezvolta instrumente care să identifice dacă textul a fost redactat de un om sau de o mașină.
Știința se luptă, de asemenea, să se adapteze la nouă eră tehnologică, existând discuții cu privire la faptul dacă ar trebui să li se permită chatbots să scrie lucrări științifice sau chiar să genereze noi ipoteze.
Importanța de a distinge inteligența artificială de cea umană crește pe zi ce trece, subliniază AP. Luna aceasta, analiștii UBS au dezvăluit că ChatGPT a fost aplicația web cu cea mai rapidă creștere din istorie, adunând 100 de milioane de utilizatori activi în ianuarie.
Ca să fim corecți, creatorul tehnologiei este sincer cu privire la limitările sale. Sam Altman, directorul executiv al OpenAI, a avertizat în decembrie că ChatGPT era „suficient de bun în unele domenii, dar mai are mult de lucru în ceea ce privește veridicitatea”.
Meta a lansat pe 22 noiembrie chiar și un generator IA de text specific științei numit Galactica.A fost retras trei zile mai târziu.Printre aberațiile pe care le-a produs se număra o istorie fictivă a urșilor care călătoresc în spațiu.
Profesorul Michael Black, de la Institutul Max Planck pentru Sisteme Inteligente din Tübingen, a scris pe Twitter la momentul respectiv că a fost „tulburat” de răspunsurile Galactica la mai multe solicitări de informații despre propriul său domeniu de cercetare, inclusiv atribuirea de lucrări false unor cercetători adevărați.
Pericolul provine din faptul că un text plauzibil se strecoară în comunicări științifice reale, piperând literatura de specialitate cu citate false și denaturând pentru totdeauna canonul.
În prezent, revista Science interzice în mod categoric textul generat; Nature permite utilizarea acestuia dacă este declarat, dar interzice creditarea drept coautor.
Acești roboți de chat pot rostogoli un flux la cerere de pseudoștiință în toate domeniile – internetul suportă orice. Un material înșelător, postat online, poate fi apoi înghițit de viitoarea inteligență artificială generativă pentru a produce o nouă iterație de neadevăruri care să polueze și mai mult discursul public.