„Arme de înșelăciune în masă”. Cine luptă împotriva tehnologiei Deepfake?

Deepfake-urile sunt medii sintetice, inclusiv audio, imagini sau videoclipuri, care au fost manipulate și modificate pentru a înfățișa în mod fals persoane care spun sau fac lucruri pe care de fapt nu le-au făcut niciodată.

Apariția deepfakes este o ilustrare vie a creșterii exponențiale a inteligenței artificiale și a provocărilor pe care le ridică atât pentru guvernanța națională, cât și pentru cea internațională. Tehnologia deepfake, alimentată de inventarea, în 2014, a rețelelor generative adversariale (GAN) – un tip de cadru de învățare automată – are ca scop crearea de conținut nou prin confruntarea a două rețele neuronale una împotriva celeilalte în mod competitiv.

Până în 2018, GAN-urile au avansat până în punctul în care pot genera, de exemplu, imagini extrem de realiste ale unor persoane care nu au existat niciodată în realitate, scrie The National. În mai puțin de doi ani, aproape 15.000 de videoclipuri deepfake au fost identificate online, un procent alarmant de 96% dintre acestea intrând în categoria de conținut.Implicațiile sunt profunde, prezentând riscuri nu numai pentru viața privată a persoanelor, ci și pentru diverse sectoare, inclusiv pentru sănătate și securitate națională.

La 30 noiembrie 2022, OpenAI, un laborator american de inteligență artificială, a lansat celebrul chatbot ChatGPT. În cinci zile, a adunat cinci milioane de utilizatori. Netflix a avut nevoie de trei ani și jumătate pentru a atinge aceeași bornă. După doar două luni, Chat GBT se mândrea cu 100 de milioane de utilizatori, devenind astfel aplicația de consum cu cea mai rapidă creștere din istorie – până când a fost depășită de Meta Threads în această lună.

Accesibilitatea din ce în ce mai mare a inteligenței artificiale generative prezintă nu numai oportunități, ci și riscuri imense, inclusiv manipulări specifice la nivel individual.

Acest lucru ar trebui să servească drept semnal de alarmă pentru guverne, deoarece deschide ușa unor potențiale campanii de subversiune la scară largă și dă naștere unei noi forme de război – războiul cognitiv – în care opinia publică este înarmată pentru a influența politicile și a destabiliza instituțiile publice. Inteligența artificială generativă și instrumente precum ChatGPT ar putea fi considerate în curând arme de înșelăciune în masă.

Previziunea strategică, capacitatea de a prevedea și de a acționa în funcție de viitorul potențial, ar trebui să devină o procedură standard pentru orice organizație angajată în guvernanța națională și globală.

La 18 iulie, Consiliul de Securitate al ONU se va reuni pentru prima dată pentru a discuta despre potențialele amenințări pe care inteligența artificială le reprezintă pentru pacea și securitatea internațională. ONU abordează deja anumite aspecte ale acestei probleme, de exemplu, prin intermediul Grupului guvernamental de experți (GGE) privind armele autonome letale (LAWS).

Secretarul General al ONU și-a exprimat recent sprijinul pentru înființarea unei agenții pentru inteligența artificială, asemănătoare Agenției Internaționale pentru Energie Atomică.

O astfel de agenție, axată pe cunoaștere și înzestrată cu competențe de reglementare, ar putea spori coordonarea între inițiativele în plină expansiune în materie de IA la nivel mondial și ar putea promova guvernanța globală în acest domeniu.

Totuși, pentru a reuși, ONU trebuie să depășească ADN-ul său interguvernamental tradițional și să includă comunitatea științifică, sectorul privat (principala sursă de inovații în materie de inteligență artificială) și societatea civilă în noi cadre de guvernanță, inclusiv parteneriate public-privat.