„Dacă cineva construiește o inteligență artificială prea puternică, în condițiile actuale, mă aștept ca fiecare membru al speciei umane și toată viața biologică de pe Pământ să moară la scurt timp după aceea”, a avertizat Eliezer Yudkowsky , directorul Machine Intelligence Research Institute, o organizație non-profit din Berkeley, California.
Yudkowsky a declarat pentru Bloomberg că ne apropiem cu pași repezi de o conjunctură fatală, în care vom crea o inteligență artificială mai inteligentă decât noi, care “nu face ceea ce vrem noi și nu-i pasă nici de noi, nici de viața în general”.“Rezultatul probabil al confruntării omenirii cu o inteligență supraumană opusă este o pierdere totală”.
El sugerează că o astfel de inteligență artificială ar putea evada cu ușurință de pe internet “pentru a construi forme de viață artificiale”, purtând de fapt un război biologic împotriva noastră. Recomandarea sa este clară: avem nevoie de un moratoriu global și complet asupra dezvoltării IA.
Ideea merge mult mai departe decât scrisoarea deschisă semnată de Elon Musk, Steve Wozniak (co-fondatorul Apple) și peste 15.000 de alte personalități care solicită o pauză de șase luni în dezvoltarea de inteligențe artificiale mai puternice decât stadiul actual al tehnologiei.
Dar motivația lor este aceeași cu cea a lui Yudkowsky: dezvoltarea IA cu capacități supraumane în absența unui cadru internațional de reglementare riscă să provoace o catastrofă.
Convenția privind armele biologice, care a intrat în vigoare în 1975, nu a pus capăt în totalitate cercetării asupra unor astfel de arme.Dacă Yudkowsky are dreptate că IA este potențial la fel de periculoasă ca armele nucleare sau biologice, este puțin probabil ca o pauză de șase luni să realizeze multe.
Potrivit celui mai recent raport al Institutului Stanford pentru Inteligența Artificială centrată pe om, investițiile private globale în acest sector au totalizat 92 de miliarde de dolari în 2022, din care mai mult de jumătate au fost în SUA. Un total de 32 de modele semnificative de învățare automată au fost produse de companii private, în comparație cu doar trei produse de instituții academice.
Pe termen lung, subliniază unii analiști, algoritmii IA, precum chatboții, vor închega o structură de guvernanță globală, având sprijinul giganților BigTech, cu programe care vor submina siguranța umanității.
Temerile unui război biologic determinate de formele de viață artificiale se suprapun cu alte amenințări deja vizibile: supravegherea digitală, automatizarea forțată, biotehnologiile și construirea unor sisteme de inteligență artificială care vor remodela în curând societatea.