Viitoarea eră periculoasă a războiului IA

Anul trecut, compania ucraineană de drone Saker a afirmat că a lansat o armă complet autonomă, Saker Scout, care folosește inteligența artificială pentru a lua propriile decizii cu privire la cine să omoare pe câmpul de luptă.

Desfășurarea dronei Saker arată că fereastra de reglementare a armelor autonome se închide rapid. Țările discută de un deceniu despre ce să facă în legătură cu aceste arme, dar nu au reușit să ajungă la un acord asupra reglementărilor. Fără limite, omenirea riscă să se îndrepte spre un viitor de războaie majore, conduse de mașini.

În prezent, cel puțin 30 de țări operează sisteme de apărare antiaeriană și antirachetă care au moduri autonome.

Forțele armate au fost lente în adoptarea tehnologiei de inteligență artificială dezvoltată în sectorul comercial, în parte din cauza proceselor greoaie de achiziție. Războiul din Ucraina a accelerat inovarea de ambele părți: atât Moscova, cât și Kievul au folosit pe scară largă dronele pentru recunoaștere și atacuri asupra forțelor terestre.

Tactica a dus la dezvoltarea de noi contramăsuri, inclusiv sisteme de război electronic care bruiază legăturile de comunicații ale dronelor sau localizează cu precizie țintele.

Forma specifică pe care o vor lua armele autonome va depinde de nevoile unui conflict. Dronele, care în prezent sunt controlate de la distanță, ar putea fi modernizate pentru a deveni autonome, permițând continuarea funcționării în cazul în care legătura de comunicații ar fi bruiată.

Mai multe țări, inclusiv SUA,  China, Franța, India, Rusia și Marea Britanie lucrează în prezent la drone de luptă stealth. Războaiele viitoare ar putea vedea aceste drone țintind în mod autonom apărarea antiaeriană sau lansatoarele de rachete mobile.

Probabil că schimbările nu se vor opri aici. Escadrile de drone și-ar putea coordona în mod autonom strategia, reacționând la schimbările de pe câmpul de luptă cu o viteză care depășește capacitățile umane. Consecințele acestei treceri către o nouă eră a războiului condus de mașini vor fi profunde.

Oameni de știință din domeniul inteligenței artificiale, printre care Stuart Russell, profesor la Universitatea din California, și Yann LeCun, laureat al Premiului Turing, au avertizat asupra pericolelor pe care le prezintă armele autonome.

Deși ar putea reduce numărul victimelor civile prin țintirea precisă a combatanților, în mâinile unui stat căruia nu-i pasă prea mult de civili – sau care dorește să pedepsească o populație civilă – ar putea fi folosite pentru a comite atrocități devastatoare.

Unul dintre cele mai extreme riscuri vine din integrarea inteligenței artificiale și a autonomiei în armele nucleare. Ciclurile de decizie se vor scurta pe măsură ce țările vor adopta inteligența artificială și automatizarea pentru a reduce timpul de găsire, identificare și lovire a țintelor inamice.

De asemenea, sistemele de IA de ultimă oră au demonstrat capacitatea de a ajuta la dezvoltarea armelor cibernetice, chimice și biologice.Rezultatul va fi o spirală tot mai mare de automatizare și mai puțin control uman.

Rolul oamenilor se va rezuma la a „porni” armele cu inteligență artificială și a sta pe margine, cu o capacitate redusă de a gestiona sau chiar de a pune capăt războaielor.