Într-un videoclip viral TikTok, podcasterul celebrităților Joe Rogan pare să transmită un mesaj apocaliptic: „Probabil că vom muri cu toții în următorii câțiva ani. Există un asteroid care se află pe un curs de coliziune cu Pământul”.
De fapt, videoclipul este un fals. În timp ce imaginile sunt ale lui Rogan, sunetul este o clonă generată de inteligență artificială, potrivit Media Matters. Și asteroidul? O teorie a conspirației nefondată. Nu există nimic care să sugereze că Rogan a fost implicat cu bună știință în acest clip.
Postarea, care a fost în cele din urmă eliminată de TikTok, face parte dintr-un fenomen emergent prin care creatorii online pompează videoclipuri încărcate de conspirații pe platformele sociale, adesea cu ajutorul noilor instrumente IA. Și adună milioane de vizualizări.
Cârligul virtual
„Încep cu o declarație nearticulată pentru a atrage atenția – un cârlig viral”, spune Abbie Richards, producător video la Media Matters. „Materialul conspirației este de obicei îmbunătățit sau creat în întregime de inteligența artificială. Apoi, promovează o poveste cu un personaj fals care descoperă un fel de secret.”
Autorii unui astfel de conținut nu îl răspândesc de obicei pentru că încearcă să manipuleze opinia. Acesta este un efort pentru a fi plătiți de platforme, dintre care multe recompensează financiar creatorii pentru numărul mare de vizionări.
„Conținutul teoriei conspirației generat de IA pentru a face bani este distilarea perfectă a momentului în care suntem în ecosistemul internetului chiar acum”, spune Jen Golbeck, profesor la Universitatea din Maryland. Dincolo de vaca de muls, profită de atracția tot mai mare a unor astfel de teorii pe fondul neîncrederii crescânde în guverne și a integrării narațiunilor conspirative din ultimii ani”.
Pagini de spam generate de IA inundă Facebook
Un raport publicat săptămâna aceasta de cercetătorii de la Stanford și Universitatea Georgetown a descoperit mai mult de o sută de pagini de spam generate de IA care inundă fluxurile Facebook. Recompensate de algoritmii aplicației Meta și acumulând milioane de vizualizări, paginile încearcă apoi să direcționeze utilizatorii c[tre alte către site-uri.
Josh Goldstein, cercetător la Centrul pentru Securitate și Tehnologie Emergentă din Georgetown și coautor al raportului, avertizează că succesul unui astfel de conținut ar putea însemna că actorii nefasti vor „folosi imagini IA pentru a atrage adepți înainte de a pivota spre răspândirea dezinformării legate de alegeri, de exemplu.
În orice caz, platformele de comunicare socială ar trebui să creeze și să aplice reguli mai clar definite în ceea ce privește utilizarea inteligenței artificiale în aplicațiile lor. Introducerea etichetării conținutului generat de IA este un prim pas. De asemenea, trebuie să-și ajusteze programele de plată a creatorilor pentru a se asigura că influencerii nu sunt stimulați să joace sistemul după bunul plac.