Video îngrijorător cu AI realizat de un tânăr influencer din România
Inteligența artificială a avansat atât de mult încât oamenii nu mai disting întotdeauna ce este realitate și ce este un produs realizat de AI. Un influencer de pe social media a postat un clip care este de-a dreptul îngrijorător. Sorin Mihai Toma, cunoscut drept @soaregram pe Instagram, a publicat un video în care apare în cătușe, în timp ce este condus de doi polițiști într-un autovehicul. Clipul pare destul de real.
La prima vedere, imaginile ar putea fi confundate fără mari probleme cu o filmare autentică. Personajele se mișcă natural, lumina și umbrele sunt convingătoare, iar detaliile care până nu demult trădau imediat o imagine generată de inteligența artificială sunt tot mai greu de sesizat.
Problema cea mai mare este că într-un timp extrem de scurt, instrumentele de generare video cu AI au făcut un salt uriaș. Dacă în urmă cu doar câteva luni imaginile artificiale puteau fi recunoscute după mâini deformate, fețe stranii, mișcări nenaturale sau obiecte care apăreau și dispăreau inexplicabil, noile modele AI pot produce secvențe din ce în ce mai coerente și mai apropiate de o filmare reală.
O fotografie nu mai reprezintă de mult o dovadă suficientă că un eveniment s-a petrecut. Acum, nici măcar un videoclip nu mai oferă aceeași certitudine.
Oamenii pot fi „puși” în situații care nu au existat niciodată
Cu ajutorul inteligenței artificiale, o persoană poate apărea într-un loc în care nu a fost niciodată, poate fi prezentată alături de oameni pe care nu i-a întâlnit și poate părea că face lucruri care, în realitate, nu s-au întâmplat.
Iar tehnologia nu se oprește la imagine. Vocea poate fi clonată, expresiile faciale pot fi reproduse, iar mișcarea buzelor poate fi sincronizată cu un discurs inventat. Rezultatul poate deveni suficient de convingător încât un utilizator care vede câteva secunde pe Facebook, Instagram sau TikTok să nu aibă motive evidente să suspecteze că privește ceva artificial. Cu „ajutorul” AI poți fi oricine, poți inventa o persoană și o realitate care, de fapt, nu există.
În cazul unui clip spectaculos sau șocant, problema este amplificată de modul în care funcționează rețelele sociale. Oamenii distribuie deseori înainte să verifice, iar imaginile pot ajunge la zeci sau sute de mii de persoane într-un timp foarte scurt.
Până când apare explicația că materialul a fost generat cu AI, clipul poate fi deja descărcat, republicat și distribuit pe alte conturi, uneori fără contextul inițial.
Internetul a intrat într-o etapă în care nu mai putem crede automat ceea ce vedem
Dezvoltarea AI schimbă astfel una dintre regulile nescrise după care oamenii au consumat informație timp de decenii: „am văzut cu ochii mei”. În mediul online, această regulă nu mai funcționează.
Un accident, o arestare, o declarație a unui politician, o altercație pe stradă sau o scenă cu o vedetă pot fi fabricate digital și prezentate sub forma unor imagini aparent autentice. Iar pe măsură ce instrumentele devin mai performante și mai accesibile, realizarea unor asemenea materiale nu mai este rezervată studiourilor specializate.
Una dintre cele mai dificile consecințe ale fenomenului este tocmai volumul.
La fiecare câteva secunde este publicată o cantitate enormă de conținut pe platformele sociale. Chiar dacă rețelele dezvoltă sisteme de detectare și etichetare a materialelor generate artificial, tehnologia de generare evoluează în paralel. Un sistem încearcă să identifice falsurile, în timp ce altul învață să le facă tot mai convingătoare.
Mai mult, odată ce un material a fost descărcat și republicat, informația despre originea sa se poate pierde. Un clip prezentat inițial drept experiment sau creație AI poate reapărea ulterior pe un alt cont ca și cum ar documenta un eveniment real.
Pericolul nu este doar să credem ceva fals
Există însă și un efect invers, poate la fel de important. Cu cât oamenii sunt expuși mai multor imagini generate artificial, cu atât pot începe să se îndoiască și de imaginile autentice.
Astfel, problema nu mai este doar că inteligența artificială poate crea o realitate falsă. Se poate ajunge la situația în care însăși ideea de dovadă vizuală este pusă sub semnul întrebării.
Pentru utilizatorul obișnuit, verificarea devine tot mai dificilă. Nu mai este suficient să analizeze dacă o imagine „arată ciudat”. Trebuie verificată sursa, cine a publicat materialul inițial, dacă există alte imagini ale aceluiași eveniment, dacă informația este confirmată independent și dacă autorul precizează că a folosit inteligența artificială.
Clipuri precum cel publicat de @soaregram arată cât de repede s-a micșorat distanța dintre o scenă filmată și una inventată de un algoritm.
