Analiză Nu sunt prezentatori de știri tv, sunt avataruri create de AI. Cum se folosește tehnologia deep fake pentru a face propagandă
Rețelele sociale din Venezuela au înregistrat o creștere de „persoane” generate de inteligență artificială care răspândesc informații <<greșite>> sau <<false>> despre economia țării. Chiar și președintele statului a distribuit aceste informații în spațiul online, ceea ce evidențiază modul în care tehnologia este folosită pentru a promova narațiunile pro-guvernamentale, remarcă CNN și El Pais.
O serie de videoclipuri care promovează Venezuela au început să fie distribuite la televiziunea de stat, folosind gazde americane aparent vorbitoare de engleză. Videoclipurile au apărut pentru prima dată pe un canal de YouTube numit House of News Español, iar gazda acestora este un „bărbat” alb și blond care vorbește în limba engleză. Unul din cele mai vizionate videoclipuri se numește: „Venezuela și economia, mit sau realitate?”.
„Prezentatorul” încearcă să demonstreze că economia Venezuelei nu este „cu adevărat distrusă”, așa cum susțin mulți analiști internaționali. Într-un alt videoclip, un alt „prezentator”, de data asta de culoare, discută despre profiturile generate de Caribbean Series, un turneu profesionist de baseball desfășurat spre finalul lunii februarie la Caracas (capitala Venezuelei). Prezentatorul spune că au fost cumparate biletele în valoare de 10 milioane pentru vizionarea meciurilor de baseball, precum și mâncare în valoare de 7 milioane de dolari.
Publicația americană Vice scrie că datele par surprinzătoare, având în vedere că guvernul de la Caracas nici măcar nu a dezvăluit cât a costat construirea a două stadioane în timp record, pe fondul stării economice precare din țară, care, potrivit autorităților de la Caracas, a fost cauzată de sancțiunile internaționale.
Într-un alt videoclip, un prezentator laudă presupusă explozie a turismului din Venezuela, spunând că milioane de cetățeni s-au adunat în insulele din Marea Caraibilor pentru a petrece, în timp ce într-un un alt video distribuit pe scară largă pe rețelele sociale se insinuează că guvernul interimar anti-Maduro a fost implicat într-o presupusă gestionare defectuoasă de sute de milioane de dolari înainte de recenta dizolvare, „prezentatoarea” concluzionând că „venezuelenii nu simt de fapt că există vreo opoziție față de guvern”. Dar cele două povești sunt false, iar cei doi „prezentatori” nu există, ci sunt avataruri.
Citește și: Cum a evoluat discursul despre „știrile false” și ce pericole există pentru democrațiile din toată lumea
Avataruri create cu inteligență artificială
Așa-zișii „prezentatori” au și nume, iar cei care livreau mesaje pe House of News Español se numesc Noah și Daren, două avataruri create cu ajutorul inteligenței artificiale din catalogul software-ului Synthesia ce are disponibilă o ofertă de peste o sută de chipuri multirasiale.
La fel ca Noah și Daren, există avataruri îmbrăcați în gazde de televiziune, dar există și unele care pot fi făcute să arate ca un medic sau un director de firmă. De asemenea, aceste avataruri pot arăta ca niște persoane reale care poartă o cască de construcție sau ca o femeie ce poartă hijab ori un bucătar sau chiar ca Moș Crăciun.
The New York Times scria la începutul lunii februarie că unele dintre avatarurile din acest catalog au fost folosite anul trecut într-o campanie de dezinformare pro-China.
Videoclipurile cu prezentatorii falși care vorbesc despre starea economică a Venezuelei au avut sute de mii de vizualizări pe YouTube, au devenit virale pe aplicații sociale precum TikTok și li s-au adăugat semnul de publicitate plătită pe platforma respectivă. În plus, au fost difuzate la postul de stat Venezolana de Televisión, principalul purtător de cuvânt al regimului condus de Nicolás Maduro, precizează cotidianul El Pais.
Susținătorii stilului guvernamental asociat cu fostul președinte venezuelean Hugo Chávez au folosit deja roboți și armate de troli plătiți pe rețelele sociale precum Twitter pentru a promova anumite hashtag-uri și pentru a modela conversația online. Acum, în timp ce lumea încă încearcă să înțeleagă avantajele și dezavantajele ChatGPT, aparatul complex de propagandă care încearcă să ascundă criza venezueleană a încorporat rapid inteligența artificială în artileria sa digitală.
30 de dolari pe lună pentru propagandă
Cu un abonament de doar 30 de dolari pe lună, clienții companiei Synthesia pot introduce un script scris pentru software pentru ca apoi să fie generat un videoclip ultra-realist cu voci disponibile în peste 100 de limbi și accente și făcute să se sincronizeze cu gura avatarului.
Compania a fost creată în 2017 de către antreprenori și cercetători din universitățile din Statele Unite și Europa, potrivit site-ului său. Catalogul de avataruri este alcătuit din „gemeni digitali”, actori care au furnizat imaginile și au fost plătiți pentru ele, mai spune compania în secțiunea de întrebări frecvente.
Reprezentanții companiei mai spun că ei promovează un tip numit „mass-media sintetică”, pe care îl descriu ca fiind „una dintre cele mai interesante evoluții în ceea ce privește progresele recente de învățarea profundă”. Mai mult, compania Synthesia subliniază tot pe site-ul său că încearcă să-i ajute pe oameni să creeze conținut numai în scopuri comerciale, deoarece „conținutul politic, sexual, personal sau discriminatoriu” nu este tolerat.
Însă jurnaliștii de la El Pais spun că acest „progres recent de învățarea profundă” este, de asemenea, legat de tehnica deepfake care se află în spatele acestei tehnologii și reprezintă „un fel de combustibil” pentru marea epidemie a dezinformării.
Videoclipuri similare produse recent prin folosirea software-ului Synthesia au fost folosite pentru a promova propaganda în zone precum Africa și Asia în primele trei luni ale acestui an.
Venezuela sub regimul condus de Nicolás Maduro și partidul său socialist a devenit una dintre cele mai izolate țări din lume și a fost lovită de o hiperinflație cronică și de o penurie de alimente. Venezuelei i se mai aduc acuzații de trafic de droguri cu compactitatea statului, precum și că favorizează un climat în care sunt viciate drepturile cetățenilor și libertatea presei. Însă, conform unui videoclip în care apare avatarul Noah, toate aceste acuzații „sunt exagerate”.
Ce se întâmplă după ce inteligența artificială s-a democratizat
„Inteligenta artificiala s-a democratizat și a devenit accesibilă. Mulți oameni au acces gratuit la acest tip de software și pot să facă aceste videoclipuri din ce în ce mai realiste”, explică Héctor Mazarri, cercetător în cadrul Cazadores de Fake News, o organizație care analizează și verifică știrile legate de Venezuela.
El Pais notează că organizația din care face parte Héctor Mazarri a monitorizat videoclipurile cu Noah și Daren vorbind despre Venezuela și tras primul semnal de alarmă în ceea ce privește noua campanie de dezinformare sponsorizată de regimul lui Nicolás Maduro. „Ceea ce vedem este o încercare organizată de a împinge anumite narațiuni favorabile guvernului. Deși un utilizator instruit poate detecta erorile, acest lucru se face astfel încât nimeni să nu fie scutit de a nu crede mesajul”, adaugă Héctor Mazarri.
„Dezinformarea este o problemă globală și scopul ei este să ne facă să devenim neîncrezători în tot ceea e în jurul nostru și să creeze polarizare. De aceea este necesar să se creeze o comunitate de infocetățeni, astfel încât oamenii să înțeleagă cum funcționează acest lucru și să pună o mare parte din informațiile care ajung la ei în carantină pentru a limita impulsul maselor de împărtăși sau de a crede în acele informații”, se mai arată în precizările lui Héctor Mazarri pentru El Pais.
Cum a ajuns Twitter un câmp minat în Venezuela
Din 2018, observatorul ProBox monitorizează tendințele socio-politice în rețelele sociale din Venezuela, Cuba, Nicaragua și El Salvador. Urmărirea îndeaproape a mecanismelor de propagandă a partidului de guvernământ din Venezuela a permis acestui grup să identifice mai multe modele de dezinformare.
Unul dintre acestea presupune faptul că în fiecare zi, la începutul zilei, contul de Twitter al Ministerului Comunicațiilor și Informațiilor din Venezuela publică un hashtag-ul care va fi apoi dus în tendințe în ziua respectivă datorită unei val masiv de postări care sunt realizate de o armată de persoane plătite pentru a face acest lucru. „Asta se face cu intenția de a face opinia publică internațională să creadă anumite narațiuni. În principal este vorba despre generarea de propagandă, distragerea atenției, schimbarea narațiunii”, explică Estefanía Da Silva, coordonator general al ProBox.
Strategia a transformat Twitter într-un câmp minat pentru venezueleni. ProBox monitorizează mesajele din spectrul social politic al partidului de guvernământ, dar și din partea opoziției, societății civile, conturilor anonime și altor actori din societate.
Activismul digital pentru drepturile omului crește doar atunci când mesajul de protest ajunge și în stradă. În general, adaugă Da Silva, „partidul de guvernământ cucerește conversațiile”, chiar dacă acest lucru se realizează cu boți, tweetere plătite și acum, de asemenea, cu ajutorul avatarurilor generate de AI.
Ecosistemul propagandei din Venezuela
„Ecosistemul propagandei din Venezuela se hrănește cu orice tip de conținut care ar putea fi util pentru a alimenta narațiunile guvernului lui Nicolás Maduro”, spune la rândul său Adrián González, directorul executiv al organizației neguvernamentale din Venezuela Cazadores de Fake News.
După ce au fost postate pe YouTube, videoclipurile sunt adesea distribuite pe Twitter și Tik Tok de personalități minore din spațiul public venezuelan pro-guvernamental, care le prezintă ca fiind mesaje pozitive despre Venezuela din partea unor instituții media străine.
Acest lucru a devenit deosebit de problematic, mai remarcă González, mai ales când aceste videoclipuri crate cu ajutorul AI au apărut la televiziunea de stat, iar gazdele emisiunilor de știri le-au redat direct din tweet-uri în emisiunile lor.
Această tactică permite în același timp gazdelor să evite responsabilitatea pentru conținutul videoclipurilor, deoarece acesta provin de pe rețelele sociale.
„Teoria este că toate acestea fac parte dintr-o strategie organizată", a spus González. „Nu poți atribui direct aceste videoclipuri guvernului lui Nicolas Maduro tocmai pentru că acest tip de conturi sub acoperire și operațiuni de influență sub acoperire sunt concepute astfel încât să nu existe nicio legătură care să permită atribuirea” , a adăugat acesta.
Există o mulțime de oameni din afara Venezuelei care ar spune: „Ei bine, am văzut videoclipul și nu pare real. Dar venezuelenii nu observă asta cu adevărat”, a explicat González, care precizează că aceste videoclipuri „sunt create pentru publicul venezuelean”.
Utilizarea tehnologiei Synthesia a fost folosită recent și pentru a susține regimul militar al președintelui interimar din Burkina Faso, Ibrahim Traore, care a preluat puterea țării în timpul unei lovituri de stat din septembrie 2022. La sfârșitul lunii ianuarie, mai multe videoclipuri au început să se răspândească prin grupuri WhatsApp și Facebook în Africa, cu avataruri care vorbesc engleza cu accent american și spun că susțin guvernul lui Traore.
Se revizuiesc politicile
Potrivit Financial Times, YouTube a suspendat cinci conturi, inclusiv House of News, pentru că au partajat dezinformări aliniate guvernului de la Caracas. Dar apariția mediilor generate de AI reprezintă o nouă frontieră în campania de propagandă și dezinformare a Venezuelei, ceea ce intensifică îngrijorările cu privire la influența potențială asupra unei populații care are un acces redus la știri demne de încredere din cauza cenzurii generalizate atât în interiorul cât și în afara ei.
„În Venezuela, există un deșert de informații în care dezinformarea poate prospera”, a mai declarat Adrián González, care spune că „acum există tehnologia necesară pentru a realiza videoclipuri convingătoare care să includă știri false”.
Compania Synthesia a adăugat că a implementat noi restricții privind utilizarea tehnologiei sale, inclusiv interzicerea oricărui conținut de tip reportaj de știri, un filigran digital care să marcheze videoclipurile ca fiind generate de AI și un proces de revizuire mai strict pentru fiecare videoclip.
Editor : Marco Badea
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News