„AI de noi”, românii care se luptă cu avalanșa de postări online create cu Inteligența Artificială

Laura, Cristina, Sabina, Andrei, Alexandru și Alin. Sunt șase tineri din România, împărțiți în diverse locuri ale planetei, pe fusuri orare diferite, dar care aleg „să vâneze” minciunile, manipularea și fake-news-urile din online. Sunt un soi de haiduci cibernetici, cel puțin așa mi-i imaginez eu. În total, echipa numără 10 membri.

Și sunt peste o mie de pagini, care conțin imagini false create cu AI sau care au conținut de manipulare online, ce au fost raportate de aceștia. Iar ca totul să fie organizat, tinerii au creat și moderează un grup de Facebook: „AI de noi”, care are aproape 6.000 de membri. Aici, oricine poate semnala neregulile din online.

Iar aceștia nu s-au oprit doar la a semnala pe acel grup falsurile. Au mers mai departe și au sesizat chiar și autoritățile.

Antena3.ro a scris despre cum zeci sau sute de pagini de Facebook apar în România în fiecare zi, promovând imagini create cu inteligenţa artificială. Mai târziu, acestea pot fi transformate în pagini prin care oamenii pot fi furați ori în vehicule politice.

Laura

Am vrut să aflăm și cine sunt cei care luptă împotriva dezinformării, cu toate armele online pe care le au.

”La noi, ziua are 26 de ore. Că suntem pe tot felul de fusuri orare”, îmi mărturisește Laura, râzând.

Are 45 de ani, a absolvit Facultatea de Litere, iar în prezent lucrează în IT, undeva prin Ardeal.

„Până prin ianuarie, timpul online, în cazul meu, se rezuma la clipuri cu animăluțe, umor negru și alte bălării. Habar nu aveam de legionari, secte chinezești și alte `marș`-uri. Din seria `alte bălării`, a postat careva într-un grup ceva poză stupidă generată de AI și am mers pe pagina respectivă (Dumnezeu este cu tine) și am plantat un comentariu sarcastic. Am sesizat mai jos alt comentariu, că ia uite, există acest grup - AI de noi - unde capturăm falsitățile astea”, spune Laura.

Peste puțină vreme, a ajuns și moderator al grupului.

”Era nevoie de un asemenea grup. De-a lungul săptămânilor, în care numărul de membri a crescut exponențial, s-a format un spațiu de încredere: cineva te ascultă cînd ai senzația că `ceva nu e în regulă` cu o entitate online, de dialog civilizat (nu e piață cu concurs de înjurături) și inclusiv de educare in securitatea cibernetică”, explică ea.

Cristina

Cristina lucrează în afara țării, în Europa, dar preferă să nu spună unde. Povestește cum la final de decembrie, a văzut un comentariu despre acest grup.

„Pe vremea aceea mă luptam prin grupurile din diaspora. Era groaznic, te încercuiau. Eu eram sătulă de înjurături, voiam să vad că sunt și oameni ca mine. Mai mult, grupurile de români din Anglia au fost și sunt un mare dezastru”, explică ea.

O întreb ce înseamnă acest dezastru.

”Vorbim de postări, zi și noapte, la patru dimineață. Era unul care avea banner direct cu Călin Georgescu... Se mai aventura un curajos din când în când (să îi combată – n.r.), dar șansele de discuție erau minime. Acolo am înțeles conceptul de troll: adică același stil de vorbire, dar de pe trei conturi diferite”, spune Cristina.

Sabina

Sabina are 32 de ani, locuiește la Londra, e absolventă de Teatru și Film. I-a întâlnit pe cei de la „AI de noi” online.

„În cazul meu, acest grup a fost o dovadă că nu sunt nebună”, spune ea.

Apoi explică.

„Navigând pe Facebook, am observat un comportament ciudat. Și tot încercam să îi avertizez pe oamenii din jur, dar mă cam ignorau. Eram pornită să încep ceva, dar s-a întâmplat să găsesc acest grup și restul este istorie. Fac parte din diaspora, iar sentimentul că ești singur într-o țară străină a fost accentuat de evenimentele recente. Căutam oameni care să gândească la fel ca mine”, mărturisește tânăra.

Sabina mai crede că, în cazul paginilor false, românii din dispora se numără printre țintele preferate ale celor care le creează.

„Au exploatat prin metode subliminale sentimentele imigrantului care se chinuie să își croiască un rost, departe de casă”, spune ea.

Andrei

Andrei are 33 de ani, este din București și e tehnician electronist, specializat pe service-ul laptopurilor, PC-urilor, TV-urilor, monitoarelor. A intrat în grupul „AI de noi” când erau doar câteva sute de membri.

El spune că, în cazul paginilor false, scopul principal ține de bani.

„Scopul principal e financiar, dar eu așa văd, având puțină experiență în domeniul marketing digital și ca fost administrator al unui site de tip `paid to click`. Problema noastră e că cei care administrează astfel de pagini nu își pun întrebări despre moralitatea și nici măcar legalitatea celor care le cumpără paginile crescute artificial. Profilele chinezești sau vietnameze sunt 99.9% cumpărate sau închiriate de pe paginile și site-urile care vând like-uri și comentarii, așa-zise `agenții de marketing online`”, ne lămurește el.

Alexandru

Alexandru are 35 de ani și lucrează în IT, în România.

„Nu pot rămâne pasiv la ceea ce percep eu ca fiind un abuz la adresa democrației. În cadrul acestui grup – AI de noi – s-a întâmplat să fiu membrul fondator”, se prezintă el.

Reporter: De ce a fost nevoie un asemenea grup?

Alexandru: Noi am vrut să pornim un contracurent, să oferim oamenilor și o alternativă la „inundația digitală” și să dăm curaj celorlalți să ia atitudine mai departe, pentru că știu că mulți erau îngrijorați. Odată ce am format un nucleu, am vrut să tragem semnalul de alarmă către presă și instituțiile statului prin documentarea făcută și prin intermediul oamenilor de calitate care ni s-au alăturat.

Reporter: Cum ați făcut asta?

Alexandru: Avem foarte mulți oameni binevoitori care doresc să participe și să ne aducă în vedere paginile suspecte, pe care ulterior le centralizăm și catalogăm într-un document public. Documentul poate fi preluat și de către jurnaliști, și de către autorități. Considerăm că prin publicarea acestuia avem cel mai mare impact de „colaborare” chiar și către instituțiile care nu ne contactează în mod direct înapoi.

Reporter: Și ce ați descoperit?

Alexandru: Am descoperit peste 1000 de pagini și grupuri până în prezent, dar și tot atâtea profiluri false, ori care manifestă un comportament inautentic.

De asemenea, am văzut legături către site-uri de joasă calitate sau strategia de a racola pe alte canale de WhatsApp / Telegram, unde se poate ușor crea un „echo chamber”.

Reporter: Ați sesizat pe cineva cu privire la descoperirile voastre?

Alexandru: Pe cale instituțională, am avut posibilitatea de a ajunge la ANCOM prin intermediul oamenilor despre care, cum spuneam mai sus, sunt de calitate. Această instituție este un proxy către multe altele, inclusiv DNSC.

Reporter: Ce v-au răspuns?

Alexandru: Am avut un răspuns mult mai pozitiv decât ne așteptam, am fost felicitați pentru inițiativă și ni s-a spus că efortul nostru a fost preluat. De asemenea, ni s-au oferit căi de comunicare și sfaturi pentru a lucra mai eficient.

Ni s-a subliniat și importanța implicării venite din partea societății, pentru că oricâți angajați ar avea o instituție, nu se compară cu mii de oameni care documentează un astfel de fenomen ca cel din prezent.

Reporter: Dar care crezi că e scopul unor astfel de pagini?

Alexandru: Depinde cine le deține: ori au fost crescute de la început spre a fi reorientate în alt scop de către actori cu o agendă; ori sunt doar crescute spre a fi vândute și fostului proprietar nu-i mai pasă ce se întâmplă cu ele; ori sunt pur și simplu monetizate pentru trafic prin postări care polarizează ori sunt la modă politic, fără vreo intenție de direcție politică. Putem vorbi și doar de bani în unele cazuri.

Avem exemple concrete, chiar recent a fost un val de închideri de pagini din partea Meta. Pot bănui că a avut un impact și grupul nostru, dar, dat fiind că au fost mai multe, ceva îmi spune că s-a acționat pe căi instituționale.

Alin

Alin are 33 de ani și este marinar. Face și el parte din acest grup și ne povestește ce l-a făcut să vâneze fake-news-ul: „O țară nu poate renaște prin minciună și ură”.

„Eu eram exasperat de timpul pierdut ca să dezmint lucruri. Alunecam în timp fără să o sesizez. Apoi constatam stupefiat că e ceva de Sisif, cel puțin asta până când un băiat a lăsat un comentariu. Alex promova grupul timid”, își începe Alin povestea.

„După ce au milioane de like-uri, sunt probabil ca niște pompe de atras interacțiuni. Dacă dumneavoastră, cu pagină de 1 milion, mă distribuiți pe mine, aspirant să zicem, pagina nou creată bubuie instant. Multiplicați asta de câteva ori. Este exponențial. Toate se vor urmări reciproc, distribui reciproc. Sunt pagini cu nume latin ori chinezești postează și ortodoxie, dar și catolicism, apoi distribuie un influencer român, no name, dar cu 160.000 de reacții la videoclipuri de un divertisment fad”, precizează Alin.

„Suntem datori și responsabili pentru ceea ce promovăm în spațiul public, fie real sau rețele de socializare. Reacțiile în lanț la răspândirea informațiilor false pot fi deosebit de nocive și cu iz subversive”, mai adaugă el.

Cercetarea care arată ce se urmăreşte prin crearea unor pagini de Facebook cu imagini false

Doi cercetători americani au publicat, anul trecut, un studiu referitor la aceste pagini de facebook, care distribuiau mesaje cu conţinut creat de inteligenţa artificială în Statele Unite ale Americii.

• „Am analizat 120 de pagini de Facebook care au postat cel puțin 50 de imagini generate cu AI fiecare, clasificându-le în trei categorii: spam, escrocherii și „alți creatori”. Unele dintre aceste pagini formau clustere coordonate administrate de aceiași administratori.
• Aceste imagini au generat colectiv sute de milioane de interacțiuni. Unul dintre aceste postări, care includea o imagine generată cu AI, a fost în top 20 cele mai vizualizate conținuturi pe Facebook în trimestrul al treilea din 2023, cu 40 de milioane de vizualizări.
• Paginile de spam au folosit tactici de clickbait și au încercat să direcționeze utilizatorii către ferme de conținut externe și domenii de calitate scăzută.
• Paginile de escrocherii au încercat să vândă produse inexistente sau să determine utilizatorii să dezvăluie informații personale. Unele dintre aceste pagini postau imagini generate cu AI pe pagini furate.
• Imaginile generate cu AI apar în News Feed-ul utilizatorilor de Facebook, inclusiv celor care nu urmăresc paginile respective.
• Se suspectează că aceste imagini apar în feed deoarece algoritmul de clasificare a News Feed-ului promovează conținutul care este probabil să genereze angajament ridicat.
• Comentariile la imaginile generate cu AI sugerează că mulți utilizatori nu sunt conștienți de originea sintetică a acestora. Cu toate acestea, un subgrup de utilizatori postează comentarii sau infografice pentru a-i avertiza pe ceilalți utilizatori.
• Faptul că utilizatorii sunt induși în eroare subliniază importanța etichetării clare și a măsurilor suplimentare de transparență pentru astfel de conținuturi.
• Unele dintre paginile de Facebook analizate au utilizat și practici înșelătoare cunoscute, cum ar fi furtul sau preluarea conturilor, și au prezentat creșteri suspecte ale numărului de urmăritori”, se arată în concluziile-cheie ale cercetării realizate de Renee DiResta şi Josh A.Goldstein.

De asemenea, se mai precizează că cercetătorii și factorii de decizie politică se tem că aceste tehnologii ar putea fi folosite pentru a injecta informații false în discursul politic.