Am scris acest articol și nimeni nu apreciază. De ce suntem bombardați de poze create cu AI pe Facebook

Zeci sau sute de pagini de Facebook apar în România în fiecare zi, promovând imagini create cu inteligenţa artificială. Acesta este un trend care a prins rădăcini şi în ţara noastră, după ce aceeaşi reţea socială a fost inundată cu astfel de imagini fake şi în alte ţări ale lumii.

Până şi fondatorul Faceboook, Mark Zuckerberg, a căzut în această capcană, atunci când a dat like „calului Challah”, imaginea fake cu un cal din pâine ce a păcălit milioane de oameni.

Experții spun că acestea urmăresc crearea sau schimbarea unor percepții la nivel social. De exemplu, paginile de Facebook care promovează fotografii din anii comunismului cu mesaje de genul ”pe vremuri se mergea la munte cu Dacia și atât”, sau ”ce frumoasă era moda pe vremuri”, arătând fotografii cu femei din anii 60-70, fără operații estetice, vor să genereze nostalgia față de trecut și senzația că prezentul este mult prea greu de suportat. 

‹ ›

La fel, campania care se defășoară acum agresiv pe Facebook, cu fotografii generate cu Inteligența Artificială, pe ideea ”am făcut acest lucru și nimeni nu apreciază”, este menită să îi facă pe oameni să simtă că sunt nefericiți dar nu sunt singurii nefericiți într-o lume care nu-i apreciază.  

Timp de mai multe zile, echipa antena3.ro a monitorizat şi căutat pagini cu astfel de conţinut. Pentru un ochi cât de cât familiarizat cu virtualul, postările de pe aceste pagini – atât textul, cât şi fotografiile – sunt create cu inteligenţa artificială. Iar fiecare postare antrenează şi zeci de mii de reacţii în doar câteva ore de la publicare.

„România autentică”, spre exemplu, are aproape 100.000 de urmăritori. Ultima postare e despre Ceauşescu, pe fotografia căruia este scrisă întrebarea: „Merită respect?”. În doar o oră de la postare, s-au strâns aproape 1.000 de like-uri, zeci de distribuiri şi peste 200 de comentarii, cele mai multe afirmative.

Restul paginii conţine postări de genul „Este ziua mea şi nimeni nu apreciază asta”, „Suntem fermieri, vă rog nu plecaţi fără a lăsa puţină dragoste şi o felicitare”, „am construit calul ăsta din ceapă şi nimeni nu apreciază”.

Aceleaşi postări le găsim şi pe alte pagini: „România tradiţională”, „Despre România”, Credinţă şi rugăciuni”, „România live”, „România Today”, „Tradiţional Românesc”. Peste 90 la sută din postări au imagini create cu inteligenţa artificială. Şi like-uri de la sute de mii de români.

Cercetarea care arată ce se urmăreşte prin crearea unor pagini de Facebook cu imagini false

Doi cercetători americani au publicat, anul trecut, un studiu referitor la aceste pagini de facebook, care distribuiau mesaje cu conţinut creat de inteligenţa artificială în Statele Unite ale Americii. 

• „Am analizat 120 de pagini de Facebook care au postat cel puțin 50 de imagini generate cu AI fiecare, clasificându-le în trei categorii: spam, escrocherii și „alți creatori”. Unele dintre aceste pagini formau clustere coordonate administrate de aceiași administratori.
• Aceste imagini au generat colectiv sute de milioane de interacțiuni. Unul dintre aceste postări, care includea o imagine generată cu AI, a fost în top 20 cele mai vizualizate conținuturi pe Facebook în trimestrul al treilea din 2023, cu 40 de milioane de vizualizări.
• Paginile de spam au folosit tactici de clickbait și au încercat să direcționeze utilizatorii către ferme de conținut externe și domenii de calitate scăzută.
• Paginile de escrocherii au încercat să vândă produse inexistente sau să determine utilizatorii să dezvăluie informații personale. Unele dintre aceste pagini postau imagini generate cu AI pe pagini furate.
• Imaginile generate cu AI apar în News Feed-ul utilizatorilor de Facebook, inclusiv celor care nu urmăresc paginile respective.
• Se suspectează că aceste imagini apar în feed deoarece algoritmul de clasificare a News Feed-ului promovează conținutul care este probabil să genereze angajament ridicat.
• Comentariile la imaginile generate cu AI sugerează că mulți utilizatori nu sunt conștienți de originea sintetică a acestora. Cu toate acestea, un subgrup de utilizatori postează comentarii sau infografice pentru a-i avertiza pe ceilalți utilizatori.
• Faptul că utilizatorii sunt induși în eroare subliniază importanța etichetării clare și a măsurilor suplimentare de transparență pentru astfel de conținuturi.
• Unele dintre paginile de Facebook analizate au utilizat și practici înșelătoare cunoscute, cum ar fi furtul sau preluarea conturilor, și au prezentat creșteri suspecte ale numărului de urmăritori”, se arată în concluziile-cheie ale cercetării realizate de Renee DiResta şi Josh A.Goldstein.

De asemenea, se mai precizează că cercetătorii și factorii de decizie politică se tem că aceste tehnologii ar putea fi folosite pentru a injecta informații false în discursul politic.

Mihnea Măruţă: „Nefericiți din toate zările, uniți-vă! Dărâmați prezentul!”

Jurnalistul Mihnea Măruţă, doctor în filosofie, autor al cărții ”Identitatea Virtuală”, a explicat, într-un articol, care este rostul acestor pagini care au inundat internetul românesc.

„Prima campanie, cea de anul trecut, poate fi rezumată prin expresia «pe vremuri eram săraci, dar fericiți».

A doua campanie, mai recentă, aflată încă în derulare, este construită pe linia «am făcut lucrul X, dar nimeni nu apreciază».

Pe scurt, nefericiți din toate zările, uniți-vă! Dărâmați prezentul!

Și acum, esențialul:

- cine ar avea atât banii, capacitatea de coordonare, serverele, cât și, mai ales, specialiștii în psihologie colectivă, în mentalități și neuroștiințe, pentru a concepe, executa și întreține cele două campanii?

Să gândim simplu: un actor privat sau un actor statal?

Și dacă răspunsul este «actor statal», ce actor se potrivește primei campanii și ce actor se potrivește celei de-a doua campanii?”, se întreabă Mihnea Măruţă.

Cine sunt românii care distribuie şi dau like postărilor false?

Dar cui folosesc aceste pagini? La ce? În ce se pot transforma? Şi care este profilul românilor care apreciază astfel de postări?

„Foarte mult din conţinutul acestor pagini este îndreptat spre oameni care sunt dintr-o zonă mai tradiţionalistă, ceva mai în vârstă, către oameni care sunt singuri şi care caută un conţinut care să fie mai apropiat de gusturile, de valorile lor. Şi apasă pe o coardă emoţională a oamenilor. Iar datorită inteligenţei artificiale devine foarte uşor să produci aceste imagini. În câteva secunde poţi crea un astfel de conţinut. Probabil au văzut că funcţionează, că sunt destui oameni care intră acolo în vorbă, care vor reacţiona, care vor distribui mai departe, aşa că exloatează această nişă de conţinut”, spune antropologul Radu Umbreş, pentru antena3.ro.

Totodată, acesta mai precizează şi că astfel de pagini reprezintă „o unealtă informatică”.

„Ca în toată istoria, cine o inventează primul şi o foloseşte mai mult va avea, cel puţin temporar, un avantaj. Acum, pentru bine, pentru rău, o unealtă este aceeaşi. Depinde cine o foloseşte”, explică Radu Umbreş.

Reporter: Cum îi putem proteja pe oamenii care cad în capcana acestor fake-uri?

Radu Umbreş: Ca să spunem că îi protejăm, trebuie să spunem că planează un pericol clar şi iminent asupra lor. Deocamdată, nu ştiu dacă chiar aşa este. Până la urmă, este ca atunci când te uiţi la un film sau la un reel, care pare o situaţie reală, dar, de fapt, e regizat.

Nu întotdeauna oamenilor le pasă dacă este adevărat sau nu. Doar consumă un anumit conţinut pentru că este interesant. Până la urmă, este greu să fie protejaţi din afară. Până la urmă, fiecare are o responsabilitate, să discearnă între ce este fals şi ce este adevărat.

Dacă ei îşi doresc ca ceva să circule şi nu le pasă că nu este adevărat, nu avem noi cum să îi convingem de contrariu. Astea sunt valorile lor şi, într-un fel sau altul, vor fi atraşi de cineva. Ce fel de intenţii sunt în spate, acolo este o altă diferenţă.

Apare şi o formă de ironizare, de superioritate din partea altor oameni, care îi fac pe aceştia proşti, ce creduli sunt. Tipul ăsta de umilire nu-i ajută să fie integraţi şi poate mai mult îi face să fie şi mai izolaţi şi să persiste în atracţia către aceste tipuri de conţinut, pe de o parte.

De cealaltă parte, să fim sceptici atunci când ceva pare prea frumos ca să fie adevărat. Sau pare prea bine construit, ca să apeleze la corzile noastre emoţionale. Trebuie să ne gândim: totuşi, cine, ce interes are să ne trimită asemenea conţinuturi?

Nu doar pentru aceste materiale, ci pentru orice gen de informaţie ce apare în social media.

Analist comportamental: „Sunt oameni care vor să împingă mai departe chiar şi un neadevăr”

La rândul său, Nansi Lungu, analist comportamental, explică şi el care este profilul oamenilor ce aleg să dea like şi să distribuie conţinut fals, creat de inteligenţa artificială.

„Una peste alta, avem o categorie de oameni care vor să împingă mai departe chiar şi un neadevăr. Lucrul ăsta e foarte important, pentru că noi, când comunicăm, împingem perspectivele care ne favorizează pe noi sau credem noi că ne favorizează.

Văd foarte mulţi oameni care spun: oamenii nu îşi dau seama care este adevărul, se lasă manipulaţi. În fapt, lucrurile – şi sunt studii serioase în zona asta, care ne dau acest indiciu – este că, de multe ori, oamenii ştiu care este adevărul. Ştiu foarte bine care-i adevărul şi-l împing în faţă mai departe”, a explicat, pentru Antena3.ro, Nansi Lungu.

Reporter: Dar de ce aleg oamenii să distribuie ceva ce nu e adevărat?

Nansi Lungu: Pentru că le favorizează lor poziţia. Şi pare că acest lucru corelează puternic cu grupurile care n-au putere, de obicei. Adică, un grup care n-are putere e mai tentat să transmită un neadevăr mai încolo. Ăsta e un prim nivel. Un alt nivel este că, de fapt, cei care fac astfel de imagini identifică, uneori, destul de bine, un anumit tip de emoţie, un anumit tip de frustrare, lucruri care sunt foarte importante să le păstrezi la un anumit nivel.

În unele comunicări nici măcar nu e vorba de adevăr. E vorba despre o stare, despre o emoţie. ,Şi, atunci, sunt oameni care dau mai departe fiindcă rezonează la emoţia respectivă. Şi, într-adevăr, poate fi şi o a treia categorie, care, sincer, sunt minoritari, care chiar sunt păcăliţi. Care chiar cred că unii oameni fac cai din pâine. 

Nu e o chestiune foarte uşor de analizat, dar există motive dincolo de incapacitatea de a înţelege adevărul: e în concordanţă cu emoţiile mele, îmi serveşte mie unui anumit tip de interes. Şi, într-adevăr, mai există chiar şi situaţia în care oamenii nu găsesc că-i o miză, neapărat, şi atunci, pur şi simplu, sunt deconectaţi.

Oamenii diferenţiază bine adevărul de fals, mai ales când sunt mize. Când nu sunt mize, poţi să îi păcăleşti destul de uşor. E un curent întreg care spune: oamenii, mai degrabă, sunt incapabili. Eu chiar nu fac parte din categoria aia. Eu spun că oamenii joacă un joc şi şi-l joacă cât mai bine cred ei cu putinţă.

‹ ›

O postare funcţionează altfel când ai două milioane de like-uri

Reporter: Dar există riscul ca acele pagini, după ce adună sute de mii de likeuri, să se transforme în scamuri sau vehicule politice?

Nansi Lungu: Răspunsul este da, la amândouă. Mai târziu apar nişte probleme mai complexe. Deci, la început, eu zic: o fi, n-o fi, nu ştiu dacă a făcut cineva calul ăla din pâine. Habar nu am! Dar îmi place. Şi îmi place şi ideea, că uite, în România, oamenii muncitori nu sunt recunoscuţi.

Dar după ce trece ceva timp, să zicem, ai două milioane de like-uri. Din momentul acela, aceeaşi poză funcţionează cu totul altfel. De ce? Pentru că una dintre modalităţile în care noi căutăm să verificăm dacă ceva e adevărat sau nu, e să ne uităm la ce au zis ceilalţi.

Mai târziu, dacă are succes, din masa critică a celor care au validat-o, ne trezim în situaţia în care următorii vor spune: băi, două milioane de oameni? Nu stă într-un mod critic să facă analiză: e flash, e rapid. Şi atunci, da, se transformă în vehicule de manipulare şi propagandă.

Nu trebuie să aibă neapărat un conţinut cognitiv, unul care să zici că e un adevăr aici sau nu. Manipularea merge, în primul rând, la un nivel emoţional: îmi creează frustrare, îmi aminteşte că nu sunt recunoscut, văd spre ce a luat-o lumea şi eu nu sunt acolo. Evident că ele vor deveni pagini de manipulare, pagini de scamuri; depinde de intenţia celui care a pornit toată povestea asta.

Când vrei din tot sufletul ca tu să ai dreptate

Reporter: Cum vom putea ajunge să ne dăm seama care e adevărul şi care postare e manipulare?

Nansi Lungu: Oare nu cumva am intrat într-o eră în care nu că nu distingem adevărul, ci că nu mai vrem, pentru că negociem cu ceilalţi încât noi să avem dreptate şi să suprimăm cealaltă idee. Că aici e marea problemă. 

Dacă la calul ăia ai o confuzie, sunt sigur că putem crea o aplicaţie în care să verifici imediat, dar sunt sigur că poţi s-o faci şi astăzi. Cu foarte puţină pricepere. Problema este: vreau să fac lucrul ăsta? Vreau să disting? Sau nu cumva vreau eu să câştig ideea sau emoţia care îmi place mie?

E mai important să credem şi să-i facem şi pe ceilalţi să creadă lucrul ăsta. Dau o propoziţie. N-a fost făcută de AI. E extrem de simplă: „România nu mai produce”. 

Ei, cât de repede se propagă ideea asta? De ce? Nu pot oamenii să verifice? Pot să verifice şi culmea e că e şi simplu. Au toate mijloacele astăzi. Întreabă-l pe Chat GPT şi îţi va spune. România produce.

În schimb, ideea asta e foarte apetisantă. E foarte apetisantă pentru frustrarea mea, e foarte apetisantă pentru faptul că eu ocup un loc social important, deci s-o dăm mai departe. Mie nu mi-e frică că oamenii nu vor face distincţia între adevăr şi falsitate. Mie mi-e frică de faptul că nu sunt interesaţi.

Astfel de pagini, folosite de infractorii cibernetici ca să îţi fure datele. Şi banii

Dincolo de mecanismele care îi fac pe oameni să promoveze astfel de postări false, apar motivaţiile creatorilor unui astfel de conţinut. Despre asta ne vorbeşte Mihai Rotariu, manager al Direcţiei Comunicate, Media şi Marketing din cadrul Directoratului Naţional de Securitate Cibernetică (DNSC).

Mihai Rotariu: Ele pot fi folosite atât pentru fake news, cât şi pentru infracţionalitate cibernetică. Cred că ştim bine că, undeva de prin 2023, infracţionalitatea cibernetică şi-a mutat preponderent propagarea de astfel de tentativă de fraudă chiar în zona de social media. Şi de ce fac asta? Foarte simplu: au costuri aproape zero.

Fie încearcă să compromită anumite pagini, prin care, de exemplu, pot lansa anumite anunţuri sponsorizate, reclame realizate fie cu video, fie cu audio de tip deepfake, prin care, practic, mesajul iniţial al unor clipuri, imagini sau audio este alterat. Practic, ei promovau nişte tentative de fraudă care vizau anumite programe naţionale de îmbogăţire.

(Deepfake este o tehnologie care folosește inteligența artificială pentru a crea videoclipuri sau imagini false, dar foarte realiste, în care fețele sau vocile oamenilor sunt manipulate astfel încât să pară că spun sau fac lucruri pe care nu le-au spus sau făcut niciodată. - n.r.)

Practic, redirecţionau utilizatorii către astfel de pagini de pishing, pagini unde se colectau date personale, date sensibile, date de identificare şi, nu în ultimul rând, date de card.

Fenomenul a mai scăzut, desigur, pentru că şi reţelele de social media şi-au îmbunătăţit instrumentele de identificare a unor astfel de tentative de fraudă. Şi atunci, este vital, în primul rând, să ştim despre existenţa acestui fenomen. 

Şi, în al doilea rând, să avem o igienă de securitate formată din nişte reflecte de securitate formate în modul online la fel cum le avem în viaţa reală.

Cum să ne apărăm de mesajele false de pe internet

Reporter: Ce înseamnă această „igienă de securitate”?

Mihai Rotariu: Tot ofer exemplul ăsta: în momentul în care plecăm de acasă, încuiem uşa. Câteodată ajungem să parcurgem câţiva paşi şi nu ne mai aducem aminte dacă am încuiat sau nu uşa. 

Şi ne dăm seama că facem chestia asta tocmai pentru că a devenit un reflex. Nu mă mai gândesc neapărat la acţiunea respectivă. Pur şi simplu, a devenit un reflex de securitate.

Ei, mergând mai departe cu comparaţia, cheia respectivă cu care închizi uşa nu mai deschide alte uşi.

La fel, trebuie să gestionăm securitatea parolelor: să avem câte o parolă distinctă pentru fiecare cont. Având această igienă de securitate zilnică, putem să facem, desigur, verificările necesare în momentul în care identificăm o astfel de iniţiativă, o astfel de pagină. Să ne documentăm cu atenţie, mai ales în cazul în care cineva ne cere, sub un anumit pretext, să oferim date sensibile în mediul online.

Reporter: Cum pot fi închise astfel de pagini?

Mihai Rotariu: Dacă paginile respective ajung la un moment dat să facă o tentativă de fraudă, atunci noi putem interveni, pentru că suntem autoritate din zona cyber security. 

Dar dacă vorbim de fake news, dezinformare, manipulare, atunci cred că există alte autorităţi care ar putea să raporteze mai departe, către reţelele de social media, astfel de iniţiative şi să demonstreze că, într-adevăr, fac chestiuni ce ţin de ilegalitate la nivel european.

Legislaţia europeană impune reţelelor de social media să suspende astfel de activităţi pe platformele lor cât se poate de repede. Dar e important ca utilizatorii să fie vigilenţi la astfel de iniţiative şi să raporteze mai departe autorităţilor sau chiar către platformele de social media astfel de cazuri, în funcţie de problema pe care o ridică acea postare: fie că e vorba de un scam, de dezinformare.