Am dat deunăzi peste termenul „Astroturfing”. Încercând să deslușesc singur semnificația cuvântului, am ajuns să pierd aproape o noapte întreagă documentând acest fenomen. Fie că știi deja ce înseamnă, fie că ești la fel de curios ca mine, dacă îți vine în gând ideea că: „ce legătură poate să aibă asta cu tematica SecurityPatch ?!”, stai cu mine pentru că devine interesant.
Ce aflăm în articolul de astăzi
• Ce este AstroTurfing;
• Ce reprezintă fenomenul conținutului Facebook generat cu AI;
• La ce sunt folosite aceste conturi în contextul în care ne aflăm astăzi;
• Cum le recunoaștem;
Ce este AstroTurfing?
Astroturfing reprezintă practica de a ascunde sponsorii și beneficiarii reali ai unui mesaj de interes public, de cele mai multe ori campanii care promovează diverse opinii și direcții pentru dezvoltarea societății, pentru a părea că este un mesaj pornit și susținut de cetățenii de la „firul ierbii”. De aici și denumirea, „AstroTurf” referind iarba sintetică, adică o bucată de gazon care simulează ideea de iarbă naturală. Această practică simulează și forțează o credibilitate publică privind proiecte împinse de organizații și corporații, dar care se ascund în spatele unor așa-zise societăți civile.
O situație foarte cunoscută de Astroturfing a fost o campanie a Global Energy Balance Network (GEBN). Atunci când organizația non-profit s-a poziționat ca “vocea științei”, a finanțat un studiu științific, ale cărui rezultate au arătat că excesul ponderal și obezitatea nu sunt cauzate de băuturile cu zahăr, sau de mâncarea de tip fast-food, ci de lipsa exercițiului fizic.
Cu toate acestea, o serie de cercetări și investigații realizate de „The New York Times” au dezvăluit că GEBN era susținută de un mare producător de băuturi răcoritoare, cu sponsorizări în valoare de 1,5 milioane de dolari.
Ulterior, negarea care a urmat a fost demontată de e-mailurile interne care au fost scurse publicității și care au arătat că gigantul producător de băuturi răcoritoare nu numai că a lucrat la declarația de misiune a GEBN, dar a fost și actor decizional în numirea personalului de conducere.
AI pe Facebook
Am făcut toată această introducere deoarece cred că este necesar să privim fenomenul pe care urmează să îl prezint, într-un context mai larg și să încercăm să găsim toate potențialele motive pentru care ar putea să se dezvolte.
Vorbim despre fenomenul AI în Social Media, mai exact, conturi de Facebook generate cu ajutorul AI, care sunt gestionate și interacționează cu alte conturi pe bază de AI dar și care postează conținut (în special imagini) generat de AI.
Cel mai probabil, în ultimul timp ai observat fotografii virale cu diverse statui ale lui Iisus. Acele fotografii sunt, de fapt, generate de AI. O analiză Stanford și Georgetown, încă nerevizuită de alți cercetători, a descoperit că algoritmul Facebook le-ar oferi acestor imagini un reach mult mai mare decât conținutului original.
Cercetătorii au studiat 120 de pagini de Facebook care au postat peste 500 de materiale generate de inteligența artificială. Împreună, postările pe care le-au analizat au avut sute de milioane de interacțiuni, în mare parte de la oameni reali care au răspuns sincer la această “artă”, fără să știe că imaginile au fost create – de fapt – de IA.
În ultima parte a anului 2023, o postare cu o imagine generată de AI se afla printre cele mai vizualizate materiale publicate pe platformă.
Există analize care confirmă faptul că unele dintre aceste pagini chiar cumpără reclame plătite pentru a ajunge la cât mai multe persoane și pentru a acumula cât mai multe like-uri, iar orice interacțiune cu aceste materiale, are ca rezultat generarea în feed-ul tău a și mai multor astfel de imagini care cu siguranță, nu sunt „de la Dumnezeu”. Asta deoarece feed-ul de conținut „sugerat pentru tine” al cărui algoritm a fost actualizat acum 2 ani, pare să prioritizeze acest tip de conținut, față de cel original.
Sursă imagini: facebook.com/lovegodgodloveyou
Ce caută conturile AI pe Facebook
Câștigurile pe care aceste pagini le generează sunt diverse, vechiul clickbait din articole cu titlul de genul „Nu o să-ți vină să crezi (…)” s-a transformat acum în postări de acest gen, care atrag urmăritori iar cei interesați își pot pune link-urile în comentarii. Acest lucru se întâmplă deoarece Facebook a început să scadă drastic reach-ul postărilor care conțin link-uri.
Înainte de pandemie, nu puteai obține un sistem care să primească întreaga activitate și prezență online a unei persoane și apoi să personalizeze conținut care să simuleze realitatea. La fel ca segmentarea publicului țintă pentru reclame, aveam până acum acces doar pentru selectarea demografiei și intereselor persoanelor, la fel cum și fermele de troli reușeau doar să abordeze o secțiune specifică a demograficului de oameni similari.
Sursă: https://x.com/TheHornetsFury/status/1767792068947329106
Scopul final a fost mereu generarea de content specific la nivel de individ, ceea ce este un proces consumator de timp, iar aici intervin ultimele tehnologii, mai exact LLM. Modelele ample de limbă – LLM (Large Language Models) cum sunt ChatGPT sau Gemini, au contribuit la acest proces și l-au făcut mult mai eficient.
O posibilă explicație
Crearea de conturi care par umane și în special care promovează idei de largă circulație cum e creștinismul pot să creeze o falsă idee de popularitate a acestor conturi, ele fiind extrem de convingătoare pentru publicul larg, în special generația X (1965-1980), boomers (1946-1964) sau silent generation (1928-1945).
Din acest motiv, fie că vorbim de discursuri politice, ori tematici de interes public – chiar și cele mai naive dar importante subiecte cum sunt cele ale producătorilor de băuturi carbogazoase sau de tutun, scopul acestor pagini este de a promova subversiv, teme care nu sunt niciodată în interesul public și de a-și ascunde adevărații beneficiari și finanțatori, deoarece dacă ar fi vorba de o temă de interes public, nu ar fi nevoie de mascarea finanțării sau a entităților care le promovează.
Să vedem și un detaliu mai tehnic al modului în care aceste sisteme ar putea alege ce materiale să publice în funcție de persoanele care au interacționat cu materialele anterioare.
Un lanț Markov este un proces stocastic (n.r. „Care se produce întâmplător, care este legat de hazard”, sursă dexonline.ro), ce modelează o tehnică în teoria probabilităților care observă și prezice comportamentul aleatoriu al sistemelor în unități de timp. Esențialmente, este un proces matematic care descrie tranzițiile între diferite stări ale unui sistem într-un mod probabilistic, bazându-se doar pe starea actuală a sistemului și nu pe întreaga sa istorie.
Sursă imagine: https://www.geeksforgeeks.org/markov-chains-in-nlp/
Să ne gândim la un sistem AI care utilizează un lanț Markov pentru a determina ce postare ar fi cea mai de succes pe social media pentru a atrage și a reține atenția utilizatorilor. Acest sistem poate funcționa urmând o serie clară de pași bine definiți.
1. Colectarea datelor
Sistemul AI începe prin colectarea de date despre interacțiunile utilizatorilor pe platforma de social media. Aceste date pot include informații despre preferințele utilizatorilor, comportamentul lor de navigare, tipurile de conținut cu care interacționează cel mai mult și feedback-ul primit pentru diverse postări.
2. Modelarea utilizând un lanț Markov
Sistemul construiește un model de lanț Markov utilizând aceste date, unde fiecare stare a lanțului Markov poate reprezenta o anumită caracteristică a postărilor, cum ar fi lungimea textului, utilizarea imaginilor, tonul mesajului etc. Tranzițiile între aceste stări sunt determinate de probabilități, care sunt calculate pe baza datelor colectate.
3. Generarea de conținut
Iar de aici începe generarea automată de postări care asigură, cel puțin teoretic, retenție și reach maxim. De exemplu, dacă starea actuală a sistemului indică că postările cu imagini au o probabilitate mai mare de a atrage atenția utilizatorilor, sistemul va genera mai multe postări cu imagini.
4. Optimizare continuă
Pe măsură ce sistemul AI primește mai mult feedback și colectează mai multe date, el poate ajusta continuu modelul său de lanț Markov pentru a genera postări mai eficiente și mai captivante.
O altă ipoteză
Corporațiile au nevoie de spațiu publicitar și vor să aibă cât mai puțină concurență. Pentru a crește valoarea propriilor cheltuieli publicitare, au ferme de boți care dau click pe reclamele concurenților. Acesta este un mod rapid de a elimina concurența.
Dacă luăm exemplul unei afaceri de dimensiuni mici sau medii, care poate cheltui de la 5 la 50 de cenți per click, este ca și cum ai arunca acei bani la gunoi, deoarece aceste rețele de boți, gestionate mult mai eficient, mai larg și mai ieftin de către sisteme AI, încearcă activ să acumuleze click-uri false pe competitori pentru a se asigura că acele reclame sunt dezactivate cât mai curând posibil, deoarece advertiserii vor rămâne foarte rapid fără fonduri.
Cum le recunoaștem
Probabil cel mai important lucru pe care aș putea să ți-l transmit ar fi un mic ghid pentru a identifica aceste conturi și postări generate cu AI. Un ghid numai bun pe care să-l trimiți părinților și bunicilor.
Este foarte important să fim vigilenți și să avem un spirit critic atunci când pierdem vremea pe social media. Identificarea și evitarea conținutului generat cu AI poate contribui la menținerea autenticității experienței online dar și a integrității și onestității ideilor promovate.
În definitiv, este extrem de important să ne ajutăm părinții și bunicii să navigheze acest mediu al rețelelor sociale. În contextul acestui an – împânzit cu alegeri – și nu numai, generațiile acestea sunt cele mai expuse la opinii extremiste sau înșelătoare. Nici generațiile tinere nu sunt păzite de aceste influențe ale opiniei publice, însă ele sunt mai obișnuite să fie sceptice la diverse postări și materiale de pe rețelele sociale, în fond noi am fost generația care a „crescut” 4chan.
Până data viitoare, țineți sus munca bună și să-mi spuneți pe ce rețea socială ne mutăm, acum că Facebook e terminat complet. Eu am renunțat deja la Instagram și Facebook, drept pentru care presupun că ne mutăm toți pe TikTok? Evident, doar până aflăm și despre aplicația asta ceva nenorociri.
Articol scris de: Andrei-Nicolae Căluțiu