Profiluri generate de inteligență artificială stârnesc controverse pe Instagram

Meta, compania mamă a Instagram, analizează conturi generate de inteligență artificială care sexualizează persoane cu dizabilități prezente pe platformă.

Tot mai des apar situații controversate în mediul online, inclusiv pe rețele sociale unde utilizatorii pot crea și distribui conținut cu ajutorul tehnologiei AI. BBC a atras atenția asupra unor zeci de profiluri care afișează imagini create cu ajutorul inteligenței artificiale, înfățișând femei cu dizabilități, inclusiv cu sindrom Down sau vitiligo. Unele conturi publică imagini și videoclipuri false cu femei care au membre lipsă, cicatrici vizibile sau folosesc scaune rulante, prezentate în ipostaze sexualizate și îmbrăcate sumar. Aceste profiluri fictive au adunat sute de mii de urmăritori în doar câteva luni. Un exemplu este un cont care pretinde că reprezintă gemeni siamezi și a strâns aproximativ 400.000 de urmăritori, deși a apărut pe Instagram abia în decembrie 2025. Fenomenul ridică semne de întrebare privind siguranța online și modul în care platformele digitale gestionează conținutul generat automat.

Reacții puternice după apariția acestor conturi

Apariția acestor conturi a generat reacții dure din partea organizațiilor pentru drepturile persoanelor cu dizabilități. Kamran Mallick, chief executive of Disability Rights UK, a declarat: „Conturile care fetișizează, batjocoresc sau monetizează identitățile persoanelor cu dizabilități sunt pur și simplu oribile.” El a mai spus: „Ceea ce avem aici este tehnologie folosită ca armă pentru a priva persoanele cu dizabilități de agenție și demnitate, transformând experiențele noastre de viață în caricaturi digitale pentru profitul și plăcerea altora.”

Și organizațiile medicale și-au exprimat îngrijorarea. Un purtător de cuvânt al Gemini Untwined, care sprijină intervențiile chirurgicale pentru nou-născuți uniți prin cap, a spus că prezentarea gemenilor siamezi ca divertisment este „moralmente reprobabil”. Acesta a adăugat: „Vedem direct provocările medicale prin care trec acești copii și familiile lor, ceea ce face ca prezentarea gemenilor siamezi ca formă de divertisment sau spectacol să fie deosebit de problematică.” În plus, organizațiile pentru egalitate și drepturile omului subliniază că aceste practici pot amplifica discriminarea și stigmatizarea persoanelor cu dizabilități pe platforme ca Instagram.

Cum ajung aceste imagini să fie distribuite pe platforme

Dr. Amy Gaeta, de la Universitatea Cambridge, analizează modul în care inteligența artificială influențează percepțiile despre gen și dizabilitate. Ea a explicat că internetul este „inundat” cu instrumente gratuite și ieftine de generare de imagini AI. Inteligența artificială generativă este un tip de software care creează conținut nou, folosind modele învățate din date existente, ca răspuns la comenzile utilizatorilor.

Gaeta a subliniat că unele instrumente impun restricții privind conținutul, precum interzicerea prompturilor sexuale explicite, dar altele nu au astfel de limitări sau pot fi ocolite cu ușurință. Ea a spus: „Uneori, fără ca eu să solicit sau să intenționez, sunt generate imagini hipersexualizate ale persoanelor cu dizabilități. Acest lucru arată clar o părtinire în seturile de date pe care aceste instrumente sunt antrenate.” Astfel, algoritmii AI pot perpetua stereotipuri și potența cyberbullying-ul în mediul digital.

Noi reguli și responsabilități pentru platforme

Un purtător de cuvânt al Ofcom a menționat că instituția „monitorizăm modul în care evoluează AI, riscurile care pot apărea și ce acțiuni ar putea fi necesare pentru a le aborda”. Regulile de siguranță online cer companiilor de tehnologie să elimine conținutul ilegal și să protejeze copiii de materiale dăunătoare, inclusiv conținut abuziv sau discriminatoriu. Aceste reglementări vizează și fenomenul de hărțuire online, tot mai prezent pe rețele sociale.

Legea privind Siguranța Online obligă platformele, inclusiv Instagram, să aplice corect termenii de utilizare, mai ales când conținutul ironizează persoane pe baza unor caracteristici protejate, cum este dizabilitatea. Equality and Human Rights Commission a catalogat conturile semnalate de BBC ca fiind „profund tulburător” și a subliniat: „Este esențial să existe puteri de reglementare solide în spațiul digital pentru a proteja oamenii de pericole.”

Ce urmează după ce Meta a intrat pe fir

Meta a anunțat că investighează acest tip de conținut și că elimină materialele care promovează exploatarea sexuală sau atacă persoane pe baza unor caracteristici protejate. Alison Kerry, head of communications at Scope, a spus că această practică reprezintă „discriminare deghizată în conținut”. Ea a adăugat: „Aceste imagini AI nu apar din neant – ele sunt construite din imagini reale ale persoanelor cu dizabilități, adesea fără consimțământ – iar secțiunile de comentarii nemoderate amplifică obiectificarea și hărțuirea.”

Dr. Gaeta a adăugat că moderarea pe platforme precum Instagram nu este suficient de eficientă. „Chiar și când există măsuri de siguranță, s-a dovedit relativ ușor să fie ocolite dacă cineva este suficient de insistent.” Ea a subliniat: „Marile companii tech trebuie trase la răspundere, la fel cum trebuie combătute misoginia și ableismul.” Astfel de probleme evidențiază nevoia de politici anti-discriminare mai stricte și de instrumente automate de detectare a conținutului abuziv.

Ce riscuri apar și ce se poate schimba în mediul online

Chiar dacă aceste conturi creează personaje false, problema principală rămâne legată de comenzile și datele folosite de instrumentele generative. Accesibilitatea tehnologiei, seturile de date părtinitoare și lipsa unei moderări eficiente creează condiții pentru apariția abuzurilor. Fenomenul de fake news și manipulare digitală devine tot mai prezent odată cu dezvoltarea inteligenței artificiale generative.

Presiunea asupra platformelor de a aplica politici clare și de a îmbunătăți sistemele de detectare a conținutului generat de AI este tot mai mare. Cererile pentru reguli mai stricte și pentru responsabilizarea companiilor de tehnologie sunt din ce în ce mai numeroase. Pentru ca persoanele cu dizabilități să fie protejate online, este esențial ca aceste probleme să fie abordate atât la nivelul dezvoltării AI, cât și printr-o moderare eficientă a conținutului. Specialiștii atrag atenția că incluziunea digitală și protejarea grupurilor vulnerabile trebuie să devină priorități pentru toate rețelele sociale moderne.

•