16.03.2025 - 21:40
The Washington Post · Heather Kelly
Kelly Takasu no hauria volgut veure mai vídeos generats per intel·ligència artificial de dones grans alletant nadons mig panda, mig humans. Aquesta mare de trenta-sis anys utilitza Instagram per trobar consells útils sobre criança i receptes de cuina. Però després de cercar contingut sobre lactància, l’aplicació va interpretar erròniament els seus interessos.
“Un dia vaig notar que em suggerien uns reels on sortia una dona gran envoltada de nadons. Segurament m’hi vaig estar mirant massa estona”, diu Takasu.
Instagram, propietat de Meta, va continuar mostrant-li vídeos com més anava més estranys: una parella gran al llit envoltada d’una vintena de nadons, dones grans alletant i, finalment, dones de diferents edats alletant i donant a llum a criatures híbrides entre humans i animals. Va decidir deixar d’usar l’aplicació per no veure més aquestes publicacions generades amb IA.
A mesura que més xarxes socials adopten el model algorítmic de TikTok, els usuaris es troben més sovint amb contingut estrany, inquietant i no desitjat. No es tracta només de creacions inusuals fetes per intel·ligència artificial, sinó també de violència real, pornografia i discursos polítics incendiaris. Aquest contingut sempre ha existit en racons foscs d’internet, però ara s’escola en les aplicacions utilitzades per adolescents i adults.
En particular, les publicacions violentes –com ara vídeos de xocs impactants i imatges escabroses– han format part de l’ADN d’internet durant dècades, allotjades en fòrums especialitzats. Tot i que tenen una audiència específica, l’impacte que tenen fa que puguin atreure l’atenció de persones que no les cercaven activament.
A començament d’aquest mes, usuaris d’Instagram de tot el món, inclosos menors amb restriccions activades al compte, de sobte van veure com els reels s’omplien de vídeos violents, sexuals i extremistes durant tot un dia.
“El meu fill de disset anys va veure assassinats –gairebé com si fossin atemptats terroristes–, el part d’una dona i cossos morts”, explica la mare d’un estudiant de secundària. “Va ser com un atac a la seva ment. Encara són molt impressionables.”
Més usuaris també van informar de vídeos de cirurgies, persones morint en accidents, tirotejos i nus. Molts d’aquests vídeos continuen disponibles a l’aplicació, en comptes populars amb milers de seguidors. Sovint es troben en una zona grisa que no incompleix els estàndards comunitaris de Meta.
“Hem corregit un error que va fer que alguns usuaris veiessin temporalment contingut que no hauria d’haver estat recomanat al seu reel. Demanem disculpes per l’error”, va declarar Erin Logan, portaveu de Meta.
Encara que aquest problema no estava relacionat amb un canvi de política, Meta ha introduït canvis que afecten el contingut que es veu a Instagram i Facebook. Ha eliminat el programa de verificació de fets i ha relaxat les restriccions sobre comentaris negatius en qüestions com ara la immigració i els drets de les persones transgènere. També ha tornat a permetre més publicacions polítiques a les seves plataformes.
Instagram sempre ha volgut ser un espai perquè els menors segueixin amics, influenciadors i comptes d’humor, sense tallar del tot l’accés a l’enorme volum de vídeos que allotja.
El setembre, l’aplicació va introduir restriccions més estrictes per als usuaris menors de divuit anys, amb l’activació per defecte del filtre més restrictiu per a contingut violent i sexual. Aquest filtre redueix les possibilitats que els adolescents es trobin amb publicacions inadequades, tot i que els usuaris de setze anys o més poden modificar-ne la configuració per fer-la menys restrictiva.
Però segons que explica la mare de l’estudiant de secundària, el compte del seu fill tenia activats tots els filtres de seguretat.
No és la primera vegada que Instagram es veu qüestionat per contingut controvertit. El 2021, la denunciant Frances Haugen va revelar que investigacions internes de Meta demostraven que la plataforma perjudicava els adolescents, especialment en termes d’autoestima i imatge corporal.
Taylor Little, una jove de vint-i-dos anys de Colorado Springs, és una de les demandants en unes quantes causes contra Meta, que acusen la companyia d’haver perjudicat menor deliberadament. Little va obrir un compte d’Instagram a dotze anys fent-se passar per una persona de setze. Aviat es va veure atrapada en una espiral de contingut sobre autolesions, trastorns alimentaris i idees suïcides. Les primeres publicacions li van aparèixer com a suggeriments a la pàgina d’exploració.
“Va arribar un punt en què només veia això”, diu Little. “Vaig desenvolupar un trastorn alimentari molt ràpidament i m’autolesionava cada dia.”
Encara està en procés de recuperació i ha esborrat totes les aplicacions de xarxes socials del telèfon.
“Sabem que el que manté la gent enganxada és el contingut escandalós, tòxic, odiós i morbós”, explica Sandra Wachter, professora de tecnologia i regulació a la Universitat d’Oxford. “Les bones notícies no venen, per tant, els algoritmes aprenen les preferències dels usuaris i acaben oferint com més va més aquest contingut problemàtic.”
Segons la normativa actual, Meta prohibeix la majoria dels vídeos extremadament gràfics, com ara imatges de cossos calcinats, execucions en directe i òrgans exposats fora d’un context mèdic.
Tanmateix, hi ha marge per a vídeos impactants, com ara imatges explícites de procediments mèdics i contingut que pugui fomentar trastorns alimentaris. Instagram sovint no els elimina, sinó que els amaga darrere una pantalla d’advertència de “contingut sensible”, tot indicant que pot ser gràfic o violent. Aquest filtre està activat per defecte en comptes de menors.
A més de la violència i el sexe, també es colen a les xarxes continguts totalment surrealistes. Les eines d’IA permeten de generar imatges i vídeos impactants fàcilment i a baix cost. L’objectiu és crear contingut tan estrany que la gent se senti atreta a mirar-lo i comentar-lo, tot i que els usuaris més joves poden ser més conscients que són falsos.
YouTube continua essent la plataforma més popular entre els adolescents, segons el Pew Research Center, seguida de TikTok i Instagram. Molts d’aquests vídeos també es poden trobar a YouTube sense necessitat d’iniciar sessió. Tanmateix, a TikTok són més difícils de trobar, ja que la plataforma té filtres més estrictes per a la violència i el sexe.
- Subscribe to The Washington Post
- Podeu llegir més reportatges del Washington Post publicats en català a VilaWeb
