04.03.2023 - 21:40
|
Actualització: 06.03.2023 - 19:12
De la intel·ligència artificial (IA) fa anys que se’n parla. Amb poques excepcions, com ara els assistents de veus, no havia començat a arribar de manera evident a les nostres vides. Semblava més una tecnologia solament a l’abast de centres acadèmics, grans corporacions tecnològiques i governs. O, com en el cas de les fotografies als dispositius mòbils, passava completament desapercebuda. Tanmateix, d’un temps ençà ens arriba als mòbils i ordinadors d’una manera més evident. ChatGPT, deepfakes a l’abast de tothom, filtres que ens canvien l’aparença a les xarxes socials, mitjans de comunicació que redacten articles amb IA sense avisar els lectors o, al nostre país, l’aplicació de sistemes de reconeixement facial amb intel·ligència artificial al transport públic usat per milions de ciutadans.
I és ací on han començat a sonar les alarmes. Els experts qüestionen les implicacions ètiques, psicològiques, laborals i de llibertats socials de posar a l’abast de tothom aquesta tecnologia, que arriba a milers de milions de dispositius mòbils d’un dia per l’altre. Hem entrat en una fase en què la IA no solament augmenta la realitat, sinó que la va substituint i arriba a fer por a molta gent. Veus expertes ja havien advertit de l’amenaça per a l’espècie humana d’aquesta tecnologia si no s’aplicava correctament. Comencem a percebre-ho?
Els filtres de TikTok, indistingibles de la realitat
Malgrat que quan es parla d’intel·ligència artificial generalment es pensa en robots o màquines que poden parlar o interaccionar amb els humans de manera natural, generalment el terme també es fa servir per referir-se a les tecnologies que permeten aquests resultats: xarxes neuronals, aprenentatge automàtic (machine learning), algorismes, models estatístics, etc. Això fa que sovint la IA passi desapercebuda. Així, per exemple, els dispositius d’Apple fa anys que incorporen xips especialitzats amb un “motor neuronal” optimitzat per executar aquesta mena de tecnologies aplicades a la millora de vídeos i fotografies. Si avui els mòbils fan fotografies més bones, especialment de nit, no és tant perquè tinguin una òptica més bona, sinó perquè la imatge és processada amb el motor neuronal que la millora en temps real sense que ens n’adonem. L’altra aplicació esperada d’aquests motors neuronals era la realitat augmentada (AR, per les sigles en angles). Però les coses han anat més de pressa que no ens pensàvem.
El 22 de febrer, la popular xarxa social TikTok va anunciar que incorporava la IA a l’eina de creació de filtres oberta als creadors. La companyia va mostrar d’exemple tres efectes que ens modifiquen la cara en temps real per eliminar-nos les celles, afegir-hi un somriure o arrufar-nos els llavis. Per assolir aquests efectes fa servir xarxes generatives antagòniques (GAN, per les sigles en anglès), uns algorismes d’aprenentatge automàtic no supervisat que enfronta dues xarxes neuronals, que competeixen fins que en fusionen el resultat. L’una, amb la imatge real de la càmera; l’altra, amb l’efecte de TikTok. Aquesta mena d’efectes fa temps que existien, però eren molt matussers perquè no aplicaven aquestes noves tècniques de la IA. La diferència ara és el realisme extrem aconseguit per les GAN: si bé és cert que encara no són perfectes i fallen en alguns casos, la major part de vegades el resultat és completament indistingible de la realitat. I tot plegat s’executa en un mòbil normal i corrent i en temps real.
Els efectes psicològics d’uns filtres que no es poden detectar fàcilment
Ben de pressa s’han creat més filtres, com ara els que ens maquillen, amb un resultat absolutament versemblant. En aquests casos, encara parlem d’allò que esperaríem de la realitat augmentada, que superposa elements artificials més o menys identificables a una imatge real. Però, tal com els experts fa anys que diuen sobre la IA, que quan arribi a tenir una intel·ligència com la humana no s’aturarà i continuarà progressant fins a deixar-nos enrere, dos nous filtres han anat molt més enllà en pocs dies.
Són el Bold Glamour (glamur atrevit) i el Teenage Look (aspecte d’adolescent). En aquest cas, són filtres que transformen l’aparença del tot. Milions d’usuaris ja els han fet servir, i la reacció no ha estat sempre positiva. D’usuaris per sobre dels quaranta anys que començaven a plorar per l’efecte emocional de veure’s una altra volta joves amb el filtre d’adolescent, fins a uns altres que demanaven que el filtre de bellesa s’hauria de prohibir pels canvis radicals que els causava a la cara, cosa que mostrava que la seva aparença era lluny dels patrons de bellesa de l’aplicació –ras i curt, els titllava de lletjos.
![](https://imatges.vilaweb.cat/nacional/wp-content/uploads/2023/03/Tiktok01-04115953.jpg)
Els filtres són d’una qualitat mai vista. Els usuaris es poden passar la mà per la cara, i el filtre continua completament integrat. Alguns experts denuncien que els efectes psicològics d’aquesta mena d’eines poden ser devastadors per a molta gent, especialment joves i adolescents i, més encara, per a les noies. Un estudi del 2021 va mostrar els impactes dels filtres tradicionals en aplicacions com ara Instagram: un 90% de les dones admetia que els feia servir i un 94% senti la pressió per a tenir una aparença determinada a les xarxes socials. Uns altres estudis mostraven que un terç de les noies adolescents se sentien malament amb el seu cos i que l’ús d’aplicacions com Instagram els feia créixer l’ansietat i la depressió.
Els nous filtres de TikTok ens fan entrar en una nova dimensió, molt més enllà del conegut “efecte Photoshop”. Alguns experts adverteixen que en aquells casos on hi ha canvis molts radicals de la cara per a assolir l’estàndard de bellesa del filtre, afecta directament l’autoestima. Un segon efecte que pot causar són operacions d’estètica, amb els riscs mèdics que impliquen, per assemblar-se al patró artificial (i canviant) de bellesa d’aquests filtres, per la impossibilitat d’assolir-lo d’unes altres maneres. Algunes usuàries han provat d’emular amb maquillatge el resultat del filtre, i han estat incapaces d’obtenir un resultat equivalent.
![](https://imatges.vilaweb.cat/nacional/wp-content/uploads/2023/03/TikTok02-04115958-scaled.jpg)
Més experts han ressaltat les implicacions ètiques d’aquesta aplicació: arriba a qüestionar la realitat mateixa. En un món on com més va més virtualment ens relacionem, i on molta gent s’ha conegut a les xarxes socials i no s’ha vist en persona, ens podem arribar a qüestionar si la persona amb qui interactuem és real o la seva aparença ha estat canviada per la intel·ligència artificial. Fins i tot, si és una persona o un robot. És lícit que canviem d’aparença amb aquests filtres per a una entrevista de feina feta per videoconferència? I per mirar de trobar parella o fer amics? Com actuem una vegada descobert el canvi en persona?
La intel·ligència artificial que escriu articles de premsa
Aquests dies també hi ha hagut una altra polèmica associada a la intel·ligència artificial. D’ençà del novembre, el conegut mitjà tecnològic CNET ha creat una setantena d’articles sense intervenció humana, gràcies a la IA, i sense avisar els lectors. A més, la intenció no era tant crear uns articles absolutament versemblants, sinó generar continguts que milloressin el seu posicionament als resultats dels cercadors. Fins i tot han creat una divisió d’estratègia de contingut IA. Alguns mitjans ja fa anys que aplicaven intel·ligència artificial. Però bàsicament per fer informes automatitzats, com ara elaborar pàgines amb les cotitzacions de borsa. Ara s’ha anat més enllà i s’ha passat a crear contingut automàtic, i, a més, amb un objectiu que podria vulnerar les condicions dels cercadors i les normes del periodisme. La companyia d’entrada no va aclarir si feia servir IA per escriure articles, però a final de gener va haver d’admetre-ho, perquè més de la meitat dels articles van haver de ser modificats per humans pels errors que contenien.
![](https://imatges.vilaweb.cat/nacional/wp-content/uploads/2023/03/chatgpt-04115943.jpg)
Això recorda molt el fenomen ChatGPT. Una intel·ligència artificial molt sofisticada i realista, que interacciona amb els humans de manera natural i que aprèn llengües com el català en un tres i no res. Però que molts experts han qualificat de “lloro”, perquè no fa més que repetir paraules, frases i continguts sense un criteri darrere. Amb l’inconvenient greu que mostri informació errònia de manera versemblant per a no especialistes, sense detectar-ho. Un fenomen que es repeteix en una altra de les aplicacions de la IA, en un àmbit més especialitzat: GitHub Copilot. El portal GitHub, propietat de Microsoft, és àmpliament usat per programadors de tot el món. Amb el Copilot, de pagament, obtenim una intel·ligència artificial que programa per nosaltres. Tan sols hem de demanar què volem que faci el codi perquè l’escrigui, basant-se en programació escrita anteriorment per humans. L’inconvenient, així com amb el ChatGPT, és que el codi pot contenir errors i és necessari que sigui revisat per un programador expert –per això el nom de copilot.
En risc milions de llocs de feina
Aquest és precisament un dels arguments principals que es fan servir per negar que la IA pugui causar acomiadaments: facilita la vida als professionals i fa augmentar la productivitat, però sempre cal que hi participi un humà. Tanmateix, les coses podrien canviar de pressa. Per exemple, alguns analistes atribueixen que una de les causes dels acomiadaments en les empreses tecnològiques podria ser el principi de la implantació general de la intel·ligència artificial en els processos interns, malgrat que ara per ara no n’hi ha cap prova fefaent. Al cap i a la fi, si fa augmentar la productivitat dels treballadors, vol dir que en calen menys per a fer la mateixa feina. Paradoxalment, alguns analistes sostenen que els primers acomiadaments en massa causats per la implantació de la intel·ligència artificial no seran treballadors poc qualificats, sinó perfils molt tècnics, com ara els programadors, que a més tenen uns sous, en comparació, molt més alts.
Unes altres companyies, com ara Tesla, amb la seva intel·ligència artificial per a la conducció autònoma, van reduint les referències públiques a la IA. Així, en la presentació del camió elèctric no en va fer cap referència, malgrat que el sector té manca de conductors i les empreses de logística estan molt interessades a robotitzar els vehicles per solucionar aquest maldecap. També tenen el projecte de robots taxi, que vol permetre que tots els seus cotxes venuts es transformin en taxis robotitzats que els seus propietaris puguin llogar a l’estil Uber mentre el tenen aparcat, i així obtenir uns guanys extres. Malgrat que en la darrera presentació de Tesla (dia de l’inversor) s’hi va fer referència, no en van donar cap detall, tot i ser un dels plans cabdals de la companyia. Un programari que també es podrà aplicar al seu nou camió elèctric i que pot representar acomiadaments en massa de conductors professionals.
Reconeixement facial generalitzat
Aquests dies també s’ha sabut que Transport Metropolitans de Barcelona (TMB) ha convocat un concurs per a un nou sistema d’anàlisi d’imatges antiintrusió de nova generació. Amb l’argument de lluitar contra els grafiters i el vandalisme, en el plec de prescripcions tècniques s’especifica l’ús d’un “algorisme de reconeixement facial per intel·ligència artificial”. El nou sistema també “haurà de permetre la cerca d’una persona per la seva descripció física, incloent-hi el color de la roba, el color dels cabells, el sexe i el grup d’edat”, atès que abans el sistema “podrà afegir una persona a una llista d’observació facial”. No serà la primera vegada que s’aplica el reconeixement facial a Barcelona, però fer-lo servir al metro exposa a milions de ciutadans al control de la IA. I més tenint en compte que amb els títols personals de la T-Mobilitat es podria, si més no teòricament, creuar les dades personals amb la cara a l’hora de validar el bitllet. Les lleis de protecció de dades ens protegeixen sobre el mal ús que se’n pugui fer, però a la pràctica, tal com demostren les freqüents trucades comercials no desitjades que rebem, la vulneració d’aquestes lleis és generalitzada en estats com l’espanyol.
![](https://imatges.vilaweb.cat/nacional/wp-content/uploads/2023/03/passatge-metrobcn-sagrera-acn-2-04115947.jpg)
Tot plegat mostra que la intel·ligència artificial ha arribat a un grau de maduresa que s’estén en massa molt de pressa. Amb importants conseqüències sobre les llibertats civils, la salut pública (efectes psicològics) i posant en perill milions de llocs de feina. També pot tenir efectes positius: fa pocs dies hem sabut que EzDubs, un portal en què s’aplica la IA per doblar contingut audiovisual, ha incorporat el català. Gràcies a això, els creadors no hauran de renunciar al català, atès que es podrà traduir a unes altres llengües fins i tot preservant la veu, segons la companyia, i els consumidors podrem accedir en català a continguts fets en unes altres llengües a una escala mai vista. Ara per ara no, arriba a la qualitat dels dobladors professionals catalans (entre els millors del món), de manera que n’és un complement. I si bé pot causar el mateix efecte d’acomiadaments en el sector, també podria expandir enormement el contingut doblat a la nostra llengua, que, en una mesura més gran o més petita, necessitarà gestors i controls de qualitat en usos comercials.
Caldrà veure com reacciona el gran públic a una presència contínua en el dia a dia de la intel·ligència artificial. Passarà com amb els menús de veu automàtics dels serveis d’atenció al client telefònics, àmpliament rebutjats i que han forçat moltes empreses a retornar a operadors humans? O trobarem la manera de conviure-hi, malgrat els inconvenients?