28.02.2025 - 21:40
|
Actualització: 02.03.2025 - 23:02
Segurament no ho sabeu, però si teniu un telèfon Android és molt probable que aquestes darreres setmanes se us hagi instal·lat una aplicació anomenada Android System SafetyCore sense que vosaltres ho hàgiu autoritzat. No la trobareu a la pantalla d’inici ni al menú d’aplicacions, però si teniu un Android 9 o superior podreu veure que és a la llista de processos del sistema al menú de Configuració. Una aplicació que s’instal·la sense permís pot causar certa preocupació, més encara si, a més, no rebem cap avís ni explicació de per què s’instal·la. Així doncs, què és SafetyCore i per a què serveix?
Aquest novembre, Google va fer públic una llista amb cinc projectes en desenvolupament per a “millorar la seguretat” dels usuaris que fan servir l’aplicació Google Messages, que permet de rebre missatges SMS i de xatejar amb usuaris que tinguin un compte de correu de Google. Una d’aquestes eines de protecció era la funció “Avisos de contingut delicat”, amb la qual SafetyCore té una relació estreta. L’objectiu és que, una volta activada, el sistema utilitzarà SafetyCore per analitzar totes les fotografies enviades o rebudes i determinar si hi ha cossos nus. Si és el cas, l’aplicació esborrarà automàticament la imatge abans que es mostri i avisarà l’usuari sobre el contingut delicat, perquè decideixi si la vol veure o ignorar. Així mateix, si l’usuari prova d’enviar o reenviar una imatge amb algun nu, es mostrarà un avís que recorda els riscs de compartir imatges íntimes abans de permetre d’enviar-la.
Malgrat que Google ja hagi instal·lat SafetyCore, aquesta funció encara no és activa, i s’espera que comenci a funcionar els mesos vinents. La idea és que aquest filtre per a les fotografies de nuesa sigui opcional per als adults, que l’hauran d’activar manualment als ajustos d’Android, i que estigui activat per defecte per als menors d’edat. L’objectiu és protegir els menors d’edat de la difusió de pornografia, però també els adults que no volen rebre imatges de nuesa indesitjades. Inicialment, és destinada a Google Messages, però no es descarta que pugui arribar a funcionar en unes altres aplicacions de missatgeria, com ara, WhatsApp.
Alhora, Google també ha instal·lat sense avisar Android System Key Verifier, una eina per a millorar la seguretat de les aplicacions de missatgeria amb xifratge d’extrem a extrem. Permet que es puguin emmagatzemar de manera segura claus de xifratge i que els usuaris puguin verificar que les aplicacions utilitzen les claus correctes durant la comunicació. Com SafetyCore, s’ha instal·lat abans que estigui actiu, i s’espera que les aplicacions de missatgeria ho incorporin més endavant.
Polèmica per la privacitat i la censura automàtica
La descoberta d’aplicacions instal·lades sense permís ha indignat molts usuaris, que han escrit a fòrums especialitzats preguntant com es poden desinstal·lar. Preocupa especialment que Google hagi instal·lat en secret una aplicació de reconeixement de contingut, tal com podria haver fet un virus informàtic, i preocupa l’abast real que pugui tenir l’aplicació en termes de privacitat. Què vol dir que una aplicació instal·lada en secret pugui saber si rebem imatges de nus o si n’enviem?
Tampoc no va ajudar la manca de transparència de Google. Inicialment, la descripció oficial a Google Play fou molt breu i críptica, perquè només deia que era “un servei del sistema que dóna eines de seguretat per a dispositius Android”. Quan va esclatar la polèmica, Google la va actualitzar i va donar més detalls de per què servia. A més, molt important, va precisar: “El processament [de les imatges] per als avisos de contingut delicat es fa dins del dispositiu, i totes les imatges i els resultats específics i avisos són privats per a l’usuari.” És a dir, si fem cas del que diu Google, no hi ha risc d’una filtració voluntària o involuntària si rebem o enviem imatges de nus. Ara bé, l’existència mateixa d’una aplicació instal·lada capaç d’escannar i classificar les fotografies representa un risc en la privacitat, perquè res no impedeix tècnicament que no s’ampliï per a detectar un altre tipus de material o que pugui quedar un registre que sigui explotat posteriorment. A més, que no sigui una aplicació de codi obert no contribueix a tranquil·litzar la comunitat més preocupada per la privadesa i la ciberseguretat.
D’altra banda, hi ha qui se sent incòmode pel sol fet que Google analitzi un contingut que és privat, i obre el debat si un algorisme té cap dret de considerar la nuesa i la sexualitat delicades i, per tant, les censuri automàticament. Més encara quan aquesta anàlisi va més enllà de continguts il·legals. Així i tot, val la pena recordar que aquesta funció no serà obligatòria i els usuaris decidiran si volen tenir-la activa o no.
El debat és obert, i dins la comunitat més preocupada per la privadesa hi ha opinions de tota mena. Per exemple, els responsables de GrapheneOS –un sistema operatiu de codi obert basat en Android i centrat en la privadesa– hi lleven importància i diuen que l’aplicació no analitza tot el dispositiu ni s’utilitza per a informar Google ni ningú d’allò que troba. “Proporciona models d’aprenentatge automàtic al dispositiu que les aplicacions poden utilitzar per classificar el contingut com a correu brossa, estafes, programari maliciós, etcètera. Això permet que les aplicacions ho comprovin localment, sense arribar a compartir el contingut amb un servei extern, i ho marca com un avís per als usuaris”, escriuen. Insisteixen que és una funcionalitat opcional i recorden que, de fet, hi ha moltes altres aplicacions que envien dades personals als seus servidors per analitzar-les amb eines d’intel·ligència artificial, i que, en aquest cas, tot seria dins del mateix dispositiu. “Classificar coses així no és igual que mirar de detectar contingut il·legal i denunciar-ho. Això sí que violaria, i molt, la privadesa de la gent de moltes maneres, i a més hi hauria falsos positius. Però no es tracta d’això ni es pot fer servir així”, deixen clar.
The functionality provided by Google's new Android System SafetyCore app available through the Play Store is covered here:https://t.co/iDknhUqDV8
Neither this app or the Google Messages app using it are part of GrapheneOS and neither will be, but GrapheneOS users can choose to…
— GrapheneOS (@GrapheneOS) February 8, 2025
Un dels autors del bloc de Malwarebytes, un antivirus de codi obert, sí que expressava la seva preocupació: “Ara hi ha un programa al meu telèfon que comprova si les meves imatges són ‘prou decents’ per a enviar-les o compartir-les?”, demanava, i deia, en relació amb els missatges privats: “El contingut és per a mi i el receptor, i ningú més, i això inclou, sens dubte, Google.”
“Google promet que només avalua les nostres fotos i no les recopila ni les comparteix, però aquesta funció sembla que està impregnada d’intel·ligència artificial (IA). Com tots sabem, una IA necessita ser entrenada, i entrenar una IA localment al telèfon és gairebé impossible. Tant de bo tingués la potència necessària, però no la té. Personalment, no veig com el servei instal·lat secretament pot estar a l’altura del que ofereix la funció. Però, òbviament, tothom té dret a la seva pròpia opinió i el dispositiu és teu per fer-ne el que vulguis”, afegia.
Apple té una aplicació molt similar
Malgrat la polèmica, el fet és que el gran competidor de Google en el negoci dels telèfons mòbils, Apple, fa anys que té una funcionalitat molt similar. La diferència substancial és que Apple va ser transparent des del primer moment i va explicar com funcionava l’eina i quin ús tenia. El mode “Comunicació segura” va directament vinculat a les eines de protecció parental perquè els menors no enviïn imatges de nuesa ni en rebin, i s’ha d’activar manualment dins la configuració de “Temps d’ús”. A iPhone, iPad o Apple Vision Pro s’activa anant a “Configuració” i, allà, a “Temps d’ús”; i als Mac, al menú Apple: “Configuració del Sistema” i, allà, “Temps d’ús”. Un cop dins, n’hi ha prou de tocar el nom de l’infant del nostre grup familiar i, dins, activar “Comunicació segura”.
Un cop activada, l’eina detectarà fotografies i vídeos de nuesa enviats o rebuts amb les aplicacions de Missatges, AirDrop, a les imatges de contacte, als missatges de vídeo de FaceTime o quan l’infant seleccioni una fotografia o vídeo per a compartir amb altres aplicacions. Si “Comunicació segura” determina que aquella fotografia o vídeo pot contenir nuesa, la difumina, mostra un avís que allò podria ser un contingut delicat i ofereix consells i eines per a sortir del pas, com ara, posar-se en contacte amb un adult o blocar el contacte. Si l’infant insisteix a veure o enviar la fotografia o el vídeo, l’eina insistirà a persuadir-lo perquè no ho faci, però finalment li permetrà de fer-ho. Ara bé, si és menor de tretze anys, haurà d’introduir un codi definit per un adult.
En general, aquesta funció d’Apple va ser rebuda positivament com una eina de protecció dels menors gràcies a la transparència i l’enfocament. En canvi, va ser molt més polèmic un altre mecanisme més intrusiu anunciat el 2021: un sistema d’escombratge al dispositiu per a cercar continguts d’abús sexual infantil que es pugessin a iCloud i per a denunciar-ho als organismes judicials. Malgrat que l’objectiu final fos positiu, grups de drets digitals, com Electronic Frontier Foundation, van veure perillosa la iniciativa, i van argumentar que podria crear una infrastructura de vigilància dels ciutadans amb els seus telèfons mòbils que podria ser explotada més enllà de l’objectiu d’aturar la pornografia infantil. Tècnicament, un cop implementat, podria ampliar-se per iniciativa pròpia o per pressions externes, cosa que donaria lloc a un espionatge en massa. Arran de la polèmica, Apple es va fer enrere i va retirar el projecte.
Com podeu desinstal·lar SafetyCore (si ho voleu)
L’aplicació Android System SafetyCore s’instal·la d’amagat i sense preguntar, però es pot desinstal·lar fàcilment. Per fer-ho, cal cercar-la a la llista d’aplicacions dins el menú de “Configuració” i fer clic a “Desinstal·la”.
Alguns usuaris expliquen que la van desinstal·lar, però que en la següent actualització Google va tornar-la a instal·lar d’amagat. Cal tenir en compte, a més, que SafetyCore és una aplicació de sistema, i que desinstal·lar-la pot fer que algunes aplicacions –com Google Messages– no funcionin adequadament. Arribat el cas, es pot tornar a instal·lar des de la botiga d’aplicacions Google Play.
