18.12.2023 - 21:40
The Washington Post · Anthony Faiola
Niça, estat francès. Si visiteu aquest indret de la glamurosa Costa d’Atzur, hi ha una cosa que heu de saber: sou vigilats.
Aquesta ciutat mediterrània banyada pel sol, escenari d’un terrible atemptat terrorista l’any 2016, s’ha convertit –en paraules del seu batlle– en “la ciutat més vigilada de França” i, de retruc, en el laboratori d’una revolució mundial impulsada per la intel·ligència artificial.
A Niça hi ha un total de 4.200 càmeres instal·lades en espais públics: és a dir, una per cada 81 habitants. I, tanmateix, no són pas com les càmeres de videovigilància a què estem acostumats. Moltes van equipades amb imatges tèrmiques i connectades a un centre de comandament que, mitjançant la intel·ligència artificial, és capaç de detectar infraccions lleus (com ara si algú entra en un parc públic fora de l’horari establert) i fins i tot activitats potencialment sospitoses (com ara si algú intenta d’entrar en un recinte escolar).
La ciutat, de fet, ha provat un programari de reconeixement facial tan precís que fins i tot és capaç de distingir entre bessons idèntics.
Un altre sistema provat enguany a l’emblemàtic passeig dels Anglesos empra algorismes capaços de detectar a l’acte moviments irregulars de vehicles i vianants. Això, segons les autoritats, hauria pogut alertar immediatament la policia sobre el conductor que, l’any 2016, es va encastar amb un camió de dinou tones contra una gernació aplegada al passeig marítim, en un atac en què moriren vuitanta-sis persones i en sortiren ferides centenars.
“Hi ha gent que ens ha declarat la guerra, i no podem guanyar la guerra amb armes de la pau”, explica Christian Estrosi, batlle de Niça. “La intel·ligència artificial és l’arma més eficaç que tenim a l’hora de protegir-nos.”
D’una manera més general, l’estat francès ha començat a desplegar un ampli sistema de videovigilància algorítmica amb vista als jocs olímpics del 2024. Aquest sistema inclou tecnologia capaç de detectar moviments sobtats de multituds, objectes abandonats i persones estirades a terra. Segons les autoritats, aquesta tecnologia pot ser clau per a frustrar un atac com el dels Jocs Olímpics d’Atlanta del 1996.
Però l’adopció d’aquest sistema policíac tan futurista –que alguns no han dubtat a titllar d’orwel·lià– ha topat amb tota mena d’entrebancs en una regió del món que vol ser pionera en la regulació de la intel·ligència artificial, i que disposa d’algunes de les proteccions més estrictes del món en matèria de privadesa digital.
“Ens posen a tots sota l’ull omniscient de la intel·ligència artificial”, afirma Félix Tréguer, cofundador de La Quadrature du Net, un grup francès de defensa dels drets digitals.
Una revolució policíaca
Aquells qui viatgin als jocs potser no es trobaran càmeres de reconeixement facial a l’habitació de l’hotel, com sí que se’n van trobar els qui van visitar la Xina al setembre, amb motiu dels Jocs Asiàtics, càmeres que havien estat instal·lades pel govern per confirmar la identitat dels hostes. Els governs occidentals, tanmateix, empren com més va més la intel·ligència artificial com a eina de lluita contra la delinqüència.
Als Estats Units, la policia s’ha aliat amb empreses com ara Clearview AI, amb seu a Nova York, que ha desenvolupat un algorisme de reconeixement facial i ha acumulat un banc de dades de més de 20.000 milions de fotografies de rostres extretes de l’internet. El sistema va ajudar a identificar els assaltants del Capitoli dels Estats Units el 6 de gener de 2021, però també ha rebut crítiques per violació de la intimitat dels usuaris i per haver contribuït a detencions falses.
Al Regne Unit, un dels primers països a adoptar les càmeres de seguretat, el govern ha instat els cossos de policia a duplicar les investigacions amb reconeixement facial, com també a considerar el reconeixement facial en viu per a identificar persones en cerca policíaca.
A l’Europa continental, l’estat francès no és pas l’únic que ha adoptat la intel·ligència artificial amb propòsits de seguretat ciutadana. Als canals de Venècia, per exemple, hi ha una xarxa de càmeres connectada a un centre de control que ara funciona amb intel·ligència artificial i que és capaç de reconèixer la forma i la grandària de les embarcacions amb l’objectiu de controlar la seguretat del trànsit marítim. Als epicentres turístics de la ciutat també s’empren algorismes capaços de detectar moviments sobtats de la multitud que podrien indicar un atac. L’any passat la policia de Venècia va utilitzar la intel·ligència artificial per seguir la pista d’una jaqueta amb l’objectiu de localitzar i detenir un grup d’homes presumptament implicats en un apunyalament.
Regulació de la vigilància amb intel·ligència artificial
Més que enlloc més d’Occident, la Unió Europea ha provat de controlar les xarxes socials i fer complir el dret de privadesa en l’era digital, tot promulgant legislacions històriques que han donat lloc a investigacions, multes i canvis en les operacions de les empreses tecnològiques dominants als Estats Units, incloent-hi Google i Meta. A començament d’aquest mes, la UE va aconseguir un acord històric sobre una nova llei d’intel·ligència artificial, que preveu de penalitzar econòmicament les empreses tecnològiques que no la compleixin.
Però mentre la UE mira de regular l’ús de la intel·ligència artificial d’origen privat, els governs europeus proven de preservar el seu dret d’usar-la. La llei d’intel·ligència artificial, de fet, quasi va fracassar arran de les demandes, encapçalades per l’estat francès, d’incloure-hi excepcions per als estats.
L’acord, finalment, exigirà l’aprovació judicial per a la identificació biomètrica. La tecnologia de reconeixement facial tan sols podrà aplicar-se a vídeos enregistrats per a identificar condemnats o sospitosos d’haver comès un delicte greu. La vigilància instantània es podria aplicar en circumstàncies limitades, com ara el seguiment d’una víctima de segrest o d’un sospitós de terrorisme. Les investigacions policíaques podrien contravenir la llei d’intel·ligència artificial si es considera que els objectius són classificats per afiliació política, ètnia o identitat de gènere.
“Si la policia vol cercar algú que porta una samarreta vermella, pot fer-ho”, explica Brando Benifei, un dels dos legisladors que encapçalen les negociacions sobre la llei al Parlament Europeu. “Però no poden obtenir dades biomètriques de totes les persones negres només perquè cerquen un terrorista negre”, afegeix.
La solució de les siluetes
Molts països europeus cerquen maneres de guanyar terreny en l’àmbit de la vigilància policíaca amb intel·ligència artificial, i alhora miren d’eludir les normes que prohibeixen l’ús en massa de dades biomètriques i el reconeixement facial.
A Alemanya, un país on persisteixen els records dels abusos policíacs de l’època nazi i la Guerra Freda, les autoritats van provar un algorisme d’intel·ligència artificial desenvolupat per l’Institut Fraunhofer en una de les zones de més criminalitat d’Hamburg. El sistema és capaç de detectar i assenyalar a la policia una colla d’actes, com ara puntades de peu, cops, postures agressives, postures defensives o bé empentes. Però en les imatges que es mostren a la policia els individus apareixen com a siluetes, cosa que els fa anònims a ulls dels agents.
Al programari “no li interessa el sexe, el color de la pell ni cap altre tret especial de la personalitat”, diu Nikolai Kinne, responsable del projecte de vigilància intel·ligent de la policia d’Hamburg.
Els activistes, tanmateix, sostenen que fins i tot aquestes observacions poden ser intrusives. Una persona pot actuar de manera més cohibida, o bé evitar certes zones, si sap que les càmeres la poden vigilar.
Això “empeny i pressiona la gent a comportar-se de la manera que creu que s’ha de comportar”, diu Konstantin Macher, de Digitalcourage, un grup alemany de defensa dels drets digitals. “Crec que això va eliminant la bellesa del comportament humà i ens va induint a actuar de manera rutinària i robòtica”, afegeix.
L’estat francès vol ampliar la vigilància amb intel·ligència artificial
Amb vista als jocs olímpics, l’estat francès ha optat decididament per les tècniques de seguretat ciutadana amb intel·ligència artificial. A París i a més indrets, centenars de càmeres intel·ligents s’encarregaran de vigilar les multituds. Una llei aprovada fa poc manté la prohibició del reconeixement facial en la majoria dels casos, però també amplia les aplicacions legals de la videovigilància algorítmica abans, durant i almenys sis mesos després dels jocs.
Molts observadors consideren que és un assaig que es podria prolongar indefinidament si el públic accepta la tecnologia i comprova que funciona. Una enquesta sobre l’aprovació de la llei va revelar-ne un suport aclaparador: un 89% dels enquestats a favor de les càmeres intel·ligents en estadis, un 81% a favor en el transport públic i un 74% a favor en la via pública.
“Sabem que aquesta lluita la tenim perduda”, diu Paul Cassia, professor de dret i activista de l’Organització de Defensa de les Llibertats Constitucionals, amb seu a París. “Tots fem servir telèfons intel·ligents. Ara hi ha càmeres pertot arreu. La gent demana aquestes mesures i, si passa res, diu: ‘És culpa teva, no vas fer prou per a protegir-nos.'”
Estrosi, batlle de Niça, defensa un ús més ampli de la intel·ligència artificial. L’ajuntament, per exemple, vol implantar en autobusos i tramvies una tecnologia experimental que és capaç de detectar els canvis en la coloració facial d’un passatger i orientar els agents cap a una possible emergència sanitària o bé una altra font de tensió.
Segons l’ajuntament, prop d’un 18% dels casos policíacs es resolen gràcies a les seves càmeres intel·ligents. Estrosi, tanmateix, insisteix que aquesta xifra pot ser molt més alta. “La intel·ligència artificial és a tot arreu menys on realment ens seria útil –assegura–. Hem d’utilitzar el reconeixement facial per a garantir la seguretat de la meva ciutat. El programari és a punt.”
Virgile Demoustier, a París; Kate Brady, a Berlín; i Stefano Pitrelli, a Roma, han contribuït en aquest reportatge.
- Subscribe to The Washington Post
- Podeu llegir més reportatges de The Washington Post publicats en català a VilaWeb
