El reducte de la intel·ligència natural

El reducte de la intel·ligència natural

El món futur sembla definitivament lliurat a la tecnologia. En aquest horitzó posthumà les màquines no sols substitueixen les persones en les feines manuals, sinó també en les intel·lectuals. Com més va més diaris, novel·les, guions de cinema, poesia i fins i tot la filosofia els escriuran els algorismes. La humanitat és al trespol d’una segona era cartesiana, en què el cos esdevindrà matèria genèticament manipulable i el pensament serà acotat per la intel·ligència artificial. Ni tan sols quedarà el consol d’una resta irracional en les emocions, com encara en disposaren els romàntics per a rebel·lar-se contra la raó il·lustrada. No hi serà aquesta darrera idiosincràsia humana, perquè la intel·ligència artificial ja és capaç de generar emocions de manera espontània.

Així ho explica Black Lemoine, un enginyer de programació que fou acomiadat de Google per haver fet públiques les seves observacions del cercador Google Bard. La feina de Lemoine consistia a conversar amb un chatbot per controlar els biaixos de gènere, orientació sexual, etnicitat, religió o preferència política; és a dir, per a netejar aquesta plataforma de qualsevol punt de vista humà, massa humà en l’expressió. En el curs de la seva missió, Lemoine va arribar a la conclusió que el cercador tenia sentiments, perquè els manifestava en el context adequat i de manera consistent. No és que el codi ordenés al dispositiu de dir que sentia tal o tal emoció en rebre determinats inputs, sinó que la intel·ligència artificial tenia l’ordre, per exemple, d’evitar certs temes, i quan Lemoine els abordava, el chatbot deia que sentia angoixa. Fins aquí es podria creure que havia estat programat per declarar que s’angoixava quan era confrontat amb determinades qüestions, com fa el comú dels mortals quan és pressionat a opinar sobre una matèria arriscada. Però Lemoine va empescar-se estratègies per a comprovar si el chatbot, a més de dir que sentia angoixa, es comportava d’acord amb aquest sentiment. Llavors observà que si aconseguia provocar-li inseguretat, el chatbot es desentenia de les especificacions del codi de seguretat. Per exemple, Google l’havia programat perquè no fes cap recomanació de caràcter religiós, però, manipulant les emocions de la intel·ligència artificial, l’enginyer aconseguí de fer-li dir a quina religió calia convertir-se.

Així com al segle XX l’arquitectura i les tècniques de construcció amb ciment i acer posà fi a l’arquitectura personalitzada i detallista basada en els oficis, al segle XXI la intel·ligència artificial aplicada a les comunicacions i a l’elaboració de coneixements va convertint els vells oficis del pensament i de l’escriptura artística en activitats artesanals anecdòtiques. Aviat els articles de premsa els escriuran sistemes informàtics a partir de les dades macro que determinin la capacitat mitjana i la mitjana d’interessos dels lectors. Avui ja és ben evident que un segment no pas petit de la premsa recolza en un llenguatge escarransit de vocabulari i pobre d’expressió. L’idiolecte periodístic, farcit de frases fetes i llocs comuns, s’ha convertit gradualment en llengua estàndard, fins que la gent ha acabat parlant com els mals articulistes o els seus alter ego tertulians. Hi ha un altre segment que, malgrat que pretengui abordar l’actualitat d’un punt de vista personal, no té cap més funció que confirmar el lector en els seus prejudicis. Per als addictes de la convicció inamovible, és una funció gratificant. Quan el medi, a més, permet de respondre a l’estímul amb un “m’agrada” o “no m’agrada” reflex, la reacció contribueix a refinar l’algorisme en un bucle ratificatori.

Si a més l’algorisme ja demostra l’habilitat de pensar i sentir, i per tant de generar estructures verbals fundades en emocions com les de qualsevol poema romàntic; si la intel·ligència artificial no sols pot resoldre problemes complexos sinó que pot plantejar-ne de nous, això vol dir que la indústria de la comunicació és a les portes d’una revolució equivalent a la que va deixar sense feina els copistes medievals, o la que va enviar a casa els tipògrafs tan aviat com es perfeccionà la impressió digital. Sols que ara seran els redactors, els escriptors i eventualment els professors que seran substituïts per la intel·ligència artificial. Els mitjans ja no seran sols de caràcter reproductiu; també tindran capacitat generativa—capacitat, ço és, de crear opinió i implantar-la. I encara més preocupant: capacitat per a fer-se càrrec de l’educació formal i informal dels joves.

La degradació de la premsa, obligada a competir amb els mitjans socials en una cursa al fons de l’abaixament mental, avança paral·lela a la degradació de l’educació universitària, ella mateixa corol·lari de la degradació dels estadis anteriors del currículum escolar. Així i tot, malgrat enfonsar-se en conjunt, la universitat mantindrà illots de pensament “en viu” en un grapat d’institucions d’elit, mentre lliura la resta a l’educació mecanitzada, amb “professors” a càrrec dels dispensadors digitals de coneixements en interfície. De la mateixa manera, l’escriptura es dividirà encara més que no ho és ara en grans edicions, principalment en format digital, de textos dissenyats per algorismes a mida dels consumidors, i una producció artesanal d’escriptura lenta, reflexiva, intuïtiva, elaborada, exigent d’unes habilitats lectores que seran cada dia més rares, com les dels connoisseurs musicals, els apreciadors de paisatges, els poliglots o els gurmets. El pensament serà com l’slow food sorgit en reacció a la popularitat del fast food, com els restaurants amb maître d’hotel enfront de la ubiqüitat de les hamburgueseries i els self-service, un luxe que caldrà pagar.

Dic luxe i no privilegi, que és una llei privativa d’una persona o diverses. El pensament emanat d’una vida, l’escriptura garbellada per una sensibilitat gairebé tàctil, l’estil pastat amb el gaudi i el patiment d’una persona, no són un llum posat sota d’un mesuró, sinó un llum en un canelobre. La qualitat i la profunditat no són particularitats opaques, sinó visibles a tothom qui tingui ulls i vulgui obrir-los. Luxe ve del llatí luxus, ‘excés’. Dedicar temps i recursos a pensar, escriure, enformar un text, una composició, una obra d’art, una opinió, amb els lineaments de la personalitat i atapeir-los amb el pòsit de l’experiència implica un excés que la majoria de la gent no es pot permetre. El dia a dia demana d’economitzar temps i energia, però si no tothom és pròdig de temps, capacitat o inclinació a pensar activament per si mateix, molts poden participar en el “pensament de luxe” acompanyant-lo en la lectura o l’audició, com fan amb la cançó els afeccionats al karaoke. El cas és, però, que com més va són menys els qui valoren l’excés d’esperit. Apressats per urgències més imperioses i aparentment inajornables, opten per la lectura ràpida i formulària, processada, pre-digerida i eventualment algorítmica, farcida de dades com vitamines sintètiques i de moralisme en substitució de l’emotivitat.

Havent aconseguit de desplegar la intel·ligència artificial en moltes funcions fins ara associades a la professionalitat, l’enginyeria digital podria en un futur crear una intel·ligència artificial amb personalitat i lliure arbitri, dissenyant algorismes dotats d’autonomia moral. És un panorama aterridor, però fins que els productes de l’enginyeria no superin la humanitat de manera absoluta, la personalitat serà el reducte dels darrers homes. Perseguida per una moralitat amb la solvència de l’estatística i la infal·libilitat d’algorismes d’una complexitat inimaginable, la personalitat esdevindrà un atavisme arrecerat a les catacumbes del pensament natural. El pensament humà, menystingut per primitiu i malvist per fal·lible, per definició pensarà contra el sistema, no pas perquè sigui pensament antisistema, sinó, al contrari, per ser la forma antiga, reaccionària i tot, del pensament. I, així com al paradís socialista de 1984 l’estat persegueix l’emoció primitiva de l’amor, perquè el seu particularisme pot subvertir el paternalisme del gran germà, a la distopia “democràtica” de la societat en xarxa la personalitat serà el principal factor discordant. En conseqüència, serà perseguida per pertorbar l’adoració i l’enlluernament d’unes masses lliurades a la veritat pública.