Carme Torras: “Interactuem amb tanta tecnologia, que ja ens modela la personalitat i la manera com som”

Carme Torras és científica i escriptora. Treballa a l’Institut de Robòtica i Informàtica Industrial CSIC-UPC, situat al Parc Científic de Barcelona, i té a càrrec seu cinquanta persones. Dona afable, treballadora i positiva, la seva és una recerca al voltant de la robòtica assistencial. La seva trajectòria li ha valgut fa poc el premi d’Investigació que atorga el Ministeri de Ciència i Innovació espanyol. Ens explica que, malgrat la dificultat que representa treballar amb un pressupost limitat, la recerca a Catalunya es troba en un bon moment. I només cal adonar-se que dels deu premis de recerca atorgats a l’estat, sis són per a projectes i científics de Catalunya.

Carme Torras també és una referència en relació amb la tecnoètica. És membre de l’Associació Europea per a la Intel·ligència Artificial (2007), de l’Acadèmia Europea (2010), de la Reial Acadèmia de Ciències i Arts de Barcelona (2013), de l’Institut d’Estudis Catalans (2017) i membre de l’IEEE (2019).

Però Carme Torras té un perfil poc corrent, perquè a més de científica també és escriptora. Ciències i lletres conviuen i es complementen. Va començar escrivint ficció, Pedres de toc (Columna), i amb la seva segona novel·la ja es va centrar en la ciència-ficció: La mutació sentimental (Pagès Editors), després la va seguir Enxarxats (Males Herbes) i ara acaba de publicar l’aplec de contes Estimades màquines (Males Herbes).

Des d’una consciència ètica profunda, va entendre que la tecnologia que desenvolupem avui ens marcarà unes capacitats i n’extingirà unes altres i que per això cal plantejar-nos quina tecnologia volem desenvolupar. Aquest va ser el punt de partida per a escriure la novel·la La mutació sentimental. I als Estats Units van entendre que era una obra que oferia noves perspectives que ajudaven al desenvolupament del sentit crític i l’ètica en l’àmbit tecnològic. Per això s’ha traduït a l’anglès i es llegeix a moltes universitats americanes, com una eina útil de debat.

Entrevistem Carme Torras al seu despatx de l’Institut de Robòtica i fem les fotografies al laboratori, en un espai recreat, que vol ser la maqueta d’un pis de vida assistida, on hem conegut un robot que té com a funció ajudar les persones amb dificultats de mobilitat.

—Enguany us han concedit un dels premis estatals a la investigació científica per les vostres aportacions a la robòtica social. És un premi a la trajectòria. Expliqueu-nos d’entrada en què treballeu a l’Institut de Robòtica.
—La nostra àrea d’especialització és la robòtica assistencial i col·laborativa. Fem aplicacions i prototips, per exemple, per a ajudar a donar menjar a persones amb mobilitat reduïda, que han tingut un accident i no es poden valer dels braços. També treballem amb prototips per a ajudar a vestir-se. La nostra especialitat és la manipulació de roba, perquè els robots industrials no ho han tractat, això. També per a l’entrenament cognitiu per a persones que tenen un cert deteriorament mental. Tenim, per exemple, un conveni amb la fundació ACE [entitat sense ànim de lucre al servei de les persones amb malaltia d’Alzheimer i altres demències] i un dels robots que hem desenvolupat ja es troba en aquesta fundació treballant amb pacients. Els robots diagnostiquen i fan entrenament cognitiu amb un tauler on hi ha unes peces que tenen xifres. El tauler s’adapta al nivell de l’usuari (posar els nombres en ordre creixent o en ordre decreixent, només posar els parells o els múltiples de tres…) i el robot fa el que faria el terapeuta, que si l’usuari té dubtes, l’ajuda. El robot parla i li pot dir: està en aquesta fila o és de color vermell, etc. El robot parla i interacciona. Gran part de la nostra recerca es troba en la interacció persona-màquina. El robot anima l’usuari i hi interacciona per estimular-lo, perquè ho faci tan bé com sigui possible. D’aquest treball es pot guardar un registre al llarg de molts mesos i veure’n l’evolució.

—Caram.
—També tenim un robot que ajuda a posar les sabates. A vegades no són robots gaire complicats, sinó que jo en dic electrodomèstics sofisticats: permeten que una persona pugui viure sola, perquè li facilita posar-se els mitjons i les sabates. I posem molt d’èmfasi en el fet que en tot moment el robot informa l’usuari del que fa. El robot pot dir “ara et posaré la sabata dreta”, “pots aixecar el peu, si us plau?”. No cosifica mai les persones, no les tracta mai com peces en una cadena de fabricació, l’usuari sempre sent que té el control. A més, el robot no tan sols ha d’informar l’usuari, sinó que ha de recollir i incorporar les seves capacitats i les seves preferències. D’això se’n diu personalització. Precisament, n’hem fet una tesi doctoral no fa gaire i l’Associació d’Intel·ligència Artificial de Catalunya li ha donat el premi a la millor tesi doctoral. És un robot que tant posa unes sabates com dóna menjar o posa la jaqueta, s’adapta a les preferències de l’usuari.

—Trenqueu tòpics sobre com es veuen els robots en la nostra societat.
—La robòtica sempre és vista amb uns avantatges i uns perills. Però hi ha aplicacions que són bones i no tenen cap part de risc. Per exemple, el robot que dóna menjar, quan el vam ensenyar en una residència de gent gran, pensàvem que els cuidadors dirien: “Ai, ara ens prendreu llocs de feina.” I va ser tot el contrari, ens van dir: “Fantàstic, perquè a les hores de menjar no donem l’abast i som nosaltres que ens convertim en màquines i no podem parlar ni de com els ha anat el matí ni fer una sobretaula normal.” I, per altra banda, els pacients se senten molt més autònoms. Perquè és una aplicació que conté una càmera i quan veu que la persona obre la boca és quan li posa el menjar. L’usuari se sent que té el control i és com si ell utilitzés els coberts i se sent molt més autònom. Per tant, és un win–win, que diuen.

—A l’institut de robòtica féu altres coses?
—També fem robòtica col·laborativa industrial. És a dir, tasques en què la programació del robot s’ha de fer per demostració, que el robot col·labori amb la persona i es puguin repartir les feines. Que la persona es pugui concentrar en tasques de control de qualitat i que el robot faci la part pesada del procés. Les tasques que els robots fan més bé són força, repetitivitat, velocitat, etc. Les persones aportem creativitat, posar solucions a problemes nous, etc. Hi ha una cosa que també penso que és important de dir: les màquines no han de fer mai tasques de relació amb persones, en el sentit d’empatia.

—Voleu dir que un robot no ha de substituir la part emocional d’una persona? Alguna vegada heu dit que és perillós que els humans ens robotitzem.
—Que els robots s’humanitzin és un altre cavall de batalla. Els robots no es poden confondre amb éssers vius. Per mi, és important que tinguin l’aspecte d’una màquina, perquè són màquines. L’usuari ha de ser conscient que interactua amb una màquina i no pas amb un ésser viu. Perquè el perill és que la gent gran pensi: “Ja em cuida el robot, per què necessito amics? Ja estic bé.” I això amb gent gran pot ser acceptable en algun moment, però amb els nens és inacceptable. És línia vermella. Perquè en els infants hi ha uns estadis de desenvolupament de l’empatia, per exemple, en què necessiten interactuar amb algú que tingui una vida real i una experiència de vida. Els nens, que ja s’enganxen amb la Play, imagineu-vos amb un company de jocs que sigui un robot, que faci sempre el que ell vulgui… Es convertiria en un dèspota i no desenvoluparia certes capacitats. Per tant, en això sí que s’ha d’anar molt amb compte, amb els robots per a nens.

—Precisament, teniu un altre vessant important de la vostra tasca científica, que és l’ètica científica o tecnoètica.
—El tipus d’investigació que fem ens porta cap a l’ètica, perquè molta part de la recerca va de la relació persona-robot, o persona-màquina. En aquesta relació, la part ètica hi té un paper fonamental. I és important que els programadors, els dissenyadors de robots, en prenguin consciència. Això em va portar a escriure La mutació sentimental. Perquè anant a reunions vaig començar a pensar sobre quina robòtica volíem desenvolupar, perquè ens acabarà modelant la manera com som. El leitmotiv de la novel·la és: “Les relacions que anem construint són les que al seu torn ens modelen.” Això va dir el filòsof Robert C. Solomon en relació amb les persones (pares, germans, amics, professors). Però si interactuem amb tanta tecnologia, aquesta tecnologia també ens modela la personalitat i la manera com som. Per tant, val més que pensem dues vegades quina tecnologia volem desenvolupar. Aquest neguit, el tenia fa quinze anys i em va acabar portant a escriure La mutació sentimental. Em vaig imaginar una societat futura on tothom tenia un assistent robòtic i per això els sentiments havien anat disminuint, molts s’havien extingit. El sentiment d’admiració, per exemple. Que jo crec que això ara ja passa una mica.

—Es perd el sentiment d’admiració?
—L’admiració per les persones que han fet alguna gran aportació es perd. Ara tots som iguals, i no és veritat. El mestre, el metge del poble tenien abans una autoritat moral que generava una admiració. I això es va perdent força.

—Em feu pensar en el debat que hi va haver sobre els coneixements per competències a l’escola en detriment de les classes magistrals. Tanmateix, la transmissió de coneixements per part dels qui els tenen també és imprescindible.
—Va haver-hi un moment que es deia: com que tot evoluciona tan de pressa, el fet important són les competències. I els coneixements i la memòria van quedar com si no fossin importants. I no. L’altre dia, en unes jornades de professors de secundària parlàvem d’això: la persona que més sap és la que aprèn més de pressa, perquè tot el coneixement està embrincat. Per entendre bé determinades coses, has de tenir un coneixement previ. I els coneixements són importantíssims, perquè són el que dóna el context dels nous aprenentatges.

—Ens trobem en un moment de canvi, de transformació, amb la irrupció d’internet. Com el veieu i viviu? Quins riscs hi trobeu? Adquirint la cultura digital, podem perdre la cultura manual, que és mil·lenària, o no perilla?
—Va en el mateix sentit del que parlàvem abans. El fet de tenir tot el coneixement a l’abast d’un clic… Per una banda, internet ens ha obert un món. Vols saber qualsevol cosa, ho busques i ho trobes. Una altra cosa és que tot el que trobes sigui veritat. Precisament, en aquestes jornades de secundària em van preguntar què era el més important per a l’ensenyament futur d’aquesta generació. Per mi, el més important és el pensament crític. Per això es necessita coneixement. La recerca d’eines per a desvetllar el pensament crític, el fet de pensar, això trobo essencial.

—La pandèmia ha accelerat la introducció del món digital en alguns àmbits, com a casa i a l’escola. Aquesta situació, quines reflexions us ha generat?
—M’ha generat moltes reflexions. Per exemple, en l’àmbit assistencial, en aquesta situació de pandèmia, els robots han pogut fer poc, encara. Sí que hi ha hagut robots de desinfecció, de prendre la temperatura… Però en aquests contextos infecciosos la robòtica ens podria aportar el fet de poder fer les coses a distància, que el personal sanitari no s’hagués d’exposar a fer llits o a canviar la roba del malalt o a prendre-li la pressió, sinó que ho fes un robot, que podria ser teleoperat, igual com es fan operacions quirúrgiques a distància. De fet, entre les institucions promovem de fer un centre de referència en tecnologies assistencials, on no només s’hi involucri la robòtica, sinó tota la part d’intel·ligència artificial, perquè també hi podria haver sensors a les habitacions, de manera que en contextos com aquests es poguessin fer les feines rutinàries bàsiques a distància. S’haurien infectat molts menys sanitaris. La idea seria que tots els agents implicats (els que fan recerca tecnològica, els que la comercialitzen, el context empresarial i industrial, el context sociosanitari, el context mèdic…) poguessin provar les tecnologies en un entorn recreat in situ.

—Sembla molt ben raonat, el projecte, en aquest context de pandèmia, que diuen que no serà ni el primer ni el pitjor.
—I no solament en temps d’infecció. En l’àmbit sanitari hi ha el concepte de superilla, també: hi ha un metge, una infermera, un zelador, etc., que tenen a càrrec seu tots els pacients d’una superilla i passen visita. En aquest context, també es plantegen utilitzar robots. Per exemple, un robot que cada dia passés i prengués la temperatura als malalts i reportés un informe de com està el malalt a la infermera. Vull dir, que aquestes tecnologies assistencials, en general, no tan sols en contextos de pandèmia com els que vivim, poden fer un servei important. I tenir un context de prova podria ser molt important per a la seva aplicació.

—De què depèn que el centre de referència en tecnologies assistencials sigui possible, més enllà dels recursos? Només és voluntat política?
—Ho vaig dient sempre que puc. Ho hem dit al CSIC, ho vaig dir a la UPC l’altre dia; sóc al Consell Assessor d’Intel·ligència Artificial del govern espanyol, que ara és l’estratègia nacional d’intel·ligència artificial, i també ho he dit, passa que allà no ha quedat recollit. Però al CSIC, sí: ha fet un llibre blanc de la intel·ligència artificial, recollint tots els coneixements que hi ha en els diferents instituts i quines coses seria interessant de fer, i allà sí que s’ha previst la idea. Passa que es requereix conjuntar diferents peces. Ha de ser una entitat més institucional, que involucri empreses, etc. Però jo vaig llançant la llavor, a veure si fructifica.

—Són uns primers passos importants.
—Jo crec que sí, perquè a més ara ja hi ha la consciència que aquestes eines poden ser molt útils. En la pandèmia s’ha vist, i també s’ha vist que no estaven al nivell que s’esperava. Però no només aquí, en altres països tampoc. Només Corea, que és el país que va més avançat en aquests temes.

—Entrem ara, si us sembla bé, en l’àmbit literari. En un moment donat, enteneu la literatura com un vehicle per a generar debat sobre totes aquestes qüestions vinculades a la intel·ligència artificial i a la tecnoètica. I utilitzeu la literatura per crear pensament crític.
—Exactament, i és molt més atractiu per als estudiants. El tema de l’ètica ha interessat molt a la comunitat robòtica. I als Estats Units ja hi ha assignatures obligatòries a les carreres d’informàtica i enginyeria de “tecnologia i societat”, “ètica professional” o “ètica de les tecnologies digitals”, com en diuen. I utilitzen la ciència-ficció, clàssics com Asimov i Bradbury. I hi ha professors que fa set i vuit anys que expliquen la bioètica a partir de les novel·les. Perquè d’aquesta manera els estudiants s’hi senten molt més implicats i estimulats, i amb prou distància. I quan vaig publicar La mutació sentimental, el MIT Press em va contactar i em va proposar de fer uns materials pedagògics associats a la novel·la per a impartir aquestes assignatures. Fa un parell d’anys va aparèixer La mutació sentimental en anglès (The vestigial heart), juntament amb aquests materials docents que estan disponibles i són gratuïts a la web de MIT Press.

—M’esteu dient que la vostra novel·la i el material docent que heu elaborat al voltant de la tecnoètica es fan servir a les universitats americanes?
—Americanes i europees. I aquí també, a les universitats catalanes tenen cursos on imparteixen algunes sessions sobre intel·ligència artificial o societat i tecnologia, que també els fan servir. I també en facultats de filosofia. Arran d’això, amb Pagès Editors, que s’hi va interessar molt, hem fet un material adaptat a 4t d’ESO i batxillerat. Per això vaig assistir a les jornades de secundària. I ara hi ha una empresa que té interès a fer unes càpsules a partir de La mutació sentimental i també de la següent novel·la que vaig escriure i que hi té relació, Enxarxats. És el projecte Spider, que ara treballem.

—És clar, és a l’escola on es pot crear una consciència sobre el futur tecnològic que ens espera.
—Sí, jo penso que hem d’educar els nens des de petits perquè aprenguin a utilitzar bé la tecnologia.

—Precisament aquest recull de contes que heu tret ara, Estimades màquines, l’heu estructurat en tres parts: màquines d’avui, màquines d’ahir i màquines de demà. Tots els contes parlen d’intel·ligència artificial i en tots hi ha uns elements inquietants, que crea aquest món en transformació i que no sabem on ens portarà, si cap a la utopia o cap a la distopia.
—A mi les màquines sempre m’han agradat molt. Les màquines del passat ens generen un cert element nostàlgic, com la màquina d’escriure. Després hi ha les màquines del present, que generen aquests problemes ètics, per exemple sobre la realitat virtual, que surt en un conte, i de com ens pot fer perdre el sentit de la realitat, com Matrix i els impactes psicològics i ètics que es deriven d’aquestes tecnologies. I sobre el futur, tot allò que ens poden oferir les noves tecnologies posant també de manifest els perills. I tot i que vam començar a plantejar el llibre ja fa tres anys, trobo que ha sortit en un moment molt oportú. Perquè la relació amb les màquines s’ha incrementat ara, amb la pandèmia, amb les videoconferències i els professors, que s’han posat al dia amb les eines per a ensenyar telemàticament.

—Hi ha un conte que m’ha trasbalsat més que els altres i que trobo molt reeixit. És el que es diu “El joc de jocs”. Ens en podeu parlar?
—Aquest conte neix d’una idea que va tenir un investigador, que es va adonar que la gent esmerçava moltíssimes hores jugant i eren hores de feina perdudes. I va començar a donar voltes sobre com aprofitar el temps que la gent passa jugant a internet. L’estadística diu que són milions d’hores. I ho vaig trobar molt interessant. Aquest investigador en concret va dissenyar un joc per a etiquetar imatges. I aquesta és la base de l’etiquetador d’imatges de Google. Una altra gent ha desenvolupat jocs del mateix tipus, però en benefici social. Per millorar el trànsit, sobre resistència pacífica… El conte parla d’això i també dóna veu als programes que hi ha dins l’ordinador, que tenen noms de matemàtics famosos i filòsofs clàssics, i ens mostren com veuen des de dins la gent de fora. Una societat artificial on també hi ha aquell que vol saber del món exterior.

—Els vostres són contes molt corals, amb estructures diverses, que sovint sumen punts de vista diferents sobre un mateix fet. I també acostumen a aportar una visió ètica i de construir un món millor. Contenen reivindicacions socials, amb uns valors, com ara la necessitat de reciclar.
—M’agrada la robòtica social i m’agrada introduir els valors en la tecnologia. Per exemple, la qüestió del reciclatge que dieu, surt d’un projecte nostre de reciclatge de productes electrònics.

—Ah, per això dediqueu el conte als vostres companys de l’Institut de Robòtica.
—Aquest projecte s’acabarà al febrer. Era un projecte que inicialment es volia orientar cap al muntatge de productes i jo vaig proposar de canviar-lo cap al desmuntatge i reciclatge de productes electrònics. Quan la gent canvia de mòbil, en llença la bateria i acaba triturada. És inimaginable la quantitat d’escombraries que generem i la perillositat, perquè hi ha molts elements tòxics. Si, com a mínim, s’extreuen els materials que són perillosos i es tenen a banda i no barrejats, ja és molt. I després alguns elements dels discs durs, d’ordinadors, mòbils, etc., es poden reciclar, es poden tornar a utilitzar. A tots els companys els va interessar la idea de seguida, i per sort va ser ben valorada també per la Comunitat Europea, cosa que no passa sempre. En general, de cada setze projectes que presentem, ens n’accepten un. I aquest el van triar.

—Creieu que torna a ser moda la literatura de ciència-ficció?
—Jo crec que la literatura de ciència-ficció hauria de ser la lectura de moda actualment, perquè gairebé vivim en el futur. Als Estats Units és així: la ciència-ficció ven moltíssim. I penso que aquesta tendència va arribant aquí.