Ramon López de Mántaras: “Em fa més por l’estupidesa natural que no pas la intel·ligència artificial”

Ramon López de Mántaras (1952) és una de les autoritats mundials en intel·ligència artificial. Nascut a Sant Vicenç de Castellet (Bages) ha estat premiat per tres grans associacions d’investigadors d’intel·ligència artificial d’arreu del món (l’americana, l’europea, i la internacional), ha fet contribucions clau per tal que els robots aprenguin i un dels seus descobriments porta el seu cognom (distància Mántaras). Fins el 2019 López de Mántaras, professor de milers d’enginyers catalans (“jo encara el recordo per brillant i perquè venia amb espardenyes de set vetes a classe”, ens deia fa poc l’enginyer i empresari Josep Maria Ganyet), va dirigir l’Institut d’Investigació d’Intel·ligència artificial (IIIA) del CSIC, situat a la Universitat Autònoma de Barcelona, on encara té despatx i on rep VilaWeb. És capaç de parlar no solament de la darrera novetat en intel·ligència artificial, sinó també de l’evolució que ell, a setanta anys, ha viscut de prop gràcies a una carrera brillant però també a una biografia fascinant.

—A què es dedicava la vostra mare?
—Bona pregunta. La meva mare era teixidora d’una fàbrica tèxtil. Devia començar a treballar a catorze anys, o abans. I el meu pare, a quinze o setze. Ell era escrivent en una fàbrica. Administratiu.

—I d’on us ve això de la intel·ligència artificial?
—A quinze o setze anys ja em voltava pel cap fer una cosa científica. I l’any 1969, a casa meva, vaig veure l’arribada d’Armstrong a la Lluna. A la televisió. I vaig al·lucinar. Juliol. No hi havia escola. Però quan vam tornar a classe vaig preguntar al professor que ens feia matemàtiques: com és possible que s’hagi arribat a la Lluna? Gràcies a l’electrònica, em va dir. I això em va fer decidir a fer enginyeria electrònica. I vaig anar a la cooperativa Mondragón [Arrasate].

—A la cooperativa basca, la més gran del món?
—Industrial, crec que sí. El meu pare aleshores treballava de viatjant de comerç de l’empresa Fagor Electrodomèstic. Que pertany a Mondragón. I a Mondragón hi tenien una universitat, fins a un banc propi. I els fills dels treballadors, com jo, teníem condicions molt favorables econòmicament per anar-hi a estudiar. Als meus pares els resultava més barat enviar-me al País Basc que no a Barcelona. Hi havia l’escola politècnica d’enginyeria, amb recursos i laboratoris molt bons. I els valors de cooperativa que ensenyaven també lligaven amb els meus. Això era en ple franquisme. Era una cosa molt rara que els permetessin crear aquelles cooperatives. Una història força fascinant.

—I quants anys teníeu quan hi vau anar?
—Vaig marxar a disset anys. I no vaig tornar fins als vint-i-vuit. Vaig fer la carrera de quatre anys allà, i després, del 1973 al 1977, vaig saltar a la Universitat Paul Sabatier de Tolosa. Els primers de la promoció, com era el meu cas, podíem anar becats a França. Vaig fer un any de convalidació, que em va donar el grau de física, i tres anys de tesi doctoral. Tesi en robòtica. De les primeres d’Europa. Vaig fer una mà antropomòrfica, amb sensors de pressió, una mena de pell artificial. Aquesta mà agafava un objecte i, mesurant els angles de les tres falanges de cada dit i l’empremta que deixava a la pell artificial, podia dir-te si era hexàedre, tetràedre. Vaig desenvolupar un algorisme d’aprenentatge. I des de Tolosa, es podia saltar Berkeley (EUA) per anar a fer estades.

—Els primers de la classe, també?
—Sí. Havies de tenir tot excel·lents i matrícules, gairebé. I vaig anar-hi. I vaig fer un màster de dos anys en intel·ligència artificial. I una tesi de màster: algorismes de classificació automàtica. Algorismes d’aprenentatge. Vaig proposar un algorisme nou. I vaig millorar-ne un.

—Què és un algorisme?
—Es compara amb una recepta. És una sèrie de passos molt ben definits que la màquina ha de seguir.

—I per què no us hi vau quedar, als Estats Units?
—Primer, perquè estava pendent de la mili. O tornava o era pròfug (al final m’ho vaig estalviar, per un accident de cotxe que em va deixar el fèmur fotut uns quants anys). Però, després, perquè als Estats Units, pel que fa a la ideologia política, aquell capitalisme salvatge i extrem, no m’agradava. I torno a Mondragón primer, i a Barcelona més tard.

—A Mondragón?
—Tenia un deute amb ells. M’havien pagat els estudis a França. Jo havia de tornar el favor. Els vaig muntar la part informàtica, que no tenien, al seu centre R+D. I a la Universitat de Mondragón els vaig fer classes un any. Més tard vaig venir cap a la Universitat Politècnica (1980).

—He repassat els premis que heu tingut i impressionen: 2011, premi de l’associació d’intel·ligència artificial americana; 2016, premi de l’associació d’intel·ligència artificial europea; i 2017, premi de la internacional. Només falta que us la donin a la Lluna.
—Ha! Curiosament, no em consta que ningú més els tingui tots tres. I del premi americà, sóc l’únic que l’ha rebut sense viure allà. Hi ha no americans que l’han rebut, però són gent que viu i treballa allà.

—I això us ho donen per un treball concret, o una trajectòria?
—Trajectòria.

—I quina seria la vostra contribució?
—Per exemple, pels raonaments basats en casos (com els robots aprenen de problemes similars del passat) i les seves aplicacions. L’aprenentatge automàtic. Hi ha un algorisme molt usat en intel·ligència artificial, l’aprenentatge d’arbres de decisió, on jo vaig fer una nova mesura, la dita distància Mántaras. Treball molt citat.

—Ajudeu-me a entendre-ho.
—Imagina’t que vols decidir si aniràs a jugar a tennis o no. Els atributs són: hi ha núvols? Hi ha humitat? Plou? Això són els atributs. I és important saber-ne les respostes per saber si surts a jugar a tennis. Però l’ordre, també. L’ordre et pot ajudar a decidir-te abans. Anar més de pressa. Com menys preguntes hagis de fer, com menys variables hagis de mirar per saber si surts a jugar tennis o no (o per saber si una malaltia és causada per un bacteri o per un altre), millor. L’ordre és important. Jo vaig trobar una manera òptima, una manera de construir uns arbres de preguntes més petits.

—Quan neix la intel·ligència artificial?
—Neix el 1956, en una reunió de vuit persones en un campus a Nova Anglaterra, amb finançament de la Fundació Rockefeller. John McCarthy, Marvin Minsky, Oliver Selfridge, Allen Newell, Herbert Simon (premi Nobel d’economia) i més volien fer una pluja d’idees per demostrar si la intel·ligència no calia que tingués substrat biològic. Una màquina, un ordinador, podia ser-ho? Si era capaç de processar informació, n’hi havia d’haver prou per a mostrar intel·ligència. I John McCarthy, concretament ell, va dir-ne intel·ligència artificial. El nom neix el 1956.

—Els coneixeu, els pares fundadors de la intel·ligència artificial?
—Potser la meitat. I amb Marvin Minsky vam ser amics. Ens escrivíem sovint, vaig estar a casa seva. I vam tocar el piano a quatre mans. Va morir fa uns quants anys, ja.

—Quina és l’evolució de la intel·ligència artificial?
—A la primera fase es desenvolupen algorismes de propòsit general. És a dir, un sol algorisme serveix per a resoldre tasques diferents. I això funciona amb problemes senzillets, en el que es diu conjunt d’estats. Un exemple: el mico i els plàtans. Entra un mico en una habitació i hi ha uns plàtans penjats al mig de l’habitació i, en un racó, una caixa de fusta. El mico no arriba als plàtans ni saltant. Què fa? Agafa la caixa, la posa sota els plàtans, s’hi enfila, i ara sí que hi arriba. Ha resolt un problema, aquest mico. El primer estat és el mico entrant, i la caixa en un racó. Segon estat, el mico recull la caixa. Tercer estat, la posa sota els plàtans. Quart estat, s’enfila i recull plàtans. És a dir, fas accions que canvien l’estat per assolir el resultat. Però al món real no hi ha tres elements i prou (mico, plàtan, caixa), són milers. I un sol algorisme no serveix per a tots. I la complexitat algorítmica explota, i no troba mai la solució.

—Un exemple que fallés?
—Traductors automàtics de l’anglès al rus i del rus a l’anglès. Plena guerra freda. La frase anglesa “The spirit is willing but the flesh is weak” (“L’esperit prou està disposat, però la carn és feble”), l’ordinador la va traduir bé al rus. I aleshores van traduir aquesta frase altre cop a l’anglès, i no els va sortir bé: “El vi és agradable, però el bistec està podrit”, va dir l’ordinador. Fracàs absolut. Arribem al primer hivern de la intel·ligència artificial. Això no serveix de res!

—Primer hivern?
—La intel·ligència artificial segueix un cicle: grans expectatives, frustració, hivern. “Hivern”, bàsicament, és falta de finançament. No s’hi creu. I comença la segona fase.

—I què diu?
—Creem algorismes que no siguin tan generals. Que no ho resolguin tot. Només una cosa. Superespecialitzats. Són els famosos sistemes experts, que apareixen a final dels anys setanta. Torna a haver-hi una primavera. Grans expectatives. Torna a haver-hi finançament. Farem una intel·ligència artificial que només diagnosticarà pneumònies en adults. I extrahospitalàries. Funciona molt bé.

—I on hi ha l’entrebanc?
—Que si la màquina no aprèn no té informació nova, no sabrà els darrers descobriments sobre pneumònia publicats. Cada dia hi ha articles nous, sobre pneumònia. La màquina els perd. I com els incorpores a la màquina? A mà? Fer el manteniment és supercomplicat. Hauria d’aprendre-ho per si mateix. Consultar les novetats per ella mateixa. No poden fer-ho, a final dels setanta. Fracàs. Arribem al segon hivern.

—I la tercera fase?
—A primers dels vuitanta, entren els algorismes d’aprenentatge. Tornem a tenir una primavera. Les màquines comencen a aprendre pel seu compte. Apareix la revista Machine Learning. La màquina aprèn. I torna a haver-hi embranzida. I des d’aleshores ja no hem tingut hivern. Fins el 2008, que apareixen els algorismes d’aprenentatge profund, on es fa el gran salt. I és el que fa servir per exemple el ChatGPT. L’aprenentatge profund s’inspira en el cervell, de manera molt llunyana.

—Ajudeu-me a entendre-ho.
—Les neurones del nostre cervell quan es comuniquen ho fan amb senyals elèctrics. I quan l’electricitat s’acumula, i supera un llindar, es dispara. Matemàticament, s’intenta simular-ho amb un pes, una xifra. El cervell fa milions de connexions. I el ChatGPT té milions de xifres. I a vegades hi ha errors. Per això cal entrenament. Cal ajustar aquests pesos, i que el resultat sigui correcte. Primer fa errors. I de mica en mica millora.

—Per exemple, jo avui abans de venir he fet dues preguntes al ChatGPT. Primera: qui és Ramon López de Mántaras. Aquí ho teniu [llegeix la pantalla]:
—Ha! Som-hi. Mira, ja s’inventa coses. Jo vaig néixer a Sant Vicenç de Castellet. No a Terrassa, com diu. El meu doctorat és del 1977, i no de la UAB com diu. No sóc professor des de l’any 1990, sinó des del 1980. No esmenta el CSIC, que és on he estat més temps. I he fet 300 papers, i aquí diu 250. Són els errors que et deia.

—També li he demanat que m’ajudés a fer l’entrevista a un expert en intel·ligència artificial. I aquestes són les preguntes que em recomana [les mira].
—Bones preguntes, sí senyor. T’ha donat molt bones idees.

—Lliga amb el que m’havien dit: el ChatGPT és bo donant estructura, i dolent amb els continguts.
—Sí, quan dóna coneixement factual s’equivoca molt.

—I ara on som en intel·ligència? Per què hi ha un gran salt el 2008?
—Perquè no tan sols els ordinadors són més potents, també és més fàcil accedir-hi (abans n’hi havia pocs i ara molts), i les dades que es manegen són moltíssimes. Tots plegats estem tot el dia entrant dades als ordinadors. No hi havia Viquipèdia. I els algorismes d’aprenentatge profund, que ja teníem de feia anys, es poden entrenar. Milloren. Funcionen. I convergeixen, els pesos s’ajusten. I per això apareixen sistemes com image.net que reconeix imatges amb un 98% de precisió (és un gat, no un tigre, etc.). Deep Mind juga al GO, i guanya al campió mundial. O Alpha Fold, sistema que és capaç de predir com es desplegarà una proteïna. A partir de la forma de la proteïna en sabràs la funció. Si saps com es desplegarà, sabràs com funcionarà. Això ajuda a dissenyar nous fàrmacs, vacunes.

—En medicina, us he llegit, la intel·ligència artificial va molt avançada.
—Sí. Nosaltres vam fer una IA de pneumònies als anys noranta que no tan sols diagnosticava. També afinava els tractaments i la dosi adient sabent les al·lèrgies. Però la IA encara no ha arribat al CAP.

—Què falta per a arribar al CAP?
—L’aprenentatge profund té caixes negres. Dóna la resposta (té càncer) però no et diu el perquè (li he vist aquest tumor, aquesta mida, i el pacient té aquests símptomes). I sense el perquè no hi ha confiança. No te’l creus. A banda, falta infrastructura, i hi ha manca de dades compartides per a arribar al CAP.

—Una cosa en intel·ligència artificial que hàgiu vist i que us hagi impressionat?
—Deep Mind. Empresa que va comprar Google. Els que van fer l’AlphaFold, desplegament de proteïnes. Aquests fan aprenentatge per reforç. Tenen una visió prou àmplia per a no agafar la xarxa neuronal de tots, sinó combinada amb unes altres tècniques.

—Declaració de Barcelona. Què és?
—Luc Steels i jo vam dir que havíem de fer alguna cosa sobre errors i biaixos de la intel·ligència artificial. Vam fer aquest manifest. No pot ser que hi hagi encara caixes negres, o els biaixos d’algorismes que et discriminen des del punt de vista de gènere, o raça. Hi ha exemples terribles. Classificar homes negres com goril·les. Això ha passat. Reconeixement facial, que et confon amb un delinqüent, i et porten a comissaria. A Londres ha passat. O les xarxes socials, que us volen enganxats a la xarxa. Us monetitzen. Hi havia un CEO que ho deia: és terrible veure com les ments més brillants de la nostra generació treballen a les xarxes socials i tenen com a objectiu com fer que estiguem enganxats a internet. Gent d’aquesta capacitat intel·lectual amb aquesta feina.

—Intel·ligència artificial i música. Un dels vostres camps.
—Vam veure, érem uns quants, que generar música expressiva era un problema que les màquines no havien resolt. L’ordinador tocava la partitura amb notes correctes, amb la durada que toca. Però tocava com un robot, no com un humà. Els humans hi fan un crescendo, aquí acceleres, allà canvies el tempo, retardes la nota, o l’avances per donar-li un ritme més interessant. Quan toques, jugues amb aspectes temporals, d’intensitat i articulació (notes més separades entre si, o més lligades). Per això nosaltres vam aconseguir cinc recursos expressius que ningú no havia fet mai a l’ordinador. Fins aleshores, la gent treballava amb un parell. Nosaltres vam fer dinàmica, robato, vibrato, articulació i atac de nota.

—Atac de nota?
—Com comences a tocar la nota? Molt abruptament, molt suaument? Vam aconseguir que l’ordinador toqués brillant, i alegre, o de manera malenconiosa. I l’objectiu no era només que la màquina toqués de manera expressiva, més humana, sinó que la música ens plantejava uns reptes que ens obligaven a desenvolupar algorismes nous. Fas contribucions a nous algorismes de camí.

—Jo sóc independentista. I vós?
—També, també. Bastant.

—Com podem fer servir la intel·ligència artificial a favor de la independència?
—Ara sí que m’has fotut. Jo tinc una certa recança a fer-la servir com a eina de manipulació i persuasió. És molt perillós. Mira què ha passat amb Cambridge Analytica, amb el Brexit. Persuadim els que no ho són així? Xocaria amb la meva ètica. Hauríem d’evitar d’utilitzar la intel·ligència artificial per manipular la gent. Jo penso que és molt millor fer-ho cara a cara, i amb arguments i contraarguments. D’una manera reflexiva.

—Jo pensava més en una aplicació positiva. Un bon ús, quin seria? No té bones aplicacions la intel·ligència artificial?
—Segur que sí. Totes les aplicacions en medicina ho són. La medicina és el camp per excel·lència on veus el benefici de la intel·ligència artificial. O l’educació. Es poden fer coses molt interessants, en educació.

—Per exemple?
—Aquí a l’institut hi ha gent que treballa amb una aplicació que ajuda els nanos quan treballen en equip. Fer grups d’estudiants òptims. En els grups, quina barreja fem i en quin grau? Alumnes de gèneres diferents, aptituds diferents, com es barregen per arribar al grup òptim. La intel·ligència artificial és una eina. No hem de deixar mai que la intel·ligència artificial sigui més que una eina. Molt sofisticada, si vols, però que la decisió última sigui de la persona.

—Se’ns menjaran vius.
—No. Això depèn de nosaltres. Si no engegues la màquina… Però estem immersos en la digitalització. Digitalitzem malament. Si us plau, no abandonem l’alternativa analògica. Els sistemes d’atenció al client són impresentables. La meva mare té noranta-sis anys i ha estat expulsada de tot això. Per llei no estem obligats a tenir mòbil ni internet, però a la pràctica sí. Això és impresentable. La meva mare no aconsegueix de parlar amb una persona a l’altra banda del telèfon.

—Oh, i el que no sabem de la intel·ligència artificial i els militars.
—Les armes letals autònomes. Drons que escullen l’objectiu i disparen pel seu compte. Sense que ningú des de terra premi el botó. El dron dispara tot sol. Horrorós. Perquè els que som agents morals som les persones, no les màquines. Les màquines no són agents morals. No hi ha constància absoluta, però sembla que a la guerra d’Ucraïna hi ha hagut drons amb la capacitat de ser autònoms. Els d’una empresa turca. I a Líbia també sembla que s’ha fet servir. Però hi ha dubtes de si s’ha fet o no.

—Intel·ligència artificial i sexe, què fan?
—Busca Real Dolls. I busca Harmony, el model estrella dona. També hi ha homes. Ara comencen a introduir la intel·ligència artificial, ChatGPT, a les nines. Parlaran i podran imitar veus. No hauria de ser legal que et fabriquin una sex doll que sigui exactament Scarlett Johansson, o George Clooney. I amb la seva veu. Aquest és un negoci que creixerà, i amb qüestions ètiques molt fotudes.

—A L’IIIA tot és teoria o feu producte?
—Tenim la unitat de desenvolupament tecnològic (UDT), que ens serveix de contacte amb el món empresarial. I fem contractes. Per exemple, amb Institut Guttmann. Empreses de transport. Educació.

—Europa va darrere la Xina i els Estats Units, en intel·ligència artificial?
—En recerca nua i crua, no. En desplegament d’aplicacions, sí. Els Estats Units encara lideren, però la Xina poden passar davant aviat. Inverteixen d’una manera brutal.

—A Europa com estem els catalans, en termes d’inversió en IA?
—Anglaterra, Alemanya, França, Suïssa, Holanda, Itàlia són els primers. I després ja potser vindria Catalunya, si fóssim un estat.

—Res a afegir?
—Sempre ho dic, com a frase final, a les conferències –quan treuen la qüestió ètica, i si els ordinadors controlaran el món–, que a mi em fa més por l’estupidesa natural que no pas la intel·ligència artificial. El mal ús de la intel·ligència artificial, això és perillós de veritat. Un mal ús de mala persona, o d’estúpid.