Què passa quan deixes un diari en mans de la intel·ligència artificial? A Itàlia han fet la prova

The Washington Post · Annabelle Timsit 

Un petit diari italià ha decidit d’encarregar a la intel·ligència artificial (IA) la redacció d’una nova edició, en un experiment que, segons els responsables, pretén alertar sobre el futur del periodisme.

El projecte s’anomena Foglio AI i és una iniciativa de Claudio Cerasa, director del diari italià de centre-dreta Il Foglio. Cerasa explica que la idea li permet d’explorar les possibilitats i les mancances de la IA, i que, alhora, vol que sigui una mena de toc d’atenció per als periodistes. El missatge que vol fer arribar és clar: cal fer més informació original i redacció pròpia per marcar distància amb els models de llenguatge com ChatGPT, que alguns temen que puguin arribar a substituir-los.

“És com una prova d’estrès fantàstica per entendre no tan sols què pot fer la IA, sinó què han de fer els periodistes en el futur per ser millors que les màquines”, diu Cerasa.

Tanmateix, no tothom ho veu de la mateixa manera. Alguns crítics hi veuen una maniobra publicitària i alerten que experiments com aquest –en un moment en què moltes redaccions del món volen definir com fer un ús responsable i transparent de la IA– poden desorientar els lectors, fer-los empassar texts de poca qualitat i, en definitiva, alimentar la desconfiança envers el periodisme.

En una columna satírica publicada a Politico Europe, la periodista Giulia Poloni escriu que Il Foglio “juga amb foc moral en el pitjor moment de la història”.

Cerasa explica que la idea d’integrar la IA a Il Foglio va començar a gestar-se fa un any. El diari va publicar durant un temps un article setmanal escrit per una màquina, sense avisar-ne els lectors, i els convidava a endevinar quin era. Els qui ho encertaven rebien una ampolla de xampany i una proposta de subscripció. Segons el director, la majoria de lectors l’encertaven i rebien l’experiment amb entusiasme. Els qui no ho endevinaven, en canvi, el van fer adonar que els texts dels redactors humans sovint eren massa convencionals, amb poca creativitat. “Ens vam adonar que havíem de millorar el nostre periodisme”, diu.

Fa dos mesos, Cerasa va tenir la idea de fer una edició especial escrita íntegrament amb IA. Va fer proves amb ChatGPT Pro, demanant-li que cada dia redactés articles sobre temes concrets i respectant la línia editorial de Il Foglio, que defineix com a pro-europea, partidària de la globalització i contrària al populisme.

Però els resultats, diu, no s’acosten ni de bon tros al nivell humà. ChatGPT comet errors factuals, faltes tipogràfiques, inventa fets que no han passat mai i redacta de manera monòtona i pobra. Per això, assigna dos periodistes humans a revisar els texts i comprovar-ne les dades. La informació falsa se suprimeix, però manté les errades menors i l’estil fluix com a mostra de les limitacions de la IA.

A banda el nom de la publicació, Foglio AI inclou avisos per a deixar clar als lectors que els texts no són escrits per humans. Allà on hi hauria el nom de l’autor, hi diu “text fet amb IA”. Cerasa en documenta públicament l’evolució. Ara, l’edició no adverteix que el contingut pot contenir informació errònia o poc original.

Per exemple, un article sobre les “relacions indefinides” publicat el 17 de març copia fragments d’un article aparegut a The Atlantic una setmana abans. Cerasa diu que va demanar a ChatGPT que es basés en aquell article però que hi afegís reflexió pròpia sobre la joventut i l’amor. “La IA no se’n va sortir i va fer pràcticament un copiar-i-enganxar. És un dels casos en què la IA funciona malament”, admet.

Diu que explicarà públicament aquest cas i uns quants més quan acabi l’experiment, l’11 d’abril, i convidarà els lectors a analitzar-ne els errors.

El periodista italià Gianni Riotta ha elogiat l’experiment d’Il Foglio, que considera agosarat en un país que sovint ha recelat de la innovació tecnològica. Recorda que l’autoritat italiana de protecció de dades fou la primera dels estats occidentals a prohibir ChatGPT quan va aparèixer, per motius de privadesa (una prohibició que posteriorment va aixecar). Riotta diu que alguns articles de Foglio AI són maldestres, però atribueix el problema a la poca precisió de les ordres donades al sistema. “Si apuntes millor, la màquina escriurà tan bé com un humà. O encara millor”, diu.

Però Charlie Beckett, expert en IA i periodisme a la London School of Economics, avisa que fer continguts editorials amb IA sense mecanismes de control té molts riscs, com ara difondre informació falsa o sensacionalista. Recorda que moltes redaccions ja experimenten amb IA per automatitzar tasques repetitives com ara transcriure entrevistes o revisar notes de premsa. Però considera molt perillós que es dediqui a “crear continguts originals de manera salvatge”.

Per això no creu que Foglio AI sigui “el futur”. Segons ell, les redaccions del futur treballaran amb “ajuda de la IA” en alguns serveis, com ara xats informatius, però tot basat en criteris humans, amb periodistes alliberats per fer informació original.

Fins i tot Foglio AI ha arribat a conclusions similars: al final de la primera setmana, Cerasa va demanar a ChatGPT que avalués la feina pròpia. El text resultant deia: “La intel·ligència artificial pot escriure bé, però escriure bé encara no és fer periodisme.”

“L’experiment ha reeixit precisament perquè és un experiment –continuava–. No és un joc ni una campanya de màrqueting (o no sols això), sinó una pregunta adreçada als lectors, als periodistes, als editors i a la política cultural italiana: què en queda, del periodisme, si n’eliminem la signatura? Què és un diari si és enterament fruit d’una màquina entrenada amb llenguatge, supervisió humana inclosa?”

Beckett considera que l’experiment mostra la necessitat que els periodistes mantinguin un nivell alt de precisió i originalitat. “És fàcil de ridiculitzar la IA per unes quantes errades, però també et dic que cada dia puc trobar distorsions i imprecisions als mitjans convencionals –diu–. I espero que Foglio AI, en certa manera, sigui una crida a fer-ho millor.”

• Subscribe to The Washington Post
• Podeu llegir més reportatges del Washington Post publicats en català a VilaWeb