10.12.2024 - 21:40
|
Actualització: 10.12.2024 - 21:44
The Washington Post · Gerrit De Vynck
San Francisco, Estats Units. Poques hores després de l’anunci d’OpenAI –creador de ChatGPT– de col·laborar amb l’empresa d’armament Anduril, uns quants treballadors van expressar una preocupació ètica per la possibilitat que la tecnologia d’intel·ligència artificial que han ajudat a desenvolupar es faci servir amb finalitats militars.
En un fòrum de discussió intern, alguns treballadors van refusar l’acord i van demanar més transparència als directius, segons els missatges a què ha tingut accés The Washington Post.
OpenAI diu que la seva col·laboració amb Anduril es limita a millorar amb intel·ligència artificial els sistemes que aquesta empresa de defensa ven al Pentàgon per protegir soldats dels Estats Units contra atacs de drons. Tot amb tot, alguns treballadors van demanar en missatges interns com es pot garantir que els sistemes d’Anduril amb IA no es faran servir també contra avions pilotats per humans i si els militars nord-americans els podran utilitzar de més maneres.
Un treballador va assenyalar que l’empresa semblava minimitzar les implicacions evidents de fer negocis amb un fabricant d’armes. Un altre estava preocupat pel fet que l’acord pogués perjudicar la reputació d’OpenAI. I un altre va comentar que, tot i ser per a ús defensiu, l’acord implicava igualment una militarització de la IA, recordant que Skynet, el sistema d’IA fictici dels films de Terminator que s’acaba girant contra la humanitat, havia estat dissenyat inicialment per defensar-se d’atacs aeris als Estats Units.
Els directius d’OpenAI van reconèixer ràpidament aquestes preocupacions en missatges que han estat vists per The Washington Post, i van insistir que el projecte amb Anduril es limitava a sistemes defensius destinats a salvar vides nord-americanes. Alguns altres treballadors van donar suport a l’acord i van agrair que l’empresa permetés discussions internes sobre l’afer.
“Estem orgullosos d’ajudar a protegir la gent que arrisca la vida per mantenir segurs els nostres familiars i el nostre país”, va dir Sam Altman, director executiu d’OpenAI.
Brian Schimpf, director executiu d’Anduril, va dir en un comunicat que totes dues empreses cobrien buits crítics per protegir les forces nord-americanes i aliades de noves amenaces aèries, assegurant que els soldats tinguin les eines necessàries per a romandre segurs en un panorama de perills canviant.
Tant OpenAI com més desenvolupadores capdavanteres d’IA –com ara Anthropic i Meta– han canviat les seves polítiques darrerament per permetre usos militars de la tecnologia.
La tecnologia actual d’IA encara és lluny de les representacions de Hollywood, però els directius d’OpenAI han estat molt clars sobre els riscs potencials derivats de l’ús imprevist dels seus algorismes. Un report publicat aquesta setmana amb una actualització de ChatGPT advertia que millorar la capacitat de la intel·ligència artificial també fa créixer el risc potencial associat a una intel·ligència més elevada.
L’empresa ha invertit significativament en proves de seguretat i ha explicat que el projecte amb Anduril ha estat revisat pel seu equip de polítiques. Liz Bourgeois, portaveu d’OpenAI, diu que aquests darrers mesos s’han fet sessions de retroalimentació amb els treballadors sobre la feina de l’empresa en seguretat nacional, i que tenen intenció de fer-ne més.
A les discussions internes, els directius van destacar la importància d’oferir la millor tecnologia disponible als exèrcits de governs elegits democràticament, tot adduint que els governs autoritaris no dubtarien a utilitzar la IA amb finalitats militars. Alguns treballadors van replicar que els Estats Units havien venut armes a aliats autoritaris.
A més, els executius van assenyalar que assumir projectes militars permetria d’ajudar el govern nord-americà a entendre millor la tecnologia d’IA i preparar-se per defensar-se contra l’ús que en facin possibles adversaris.
A Silicon Valley, les empreses estan més disposades a vendre tecnologia als militars, un canvi notable d’ençà del 2018, quan Google es va negar a renovar un contracte de reconeixement d’imatge amb el Pentàgon després de protestes dels treballadors.
Actualment, Google, Amazon, Microsoft i Oracle formen part d’un contracte multimilionari per oferir serveis de núvol i programari al Pentàgon. A començament d’any Google va acomiadar un grup de treballadors que protestaven contra la col·laboració amb el govern israelià pel possible ús militar de la tecnologia.
Anduril forma part d’una nova generació d’empreses, com Palantir i empreses emergents com Shield AI, que venen tecnologia avançada directament a l’exèrcit nord-americà i es presenten com a defensors patriòtics de la supremacia militar dels Estats Units.
Analistes i inversors preveuen que aquestes empreses emergents de defensa prosperaran amb el nou govern de Trump, que sembla disposat a sacsejar la manera de fer negocis del Pentàgon.
OpenAI i més laboratoris d’elit d’IA han presentat la seva tecnologia com una eina per a millorar la productivitat econòmica i aconseguir avenços en educació i medicina. El desacord dins l’empresa fa pensar que no tots els treballadors estan disposats a veure que la seva feina es vincula a projectes militars.
L’empresa creadora de ChatGPT es va fundar com una entitat sense ànim de lucre amb la missió d’assegurar que la IA beneficiés tota la humanitat, abans d’estrenar una divisió comercial amb milers de milions d’inversió de Microsoft i més empreses. Durant anys, l’empresa va prohibir l’ús de la seva tecnologia amb finalitats militars.
Al gener, OpenAI va revisar les seves polítiques per permetre alguns usos militars, com ara ajudar veterans a trobar informació sobre salut. L’ús per a desenvolupar armes o fer mal a persones o propietats continua prohibit.
Al juny, OpenAI va incorporar Paul M. Nakasone –un general retirat, ex-director de l’Agència de Seguretat Nacional– a la junta de la seva divisió sense ànim de lucre, compromesa amb la missió original de l’empresa. També ha contractat experts en política de seguretat nacional.
- Subscribe to The Washington Post
- Podeu llegir més reportatges del Washington Post publicats en català a VilaWeb
