Li, de 47 anys, realment volia ser física, però fa més de dues dècades que investiga en l’àmbit de la intel·ligència artificial (IA). El projecte ImageNet que ella mateixa ha desenvolupat ha entrenat del 2009 ençà algoritmes amb dades i s’ha constatat com una contribució essencial per al desenvolupament de sistemes moderns d’IA com ara ChatGPT. Li és cofundadora de l’institut Human-Centered Artificial Intelligence de la Universitat de Stanford, on és professora d’informàtica. És membre de la National Artificial Intelligence Research Resource Task Force, un gremi d’experts que assessora el president dels Estats Units Joe Biden.
-Senyora Li, vostè és una de les pioneres pel que fa a intel·ligència artificial. El 2023, aquesta tecnologia va viure un gran esclat amb ChatGPT. Per a la majoria de gent sembla que hagi sortit del no-res. L’ha sorprès el ritme a què ha evolucionat tot?
-Experts del món tecnològic van adonar-se fa un temps que les coses, de sobte, s’acceleren moltíssim. El 2017, científics de Google van descriure per primera vegada el que són capaços de fer els anomenats LLMs (Large Language Models) en què es basa, per exemple, ChatGPT. Llavors vam entendre que la IA podria convertir-se en una tecnologia que podria dotar les persones de superpoders. Podria ajudar a vèncer el càncer, combatre el canvi climàtic i conservar la diversitat d’espècies del nostre planeta. Ara bé, si per això comptava amb aquest èxit increïble de ChatGPT? Jo crec que no hi comptava ningú.
-A Silicon Valley, cada nou desenvolupament se celebra com “la següent gran cosa” que canviarà el món. És realment ChatGPT un punt d’inflexió tecnològic?
-Absolutament. Almenys per a la IA. I possiblement per a la humanitat, també. En tot cas, no es tracta d’una moda passatgera. Les capacitats d’aquesta tecnologia són extraordinàries. Aviat tindrem IA pertot arreu, a cada empresa, a cada vida.
-En quin aspecte rau la diferència respecte de models anteriors d’IA?
-La tecnologia fa de la IA una aplicació massiva que no només pot ser emprada per especialistes, sinó potencialment per tots i cada un de nosaltres. Tant hi fa si un enginyer planteja una pregunta tècnica, si un estudiant vol investigar un article o si un operador turístic vol confeccionar una ruta: per norma rebrà una resposta raonable. Tot i això, la tecnologia encara no és perfecta. De vegades té al·lucinacions.
-Així és com en diuen els especialistes, quan els sistemes d’IA extreuen de les dades conclusions incorrectes, mesclen fets reals i ficció i al final presenten com a veritat aquesta mescla.
-Hi hem de treballar. Però, ben mirat, aquesta tecnologia té possibilitats molt potents.
-No del tot madura i poderosa és una combinació que sona més aviat perillosa.
-Hem de situar les persones al centre en el tema de la IA. Això vol dir que no s’ha de parlar només de tecnologia, sinó també de les conseqüències ètiques i polítiques. Per això, vam crear l’institut Human-Centered Artificial Intelligence a la Universitat de Stanford.
-Darrerament, en el món tecnològic s’ha generat tota una batalla cultural. Un bàndol veu la intel·ligència artificial com la panacea i la vol desenvolupar com més ràpid, millor. L’altre bàndol la percep com un perill creixent per a la humanitat. Com és que els mateixos experts en IA estan tan dividits en la valoració d’aquesta tecnologia?
-La discussió en aquests moments està adquirint un to massa elevat. També perquè l’opinió pública s’ha desvetllat i observa amb atenció. No obstant això, punts de vista extrems com aquests no representen tota la comunitat d’IA, on hi podem trobar des d’acadèmics, passant per enginyers, gestors de productes i moltes altres persones.
-A quin bàndol la podem trobar, a vostè?
-Jo no estic ni al costat dels que esperen una grandiosa utopia tecnològica ni al costat dels que ja veuen amenaçada la nostra existència. Crec que la humanitat inventa constantment noves tecnologies revolucionàries. I cada eina que crea la humanitat no només es pot fer servir al seu favor, sinó també en contra. La IA no n’és una excepció.
-Recentment, però, no només teòrics de la conspiració, sinó també una sèrie d’experts destacats en IA, com el pioner de la IA de Google, Geoffrey Hinton, han advertit dels perills per a la humanitat.
-El gran temor és que un dia la IA pugui substituir les persones en molts àmbits. Hauríem de desenvolupar la IA de tal manera que ajudi la gent. Prenguem com a exemple el sistema de salut. La IA pot ajudar els metges en el diagnòstic, les empreses farmacèutiques en el desenvolupament de nous medicaments i els pacients en la curació. Tanmateix, hem de fixar correctament les barreres de seguretat per assegurar que no surti de lloc. Jo, com a investigadora, en soc responsable.
-No troba que la responsabilitat hauria de raure sobretot en la classe política? El Parlament Europeu va aprovar la setmana passada la llei d’intel·ligència artificial, que preveu normes més estrictes en aplicacions de més risc, com ara l’ús d’IA en infraestructures crítiques. En canvi, els EUA fins ara s’han contingut a l’hora d’interpel·lar les grans empreses tecnològiques.
-La política tot just ara s’està despertant respecte d’aquest tema i mira d’esbrinar a corre-cuita quines podrien ser-ne unes línies directrius raonables.
-Opina que els polítics han entès fins a quin punt la IA canviarà la societat i l’economia?
-Malauradament, no del tot. Gràcies a ChatGPT, tanmateix, els líders polítics de Washington i Brussel·les estan mostrant, almenys, molt més interès per aquest tema.
-Vostè ha treballat els darrers anys d’assessora del president nord-americà Joe Biden. Què li recomana?
-L’estat ha d’invertir massivament en IA. Així de clar és com li ho vaig expressar al president Biden i al congrés dels EUA. Fins ara, són les empreses privades les que controlen el desenvolupament de la IA i, per tant, també el debat. El govern no hauria d’invertir només en recerca, el núvol i l’emmagatzematge de dades, sinó més aviat a mostrar una mentalitat moonshot, és a dir, invertir com es va fer en la carrera per arribar a la lluna, en instituts nacionals i en personal. Em preocupa el fet que veus provinents del sector públic fins ara no hagin volgut participar en el debat. Si abandonem la IA completament a les empreses privades, llavors també deixarem el futur de la humanitat a les seves mans.
-El seu temor és que si la IA cau en mans de les grans empreses, aquesta tecnologia es converteixi en una amenaça?
-El que de ben segur no soc és un enemic de l’economia, això ho vull deixar ben clar. Tampoc tinc res en contra del desenvolupament comercial de la IA, però les persones som capaces de crear eines molt poderoses i no tothom en fa un ús responsable. Hi ha vegades que això passa inconscientment o sense mala intenció, com ara quan una aplicació mèdica de la IA és posada al servei de la salut dels pacients però ignora la protecció de les dades.
-I creu que la inversió pública hi ajuda?
-Ajuda a crear, almenys, un cert equilibri. Al cap i a la fi, del que es tracta és del bé comú, d’una teràpia contra el càncer, de nous gèneres de música, de salvar el clima. Moltes d’aquestes coses van ser impulsades en el passat pels estats. Jo vull assegurar-me que una eina tan poderosa com la IA rebi un bon ús. Les institucions públiques, les universitats i les organitzacions sense ànim de lucre hi han de tenir un paper molt més important. Part del problema és que avui dia cap universitat del món es pot permetre desenvolupar un model propi com el de ChatGPT.
-Ni tan sols Stanford, potser la universitat més rica del món?
-Ni tan sols nosaltres. La IA és molt cara. Entrenar i desenvolupar un model ja costa uns centenars de milions de dòlars. És per això que ja fa temps que advoco, entre d’altres, per un nou núvol finançat amb diners públics.
-Això proporcionaria una potència de càlcul i una capacitat de processament de dades que són massa cares per a les institucions públiques?
-Sí, així s’aconseguiria més recerca acadèmica en l’àmbit de la IA. Actualment, hi ha un projecte de llei als EUA, en què participen diversos partits, la Create AI Act, per combatre el desequilibri financer entre les empreses privades i les institucions públiques. Tinc l’esperança que s’aprovi.
-L’estat no només hauria d’invertir, sinó també intervenir amb normes legals en el mercat de la IA?
-La regulació és part de tot plegat, per descomptat. Per generar confiança. De la mateixa manera que les empreses farmacèutiques no poden afirmar simplement que el seu medicament és segur. En gairebé tots els àmbits ja hi ha regulacions estatals, com ara en l’aprovació de medicaments o en la supervisió financera. El més urgent crec que és adaptar les regles existents en els àmbits on entri en joc la IA.
-D’altra banda, hi ha el perill que un excés de normatives estatals suposin un fre al desenvolupament tecnològic.
-Hi ha moltes empreses que estan treballant en els estàndards ètics i les normes de seguretat de la IA. I aquestes no han implosionat pas. Les normatives industrials i un marc legal són necessaris per correspondre com cal la nostra responsabilitat. En qualsevol cas, les empreses necessiten mesures de seguretat si treballen en la IA. I, per cert, les universitats també.
-Com són a la Universitat de Stanford?
-Hem establert una comissió de verificació ètica amb representants de diverses facultats que tingui l’obligació d’examinar i autoritzar cada projecte d’IA. Les empreses haurien d’establir un procés similar, en què, si és possible, molts agents implicats lliurin valoracions al voltant de les possibilitats i riscos d’un nou producte. En el cas d’una aplicació d’IA en l’àmbit mèdic, aquests agents serien pacients, gestors d’hospitals, metges, asseguradores i les autoritats competents. I per descomptat experts del camp de recerca corresponent.
-Quin és el seu àmbit d’investigació actual?
-Al meu laboratori treballem sobretot en robots que aprenen i en intel·ligència artificial personificada, és a dir, robots que es mouen en un món virtual.
-Quin n’és l’objectiu?
-Desenvolupar robots que es puguin adaptar per col·laborar i interactuar millor i de manera més propera amb les persones.
-En la producció industrial o també en altres àrees?
-En tots els àmbits, a casa i en l’assistència personal. Encara manca fer-hi molta recerca. Als sistemes actuals d’IA, els manca flexibilitat, sovint no comprenen el context i no és fàcil d’ensenyar-los amb terminologia comprensible. Per acabar, hem de desenvolupar una intel·ligència mecànica que entengui la llengua, les emocions, intencions i comportaments de les persones.
-El que la motiva és desxifrar els secrets de la intel·ligència tal i com va escriure en les memòries que acaba de publicar*?
-Jo, en realitat, volia ser física, ja de petita. Van ser els meus primers estudis. Cada vespre llegia llibres d’Albert Einstein o Erwin Schrödinger i em vaig adonar que els físics, a mesura que envelleixen, pensen principalment en què constitueix la vida i la intel·ligència humana. Per això em vaig passar a la neurociència.
-Com a doctorand al California Institute of Technology de Pasadena es va ocupar sobretot amb com processa el cervell el que veiem. Va ensenyar llavors per primer cop als algoritmes a reconèixer imatges millor que no ho fan les persones, un aspecte bàsic per a ChatGPT i sistemes similars. És la comprensió visual la clau de la intel·ligència artificial?
-Sí, la Computer Vision, és a dir, el reconeixement artificial d’objectes i esdeveniments, és per a mi la intel·ligència artificial. La percepció visual és fonamental.
-Pot explicar això amb més detall?
-Des d’un punt de vista evolutiu, la percepció i la intel·ligència estan estretament relacionades. Tan bon punt hom percep el seu entorn, és possible de moure-s’hi. Percebem l’aliment i l’aliment es converteix en aliment. Això va desencadenar una carrera evolutiva fa 540 milions d’anys. Per entendre millor l’entorn i, per exemple, amagar-se d’un depredador, calien més neurones al cervell. La intel·ligència va créixer. Per això, per mi té molt de sentit combinar la intel·ligència artificial amb robots, perquè puguin aprendre a percebre i interpretar el seu entorn.
-Senyora Li, li agraïm aquesta conversa.
----
* Fei-Fei Li: »The Worlds I See: Curiosity, Exploration and Discovery at the Dawn of AI«. Macmillan; 336 pàgines.
Conversa dirigida pels redactors Simon Book i Thomas Schulz a Stanford.
Traducció d'Arnau Ferre Samon