—Diversos experts, entre els quals els caps d’Open AI i Google DeepMind, van emetre un comunicat alertant que la IA podia portar-nos a l’extinció de la humanitat. És així?
—Crec que aquesta és una estratègia que tenen algunes grans empreses, que tenen una capacitat de mobilitzar idees molt gran i uns interessos ben definits pel que fa a com hauria de ser la legislació.
Quan parlen d’aquestes coses [de la possible extinció per culpa de la IA] el que pretenen és intentar distreure del que realment fan aquests productes. Ara mateix, aquests productes no tenen capacitat per destruir el planeta ni per crear escenaris apocalíptics, però sí que poden generar impactes quotidians importants.
—Per què voldrien generar una alarma social sobre possibles conseqüències futures desastroses?
—Això és un cas de regulatory capture. Fan servir idees com aquestes com eines de distracció per tal que no hi hagi una regulació que els imposi normes, sinó que ells puguin influir en la normativa. I per a fer-ho, miren al futur com si ens hagués d’importar molt més que el present.
Efectivament, ens hem de preocupar del futur, però primer ens hem de preocupar del present. Hem de parlar de transparència, de les dades que s’utilitzen, dels drets d’autor, dels biaixos dels sistemes d’IA, de la quantitat de persones invisibilitzades que hi treballen i de l’impacte mediambiental brutal que té el consum elèctric que requereix aquesta tecnologia.
Aquest relat de l’extinció no toca ara. No té cap sentit. Perquè en cap cas tenim sistemes d’IA generals, que puguin fer el que faria la intel·ligència de les persones. I, d’altra banda, és una visió de futur que dona per fet que hi haurà una mala praxi, com si no tinguéssim capacitat de dir que això no és el que volem.
—L’expert en xarxes neuronals artificials Geoffrey Hinton deia en una entrevista amb The New Yorker que és “massa tard” per aturar la IA.
—Hi ha persones que han estat molt rellevants pel desenvolupament dels sistemes d’IA, de l’aprenentatge automàtic i profund, entre ells Geoffrey Hinton (76 anys). Però aquest senyor ha caigut en una situació d’intentar promulgar l’alarmisme des del punt de vista que aquests sistemes són autònoms, però l’autonomia d’aquests sistemes, entrenats per tasques específiques com detectar un tipus de contingut a les xarxes, no tenen l’autonomia que tenim les persones.
Hinton vol emfatitzar la idea que perdrem el control, però hi ha moltes altres persones en l’àmbit de la IA i de la governança de la IA que no compren aquest relat, perquè tenen evidència que demostra que no hem de patir per això, malgrat que hi hagi un parell o tres de papers que emfatitzen aquesta situació.
Una de les principals és la Emily M. Bender, gent que diu tot el contrari. Hi ha molts estudis que demostren que no estem davant de màquines ni molt menys intel·ligents, sinó que fins i tot aquesta última tongada, la més generativa, produeix resultats estadístics amb una capacitat molt important d’interrelació gràcies a la supercomputació. I això no representa un risc per a l’extinció del planeta. Bé sí, representa un risc per a l’extinció del planeta si no fem res amb l’impacte social i sobretot amb el mediambiental.
—Parlem-ne, d’aquests perills presents.
—El principal perill és pensar que els sistemes d’IA fan les coses millor que nosaltres. Això és menystenir les persones. Automatitzar absolutament tot el que és automatitzable i pensar en unes coordenades d’eficiència no sempre és la millor resposta a tot. Si et dic que prefereixo un periodista artificial a tu, perquè no li hauré de pagar un sou, podré fer servir l’avatar vint-i-quatre hores al dia i parlarà tots els idiomes que vulgui… Això és eficient, però és desitjable? No, perquè tu tens una formació, una capacitat d’empatia, de visió crítica, tota una sèrie de capacitats que ni molt menys una màquina pot adquirir.
El problema és que ens estem creient que les persones que són prescindibles. Estem atribuint capacitats a les màquines que no tenen. La qualitat de treball d’aquestes màquines no serà millor al de les persones, només cal veure els resultats dels sistemes d’IA generativa.
El perill està a automatitzar-ho tot. Hem de mirar-ho de manera més estratègica. Per què vull les màquines? Perquè em facin el llit, la bugada, les feines feixugues, perilloses… Però no perquè em facin les feines creatives, ni molt menys vull perdre la meva feina.
—Per tant, hauríem de deixar d’invertir en IA generativa [la que és capaç de generar text, imatge, vídeo…] i apostar per altres aplicacions d’aquesta tecnologia?
—Sí, però això, la IA més general, capaç de resoldre problemes més complexos, és molt costosa. En canvi, estan invertint molts diners a la supercomputació per treballar amb moltíssimes dades per la IA generativa. Les dades han de ser molt bones i n’hi ha d’haver moltes perquè el resultat tingui com a mínim sentit. I, així i tot, a vegades tenen al·lucinacions.
És un mal negoci, perquè les IA generatives s’han d’entrenar amb tota la nostra feina, tota la nostra creació, totes les dades, que tenen uns drets d’autor. Hem de cedir tot aquest contingut a empreses, que no són ONGs, i per a fer servir el que se’n genera, hem de pagar una subscripció.
Hi ha sistemes d’IA que salven vides, als hospitals, per exemple, des del triatge fins a la detecció de malalties, i que ens permeten ser molt millors en cada pas del procés sanitari. I no només en salut, també en serveis socials, transport… I, en canvi, no els donem el llustre que donem a la IA generativa. No en parlem, de tot això.
Tot el relat que promou la inversió va sobre la IA generativa. Hauríem de parlar i invertir en aquestes IA que sí que estan solucionant problemes, perquè si no ho fem, tota la inversió anirà a parar als models de llenguatge o d’imatge. Serà com si ens gastéssim el sou sencer en oci, i no guardéssim res per l’alimentació, l’habitatge, el transport… Tindrem un problema.
—La IA generativa, a més, presenta força problemes relacionats amb la propietat intel·lectual i la transparència.
—Sí, i això anirà canviant. Cada vegada hi ha més veus en contra, com per exemple la demanda que han presentat els principals segells musicals [d’entre els quals hi ha Sony, Universal i Warner] contra Udio i Suno [dos models d’IA que permeten crear cançons a partir de text] i per haver-se entrenat amb cançons de la seva propietat.
Aviat veurem com algunes de les demandes per la violació de drets que fan aquestes empreses els cauran en contra, i això farà canviar les regles del joc. Estem parlant d’una indústria que no ha compensat a ningú. La indústria no desapareixerà, però no serà ni molt menys com és actualment. No podran agafar les dades amb drets fent una apropiació indiscriminada, com fan ara, no podran fer una violació dels drets ni seguir sense un sistema de compensació. Això, com a mínim.
—S’imagina un futur en què es pugui regular la transparència d’aquestes empreses?
—Tot això afecta parts poderoses, grans indústries d’arreu del món a qui els ha costat molts diners produir aquella informació, que tenen força per fer reavaluar el contracte social vigent que permet aquesta apropiació indeguda d’informació. En aquest nou contracte social es valora la innovació. Si no es paga els creadors, els creadors no innoven, i si no innoven no hi haurà dades amb què es puguin entrenar els models.
Si tot segueix així, aviat hi haurà una vaga, no només dels guionistes de Hollywood, sinó de tothom. Serà una vaga mundial.
Comença a haver-hi grups de creadors molt molestos que ja comencen a evitar penjar el seu contingut a internet o distorsiona o enverina el contingut que hi té penjat perquè no siguin òptims per la IA. Hi ha universitats, com la universitat de Chicago, que han posat a disposició eines que permeten distorsionar aquests continguts que si no s’utilitzen de manera indiscriminada. És una acció molt silenciosa, però ja està passant.
I no seran només els creadors, els que faran pressió, sinó sobretot empreses molt importants com Sony o Universal o The New York Times. Aquestes seran les demandes més fortes, perquè el volum de negoci que tenen i, per tant, la quantitat a compensar és molt gran.
—Parlem d’un altre dels perills de l’automatització massiva: els biaixos que té aquesta tecnologia.
—El tema dels biaixos parteix del fet que nosaltres volem automatitzar processos utilitzant informació prèvia que és de persones i, per tant, és susceptible a tenir biaixos.
En primer lloc, hi ha els biaixos estadístics. Recollim dades que no són objectives i repartides, sinó que sobrerepresenten grups, llocs, col·lectius. Semblava que amb moltes dades això no passaria, però sí que passa. Tenir moltes dades no suposa tenir bones dades. Això ho podem mitigar, podem estudiar l’infrarepresentat i omplir la mostra per fer-la equivalent. Però per fer-ho hem de ser-ne conscients i dedicar-nos-hi. I decidir quan fem servir aquests models i quan no.
Potser automatitzem processos de recursos humans i la selecció que el sistema en fa té un biaix de gènere i només selecciona homes, perquè ha estat entrenat majoritàriament amb fitxers de dades d’homes.
—N’hi ha d’altres?
—Sí, també hi ha els biaixos cognitius. Quan dissenyem eines sense ser conscients que tenim biaixos, passem els nostres biaixos a aquests models. Passa el mateix en moltes àrees: quan dissenyàvem l’espai públic, els edificis, el transport sense ser conscients de les necessitats de les persones amb mobilitat reduïda, sense perspectiva de gènere, sense una visió integradora. Això també passa als sistemes d’IA, perquè solen ser dissenyats per homes blancs amb una visió del món determinada, sovint des de Silicon Valley.
Per tractar els biaixos cognitius hi ha la necessitat de ser conscients d’aquests biaixos i construir equips professionals diversos, de recordar el context i la seva complexitat i d’introduir la visió dels usuaris i les persones afectades.
I també hi ha els biaixos de resultats. És a dir, la manca d’una cultura crítica a l’hora de valorar aquestes tecnologies. Són sistemes que s’equivoquen i hem d’estar preparats per detectar aquests errors, malgrat la fe cega en la màgia, en la seva infal·libilitat.
—La IA requereix moltíssima energia. És factible seguir desenvolupant-la i, alhora, caminar cap a la transició energètica?
—És impossible donar resposta a l’impacte mediambiental que pot generar, que és molt gran. Si volem prioritzar l’energia elèctrica per aquest tipus de sistemes, tindrem blackouts. Potser a Europa no, però a altres llocs sí.
Podem fer servir supercomputació amb energia verda, però llavors no podrem abastir la resta de la demanda. No hi ha prou recursos per fer tot el que estem fent al ritme que ho fem i afegir la IA generativa, que requereix moltíssima energia. En un moment en què ens hem compromès a reduir la petjada de carboni, apostem per una tecnologia que requereix molta energia i de molta aigua. És un contrasentit.
Està bé que aquesta tecnologia existeixi, però hem de decidir on dirigim els recursos, econòmics i naturals. Jo soc partidari de deixar d’invertir en IA generativa i fer-ho en la IA que permet la solució de problemes en sectors més estratègics: salut, serveis socials, transport… Si no, la IA generativa pot acabar convertint-se en el plutoni d’aquesta tecnologia. •