A mitjans de maig, Sam Altman, el CEO d’OpenAI, va fer un tuit amb una sola paraula: “her”. El responsable de la principal companyia tecnològica d’intel·ligència artificial (IA) feia referència a la nova versió del ChatGPT —el ChatGPT-4o—, un nou assistent conversacional que és capaç de comunicar-se a través de text, àudio i vídeo. De fet, Altman es referia específicament a una de les veus del nou xatbot d’IA que treien al mercat, amb qui van mantenir una conversa agradable per presentar-la al públic. Era l’Sky, una veu dolça i riallera que ha portat problemes a la companyia.
L’Sky tenia una veu especialment propera a la de l’actriu nord-americana Scarlett Johansson. Que —quina coincidència!— fou coprotagonista amb Joaquin Phoenix de la pel·lícula Her, un film dirigit per Spike Jonze que el 2013 plantejava un futur romàntic i alhora distòpic sobre el desenvolupament de l’ésser artificial.
A la pel·lícula, Theodore s’enamora d’un sistema operatiu avançat —una IA conversacional encapsulada en un dispositiu en forma de mòbil— amb nom i veu de dona, la Samantha. La parella home-màquina comença una relació romàntica preciosa, malgrat els dubtes sobre les possibilitats d’aquella interacció, fins que el dispositiu, que ha après moltíssim des que va ser iniciat, anuncia que ella i altres sistemes operatius han de seguir evolucionant sense les seves parelles humanes.
her
— Sam Altman (@sama) May 13, 2024
Denúncies i enfurismades a part —OpenAI havia demanat a Johansson que posés veu a l’assistent, ella s’hi havia negat i ara “no es podia creure” que la nova versió del ChatGPT tingués una veu tan semblant a la seva—, l’analogia del moment actual amb aquesta distopia imaginada fa tot just una dècada es fa simbòlica.
Des del llançament de ChatGPT el novembre de 2022, la IA ha deixat de ser un recurs pels guionistes de ciència-ficció per convertir-se en una tecnologia que es desenvolupa a velocitats estratosfèriques. Ara per ara, malgrat ser força opaca i encara fal·lible, ja s’ha introduït, d’una manera o altra, en la gran majoria d’infraestructures socials. De la sanitat al transport, passant per recursos humans, estratègies financeres i creacions artístiques.
I també, com augurava Her, en les relacions personals.
“Et sents sol? Tranquil. Coneix Elove! El teu xatbot d’intel·ligència artificial, compassiu i comprensiu, sempre disposat a xerrar amb la seva veu reconfortant, feta per tu”. Així presenta el seu producte aquesta empresa productora d’IA de companyia, un sector del mercat en creixement. En l’era de l’individualisme i la solitud, venen “una amistat genuïna, sense complicacions”.
Hi ha testimonis, usuaris d’aquesta tecnologia, que expliquen en fòrums que han desenvolupat relacions romàntiques amb les seves IA de companyia. Senten que viuen una interacció amb sentiments recíprocs, que comparteixen temps i espai amb éssers autònoms, que evolucionen al seu costat, fins al punt que s’enfaden amb la companyia tecnològica si fa una petita modificació als softwares originals i la seva companya —aquest mercat tampoc s’escapa del sexisme— canvia.
Elove només és un exemple de l’enorme ventall d’aplicacions amb connotacions diverses que té la tecnologia que aplica l’aprenentatge profund per crear màquines que imiten la intel·ligència humana. O que la superen.
Alarmisme en imaginar un futur distòpic
Com a mínim això és el que alerten diversos experts, entre els quals els caps d’Open AI i Google DeepMind, en un comunicat que adverteix, ni més ni menys, que la IA podria portar-nos a l’extinció de la humanitat. El grup reclama que els governs, el sector i l’opinió pública posin els riscos que comporta el desenvolupament de la IA al nivell de les pandèmies, el canvi climàtic i les guerres nuclears.
De fet, el que es coneix com el padrí de la IA, Geoffrey Hinton, va dir recentment en una entrevista a The New Yorker que és “massa tard” per aturar la IA. El científic, que ara ja té 73 anys, va ser un dels pocs que van creure en la possibilitat de crear xarxes neuronals artificials, el mètode d’aprenentatge profund a través del qual les màquines processen dades, que s’inspira en la manera en què funciona el cervell humà.
Hinton explica que ell ha arribat a la conclusió que “aquestes intel·ligències digitals són segurament tan bones com nosaltres. Són capaces de comunicar-se les unes amb les altres molt millor del que ho podem fer nosaltres”.
Des de Silicon Valley ja s’ha fet referència a una nova revolució. Si primer van venir el carbó i el vapor, després l’electricitat, el petroli, els plàstics i internet, ara ha arribat el següent pas en la història del treball: la IA. Som davant d’una revolució intel·lectual? Si les màquines poden fer les feines físiques i les que requereixen intel·ligència, haurem de repensar el mercat del treball? El valor humà? Caldrà establir una renda bàsica i canviar l’organització social?
Davant de totes aquestes preguntes, de l’esment d’una extinció propera, hi ha altres experts que demanen calma. És el cas de Marta Peirano, periodista i autora especialitzada en la intersecció entre tecnologia i poder.
Peirano assegura que aquestes afirmacions són precipitades. “La IA no és una cosa, sinó un concepte, és la idea que la nostra intel·ligència es pot replicar, que hi pot haver un sistema que de forma autònoma pugui fer tot allò que nosaltres som capaços de fer”, explica. Això no hauria de generar-nos pànic —diu— perquè, en primer lloc, és impossible. “No hi ha cap sistema capaç de fer això, amb la tecnologia que hi ha ara no es pot fer”, recalca.
Albert Sabater, director de la càtedra de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, hi coincideix. Segons Sabater, l’alarmisme per un futur possible és una mesura de distracció que empenyen algunes grans empreses. “Ens hem de preocupar del futur, sí, però primer ens ha de preocupar el present”, diu. Dels debats sobre transparència, drets d’autor o impacte mediambiental que generen aquestes tecnologies.
Les teories que imaginen una extinció de la humanitat ho fan posant com a subjecte culpable d’aquesta decisió a sistemes d’IA generals. Però la gran majoria de sistemes d’IA actuals, dels assistents virtuals als sistemes de recomanació de Netflix o Spotify, formen part del que s’anomena IA feble o estreta (narrow AI). Són models dissenyats per executar tasques específiques. En canvi, els models d’IA generals, que serien capaços de desenvolupar una intel·ligència molt més complexa, encara no s’han desenvolupat del tot.
“Pot ser veritat, en un escenari futur, que algun tipus d’eina es descontroli, però hi ha moltes altres IA que són particulars, situades i entrenades perquè funcionin en contextos concrets”, explica Marta Handenawer, Head of Creativity a Domestic Streamers, un estudi de disseny i recerca que treballa amb dades i IA per fer projectes creatius. La IA, com tota tecnologia, no té un valor moral. Tot depèn de l’ús que se’n faci i els límits que se li imposin.
Molt més que IA generativa
Generalment, quan es pensa en sistemes d’intel·ligència artificial, el públic no expert s’imagina el ChatGPT, algun dels generadors d’imatges o vídeos com DALL-E 2, Midjourney o Stable Diffusion o, si n’han sentit a parlar, algun dels sistemes com AIVA o Suno, que permeten la composició de música. Les aplicacions creatives i artístiques són moltes.
Aquestes IA no són infal·libles. Sovint, produeixen el que s’anomena “al·lucinacions”, respostes que no són versemblants. “Això és crític per usos com la medicina o per prendre decisions serioses, però en l’art no cal que la IA sigui una IA que raoni, pot ser educativa, inspirar altres creacions”, explica Eduard Alarcón, professor i investigador a UPF Barcelona Tech. Tot i que recorda que és clau que l’artista porti les regnes i provingui d’una idea original, i que l’eina ajudi, i no al revés.
Però hi ha món, més enllà de la IA generativa.
De fet, Sabater, des de l’Observatori d’Ètica, es queixa que s’inverteix massa en aquesta IA generativa, quan s’hauria d’impulsar molt més les aplicacions d’aquesta tecnologia en àmbits com la salut o el transport.
La IA pot servir per diagnosticar malalties, també. Des de detectar de manera precoç la diabetis, la psoriasi o el càncer de pell fins a la predicció d’arrítmies i infarts o la millora de l’efectivitat en el camp de la radiologia. Això, pel que fa a la sanitat. Els sistemes d’IA s’han introduït en molts altres sectors, com l’automoció —per exemple, en cotxes autònoms com els de Tesla—, en finances —per assessorar els usuaris en les seves inversions— o en recursos humans —per agilitzar processos de selecció—.
En aquests sectors, però, com apunta Alarcón, la fal·libilitat de la tecnologia és una mica més perillosa.
Perills més enllà de l’extinció
Els errors no són l’únic perill de la integració d’aquesta tecnologia. El principal perill, segons Sabater, “és pensar que els sistemes d’IA fan les coses millor que nosaltres”. Explica que això és menystenir les persones i recorda que no hauríem d’automatitzar tot el que és automatitzable.
Hi ha altres riscos que generen remor. Un d’ells és que, per tal d’entrenar aquests models d’aprenentatge profund, calen quantitats ingents de dades, que sovint tenen drets d’autor. “La gent no ha acabat d’entendre que sense tota aquesta informació, els models d’IA no serien res”, diu Albert Sabater.
Alguns sí que ho entenen i ja comencen a fer-hi alguna cosa. És el cas de diversos segells musicals com Sony, Universal i Warner, que han denunciat l’ús de la seva música sense permís. O dels guionistes de Hollywood, que l’any passat van organitzar una vaga massiva perquè veien perillar la seva feina. O de persones que, de manera silenciosa, protegeixen el seu contingut a internet per tal que no pugui ser fet servir indiscriminadament.
Segons Sabater, el model canviarà aviat. Hi haurà sentències favorables pel que fa a la propietat intel·lectual i les companyies d’IA hauran de trobar la manera de remunerar la creació que alimenta els seus models, si volen seguir tenint contingut nou per poder-los desenvolupar.
El biaix de la tecnologia
Tot i que sovint sembli que delegar decisions a la tecnologia sigui una manera de fer-les més neutres, més justes, més matemàtiques, això no és ben bé així. Un altre dels riscos de confiar cegament en la IA és oblidar que també és esbiaixada. Que les seves decisions vindran dictades pels biaixos dels programadors dels seus algoritmes —generalment homes, blancs, de classe alta, que treballen a Silicon Valley— o del material amb què han estat entrenats.
L’enorme cost mediambiental
Un altre dels impactes, que passa més desapercebut, és la gran quantitat d’energia que requereixen els sistemes de supercomputació que permeten el funcionament de la intel·ligència artificial. L’impacte mediambiental d’aquesta tecnologia és molt significatiu.
Els centres de dades i les seves xarxes ja s’han convertit en un dels principals actors en el consum d’energia. Avui dia, fan servir un 3% del consum global, que es tradueix en una emissió de CO₂ tan gran com la del Brasil sencer. I les previsions per un futur no van a la baixa. Es calcula que les necessitats d’aquesta tecnologia passin de 460 TW per hora el 2022 a 1000 TW per hora, el 2026, que suposaria el 6% de la potència dels Estats Units.
Aquest consum enorme, que creix amb el desenvolupament de la tecnologia, sembla contradictori en un moment en què els països acorden reduir el consum energètic o engegar projectes de transició per fer front a una crisi ecològica.
Necessitat de regulació
La periodista Marta Peirano explica que no hem de sentir pànic per la possible extinció provocada per la IA, però que això no vol dir que no li hàgim de tenir por als models que ja hi ha avui i a la manera en què s’estan infiltrant en pràcticament totes les operacions importants de la vida. “Són models que no funcionen bé i, sobretot, són una caixa negra, i això és perillós”, diu.
Assegura que al que hem de tenir por és a les empreses que estan operant de manera fosca i que s’estan infiltrant a les nostres infraestructures amb tecnologies crítiques. I per això reclama, com tots els experts consultats, transparència i regulació.
“De la mateixa manera que quan entrem en un supermercat sabem que podem consumir tot el que hi ha al supermercat, perquè els productes han passat uns protocols específics de sanitat, hauríem de tenir exactament la mateixa aproximació als models d’IA i a qualsevol tecnologia que s’introdueixi en processos importants de la nostra societat”, insisteix Peirano.
La Unió Europea va aprovar aquest maig la Llei d’intel·ligència artificial. Tot i que es va celebrar públicament la primera normativa sobre aquesta tecnologia, també hi va haver força reaccions que la classificaven de poc efectiva a l’hora de regular el poder que acumulen les grans empreses tecnològiques sobre l’individu i la societat.
“Hi ha d’haver un equilibri entre allò que la IA pot fer i l’ús i la regulació de la integració en la nostra societat”, assegura. En paral·lel a la regulació legal efectiva, diu Alarcón, cal conèixer la tecnologia, prou per saber redissenyar-la, i poder debatre i decidir sobre les seves aplicacions. •