Estem a mitjan gener, poc abans de les eleccions primàries a l’estat nord-americà de New Hampshire, i sona el telèfon de milers d’electors de la costa est dels EUA. Al telèfon hi ha Joe Biden, el president dels Estats Units, i no anima a anar a votar. “Si té pensat anar a votar aquest dimarts, doni el seu suport als republicans en el seu afany de reelegir Donald Trump.”
El que semblava ser Biden era en realitat un telèfon robotitzat equipat amb una intel·ligència artificial (IA). La Casa Blanca va sortir ràpidament a desmentir que fos el president qui trucava. La fiscalia general va desemmascarar la manipulació electoral i va iniciar investigacions. Mentrestant, l’autoritat estatal encarregada de les comunicacions va prendre mesures per prohibir als EUA les trucades generades per IA. Els criminals imitarien la veu de personatges famosos per desconcertar o intimidar l’electorat, digué la presidenta Jessica Rosenworcel. “Sona com una cosa d’un futur llunyà. Però ja és aquí.”
En aquest superany electoral a Europa també creix la preocupació per la manipulació, les informacions falses i la difusió deliberada de desinformació a la xarxa. Al focus de les autoritats occidentals de seguretat hi ha, sobretot, Rússia i la Xina. Al mateix temps, creix la pressió sobre les grans empreses tecnològiques, que, gràcies als seus milions d’usuaris a Facebook, Instagram, TikTok i YouTube, fa temps que s’han convertit en eines importants en les campanyes electorals. Els directors de campanya esperen arribar, sobretot, a l’electorat jove.
Fa unes setmanes, un informe del Servei Europeu d’Acció Exterior (SEAE) publicava uns 750 intents de manipulació informativa i ingerència d’origen estranger entre el desembre del 2022 i el novembre del 2023, per exemple en eleccions. “La democràcia està en joc”, diu Vera Jourová, vicepresidenta de la Comissió Europea, responsable de Valors i Transparència.
La secretaria d’estat dels EUA ha creat una coalició amb socis europeus per combatre la manipulació informativa arreu del món.
Recentment, s’ha destapat que un servei secret rus ha iniciat una operació de desinformació a l’Àfrica, segons informà l’encarregat especial James Rubin en el marc de la Conferència de Seguretat de Múnic. Es diu que s’ha afirmat que la febre del dengue a l’Àfrica occidental va ser causada pels experiments en organismes occidentals de salut i que la ciutadania de l’Àfrica hauria estat utilitzada per provar armament biològic. “Una cosa boja, però n’hi ha molts que s’ho creuen”, deia Rubin, que afegeix que la campanya fou molt perillosa perquè molta gent ja no s’atrevia a visitar metges o hospitals occidentals.
En el marc d’aquesta Conferència de Seguretat, 20 grans grups empresarials de la xarxa van firmar l’anomenat acord tecnològic de Múnic, en què els proveïdors garanteixen, entre d’altres, una detecció més ràpida de fitxers d’àudio, vídeo i imatge generats per IA si aquests copien o modifiquen de manera professional l’aspecte o la veu de candidats, assistents electorals i altres actors electorals. Per tractar-ho “adequadament”. Amb tot el que això pugui significar.
A la taula dels gegants tecnològics, la majoria dels quals tenen el quarter general als EUA, també van ser objecte de debat altres idees. Per exemple, que en el futur els continguts reals anessin dotats d’una marca d’aigua digital per diferenciar-los dels falsos. Aposten, per tant, per crear una “capacitat de resistència transversal en el sector contra els continguts electorals enganyosos creats amb IA”.
El 2024 és un “any electoral crucial” per a més de quatre mil milions d’electors de tot el món, diu David Zapolsky, lobbista polític en cap del gegant d’Internet Amazon, segons el qual la seguretat i la confiança són decisives per als electors d’arreu del món. Diu estar compromès en “la defensa de la democràcia”.
Nick Clegg, exvicepresident britànic i actual director de Global Affairs a Meta, l’empresa mare de Facebook i Instagram, considera que la col·laboració dels gegants tecnològics és “pionera” en aquest tema. Només això mostra la seriositat amb què les grans empreses d’Internet es prenen el tema i la importància dels seus esforços, digué Clegg a Der Spiegel.
Naturalment, aquest lobbista de Meta admet que en aquest assumpte també es presenta un dilema. La quantitat de xarxes socials que haurien d’influir els manipuladors electorals és relativament assumible. En cas contrari, els operadors de les plataformes s’enfrontarien a una xifra quasi infinita d’intents de desinformació. La intel·ligència artificial ho fa possible.
Clegg i les altres grans empreses encara es mostren optimistes de poder vèncer la carrera contra els exèrcits de trols de països com Rússia, la Xina o l’Iran. Creuen tenir un avantatge tecnològic, però per a quant de temps?
“El pitjor encara està per arribar”, diu Oren Etzioni, professor d’IA retirat a la Universitat de Washington i fundador de la plataforma sense ànim de lucre Truemedia.org, que busca desemmascarar notícies falses. Des del seu punt de vista, les empreses tecnològiques no valoren adequadament la seva responsabilitat. Encara pitjor: mentre lloen les millores a Múnic, al mateix temps, pel que fa a la llibertat d’expressió, fan campanya a Washington i Brussel·les a favor de menys moderació i control de continguts als seus mitjans.
“Tanmateix, aquesta llibertat té límits si el tema és la manipulació de conteses electorals. Precisament, a través dels vídeos i les imatges generats amb IA han augmentat moltíssim les possibilitats per desinformar o difondre informacions errònies”, diu Etzioni, que afegeix que per descomptat que és positiu que les grans empreses d’Internet tinguin ara la intenció de prendre mesures contra la falsificació de continguts. Tot i això, Etzioni diu que una marca d’aigua no seria suficient, ni de bon tros, ja que són massa fàcils de crear o eliminar. Les promeses dels gegants tecnològics seguirien el lema de “too little, too late”, és a dir, ‘massa poc, massa tard.’
A Brussel·les sembla que la cosa es veu de forma similar. Precisament, el Parlament Europeu ha acordat mesures més estrictes pel que fa a la difusió d’informació de caràcter polític a les xarxes socials.
La nova legislació pretén protegir millor els processos electorals de la influència d’altres estats. Preveu, entre altres mesures, que en el futur els serveis d’Internet hauran de marcar la publicitat electoral. A més, hauran de fer públic qui ha finançat el vídeo promocional o l’anunci. A banda d’això, a partir d’ara ja no es podran fer servir dades sensibles dels usuaris, com l’adscripció religiosa o l’orientació sexual, per fer publicitat electoral.
El Reglament de mercats digitals, en vigor des de fa poc, obliga les grans plataformes en línia i els motors de cerca a anar més enllà en la lluita contra els continguts il·legals i els riscos per a la seguretat pública.
En el cas del grup Alphabet, al qual pertanyen el motor de cerca Google i la plataforma audiovisual YouTube, sembla que aquest passa a l’ofensiva a la vista d’aquest Reglament amenaçador. L’estratègia actual de guanyar la lluita contra les notícies falses amb el de-bunking, és a dir, ‘detectar i esborrar informació falsa’, es considera que gairebé no té perspectives de futur. Per això, el nou pla de Google es diu Pre-bunking, això és, ‘detecció precoç’.
A partir d’aquesta primavera, la unitat interna Jigsaw de Google, que s’encarrega de combatre les amenaces per a la societat, publicarà una sèrie d’anuncis a Bèlgica, França, Alemanya, Itàlia i Polònia. En plataformes com TikTok i YouTube, la tecnologia desenvolupada a les universitats de Cambridge i Bristol pretén ajudar els espectadors a identificar contingut manipulador.
“Això no va així, que algú es creu una informació falsa i després se li ha de dir ‘Però això no és veritat. Aquí tens la veritat’.”, diu la cap de Jigsaw, Yasmin Green. Esperar que la persona corregirà la seva percepció és il·lusori. “És molt més complex. Precisament, els teòrics de la conspiració sí que creuen que són les persones més ben informades de l’univers. Hem de començar molt abans, amb el sistema darrere”, diu Green.
Durant mesos, Jigsaw, juntament amb investigadors britànics, ha estat estudiant el “sistema de les notícies falses” i ha trobat models sorprenents. En el debat sobre la vacuna obligatòria contra el coronavirus, per exemple, es va veure ràpidament quina era l’estratègia dels contraris a la vacuna. D’entrada, haurien retratat la indústria farmacèutica com a corrupta i influenciada políticament; després, haurien conscienciat la gent del seu dret a la integritat física. Nombrosos exemples de pacients que suposadament haurien patit una mala reacció a la vacuna haurien acompanyat la campanya.
A la fi, milions de persones no s’haurien vacunat contra el coronavirus. “Aquestes foren les estratègies. I tornaran a ser així quan hi hagi nous debats al voltant de les vacunes. Aleshores podrem calibrar els nostres sistemes i mostrar immediatament a la gent si la informació és enganyosa o incompleta”, espera Green.
D’ençà de la invasió russa d’Ucraïna, la narrativa dels trols propers a Rússia va quedar clara ràpidament, informa la mànager de Google. Es va dirigir contra els refugiats d’Ucraïna: “Aquesta gent us està prenent les cases, els llocs de treball, la vostra riquesa.” Green afirma que això es va poder anticipar i processar en vídeos amb verificadors de fets.
“El resultat fou sorprenent”, diu Green. Els vídeos de la seva plataforma haurien arribat a ben bé la meitat dels usuaris a Polònia, Txèquia i Eslovàquia. Al cap i a la fi, va ser “un èxit significatiu” en la lluita contra les informacions falses.
Google espera un èxit similar en el cas de les eleccions europees del juny. Amb els vídeos de campanya, traduïts a les 22 llengües oficials de la UE, per mantenir-se en el pla de la vacunació, es volen “activar anticossos mentals contra les informacions falses en les persones”, diu Green. Perquè tothom estigui preparat en el moment d’enfrontar-s’hi. A Alemanya, el sistema ja ha estat testat. Els resultats, diu Green, “fan bona pinta”.
Malgrat tot, la part difícil encara està per arribar: detectar i combatre les mentides que no són esperables, però no per això menys perilloses.
Traducció d’Arnau Ferre Samo