Es preveu que, en teoria, els cotxes autònoms podrien reduir les morts per accident de trànsit en un 90%. Perquè fos així, però, en alguns casos el conductor robòtic hauria d’estavellar el cotxe deliberadament, posant en greu risc la vida dels seus ocupants per poder salvar més gent fora del cotxe. Segons un estudi realitzat l’any passat per tres acadèmics i publicat a la revista Science, la majoria dels enquestats veien amb bons ulls que els vehicles estiguessin programats per fer valer aquesta moral. Sempre, això sí, que els ocupants no fossin ells. És a dir, que si haguessin de comprar un cotxe autònom, la majoria en triarien un que protegís els seus ocupants de manera prioritària en totes les circumstàncies. Davant d’aquesta dada, reflexionaven els acadèmics, si en el mercat hi hagués dos tipus de cotxes autònoms, uns que prioritzessin la vida dels ocupants i uns altres que triessin minimitzar el nombre de baixes a la carretera, molt poca gent voldria comprar-se els vehicles altruistes. “Per alinear la moral dels algoritmes amb els valors humans, hem d’iniciar un debat col·lectiu sobre l’ètica dels vehicles autònoms”, concloïen.
Els cotxes sense conductor són un clar exemple dels dilemes ètics i legals que poden comportar la robòtica i la intel·ligència artificial (IA), que evolucionen a gambades i que ja són presents en molts sectors del mercat: drones, programaris que compren i vénen accions en mil·lèsimes de segon, robots que donen menjar i munyen vaques, robots que fan de recepcionista o que serveixen copes, i braços robòtics que fan cotxes o que ajuden els cirurgians a operar. Segons la Federació Internacional de Robòtica, entre el 2010 i el 2014 les vendes de robots van augmentar un 17% de mitjana cada any. El 2014 van pujar un 29%, una xifra sense precedents. Els centres de recerca, a més, ja són plens de robots pensats per assistir persones i un dia o altre acabaran arribant a les llars i als llocs públics.
Robot, pagui el seus impostos
El Parlament Europeu va aprovar el 16 de febrer un informe amb caràcter d’esborrany per instar la Comissió Europea a crear un marc legislatiu comú per a la robòtica i l’IA: “La humanitat és a les portes d’una era en què els robots, bots, androides i altres manifestacions d’IA ja estan preparats per desencadenar una nova revolució industrial que probablement afectarà tots els estrats de la societat, i és d’una importància vital que la legislació en consideri totes les implicacions”.
L’informe troba especialment urgent la regulació dels cotxes autònoms. Proposa un règim obligatori d’assegurances i un fons suplementari que garanteixi una compensació completa a les víctimes dels accidents que puguin causar aquests vehicles.
A llarg termini, els eurodiputats també plantegen la creació d’una personalitat jurídica específica per als robots. Si se’ls dóna un estatus legal de “persones electròniques”, argumenten, serà més fàcil atribuir responsabilitats en el cas que causin danys. A més, vénen a dir que, com que els robots trauran molts llocs de feina a les persones, haurien de pagar impostos i seguretat social perquè es pugui mantenir l’Estat del benestar. L’informe també suggereix que en aquest context caldria considerar seriosament l’establiment d’una renda bàsica universal.
L’Europarlament és la primera institució del món que proposa una legislació d’aquest tipus, tot i que la decisió final recaigui en la Comissió Europea. No està obligada a fer cas de la cambra, però si rebutja la proposta haurà d’explicar-ne els motius.
Robots segurs
L’informe proposa un codi ètic voluntari que reguli qui és el responsable de l’impacte social i mediambiental de la robòtica i que estableixi uns estàndards de seguretat. Aquest codi, per exemple, hauria de recomanar als dissenyadors que els robots tinguin un “botó de la mort” perquè puguin ser apagats en cas d’emergència.
Els braços industrials ja compten amb mesures de seguretat. A banda de tenir un botó per apagar-los, sovint s’aturen quan detecten un objecte desconegut a la seva àrea de treball. Aquestes eines industrials són capaces d’adaptar-se a alguns aspectes de l’entorn. Per exemple, si detecten una peça en mal estat, l’aparten. Malgrat tot, la seva intel·ligència és molt limitada i, per tant, les mesures de seguretat són senzilles de programar.
Robots que substitueixen persones.L’informe europeu posa al centre del debat la seguretat de l’IA més intel·ligent, que és la que està dissenyada per aprendre de la seva experiència, la que és capaç d’esmenar els seus errors i prendre decisions autònomes. Pablo Giménez, cap del grup de Percepció i Manipulació de l’Institut de Robòtica i Informàtica Industrial, ens explica que estan desenvolupant un robot per ajudar persones amb poca mobilitat a vestir-se. “Els usuaris no cal que sàpiguen programar els seus robots; per tant, quan comencin a ser eines destinades al públic, caldrà que siguin capaços d’aprende. Per exemple, una persona, quan es vesteix, no sempre es col·loca de la mateixa manera. Cal que el robot hagi estat entrenat amb una sèrie de demostracions perquè aprengui a generalitzar. Així, quan vegi una persona d’una mida determinada i en una postura determinada, sabrà com ajudar-la a posar-se la jaqueta”.
Un robot domèstic podria tornar-se boig i començar a etzibar cops a l’usuari? “A veure, un robot pot fallar si està mal programat, però l’error té uns límits. És a dir, un robot programat per netejar, per molt que falli, no agredirà una persona perquè el seu software no ho contemplarà. Un robot no pot inventar del no-res un comportament”.
Màquines i prou
La resolució aprovada per l’Europarlament també proposa la creació d’una agència europea de robòtica i IA per oferir informació especialitzada i assessorament tècnic i ètic a les autoritats. De fet, l’informe considera imprescindible abordar les qüestions ètiques que generi la revolució robòtica. Per exemple, la relació de dependència que pot establir-se entre els robots i les persones, particularment les més vulnerables. Cal assegurar-se, diuen, que la gent entengui que els robots són màquines i que per tant no poden experimentar emocions.
Giménez explica que una de les branques d’investigació de la robòtica treballa per dotar els robots de comportaments que emulin emocions. No per enganyar l’usuari sinó per ajudar-lo a utilitzar adequadament el seu robot: “Per exemple, si t’apropes massa a un robot domèstic potser el seu sistema de visió té dificultats per enfocar correctament la imatge. Podria estar programat per apartar-se. Vist des de fora, l’usuari podria interpretar que estem envaint el seu espai personal”. Aquests comportaments programats serien pràctics perquè els usuaris, que no són experts, interaccionin correctament amb els robots. Alhora, però, podrien donar peu a confusions, a vincles perillosos.
És important fer entendre a la gent que, per molt que els robots acabin tenint un estatus jurídic i per molts impostos que paguin, l’IA actual i la que tindrem a curt i mitjà terminis continuarà sent, bàsicament, idiota. Les xarxes neuronals, uns programes informàtics inspirats en les interaccions entre neurones i que permeten l’aprenentatge de les màquines, són molt útils, per exemple, classificant objectes. Giménez adverteix, però, que no és el mateix classificar que interpretar: “Per interpretar una escena no només cal saber quins objectes conté sinó també els vincles que existeixen entre ells i el context en el qual es troben. Aquí entra el sentit comú i altres factors exclusivament humans”.
Ramon López, director de l’Institut d’Investigació en Intel·ligència Artificial, ens explica que tots els sistemes d’IA existents avui dia són específics: “Només saben fer una cosa. El software que sap jugar als escacs no sap jugar al parxís. I el que identifica tumors en una mamografia no sap detectar res més. L’IA no es versàtil ni té capacitat d’abstracció. No hi ha ni un sol exemple al món d’IA que no sigui específica. La integració de tasques és un dels grans objectius del camp, però encara no hi som”.
Inimitables, de moment
Tant Giménez com López veuen amb bons ulls la iniciativa reguladora del Parlament Europeu però també coincideixen a dir que hi ha una tendència a imaginar escenaris que continuaran estant reservats a la ciència-ficció durant molts anys. Una part de l’informe europeu, per exemple, considera la possibilitat que en les properes dècades l’IA pugui “sobrepassar la capacitat intel·lectual humana”. Per tant, diu, hem d’estar preparats per mantenir “el control del nostre destí i garantir la supervivència de la nostra espècie”. Si els robots acaben adquirint consciència, l’informe suggereix que es tingui en compte el codi ideat per Isaac Asimov, que estipula que un robot no pot ferir mai un humà i que ha d’obeir sempre les ordres del seu creador.
Robots que substitueixen persones.Gustavo Deco, catedràtic en neurociència de la UPC, destaca que ni tan sols sabem què és la consciència humana. “La imitació digital és útil i té aplicacions tecnològiques però de moment té molt poc a veure amb el cervell. Per exemple, la visió computacional s’inspira en la visió animal, però d’una manera molt indirecta”. L’investigador explica que la neurociència comença a entreveure com funcionen els mecanismes subjacents de les funcions històricament més estudiades, com la percepció visual. En els últims anys, a més, s’ha avançat en la comprensió d’altres funcions, com el procés de presa de decisions, el processament del llenguatge i la memòria.
Els atributs més lligats al concepte d’humanitat ja són figues d’un altre paner. La consciència, les emocions o el sentit de l’humor són els aspectes menys compresos del cervell. Es podria dir que no tenim ni idea de com funcionen. El 2013, tant la UE com els EUA van iniciar projectes multimilionaris per poder avançar en l’estudi de l’objecte més complex de l’univers. Deco participa en la iniciativa europea, el Projecte Cervell Humà, que es va marcar un termini de deu anys per fer un mapa de les neurones i les sinapsis que les connecten i, així, elaborar una model computacional que pugui simular alguns aspectes del cervell. “Que ningú pensi que el 2023 podrem anunciar que ja entenem el cervell. Trigarem segles a fer-ho”.
Es fa molt difícil pensar que puguem realment fabricar màquines conscients fins que no entenguem com funciona la nostra pròpia consciència. Quan arribem a entendre-la, podríem digitalitzar el cervell per dotar d’humanitat una màquina o per carregar la nostra ànima en un ordinador? Teòricament, diu Deco, no es pot descartar. “En el camp de la neurociència ningú pensa que el cervell sigui digital, per molt que alguns enginyers informàtics ho afirmin. No tenen ni idea de neurociència. El cervell és analògic i punt. Això no vol dir que els processos analògics no puguin ser digitalitzats. La natura és analògica però bé que la digitalitzem en imatges, vídeos i simulacions computacionals”. Abans, però, caldrà investigar durant dècades o fins i tot durant centenars d’anys. Potser no n’hi haurà prou ni amb tot el temps del món. No pocs científics pensen que mai serem capaços de treure’n l’entrellat. El cervell humà, diuen, no és prou intel·ligent per comprendre com funciona la seva extraordinària intel·ligència.