Facebook recorre a la intel·ligència artificial per evitar suïcidis

La xarxa social ha començat a utilitzar un sistema d’algorismes que ha estat entrenat per detectar usuaris amb risc d’autolesionar-se. Fa un mes, Zuckerberg va dir que, en un futur, l’empresa podrà identificar entrades de terroristes a través de la intel·ligència artificial.

Segueix-nos a Facebook per assabentar-te dels nostres darrers reportatges

En els darrers mesos hi ha hagut una sèrie de persones que han utilitzat el compte de Facebook per retransmetre en directe el seu suïcidi. L’últim va ser el d’una nena de 12 anys de l’estat nord-americà de Georgia. Durant la retransmissió, esfereïdora, hi explicava que el seu padrastre la maltractava físicament i es veia com acabava amb la seva vida penjant-se d’un arbre al davant de casa seva.

Ja fa anys que Facebook ofereix consell a usuaris amb risc d’autolesionar-se però fins ara només podia detectar-los quan altres usuaris n’informaven amb el botó de denuncia. Fa uns dies, però, Facebook va posar en marxa un sistema algorítmic de reconeixement de patrons programat per identificar aquesta mena de casos entre el batibull d’informació que genera la plataforma. Aquest sistema d’intel·ligència artificial ha estat entrenat amb el contingut d’entrades anteriors i identifica patrons de risc. Per exemple, entrades en què un usuari parli de tristesa o de dolor així com respostes en què les amistats es mostrin preocupades.

Quan el sistema detecti aquest tipus de contingut ho notificarà a un equip humà que s’encarregarà de valorar-lo ràpidament. Quan es trobin usuaris que mostrin signes de voler-se fer mal, l’empresa pretén fer-los arribar números de telèfon d’ajuda i encoratjar-los a parlar amb un amic. A més, quan utilitzin el Facebook Live, tindran a un sol clic aquesta mena de recursos. I és que Facebook no prohibirà que les persones en risc segueixin utilitzant l’aplicació de retransmissió en directe. És una decisió delicada, però cal tenir en compte que Facebook Live també és una eina que pot servir perquè algú pugui intentar prevenir el suïcidi.

De moment, el nou sistema d’intel·ligència artificial s’està provant només als Estats Units. El mes passat, Mark Zuckerberg va dir que algun dia la xarxa social també utilitzarà algorismes per identificar entrades penjades per terroristes i altres continguts preocupants: “De cara al futur, una de les grans oportunitats que tenim és la de protegir la gent a través de la intel·ligència artificial per entendre més ràpidament i de manera més acurada què està passant a la nostra comunitat”.

Subscriu-te a El Temps i tindràs accés il·limitat a tots els continguts.