Els antiavalots de Hong Kong van atacar els manifestants amb les armes habituals: porres, gas lacrimogen i canons d’aigua. Els manifestants, en canvi, esgrimien armes d’allò més peculiars per defensar-se, com ara punters làser i pintura d’esprai. No pretenien encegar ni marcar la policia, sinó impedir que s’emprés la tecnologia de reconeixement facial amb les prop de 50.000 càmeres de circuit tancat de Hong Kong.
Poden semblar moltes, però la veritat és que Hong Kong no figura entre les 25 ciutats més vigilades de la Terra pel que fa a càmeres per persona. Amb 6,71 càmeres per cada mil persones, en té menys d’una vintena part de les que atapeeixen les urbs continentals xineses de Chongqing i Shenzhen. El Govern de la Xina ha apostat fort per la tecnologia de vigilància, finançant la creació de múltiples companyies que ara tresquen per tot el món. Però la densitat de càmeres a Hong Kong també és inferior que en ciutats de països més lliures, com Londres (68,4 per cada mil persones), Atlanta (15,6) i Chicago (13,1).
La gent no va votar crear un Gran Germà en cap d’aquests indrets, però existeix igualment. Durant anys la implementació mundial de la tecnologia de vigilància, tant en dictadures com en democràcies, va seguir un patró tristament previsible. Demanessin el que demanessin les forces de seguretat, se’ls solia donar.
Per tant, la policia dels països liberals té una pila de recursos al seu abast. A banda dels sistemes de reconeixement facial, hi ha càmeres als cotxes de policia o als pals de telèfon que reconeixen i registren la matrícula de cada cotxe que passa; i els Stingrays imiten les torres de telefonia mòbil i permeten que la policia intercepti dades de cada telèfon detectat, incloent-hi missatges, pàgines web consultades i números de telèfon amb què es fan trucades. Gràcies a tots aquests aparells, la policia pot fer retrats meticulosos de la vida de la gent.
Aquesta és la mala notícia. La bona és que, almenys als EUA, els ciutadans més conscienciats han començat a posar-hi fre.
El 2019 algunes ciutats de les dues costes han prohibit a les forces de l’ordre emprar el reconeixement facial. L’estat de Califòrnia va prestar-se a ser el primer de prohibir-la en les càmeres que du la policia a l’uniforme, cada vegada més utilitzades pels cossos policials a fi de registrar les interaccions amb els ciutadans. Kate Crockford, de la sucursal d’ACLU a Massachusetts, va descriure aquestes prohibicions com “un pal a les rodes del determinisme tecnològic: contra la idea que, si s’ha inventat, s’ha d’aplicar, i per tant més val que t’apartis”. Sembla que el 2020 aquesta tendència continuarà i s’estendrà terra endins.
El 2018 la ciutat de Nova York va crear un grup de treball per estudiar com fan servir els algoritmes els seus cossos de policia. El software decisori opera en llocs sorprenents. No només s’empra en programes de control policial predictiu (basats en dades històriques per predir on es cometran els propers delictes i, per tant, on hauria d’anar la policia), o per avaluar el risc i determinar qui pot optar a la llibertat provisional i qui ha de romandre a la presó, sinó també per decidir a quina escola va cadascú i quins edificis necessiten una inspecció pel risc d’incendis.
Ja tenim algoritme
Molta gent tem que els algoritmes estan lluny de ser eines impersonals i imparcials, sinó que es basen en dades racistes que, conscientment o inconscient, repliquen els prejudicis. Un altre neguit és que els algoritmes són caixes negres que no responen davant de ningú i que prenen decisions seguint processos opacs impropis d’una democràcia. Els demòcrates del Congrés han presentat una proposta de llei per exigir que les companyies investiguin i reparin el biaix algorítmic dels seus sistemes. Però amb el Congrés dividit i unes eleccions imminents, sembla poc probable que el 2020 es tradueixi en una llei.
Tanmateix, si els demòcrates aconsegueixen la presidència al novembre, encara es podria aprovar la llei en el congrés resultant. Diversos candidats han anunciat paquets de reformes de la justícia penal que qüestionen la tecnologia de vigilància. Bernie Sanders vol avaluar el risc algorítmic i que es prohibeixi totalment el reconeixement facial. Elizabeth Warren ha promès establir “proteccions privades” i un “grup de treball sobre privacitat digital en la seguretat pública”. Kamala Harris ha anunciat que donarà suport als reglaments contra el racisme tecnològic, tot i que ha estat més cauta.
Encara que els demòcrates són els que més alcen la veu en aquest àmbit, generalment la privacitat i l’escepticisme envers el poder de l’estat han amoïnat tots dos partits. A poc a poc s’esvaeix l’optimisme que va fer que els polítics dels dos costats abracessin la tecnologia. També desapareix el consens relatiu a la duresa contra el crim que va fer que els polítics tinguessin por de dir no a la policia i estiguessin disposats a imposar sentències cada vegada més dures. La convergència d’aquestes dues tendències vol dir que el 2020 els vigilants omnipresents poden comptar amb una cosa: se’ls farà passar per l’adreçador. I ja era hora.
Traducció d'Arnau Figueras