GONZALO CASINO / @gonzalocasino / gcasino@escepticemia.com / www.escepticemia.com
Sobre la por a la intel·ligència artificial i les respostes emocionals
“Buscàvem alguna cosa millor que un algoritme per a recomanar-te llibres i l’hem trobat: persones”. Aquest lema de Librotea, el recomanardor de llibres del diari El País, amaga tanca una veritat de Perogrullo (una persona és sens dubte qualitativament millor que un algoritme), però deixa entreveure una certa prevenció cap a aquest ens misteriós, secret i terrible que és, per a molts, un algoritme. El terme ha guanyat popularitat gràcies als cercadors, les xarxes socials, el big data i les aplicacions de la intel·ligència artificial. I aquesta popularitat va de la mà d’una certa por supersticiosa al mal que creiem que ens pot fer un algoritme, des d’amenaçar la nostra llibertat a treure’ns el lloc de treball.
Aquesta por es deriva en part dels anuncis personalitzats que veiem quan naveguem per internet i a la difusió individualitzada de notícies falses en les xarxes socials, però és també una por al desconegut, a les possibilitats no ben compreses de la intel·ligència artificial i del big data. No obstant això, un algoritme no és més que una simple llista d’instruccions per a resoldre un problema. Una recepta de cuina és un algoritme elemental que ens permet elaborar un plat, però no té res a veure amb el que és capaç de detectar els nostres interessos de consum en funció del que busquem i llegim en la xarxa, o amb els sofisticats algoritmes d’un sistema expert per a diagnòstic mèdic. Tot són, efectivament, algoritmes, però cap d’ells ens farà el menjar ni comprarà o votar per nosaltres. El que sí que poden fer alguns és presentar-nos en safata un tipus d’informació que pot disparar les nostres respostes més emocionals.
En el seu recent article Marion Cotillard i les amígdales, la directora de cinema i lliurepensadora Isabel Coixet parlava del “maleït algoritme” que amenaça de conformar la nostra forma de consumir, votar i viure, alhora que reconeixia que el perill més gran no són els algorismes en si, sinó la tendència humana cap allò fàcil. Aquesta propensió a la mandra intel·lectual és el que ens impulsa a insultar abans de raonar, a adoptar acríticament les opinions alienes més afins als nostres prejudicis i emocions, i a inhibir-nos de la fatigosa tasca de pensar per un mateix. Així doncs, no és tant l’algoritme el que conquista la nostra voluntat com nosaltres els qui deixem algunes decisions a l’atzar d’informacions d’allò més pelegrines. El consum de notícies en les xarxes socials en detriment de les que produeixen els mitjans de comunicació, com a resultat de la seva intermediació professional, és un terreny adobat per a aquest tipus de reclams poc fiables i d’estímuls per a la nostra sempre desperta amígdala cerebral, un enclavament principal per al processament de les emocions i les respostes conductuals associades (també esmentava Coixet a l’amígdala, a la qual confonia, de broma o per error, amb les amígdales).
La por i el rebuig que provoquen els algoritmes és, per tant, una resposta amigdalina, emocional i primària, que no està del tot justificada o no ho està en molts casos. Els algorismes, com els ganivets, poden usar-se per a bé o per a mal. I hi ha, certament, una infinitat de bones aplicacions. En medicina, sense anar més lluny, tenen un futur prometedor en molts camps, com per exemple la interpretació d’imatges mèdiques, l’anàlisi massiva de dades clíniques, la cirurgia robotitzada, el desenvolupament de fàrmacs i el suport a la presa de decisions mèdiques. Els humans no som capaços de resoldre problemes com ho fa un algoritme, entre altres coses perquè tenim amígdala.
Autor
Gonzalo Casino és periodista científic, doctor en medicina i professor de periodisme a la Universitat Pompeu Fabra de Barcelona. Ha estat coordinador de les pàgines de salut del diari El País durant una dècada i director editorial d’Edicions Doyma / Elsevier. Publica el bloc Escepticemia des de 1999.
———————————–
Columna patrocinada per IntraMed i la Fundació Dr. Antoni Esteve
