Robots, algoritmes i vincles humans: entre la utopia, la distopia i el tecnorealisme
Una reflexió sobre com la intel·ligència artificial i la robòtica afecten les relacions personals i socials, a partir del capitalisme de vigilància, l’ètica aplicada i la pel·lícula Un amic per a en Frank
Vivim un moment històric en què la tecnologia no només ens acompanya, sinó que ens travessa. Estem envoltats de dispositius, plataformes, assistents virtuals, algorismes i aplicacions que medien pràcticament tots els aspectes de la nostra vida quotidiana. I en aquest escenari, una pregunta es fa cada vegada més present: com està afectant tot això les nostres relacions personals i fins i tot la nostra manera de ser?
En aquest text, m’agradaria compartir una sèrie de reflexions sobre com la intel·ligència artificial (IA), els robots, els bots i els sistemes digitals incideixen en la nostra vida afectiva, social i emocional. No només des d’una perspectiva tecnològica o funcional, sinó sobretot des d’una mirada ètica, social i filosòfica.
La tecnologia no és neutra
El primer punt de partida és aquest: la tecnologia no és neutral. Com explica la sociòloga Shoshana Zuboff en la seva teoria del capitalisme de vigilància, les tecnologies digitals —especialment les que fan servir dades personals— han estat dissenyades per extreure informació, crear perfils psicològics, preveure comportaments i, en molts casos, influir en les nostres decisions.
Les xarxes socials en són un exemple clar: mitjançant sistemes algorítmics molt sofisticats, no només ens recomanen contingut, sinó que poden acabar condicionant allò que pensem, sentim o desitgem.
Aquestes tecnologies han estat desenvolupades per empreses que no tenen com a objectiu el benestar social, sinó el benefici econòmic. I ho fan amb una eficiència extraordinària, utilitzant coneixements de la psicologia conductual, la neurociència, l’economia i altres disciplines. El resultat? Sistemes altament addictius que generen dependència, polarització i una sensació constant de connexió… però també, paradoxalment, de solitud.
Les noves formes de relació
És en aquest context on entren en joc els robots socials i els assistents d’IA. Ens hi estem acostumant de manera accelerada: parlem amb Siri, escrivim preguntes a ChatGPT, deixem que Spotify ens recomani música segons el nostre estat d’ànim o que Netflix decideixi què veure. I això no només canvia els nostres hàbits: canvia les nostres relacions, tant amb els altres com amb nosaltres mateixos.
La psicòloga i sociòloga Sherry Turkle fa anys que estudia com aquests dispositius afecten la qualitat de les interaccions humanes. Segons ella, l’existència de “companyia sense compromís” que ofereixen les màquines ens pot fer menys tolerants a la complexitat de les relacions reals: disminueix la nostra capacitat d’escoltar, de discutir, de reconciliar-nos, i fins i tot de conviure amb el silenci o l’avorriment.
Turkle no diu que les màquines siguin dolentes en si mateixes, sinó que ens hem d’aturar a pensar com, per què i amb quina finalitat les fem servir. La qüestió clau no és si la tecnologia avança, sinó com la integrem a les nostres vides de manera que no desplaci ni substitueixi la dimensió humana.
Una pel·lícula com a metàfora: Un amic per a en Frank
Per entendre millor aquests dilemes, resulta molt útil recórrer a la ficció. La pel·lícula Un amic per a en Frank ens mostra un escenari proper: un home gran que viu sol i rep com a regal un robot assistent. Aquest robot l’ajuda a menjar millor, a fer exercici, a tenir una rutina més saludable. Fins aquí, tot sembla positiu.
Però a mesura que avança la trama, el robot no només es converteix en el seu millor aliat, sinó també en el seu còmplice. Acaben cometent petits delictes junts, i això reobre qüestions morals, ètiques i legals: qui és el responsable? El robot només fa el que li han programat? Pot un robot desenvolupar una mena de lleialtat emocional?
La pel·lícula, lluny de donar respostes clares, ens convida a preguntar-nos què passa quan deleguem les nostres emocions i vincles en màquines. Què passa amb la família d’en Frank, que inicialment se’n desentén i després vol recuperar el vincle? I què passaria si ell no tingués cap família, si estigués realment sol, sense cap xarxa? Pot una màquina omplir aquest buit?
Simulació vs. emoció real
És important distingir entre simulació d’emocions i emocions autèntiques. Un robot pot simular empatia, pot respondre amb frases afectuoses, pot recordar dades sobre tu… però no sent res. Com en el cas de la pel·lícula Her, el protagonista creu que té una relació amorosa amb un sistema operatiu, però és ell qui projecta sentiments; la màquina només replica patrons.
I això no és una qüestió tècnica, sinó profundament neurològica i humana. Com han demostrat diferents estudis en neurociència, les emocions no són només un procés cerebral, sinó que impliquen tot el cos, el sistema nerviós, les hormones… en definitiva, la carn, la pell, el contacte. És molt difícil —si no impossible— que una màquina pugui reproduir aquest nivell de complexitat i profunditat.
La importància de la regulació i l’ètica aplicada
Davant d’aquest escenari, cal una resposta social i política. Europa, a diferència d’altres regions del món, ha optat per una actitud tecnorealista: reconèixer els riscos, però també apostar per una innovació responsable. La nova Llei d’IA aprovada per la Unió Europea intenta posar límit i sentit a aquest desenvolupament, garantint drets fonamentals com la privadesa i aplicant els principis de l’ètica aplicada: beneficència, no maleficència, autonomia, justícia… i, com defensa Floridi, explicabilitat.
Aquesta última és clau: no podem conviure amb tecnologies que no entenem, que ens semblen opaques o inintel·ligibles. La transparència no hauria de ser un luxe, sinó una condició bàsica per a una democràcia digital.
I ara què? Com actuar
No es tracta de rebutjar la tecnologia, sinó de posar-la al nostre servei, en comptes de ser nosaltres els qui ens adaptem acríticament als seus ritmes. Hem de poder aprofitar els seus beneficis (robots de suport, IA en educació o salut), però també mantenir espais humans on la complexitat, la vulnerabilitat i l’afecte real no siguin substituïts per simulacres.
També hem de reflexionar sobre com aquests dispositius afecten la nostra relació amb nosaltres mateixos. Autores com Lola López Mondéjar alerten que la tecnologia pot atrofiar la nostra capacitat de narrar-nos, d’entendre’ns, de construir una identitat pròpia. Altres, com Gabriel Ventura, parlen de joves que fugen d’aquesta realitat cap a mons imaginaris, com el reality shifting. I això ens indica que, lluny de connectar-nos, moltes vegades ens desconnectem més que mai.
Conclusió: entre la utopia i la distopia
Com deia Eduardo Galeano, la utopia serveix per caminar. Imaginar futurs millors ens inspira, ens dona horitzó. Però les distopies també ens ensenyen: ens alerten dels perills. El tecnorealisme —una postura crítica però oberta— ens permet caminar entre aquests dos extrems, aprenent del passat, actuant en el present, i anticipant el futur.
La pregunta que queda oberta és aquesta: volem una societat on les màquines cuidin de nosaltres, o volem una societat on siguem capaços de cuidar-nos millor entre humans, amb l’ajuda de la tecnologia?
Referències
