La IA està transformant les nostres maneres de ser i de fer d’una forma accelerada i sense precedents. Cal pensar-hi.
Malgrat el que sovint es diu, les eines no depenen només de com les utilitzem. No són neutrals. Cada eina et convida a actuar en una direcció o una altra. Heràclit ja esmenta com actuen l’arc i la lira, tots dos, gràcies a les seves cordes en tensió. L’un, però, convida a disparar, l’altre a fer música. No seria impossible fer música amb la corda única de l’arc, usant-lo com a monocord; ni seria impossible fer servir la lira com a arma (per disparar fletxes, o simplement per colpejar). No seria impossible, però tampoc no seria gens pràctic. O comparem el pinzell i el martell: l’un serveix per pintar i l’altre per picar. Si regalem a cent persones un pinzell (i tinta o pintura), i a cent més un martell (i un paquet de claus), podem imaginar que una bona part de les primeres es posaran a pintar, i una bona part de les segones, a fer cops. Tota eina ens orienta cap a una direcció determinada. La nostra llibertat té l’última paraula, però les circumstàncies ens influeixen.
Ara bé, la IA no és simplement una eina.
ChatGPT va aparèixer el 2022. Exactament cent anys abans, el 1922, el poeta Rainer Maria Rilke havia expressat en dos versos l’essència del que passa amb la tecnologia (el que ell anomena die Maschine, ‘la Màquina’):
«Alles Erworbne bedroht die Maschine, solange sie sich erdreistet, im Geist, statt im Gehorchen, zu sein.» (‘Tot assoliment, la Màquina l’amenaça, quan deixa l’obediència i usurpa el lloc de l’esperit.)
És a dir, mentre la màquina es comporta com a eina (es manté en «l’obediència»), pot resultar ben útil (no és mai neutral com hem dit, però podem saber conduir-la). Ara bé, quan la màquina «usurpa el lloc» de l’esperit, la ment o l’intel·lecte (tots tres termes són traduccions possibles del mot que Rilke escriu, Geist), ho «amenaça» tot.
En els temps de Rilke, la màquina més omnipresent era l’automòbil (que, tot i dir-se «auto-mòbil», ni tan sols podia moure’s autònomament). Què va fer pensar Rilke en màquines que podrien usurpar el lloc de l’intel·lecte? En el seu temps no hi havia res que mínimament s’hi acostés. Avui, ara sí, ja en tenim. El 1997, setanta-cinc anys després dels versos de Rilke, Deep Blue va derrotar el campió del món d’escacs d’aleshores, Garri Kaspàrov.
”La IA no és una eina, i tampoc no té, ni tindrà mai per si mateixa, intel·ligència. No és res més que càlcul. Vertiginós, i molt més complex que el de les calculadores de butxaca, però simple càlcul al capdavall (i ningú diu que una calculadora sigui «intel·ligent» perquè fa en un instant una arrel quadrada).
La IA no és una eina, i tampoc no té, ni tindrà mai per si mateixa, intel·ligència. No és res més que càlcul. Vertiginós, i molt més complex que el de les calculadores de butxaca, però simple càlcul al capdavall (i ningú diu que una calculadora sigui «intel·ligent» perquè fa en un instant una arrel quadrada). La veritable intel·ligència no és càlcul: el càlcul és la simple aplicació de regles mecàniques; la intel·ligència, en canvi, implica comprensió, experiència, consciència. Per això, quan escric l’acrònim IA em refereixo a invasió algorítmica: invasió, a base d’algoritmes, de les nostres feines, de les nostres relacions, dels nostres espais íntims i comuns, de les nostres maneres de ser i de fer.
L’anomenat test de Turing neix d’un article, publicat l’any 1950, en què Alan Turing començava demanant-se: «¿Poden pensar, les màquines?». Però immediatament substituïa la pregunta, i a partir d’aleshores considerava que podem concloure que pensen… si sembla que pensen. Ho presentava com un joc, «el joc de la imitació» (un dels mots que més es repeteix en l’article, des del principi, és imitació). La capacitat d’imitar, de fer que una cosa sembli una altra, fora dels seus usos lúdics i estètics, no és cap virtut, sinó tot el contrari: implica donar gat per llebre, falsejar, confondre. Turing també argumenta en aquest article que l’única ment que coneixem és la nostra i que no podem estar segurs que en els altres hi hagi subjectivitat. Descartes, en els orígens de l’alienació moderna, també es preguntava si la gent que veia eren realment persones amb vida interior o simples autòmats. Quan gaudim de salut mental, no ens fem aquesta mena de preguntes.
A Consciència o col·lapse faig una distinció entre la ment algorítmica, que ens permet calcular, analitzar i classificar, i que pot imitar o fins i tot superar les màquines, i la ment holística, que té molt més a veure amb el que realment ens constitueix com a persones: la sensibilitat ètica i estètica, la capacitat creativa i poètica, l’empatia, la compassió, la intuïció. La mal anomenada «intel·ligència artificial» encalça la intel·ligència holística i fa que tot allò que dona sentit a l’existència humana comenci a semblar superflu i irrellevant.
Hauríem de tenir ben present l’amenaça que Rilke esmentava. Aquesta amenaça va aparèixer el 1968 a les pantalles de cinema, quan, cap al final de la pel·lícula 2001 de Kubrick, l’ordinador HAL decidia no obeir l’astronauta Bowman i el posava en perill imminent de mort. «D’on dimonis has tret aquesta idea, HAL?» («Where the hell did you get that idea, HAL?»), preguntava l’astronauta. Nosaltres, que no som astronautes però sí que estem astorats, hauríem de preguntar: «D’on dimonis surt això?».
D’on surt la temptació algorítmica?
Jordi Pigem, (Barcelona, 1964) és un filòsof de la ciència, assagista i escriptor català, conegut pels seus treballs sobre ecologia, consciència, filosofia contemporània i crítica de la visió materialista del món.
Foto: Pol Rius
