Diuen que la IA et matarà avui (no importa quan llegeixis això)

En els últims dies hem assistit a una tempesta de declaracions especialment intensa sobre el risc existencial de la intel·ligència artificial. Resumint: morirem tots, quan ho decideixi la IA. El motiu al·legat és que ja hi ha models capaços de processar dades de forma més massiva i més ràpida del que cap persona pot entendre (i que hem de tenir fe en què continuaran millorant exponencialment). És possible, per tant, que es comuniquin més enllà del nostre enteniment i escapin al nostre control. Sembla que se'ns oblida que, avui dia, tots els models de IA viuen en un ordinador — un ordinador gegant que consumeix una quantitat ingent d'energia —, i tots els ordinadors tenen un botó d'apagar i un cable que, a unes dolentes, podem tallar. Per a estalviar-nos els malsons d'aquesta nit, un detall: ChatGPT, ara com ara, no té un bracito amb el qual empunyar una pistola i disparar-nos. Sembla probable, això sí, que, al ritme que anem incorporant IA en tota mena de sistemes, ocorri alguna catàstrofe. O moltes. Té pinta que una successió de vulneracions de seguretat ens pot obligar a apagar internet i generar un caos mortífer per a qui li enxampi en mal moment. També pot ser que algú construeixi un bracito empunya-pistoles, ho connecti a una IA i ho deixi solt. O coses molt més rebuscades, atès que és evident que hi ha màquines que manegen moltes més probabilitats de les que caben als nostres caps. En qualsevol cas, podrem culpar a la persona humana i irresponsable que hagi prescindit dels tallafocs i restriccions pertinents. Per molt que la IA es automejore recursivamente, mentre al voltant hi hagi persones conscients de les nostres limitacions i disposades a donar-li al botó si hi ha perill, anem bé. Vist així, del que ens estan advertint els caps de les big tech, que encara tenen un botó funcional a mà, és que no hem de confiar en les seves consciències. Quan obren la boca puja el seu pa Deia que la tempesta ha refermat, però no és cap novetat: des que Alan Turing va començar a somiar amb màquines intel·ligents, la possibilitat del desenllaç fatal és àmpliament discutida entre amants de debats hipotètics. És un greatest hit en departaments de filosofia, juntament amb això de si hauries de salvar abans al teu pare o a un bebè en cas que hi hagués un tren #acostar. També en els centres de recerca en computació on va néixer el que avui cridem IA. Però és important recordar que, quan la tasca va deixar de #centrar pensar i es va convertir en un atac de força bruta (més dades!, més processadors!, més resultats sense saber d'on vénen ni com hem arribat fins aquí!), el sintagma «intel·ligència artificial» va deixar de ser un camp científic i es va convertir en una etiqueta de màrqueting. Quan ens sortim del marc de la ciència, s'acaba la claredat dels debats que ens permeten saber què mereix consens i quina resulta dubtós per a massa gent experta.