L'avís d'Anthropic sobre la IA autoreplicant és un «déjà-vu» alarmant

Conspiren legions de dispositius intel·ligents —neveres, forns, aspiradores, tallagespes, càmeres de seguretat i televisors— per apoderar-se d'internet? No. Però aviat podrien ser amfitrions involuntaris de models d'IA autoreplicants que s'escampen de dispositiu a dispositiu i resulten notablement difícils de contenir.

Benvinguts a l'inquietant món dels cucs d'IA, on, depenent de qui preguntis, la perspectiva que els models s'estenguin de manera incontrolada pels electrodomèstics és o bé un risc imminent de ciberseguretat o bé un altre cas d'empreses d'IA que escampen bombolles apocalíptiques. En una entrada de blog publicada aquesta setmana, Anthropic adverteix que els models petits d'IA podrien estar a «mesos de distància» d'adquirir aquestes capacitats. Els seus experiments ofereixen algunes proves que ho recolzen, però deixen una gran distància entre el que els investigadors han demostrat i l'amenaça imminent que pronostiquen. Tot i així, experts que han parlat amb The Verge diuen que, si bé els cucs informàtics i els temors a la IA autoreplicant no són nous, els avenços recents suggereixen que hi ha bones raons per prendre's seriosament les advertències.

Les màquines autoreplicants fa temps que persegueixen els investigadors de seguretat de la IA. Plantegen la perspectiva de sistemes que s'estenen més enllà del control humà i que són difícils, si no impossibles, d'apagar. Com passa amb molts temors sobre l'avanç de la IA, l'atenció s'ha centrat en gran mesura en models de frontera cada vegada més potents, com Astra d'OpenAI o Mythos d'Anthropic. Però un factor limitant clau és la seva mida: són colossals. Amb un contingut potencial de bilions de paràmetres —valors apresos durant l'entrenament—, els models de frontera requereixen grans recursos informàtics, cosa que els confina principalment als centres de dades, on es poden monitorar més fàcilment i, en principi, desconnectar.

Els models més petits, però, plantegen un problema diferent. Milloren ràpidament, poden funcionar en maquinari de consum i sovint es poden descarregar gratuïtament. Els investigadors d'Anthropic volien saber si se'n podia executar un a través d'una xarxa de dispositius més petits i menys potents. Van dividir amb èxit Gemma 4 de Google, un model de 26.000 milions de paràmetres, entre 15 caixes d'Android Smart TV, cap de les quals prou potent per executar-lo tota sola. Va funcionar, tot i que molt lentament.

Després de demostrar que un model podia funcionar a través de dispositius domèstics, els investigadors volien comprovar si la IA podia realitzar els passos necessaris per a l'autoreplicació en un entorn d'aquest tipus. Van construir una xarxa simulada d'ordinadors dissenyada per comportar-se com a dispositius Android i, a continuació, van alliberar un «cuc» impulsat per IA —un tipus de programari maliciós que es replica automàticament i s'escampa per les xarxes— amb l'encàrrec de trobar noves màquines, copiar-hi el model d'IA i fer-lo funcionar a cadascuna. Val la pena assenyalar que el model que es propagava —Llama 3.1-8B de Meta, de 8.000 milions de paràmetres— era diferent del que coordinava l'atac, i molt més petit.

Només el model més sofisticat provat, GLM-5.2 de la xinesa Z.ai, va aconseguir propagar-se per tota la xarxa, tot i que models més petits van aconseguir completar passos individuals.