La IA Mythos preocupa el cap de JPMorgan: multiplica per deu el risc de ciberseguretat

La intel·ligència artificial està canviant la manera de detectar i combatre els ciberatacs, però també pot facilitar que els ciberdelincuentes trobin vulnerabilitats i les aprofitin per a accedir a sistemes informàtics . A més, l'avanç de models cada vegada més capaços d'identificar errors i executar tasques de manera autònoma està elevant la preocupació entre els experts de seguretat, i fins i tot de les entitats financeres.

En aquest escenari, Jamie Dimon, conseller delegat de JPMorgan Chase, ha advertit en una entrevista amb Bloomberg TV que els riscos de ciberseguretat s'han multiplicat per deu des de l'arribada de Claude Mythos , el model especialitzat de Anthropic a detectar fallades informàtiques.

Dita alerta correspon a una estimació del propi Dimon i no a un mesurament independent de l'augment dels atacs, degut que JPMorgan Chase és una de les organitzacions que han obtingut accés a Mythos mitjançant Project Glasswing, una iniciativa de Anthropic que reuneix un grup limitat d'empreses per a examinar els seus sistemes i localitzar vulnerabilitats abans que puguin ser explotades.

L'entitat bancària participa en aquesta iniciativa per a posar a prova els seus defenses enfront de les capacitats del model de Anthropic, tenint en compte que és l'únic banc que està entre els participants des del començament del projecte. Per tant, davant aquesta situació, Dimon adverteix dels riscos de distribuir una tecnologia d'aquest tipus sense controls , ja que la seva preocupació se centra en que les eines de IA siguin capaces de detectar fallades crítiques per a atacar des de sistemes financers fins a serveis digitals .

Així ho ha donat a conèixer en l'entrevista: "La IA va crear vulnerabilitats que desconeixíem, i sempre ens havíem preocupat per la ciberseguretat abans que per aquestes coses. El desavantatge és, òbviament, el que es llegeix sobre els agents, Mythos i totes aquestes coses que poden causar problemes. És una preocupació legítima, és una cosa real ".

Per què és tan perillós Claude Mythos?

Com hem esmentat, la intel·ligència artificial s'ha convertit en una eina cada vegada més important per a la ciberseguretat per la seva capacitat per a analitzar programari, detectar fallades i identificar vulnerabilitats. No obstant això, aquesta mateixa capacitat també planteja riscos quan s'aplica a sistemes crítics .

En aquest context va sorgir Claude Mythos, el model de IA desenvolupat per Anthropic amb un enfocament específic en seguretat informàtica. Presentat a l'abril , aquesta tecnologia ha estat descrita pels seus creadors com un model de llenguatge de propòsit general amb un fort enfocament en l'anàlisi de vulnerabilitats i la protecció de programari crític.

Segons Anthropic, durant les avaluacions internes, Claude Mythos va aconseguir identificar i explotar vulnerabilitats de dia zero en diferents sistemes operatius i navegadors web, incloses fallades amb més d'una dècada d'antiguitat que fins ara havien passat inadvertits. Per tant, aquestes capacitats de Claude Mythos van reobrir el debat sobre el doble ús de la intel·ligència artificial en l'àmbit de la ciberseguretat, perquè, mentre alguns experts destaquen la seva utilitat per a reforçar la protecció d'infraestructures digitals i millorar la detecció primerenca de vulnerabilitats, uns altres adverteixen del risc sobre els possibles usos malintencionats .