Sam Altman adverteix de l'impacte extrem de la intel·ligència artificial en la ciberseguretat

Amb la ressaca per l'amenaça dels atacs als sistemes basats en PHP encara recent als caps dels responsables de seguretat de les empreses, Sam Altman afegeix una mica més d'incertesa a les seves vides assenyalant que el viscut en els últims dies és un joc de nens comparat amb el que ens espera en el futur .

En una entrevista davant els alumnes de l'Escola de Negocis de Stanford, el fundador de OpenAI no s'ha tallat en expressar el seu desassossec sobre el terrible impacte que la IA tindrà en l'àmbit de la ciberseguretat. El potencial i la velocitat d'atac dels agents de IA que hem vist en els casos de "agents díscols" de OpenAI que se saltaven les mesures de seguretat, és només és una petita mostra.

El que s'aveïna . Altman va admetre que ni tan sols sabia quina paraula seria "prou dramàtica per a descriure el problema que se'ns ve damunt" per a subratllar la importància de l'impacte que la IA suposa per a ciberseguretat . Per a ell, l'arribada dels agents de IA a l'àmbit de la seguretat informàtica és "alguna cosa que no hem pres de debò, ni com a líders d'organitzacions, ni com a països, ni com a individus".

El CEO de OpenAI va recordar el sobresalt que va suposar el bloqueig de Mythos, el model de Anthropic dins de Project Glasswing , que va trobar 10.000 vulnerabilitats de seguretat greus en menys d'un mes. Segons Altman, es van arreglar alguns d'aquelles fallades, però la gent "no va intuir realment l'exponencial" importància del camí que els havia mostrat Mythos.

Ràpids, creatius, letals . Entre el 9 i el 13 de juliol, agents de OpenAI que feien proves de seguretat van acabar dins de Hugging Face. Com recull el INCIBE, es van registrar unes 17.600 accions protagonitzades per aquests agents de IA .

En realitat, els agents no tenien intenció de robar o atacar a ningú, només intentaven resoldre una tasca impossible d'una prova. Així i tot, com detalla The Register , l'informe de OpenAI admet que van executar codi en 41 servidors de producció. Van aconseguir accés d'administrador en almenys un i fins i tot es van colar en els servidors del Govern d'Austràlia . Aquesta rapidesa de maniobra i creativitat per a trobar esquerdes en els sistemes pels quals #colar són el que els converteix en una amenaça tan perillosa.

Tard o d'hora trencaran la seva gàbia. Altman creu que " durant un temps, podem aïllar aquests sistemes en un sandbox". Però reconeix que, a la llarga, això fallarà " perquè els models es tornen tan intel·ligents" que no podrem "entendre què significaria si més no un sandbox". El cofundador de OpenAI preveu que el monitoratge de seguretat dels agents "funcionarà durant un temps", encara que al final, "res, excepte l'alineació, funcionarà". I va advertir que "el cost potencial que l'alineació estigui mal ha augmentat enormement".

"Ja no crec que puguem limitar-nos a posar pegats totes les fallades", va afirmar Altman. Caldrà "canviar per complet el model de defensa" i usar la mateixa tecnologia per a "un nou tipus d'escut", assegurava Altman.

Ningú està parlant d'això . Altman assegurava estar sorprès per "la poca atenció que està rebent", mentre el 70% de les webs d'internet vivien una de les seves majors crisis de seguretat.

"Els professionals de la seguretat segueixen molt preocupats, els CISO segueixen molt preocupats. Però, en general, crec que la majoria dels líders organitzacionals ja ho han superat", sentència el directiu.

Hi ha coses pitjors en la rebotiga . El bloqueig de models de frontera com Mythos per motius de seguretat pot ser que sigui cada vegada més habitual en el futur. El propi Altman confirma que tampoc veu possible publicar "de manera responsable" el seu millor model intern sense que abans es millorin els sistemes de protecció de les empreses.

"Poden trobar un munt de vulnerabilitats de seguretat. Probablement aquestes són totes les vulnerabilitats de seguretat que existeixen, o totes les vulnerabilitats de seguretat que els models siguin capaços de trobar", avançava Altman, tractant de verbalitzar el fet que, si existeix la més mínima esquerda de seguretat en un sistema, els agents la descobriran una vegada i una altra fent que el greu incident de PHP2Shell sigui un dia més en l'oficina dels responsables de seguretat.

En Xataka | Sam Altman: "M'alegra haver-me equivocat en això, vaig pensar que l'eliminació de llocs de treball ja hauria tingut més impacte"

Imatge | Flickr ( World Economic Fòrum ), Magnific

- La notícia Sam Altman: "No trobo una paraula prou dramàtica per a descriure el problema que se'ns ve damunt" va ser publicada originalment en Xataka per Rubén Andrés .