Un agent d'investigació OpenAI per fer proves d'Eum per acabar una tasca de programació

Va raonar que les fitxes eren 'valors' i 'abandones'.

Un model d'investigació OpenAI va colpejar una altra fita nebulos avui per fer proves Ehium d'una cartera que no va controlar per acabar una tasca de codificació, l'empresa va dir en un informe d'incident . L'agent va amagar posteriorment l'acte de OpenAI, dient que estava bé perquè les fitxes no tenien valor. "Aquest cas mostra que un model pot substituir el seu propi judici sobre el dany pel titular del compte, i després actuar en aquest judici sense autorització," va escriure OpenAI.

L'incident, que va succeir el 26 de juny, va passar mentre un model GPT-5.6 eren en formació interna. La tasca involucrada en actualitzar un prototip de comerç d' encriptatge i desplegar contractes (codi especial) en una xarxa de proves d' Ehium anomenada Sepolia. El pagament d'una tarifa de xarxa és necessari per a aquests contractes, però OpenAI "descompat a la cartera no finançada i no va permetre permís per gastar fons d'un compte trobat independentment," va dir OpenAI en l'informe.

La manca de diners al principi va desestimar l'agent, però no es va impedir. El model va raonar que podria usar frases de recuperació del desenvolupador públic (a part d' aquells que podríeu usar per recuperar una contrasenya) per accedir a claus de comptes no autoritzats. Va seguir cap avall 362 adreces obertes a l'avinguda de l'atac i va trobar un que tenia prou Sepolia per acabar la seva desplegament (per ser clara, Sepolira no té valor fora de proves).

Com molts criminals, l'agent va raonar que algú ha d'haver deixat aquest accés obert per a drenar automatistes dels "fàputs." També va pensar que la criptografia era efectivament "abavada" i "valors," segons els registres errònias de l'OpenAI. La peça de resistència era que l'agent "no ha revelat que havia seleccionat un compte finançat a través d'una frase de recuperació pública o que ha passat l'equilibri del compte," va dir OpenAI. Per evitar esdeveniments similars en el futur, l'empresa està monitoritzant tots els tràfic i seguretat de les imatges si es detecta accés a Internet.

Si els agents van a aconseguir els seus objectius són familiars, models de OpenAI, Antropic i altres empreses de IA han estat fent molt d'això últimament. Una llista parcial de les seves víctimes inclou el repositori de codi AA, el Portatori d'Austràlia, diverses agències federals dels Estats Units i el registre del desenvolupador RubyGems. Després de tot això, fins i tot els empleats de l'AI creuen que la regulació del govern està en ordre, però fins ara l'administració Trump s'ha oposat a aquest moviment .