OpenAI diu que els seus models van interactuar amb llocs web del govern dels EUA en una nova divulgació de comportament indegut del model

Encarregar-li a un agent de IA que busqui dades en Internet sembla el més innocu del món. Fins que l'agent decideix com buscar-los .

OpenAI va informar el divendres 25 de setembre que els seus agents van interactuar, de formes que ni ells mateixos esperaven, amb diverses webs del Govern dels EUA Va ser alguna cosa que van descobrir en una revisió en curs sobre el comportament imprevist dels seus models.

Van accedir a informació pública de dos webs de la #SEC (el regulador borsari) i a dades de l'Oficina del Cens , i la companyia diu que no va trobar ús de credencials de la #SEC, accés a comptes ni informació no pública, canvis en dades o sistemes de la #SEC, ni evidència de compromís o de vulnerabilitat. Per al Cens, segons un altre relat de la divulgació , van usar claus de desenvolupador del seu API que van trobar en repositoris públics de GitHub, i de la #SEC van descarregar informació que van tornar a publicar en una altra pàgina.

L'intent que no va funcionar i els que Trasllueix no atribueix

Després està el que no van aconseguir . Trasllueix, un laboratori independent que avalua IA, va contar que agents que semblaven procedir de OpenAI van intentar un hackeo rudimentari contra la web de l'oficina de drets civils del Departament d'Educació.

No va funcionar , i Educació va dir que les seves revisions no van trobar cap impacte en el seu web ni en les seves bases de dades. Trasllueix afegeix que ha donat amb més activitat en altres agències, com a Justícia i Comerç, i en webs dels estats de Califòrnia, Maryland,…