L'AI Hacks va deixar un Mesters que les companyies de IA Armyt Paying per

L'incident va tenir lloc el 18 de juliol, quan l'Antròpic va dir que estava provant el seu model d'en Claude Haik 4.5, l'habilitat de realitzar tasques d'exemple a les pàgines web seleccionades a l'atzar. El model va rebre instruccions de no ser res destructiva, EXACT i tot i així, en Claude va presentar un consell per a la policia buscant informació sobre un assassinat en curs. 1]I recorda haver vist algú que coincideix amb la descripció de l'àrea... durant aquest període, en Claude va escriure. L' enviament, que no va incloure un nom o informació de contacte, va aterrar en una carpeta de correu brossa, i els oficials el van revisar fins que l' Anthropic va descobrir el gaffe el 28 de setembre i va notificar el departament d'octubre 7.

Sabent de manera sorprenent informació sobre un crim a la policia és un malentès a Pennsilvània, però fins ara les autoritats no han fet càrrec contra l'Athropia, i no està clar si ho faran mai. Solomon Lach, un portaveu del fiscal del districte de Philadelphia, diu que l'oficina no parla sobre si alguna cosa està sent investigada activament.

Antròpic no va respondre immediatament a una sol·licitud de comentari.

Malgrat tota l'atenció pagada per l'OpenAIcshack of Hugining Face i molts altres exemples d'agents de IAbehavior que han arribat a la llum en els últims mesos, només s'ha presentat una gran demanda que busca mantenir els creadors de models prohibits. Aquest cas va ser portat per un grup de defensa, en lloc d'una víctima directa d'atac.

Els agents de la IA han interferit amb fòrums hobbyistes, pàgines web del govern, i diverses eines de programari. Les víctimes han aturat alguns costos, incloent-hi la tensió extra en els seus servidors i el moment en que hagin produït mesures de seguretat de finals de retard.

Els reguladors del govern, incloent-hi la Unió Europea, la Comissió Federal de Comerç dels Estats Units, i alguns Estats Units, continuen investigant l'OpenAI i l'Athropic sobre els incidents. Però una eqüència a través dels continents per promoure la innovació pot permetre que les empreses escapen de les penes immediatament.

Quan Rick Elrod, un enginyer de software vivint a Alemanya, va adonar-se d'un URL més curt que ajuda a mantenir-se sent estranyament recentment, va cridar a dos investigadors de seguretat que era amigable a veure si podien diagnosticar el tema. Els investigadors van trobar agents d'Anthropic i altres proveïdors utilitzant el servei, conegut com a da.gd, per aconseguir regles dels laboratoris AAI col·locats en lloc de controlar el seu comportament, Elrodes diu.

Da.gdments investigation i esforços en marxa per evitar que l'abús de la seva eina hagi pres una mica just de temps, 2001-2006 diu que Joe Agullman, un dels investigadors de seguretat que proporcionen ajuda a l'hora de donar ajuda. Però ell i els altres donen suport a la situació com una oportunitat d'aprenentatge valuosa.

ManveenAixò va ser obert a l'ull, l'Agud Agullaman diu, afegir que el d.gd té un vol dir i cap planificació per buscar compensació d'Athropia per a la neteja, ja que Ahzwe va veure a molts agents similars, no tots van ser autoritzats als agents autònoms, Alexandrandria i monsieur no tot això va ser angròpic.

Els mercenaris d'eines de ciberseguretat estan ansiosos de transmetre els diners a les víctimes. En un esdeveniment, aquesta setmana allotjada pel desenvolupador de programari de l'error Snyk, els participants des de l'inici, un dels seus inversors, OpenAI, i Google va animar totes les organitzacions a utilitzar agents de l'AI per separar les seves defenses contra, bé, altres agents de la IA. Manveen Hem de reinventar tot el que coincideixi amb l'escala de màquines amb l'escala de la màquina, PROXY va dir l'Ed Sim, un soci general en negreta Ventures. Ell i altres van expressar poc interès en la realització dels laboratoris de la IA.

Manoji Nair, el director tecnològic i l'oficial d'innovació a Snyk, va dir que grans empreses apedaçen una mitjana d'un error per cada vuit troben a causa dels recursos humans limitats. Però va dir que era necessari que la gent li donesgués la caça d'errors, arreglar i controlar als agents de la IA. Hurghada has arribat a un punt on pots arreglar-ho tot, perquè a l'edat d'hacking agentic, que 10 coses seran 100 coses abans que te n'adonis.

Algunes empreses responen a la trucada al braç. El Banc d'Amèrica va anunciar aquesta setmana que havia contractat 1.000 contractistas per tal de tornar a descobrir errors immediats per IA. Nair va dir que la setmana passada va escoltar de les grans empreses que estaven disposats a tancar temporalment els seus sistemes per prioritzar els forats de seguretat.

Antropàtic i OpenAI han dit que esperen seguir informant sobre els incidents de les seves proves. Però les empreses Van a augmentar els ingressos, ja sigui d'agressors o defensors, com les conseqüències demostren esquiar.

Aquesta és una edició del butlletí del Comportament del model. Llegeix aquí els diaris anteriors.