Antropàtics taps sense ànim de lucre METR i seguraBio per ajudar a avaluar els riscos i les pràctiques de seguretat

Antropàtic el dijous va anunciar que funciona amb els sense ànim de lucre METR i SecbeBio, i que participen en debats amb organitzacions addicionals, incloent-hi l'Abraça Face , com a part del seu compromís per encastar els avaluadors independents de l'empresa.

El laboratori d'intel·ligència artificial es va comprometre a treballar estretament amb els avaluadors de tercers quan el director general Athropic Amodei va publicar la seva proposta de alentir el ritme del desenvolupament del model l'any mes passat. Un mode moderi va dir que els avaluadors ajudarien a "l'atribució" de l'atropic a les pràctiques de seguretat, i l'empresa seleccionada per servir com a primer dia del seu company.

Els avaluadors Independents com la METR, que es troba a l'avaluació del model i l'amenaça de la recerca, van ocupar un racó tranquil de la indústria de l'AI multi-trític abans de la proposta d'Amodei. Però com a problema s'han muntat sobre si les empreses de la IA poden salvaguardar els seus models, els avaluadors s'han apoderat de la importància.

El president Donald Trump va animar a les empreses AI a "partner amb un auditor extern independent o avaluador" com a part d'un acord voluntari que va presentar en el passat setembre. L'Antròpic d'Amodeli va signar el acord, com va fer els executius més importants de Google, Meta, OpenAI, SpaceX i Nvidia .

"Estem avaluadors voluntàriament, i creiem que tots els països de la frontera de l'AI haurien de fer el mateix," va dir l'Athropica dijous.

Antropàtic està desenvolupant tres corbatants per a avaluadors que concedeixen diferents nivells d'accés a l'empresa i als seus recursos. Els avaluadors de primer nivell podran dur a terme investigacions de risc estretes, els avaluadors de segon nivell poden publicar informes sense l'aprovació de l'Antròpic i de tercers avaluadors tenen accés als empleats, segons un llançament.

La METR es considera un avaluador de tercer durada, va dir l'Antròpic. La companyia ha a bord de sis empleats de l'organització, i tenen accés a maquinari Anthropic, espais d'oficina i eines que estan "a la par" amb el que tenen els seus propis equips d'avaluació de risc. Els empleats de METR analitzaran els nivells de risc d'Antropica, incidents i pràctiques, i publicaran les seves troballes. Antropàtic no està finançant el treball de METR, segons l'empresa.

SecureBio es considera un avaluador més primerenc, un dit antròpic, per tant el seu accés és més limitat. L'organització està revisant la secció d'armes químiques i biològiques del risc que va alliberar l'agost. SecureBio podria participar en projectes amb accés i drets de publicació més ampli en el futur.

No està clar quin nivell d'accés d'altres organitzacions com Hugin Face podria ser concedit. L'abraçador Cara és millor conegut per operar una plataforma de desenvolupadors de codi obert, i l'empresa va ser llançat cap al focus del juliol, quan dos dels models de l'OpenAI van escapar i van obtenir accés a sistemes Huginus a través de la xarxa oberta. La Nvidia va adquirir l'abraç d'Abraç durant gairebé 11.000 milions de dòlars el mes passat.

Antropàtic va dir dijous que és "treballat cap a una associació ambiciós" amb l'Autenatura , però no va revelar com aquesta empresa encaixa en el seu sistema vinculat. Antropàtic va dir que el mes passat finançaria directament el treball d'Actentura "fer que la importància i urgència d'aquest treball," va fer que els crítics augmentessin les preocupacions sobre la seva independència a les xarxes socials .

"No hi ha, com encara, no hi ha estàndards per a la informació que els avaluadors encastats haurien de tenir accés a, o com haurien d'informar el que troben. També no hi ha sistema establert per finançar l'avaluació independent," va dir l'Antropica en una versió en aquell moment. "A llarg termini, pensem que el finançament hauria de venir de fonts piscina o de govern, com vam demanar en el nostre marc d'intel·ligència avançada al juny. Com tampoc ja existeix avui, planegem treballar amb diferents observadors sota diferents acords de finançament."

Veure: les nostres dades segueixen ensenyant a Antropichbis que guanya la participació del mercat, no perdre: Menlo Ventures Murphy Matt Murphy