OpenAI i Anthropic avalen auditories, però volen decidir quines fallades es fan públics

Els avaluadors externs d'intel·ligència artificial són organitzacions o consultores especialitzades que analitzen els models de IA abans o durant el seu llançament per a detectar riscos de seguretat, comportaments inadequats o vulnerabilitats. No obstant això, la seva independència s'ha convertit en un punt de fricció entre aquestes entitats i les grans companyies tecnològiques.

Segons una recerca de Reuters , OpenAI i Anthropic volen exercir un "control significatiu" sobre el que els avaluadors externs poden publicar, ja que estan "preocupades" que les troballes revelin secrets comercials i informació confidencial a la competència. Per tant, totes dues companyies planegen establir mesures per a evitar les possibles filtracions de propietat intel·lectual , ja sigui supervisant als equips o impedint que els avaluadors assignats a un laboratori treballin simultàniament en un altre.

No obstant això, el que els laboratoris consideren propietat intel·lectual crucial pot coincidir amb informació rellevant per a avaluar el risc d'un model, "la qual cosa pot donar lloc a disputes i a la censura de dades". A més, segons Reuters , "les converses posen de manifest la tensió entre la necessitat de conscienciar al món sobre una IA potent i potencialment perillosa, i les exigències de protegir els secrets comercials per part d'empreses que aspiren a valoracions de bilions de dòlars en el que podrien ser grans sortides a borsa ".