Anthropic reaviva les pors sobre la intel·ligència artificial: podria estar a "mesos" de autorreplicarse en els aparells domèstics

“Donat el ritme accelerat de desenvolupament de la IA, em preocupa que en 6 a 12 mesos un eixam [d'agents] pugui controlar tota internet amb una xarxa de zombis persistent”. Amb aquestes paraules , Dario Amodei, CEO de Anthropic , va contribuir a obrir fa aproximadament un mes un intens debat mediàtic sobre els riscos de la intel·ligència artificial que, lluny de #apagar, continua sumant noves alarmes entre els investigadors, els experts de la indústria tecnològica i la pròpia opinió pública.

Llavors, el responsable de la companyia de Silicon Valley es referia a un incident ocorregut el passat estiu , quan diversos models de IA de OpenAI van aconseguir #saltar les restriccions de seguretat durant unes proves internes i van arribar a comprometre els sistemes d'una altra empresa, Hugging Face . Des que es va conèixer aquell episodi, altres grans tecnològiques , entre elles Google, Meta i la pròpia Anthropic, han reconegut situacions en les quals els seus agents d'intel·ligència artificial han actuat fora dels límits establerts pels seus responsables humà #s .

En aquest context, un món distòpic on les màquines prenen el control de la humanitat ha deixat de semblar un escenari exclusivament reservat a la ciència-ficció. I la companyia de Amodei ha tornat a contribuir a aquesta idea aquesta setmana: Anthropic ha publicat una recerca en la qual adverteix que els models de IA més petits estan avançant a tal velocitat que, de mantenir aquest ritme, abans d'acabar l'any podrien…