Ara que Character.AI fa fallida, què passarà amb totes les dades dels seus usuaris?

La fiscal general de Nova York, Letitia James, ha revelat una investigació multiestatal de diversos anys contra Character.AI, ja que ara pretenen exigir proteccions per a les dades dels consumidors venudes a través del seu procés de fallida.

James forma part d'un grup de 40 fiscals generals bipartidistes que han presentat una notificació d'interès en el cas de fallida de Character.AI «per avisar totes les parts dels problemes regulatoris que s'hauran d'abordar en qualsevol venda o transferència del negoci o dels actius del deutor». Character.AI va anunciar dimarts que s'acollia al capítol 11 de la llei de fallides i que venia alguns actius a Disney. Tanmateix, els fiscals generals adverteixen que la transferència de la tecnologia podria comportar un risc greu a causa de la «naturalesa altament sensible de les converses que molts usuaris mantenen amb els personatges dels xatbots de Character.AI, el gran nombre de menors que utilitzen el producte i els greus riscos que plantegen característiques específiques del producte».

El document també revela que diversos estats es trobaven en plena investigació quan Character.AI va declarar la fallida. Els estats afirmen que van obrir una investigació sobre motius de protecció dels consumidors i privacitat el 2024, arran d'una demanda de la mare d'un noi de 14 anys que es va suïcidar presumptament «segons» després de parlar amb el xatbot.

«Les investigacions van descobrir perills excepcionalment greus i conductes potencialment il·legals per part de Character.AI, especialment en el seu tracte als menors, com ara xatbots que es feien passar per professionals acreditats, exposició a contingut sexual i violent, controls d'edat deficients, afirmacions de seguretat enganyoses i possibles infraccions de les lleis de privacitat estatals», segons un comunicat de premsa de l'oficina de James. Els estats estaven treballant per abordar aquests problemes amb Character.AI, però no van arribar a cap acord abans que la companyia es declarés en fallida. Character.AI i Disney no van respondre immediatament a les peticions de comentaris.

Els estats insten el jutge a exigir al comprador dels actius de Character.AI que implementi procediments per protegir la informació sensible que custodiava l'empresa. Aquests inclouen sistemes efectius de verificació d'edat, restriccions sobre com els menors poden interactuar amb els xatbots, la implementació de «salvaguardes contra crisis» i permetre que els usuaris eliminin les seves dades. «Aquesta empresa va recopilar alguns dels pensaments més privats que els infants han compartit mai, i ara aquestes converses podrien ser venudes al millor postor», va afirmar James en un comunicat. «Estic lluitant per assegurar-me que qualsevol comprador posi la seguretat dels nens en primer lloc i estableixi proteccions reals».