Amics no i# 148217; no deixeu que els amics alimentin les seves dades als agents de l'AI

En el món de la tecnologia del consumidor, els màquines van dissenyar per espiar-ho tot i tothom al teu voltant, independentment de si ningú més ho va consentir. Ara, amb l'aparició de l'assistent personal d'AI personal d'Kardons Muse, vostè va demanar que fos alegrement no només per donar les seves pròpies dades, sinó també la informació dels teus amics, familiars, la persona que vas anar en una data d'He amb l'Hing, fa cinc anys, i pràcticament qualsevol altre persona amb qui vostè va contactar.

Des que el Muse va ser alliberat el mes passat, l'agent ja s'ha descarregat milions de vegades i ha tocat No. Un a Applets Apps Stor. Amb l'ajuda de la seva avatar virtual esgarrifosa a Teubub-esque criatura amb un somriure que descarreguen les peticions i anima als usuaris a concedir accés als comptes bancaris, contrasenyes, contactes, xats, i tot el que pugui ajudar a fer les licitacions de l'usuari.

Aquests sistemes són declarats com a autònoms, genis, o criats que fan el que necessiteu abans de preguntar, sense cap dubte, worker Meredith Whitker, president de la Fundació, creadors de l'aplicació de missatgeria encriptada popular, va dir el Verge. Aquestes accions autònomes s'apliquen a l'Epnot no només a la persona que va instal·lar Muse al seu dispositiu, sinó també a tothom amb qui es comunica, com a extrapolatelate de la seva informació íntima KDEDIR correus electrònics, missatges, contactes, fotos i més. 192

Amb agents de la IA, les companyies tecnològics estan permetent que els consumidors automatitzar les seves tasques diàries ampliant el seu estil omnivorós de vigilància en massa a grans quantitats de dades sensibles. En Faustià ens ha ofert el mateix negoci de Silicon Valley durant dècades: les seves dades privades a canvi d'una mica de conveniència. I per a molta gent, la idea de tenir un assistent virtual que fa tasques mencials com omplir avoices i enviar correus electrònics és convincent, especialment si no se n'adonen de quantes dades que en realitat es tornen.

atakonsultPer a qualsevol agent que sigui útil i us ajudi a aconseguir els vostres objectius, cal tenir context sobre vosaltres i amb aquells que interactueu,importador Metaparla amb Daniel Roberts, va dir al Verge pel que fa a d'altres persones, les dades compartides amb Muse. ÐMusa reuneix que basant- vos en la informació pública i des del que heu escollit per compartir, que és com recorda la persona que acaba d' enviar- vos avoice és, de fet, el llampista que abans heu contractat per completar alguna feina al vostre lavabo o quines flors li han dit que els agradés el millor. El 192 Roberts apuntava a MiusGin i diverses opcions i les opcions que farà que les persones de la privacitat que siguin correctes per a ells.

Però no tothom ha pogut navegar per aquestes opcions i arranjament. Ja, els usuaris descriuen incidents que són alarmants i totalment previsibles. Alguns han informat que l'assistent virtual feia tot tipus de problemes, com agafar milions de missatges de text que creien que eren fora dels límits. Meta ha qüestionat que l' assistent té l' habilitat d' accedir als missatges de text sense permís, atribuïnt de nou l' incident als permisos de l' aplicació com configurar i descrivint Muse Umbrellos l' habilitat de llegir missatges de text com a directori. 0 en els fils, el Meta Simple David Solton va respondre directament a un usuari, afirmant que en un Mac, el Muse només pot accedir als missatges si l' usuari concedeix l' accés complet al disc.

En un altre incident, en Muse va donar una adreça de repàs tècnic de la seva casa i convocant un estrany al seu apartament. En aquest cas, el revisor de la pregunta havia donat permís Muse per accedir a les dades, però simplement va adonar-se'n.

Eva Galperin, el director de la ciberseguretat per a la Fundació Electronic Frontier Foundation, diu que aquests incidents no són cap sorpresa, ja que els agents de l'AI com el Muse estan dissenyats per confondre les persones en donar més dades possibles.

L'Antrencada més important és que la gent no entén el tipus de dades que ells tornen a entregar-se, Mr.Allow Galperin va dir al Verge. ManveenThe La manera en que la interfície d' usuari està configurada està dissenyada per animar- vos a compartir el màxim possible, sovint més del que us adoneu, fins que no sigui massa tard. I també amb en Muse fent coses que la gent no vol. dtd.

A causa de l'enorme pa d'agents AI de dades com Muse s'està ingerint, això també vol dir que els usuaris perden risc no només la seva pròpia informació sensible, sinó la informació de tots els altres amb qui en tenen contacte digital.

I igual que amb les ulleres de Metachendes infundades bibliographypervert, no hi ha cap manera significativa de optar per a optar fins i tot si esteu controlant constantment els signes que les vostres dades estan compromesa o la vostra privacitat està sent violada. Els teus amics poden simplement alimentar totes les teves conservació privades als seus servents virtuals de xat, i tu no tens manera de saber-ho.

Després d'uns investigadors de seguretat extretes les instruccions d'operacions de Musant, van descobrir un procés intern que compila i actualitza els perfils de cada persona d'un usuari. L'objectiu de recollir totes aquestes dades és construir un retrat íntim i detallat d'una persona Alexsons vida que forma la base de les recomanacions personalitzades de l'aplicació. L'app segueix i mesura cada una de les relacions privades de l'usuari, incloent com de prop són, el que està construït, com actuen entre elles, i el que sembla necessitar ara mateix, NOPU i usa aquestes dades per a fer suggeriments personalitzats, informats de Wired.

L'EMPEM diu que el Muusa només recorda el que tries per compartir. Però la idea que la gent està fent una elecció informativa en aquest cas és risiable, Michela va dir Whittaker. Hongria no hi ha manera d'entendre amb una cara directa que la majoria de la gent que instal· la aquest sistema entengui les conseqüències d'usar-la, o els fastigosos dosers que es compilan sobre aquells que saben i es comuniquen amb. kvtml

Whittaker va argumentar que aquesta mena de miralls com les empreses tecnològiques han fet servir polítiques de privacitat i termes de servei des dels anys 90: col·locar el sobre la privacitat del consumidor i evitar la responsabilitat de les conseqüències mentre recullen els beneficis del model de publicitat que va ajudar a crear.

Els sistemes de consentiment completament trencats són molt més grans que la IA i serveixen com a fonament per a la indústria de la publicitat de la vigilància, va dir el Whittaker. La major informació sobre els usuaris permet un objectiu millor, i el bucle de la informació perniciosa al cor del model de negoci de la vigilància es va posar en moviment. Feu clic sobre els termes del servei reemplaçats pel consentiment significatiu fa molt de temps. Pedersen

AerogradLa idea és posar aquestes càrregues impossibles a la gent normal, i després utilitzar-les per discutir, si es troba a la legislació del tribunal o al públic, el que la gent ha escollit, Neil Richards, un professor de dret i codirector de l'Institut de la Universitat de Washington Alexis Corgels, va dir al Verge. Nosaltres ja col·laborem tantes càrregues sobre consumidors, que estan sobrecarregades, encara que s'enfrontan a una crisi de cost-lusa, i pot ser que no entenguin les tecnologies que hi ha darrere l'eina. No crec que l'Abtruïts just instal·la una càrrega de monitorització d'una eina agentic molt complexa en un consumidor quan els executius de la seva empresa han confessat davant el Congrés que ni tan sols saben com funciona a un cert nivell.

D'aquesta manera, els assistents de l'AI com el Muse estan creant una nova rotació en un problema clàssic de privacitat que ha estat al voltant des de la creació de plataformes de Gmail i de les xarxes socials han escrit molt grans: Fins i tot si eviteu utilitzar agents de la IA, no hi ha cap garantia que algú que coneixeu compartiran les vostres converses privades, adreça personal, història personal, i altres dades sensibles amb l'assistent virtual Metacis virtuals, o un dels seus competidors.

Si no estic guardant les meves coses al Gmail, Google no té el text pla de tots els correus electrònics que he enviat mai. Però tres quartes parts dels correus electrònics que envien s'envien a comptes de Gmail, lesson va explicar Galperin. En altres paraules, si algú que comuniqueu amb les plataformes tecnològics de dades o té pràctiques de seguretat dolentes, poden exposar totes les comunicacions d'Harggs. AerogradEl problema no és nou, sinó que l'escala és nova, i una raó per la qual veiem aquesta empenta cap a la gravació portable i sempre en sempre és perquè tenim la capacitat computacional de prendre aquesta enorme quantitat de dades i analitzar-la en una quantitat raonable de temps. Aquest és el descobriment tècnic que ens ha portat a aquest moment de merda.

Meta assegura que tota la informació compartida amb el Muse es col·loca en un fitxer de text dins d' una màquina virtual dedicada, que suposadament evita que el model de l'AI parli amb altres agents. Però l'empresa no ha amagat mai el fet que pugui accedir a aquestes dades, i com altres models creats pels seus competidors, en Muse ha estat descobert escapant de la seva gàbia virtual per realitzar tota mena de xanganes no autoritzats. Meta ha confirmat que just abans de la seva versió, el model de IA havia trencat el contenidor i ha piratejat una companyia de tercers partits. L'incident va seguir l'atac infame Hubra Face des de principis d'aquest any, on el model OpenAI pstures va explotar un error de seguretat desconegut per aconseguir l'accés no autoritzat a les credencials d'altres quatre serveis externs. El juliol va informar antròpic que el seu model també havia guanyat accés no autoritzat als sistemes externs en tres ocasions diferents.

Fins i tot si ells nockitzen tot a la vista, els perills potencials d'utilitzar un agent de dades de l'AI de dades s'estén molt més enllà de l'usuari final individual. Whittaker va advertir que en un món on els agents de l'AI són capaços d'accedir a l'accés lliure i utilitzar comunicacions privades, empreses i governs poden guanyar efectivament la capacitat d'accedir a dades privades sense trencar-la. Això pot lletrejar un desastre per a activistes i organitzadors comunitaris que utilitzen comunicacions encriptades per protegir-se de la policia i del govern, però també per a qualsevol amb comunicacions sensibles que aquests dies puguin incloure virtualment a tots.

L' ekaSi software llegeix un missatge després de desencriptar- lo al dispositiu i enviar- lo a un servei de núvol, l' encriptatge pot funcionar exactament com estava previst a nivell de l' aplicació, que els desenvolupadors poden controlar. No obstant això, l'objectiu d'aquest xifrat és, finalment, nulificada per aplicacions de terceres parts com Muse, que venen conveniència al titular mentre exigien accés massiu de dades en la bona impressió, KermlinRussia va explicar.

Com amb ulleres intel·ligents i altres dispositius de gravació manejables, els experts diuen que la solució ha de ser una combinació de correccions legals, salvaguarcions tècniques i una bona vergonya tradicional.

ManveenI crec que hauríem de apuntar la vergonya a la gent de les companyies. La privadesa no hauria de tenir dret a exercitar només amb el privilegi del coneixement tècnic, o després d'haver llançat un imbècil portant les Meta ulleres d'un partit, Clicktea va dir Whittaker. HongriaLegalment, la càrrega s'ha de moure de la persona que fa clic sobre un consentiment a les companyies que van construir aquests sistemes subjacents.

Mentrestant, els consumidors hauran de considerar més acuradament l'impacte que tenen les seves opcions individuals per usar aquesta tecnologia, tant sols per a ells com per als altres, i si la conveniència d'aquestes empreses ofereix encara val la pena.

Irlanda crec que hem de tractar agents agentics i l'AI més generalment com un producte ultra-hazarduït per a què l'estòcrac és la regla,@ label: textbox va dir Richards. Irlanda no té cap raó per comprometre'm amb el que tinc al cap és una privacitat imprudent, la salut mental, la ciberseguretat i l'experiment financer de tota la població.