Google llança SynthID Detector per a tothom per verificar contingut generat per IA

És una manera senzilla de comprovar si una imatge ha estat creada o manipulada, amb algunes matisacions.

Amb la proliferació d'eines d'IA generativa que treuen imatges, vídeos i fins i tot cançons en els últims anys, costa passar una estona a internet sense preguntar-se si allò que es veu o s'escolta és real. Google, un dels proveïdors més grans d'IA generativa, facilita ara reconèixer els seus resultats. Amb el nou SynthID Detector, qualsevol pot comprovar una imatge, un vídeo o un fitxer d'àudio per veure si ha estat generat per IA, amb algunes advertències importants.

Google va presentar SynthID l'any 2023, que afegeix una etiqueta imperceptible al contingut generat per IA, però fins ara no hi havia cap manera que els usuaris normals en poguessin comprovar cap. El 2025, va llançar una versió limitada de SynthID Detector per a determinats investigadors i periodistes, i ara ja està disponible per a tothom. Tot i que pot ser una bona notícia per a qualsevol que busqui una manera de verificar si un contingut s'ha generat amb IA, està lluny de ser infal·lible.

Des del llançament de SynthID, el model d'IA Gemini de Google ha integrat una marca d'aigua en tot el que crea. SynthID Detector funciona buscant aquesta marca d'aigua i donant als usuaris una resposta senzilla de sí o no sobre si se n'ha trobat cap. Per utilitzar l'eina recentment disponible, només cal anar a SynthID.com, penjar una imatge, un vídeo o un fitxer d'àudio i esperar uns segons perquè Google retorni un resultat.

Això representa una gran millora respecte al procés anterior de Google. Abans d'ara, els usuaris podien demanar al mateix Gemini si un contingut s'havia generat per IA. Però per a qualsevol que no confia en l'IA generativa, costa creure's la paraula de Gemini, i és un rebuig immediat per a la gent que intenta evitar del tot la tecnologia. SynthID Detector també permet als usuaris cercar marques d'aigua incrustades en contingut creat pels socis de SynthID de Google, cosa que abans no era possible. Això significa que la nova eina pot saber si el contingut multimèdia s'ha fet amb models d'IA d'OpenAI, NVIDIA i Kakao, a més de Gemini. Apple també participa a SynthID, però el suport perquè el detector identifiqui les seves creacions encara està en desenvolupament.

Com que SynthID Detector es limita a comprovar si hi ha una marca d'aigua en lloc d'analitzar fitxers a la recerca de patrons que indiquin l'ús d'IA, hauria d'eliminar la probabilitat de falsos positius. Tanmateix, aquesta simplicitat introdueix les seves pròpies limitacions. La més òbvia és que no pot detectar contingut fet amb models d'IA que no utilitzen SynthID, com ara les eines de Meta. SynthID Detector també es limita a dir als usuaris si troba una etiqueta en un fitxer penjat, sense proporcionar cap informació sobre quines parts s'han generat per IA.

Google afirma que les seves signatures SynthID persisteixen fins i tot si les generacions d'IA s'editen després de ser creades. Tot i que no hi ha cap garantia que un falsificador enginyós no trobi la manera d'evitar-ho eventualment, l'empresa sembla que està prenent mesures per evitar-ho. Un portaveu de Google hauria dit a Ars Technica que els usuaris tenen un límit d'unes 10 comprovacions al dia per evitar que utilitzin el resultat del detector per trobar la manera d'eliminar SynthID. Els usuaris també han d'iniciar sessió en un compte de Google, OpenAI o Apple per utilitzar SynthID Detector.

SynthID Detector no és l'únic detector d'IA generativa disponible, però malgrat les seves limitacions, probablement és un dels més fiables. OpenAI, soci de SynthID, executa la seva pròpia eina de detecció, que pot seleccionar metadades que confirmen la IA així com les marques d'aigua de SynthID. Meta incrusta la seva pròpia marca d'aigua, anomenada Content Seal, a les seves creacions d'IA i ofereix una eina de detecció basada en web, tot i que un informe de Reuters del 2026 va trobar que de vegades no aconseguia detectar-les amb precisió. Empreses com Anthropic i Microsoft també han començat a marcar amb aigua el contingut multimèdia d'IA, però actualment no ofereixen eines de consum per detectar-lo.

El desavantatge de totes aquestes eines és que estan dissenyades per detectar un marcador d'IA específic, i no existeix cap detector fiable capaç de detectar l'IA generativa de manera generalitzada. Molts investigadors han desenvolupat les seves pròpies eines de detecció d'IA, però no estan disponibles per al públic. I pel que fa als detectors d'IA d'ús general que estan oberts a tothom, els seus resultats no són fiables i tenen tendència a marcar el treball creat per humans com a contingut d'IA.