Per proteggere gli utenti dalle fake news, Google ha creato una sorta di “bollino invisibile”. Questo permette di contrastare ciò che fa l’IA.
È stata di recente sviluppata una filigrana, concepita per la rilevazione di immagini, generata mediante modelli che si basano sull’Intelligenza Artificiale generativa.
Il primo ad introdurla è stato Google. Tuttavia, l’azienda ha stemperato gli entusiasmi in quanto la tecnologia è ancora in fase beta e richiede ulteriori miglioramenti. In futuro, però, questa tecnologia sarà disponibile anche per le aziende di terze parti che desiderano integrarla.
Tecnologia SynthID di Google contro le fake news
DeepMind, una branca di Google specializzata in progetti di intelligenza artificiale, ha spiegato che la tecnologia SynthID integra una filigrana digitale dentro i pixel di un’immagine direttamente, rendendola praticamente impercettibile all’occhio umano, pur restando però rilevabile per l’identificazione.
Tuttavia, va sottolineato che questa tecnologia non è ancora immune da manipolazioni dell’immagine estreme. Nonostante ciò, SynthID rappresenta un approccio tecnico promettente per consentire alle organizzazioni e alle persone di lavorare in modo responsabile con i contenuti generati dall’intelligenza artificiale.
In futuro, la medesima metodologia potrebbe essere impiegata altresì per i contenuti di natura audiovisiva e testuale. L’obiettivo è chiaro: assicurarsi che i molti contenuti creati con l’IA, che già oggi sono tanti e che in futuro lo saranno sempre di più, siano facilmente identificati, soprattutto quelli che sono stati creati per diffondere informazioni false. SynthID funziona con Imagen e i sistemi Vertex AI di Google Cloud, che è un modello di Google che crea immagini da un testo.
DeepMind spera che SynthID diventi uno standard, perché soluzioni simili funzionano solo se molte persone le usano. Altrimenti, rimangono soluzioni specializzate che non vanno a risolvere il problema. Si può scegliere se usare SynthID o meno. L’obiettivo è che sempre più persone e aziende usino la filigrana di Google sulle loro immagini, in modo che quelle senza, vengano considerate sospette.
Questo porterà alla necessità di adottare il sistema SynthID per evitare confusione tra i vari contenuti generati dall’IA e quelli creati da persone. SynthID ha creato una filigrana speciale che rimane sulla foto anche se viene modificata, come quando un utente la ridimensiona o la ritaglia. Anche se vengono usati filtri o viene salvata la foto in formato JPG, la filigrana rimane sempre visibile. SynthID ha usato due modelli di apprendimento automatico per creare e trovare la filigrana. Questi modelli sono stati addestrati insieme.
DeepMind ha spiegato che il modello combinato è stato creato per raggiungere diversi obiettivi, tra cui riconoscere correttamente la filigrana sui contenuti e migliorare la loro invisibilità, allineando al contenuto originale la filigrana a livello visivo.
Anche se si cambiano le informazioni nascoste nell’immagine, la filigrana integrata non viene compromessa perché è parte dei pixel dell’immagine. Questo significa che funziona bene con altri modi per identificare le immagini che si basano sui metadati, e rimane visibile anche se queste informazioni vengono perse.
