OpenAI ha svelato un potente strumento nel combattere i deepfake, annunciando il lancio di un rilevatore che promette di distinguere le immagini generate dall’intelligenza artificiale con un’incredibile precisione.
Secondo i rapporti, questo rilevatore, basato sul modello DALL-E di OpenAI, è in grado di identificare le immagini AI con una precisione del 98,8%. Tuttavia, al momento, riesce a segnalare solo tra il 5% e il 10% delle immagini AI provenienti dai concorrenti DALL-E.
Questo strumento di rilevamento sarà rilasciato solo a un gruppo selezionato di tester, che lavoreranno per perfezionarlo ulteriormente prima che venga reso disponibile al pubblico più ampio. Funzionando con un sistema di risposte binarie, il programma determina se un’immagine è stata generata da un’intelligenza artificiale o meno.
Il segreto dietro l’efficacia di questo rilevatore risiede nei metadati “resistenti alle manomissioni” aggiunti da OpenAI a tutto il contenuto creato dal proprio modello di immagini AI più recente, DALL-E. Questi metadati, conformi allo standard stabilito dalla Coalition for Content Provenance and Authenticity (C2PA), fungono da una sorta di “etichetta nutrizionale” digitale, consentendo di tracciare l’origine delle immagini con maggiore precisione.
Se tutti i modelli di intelligenza artificiale adottassero lo standard C2PA, il rilevatore di OpenAI potrebbe notevolmente migliorare la sua precisione nel distinguere l’output dell’intelligenza artificiale da altri strumenti, secondo quanto riportato da Ars Technica.
OpenAI ha inoltre annunciato la sua adesione al comitato direttivo della Coalition for Content Provenance and Authenticity, sperando di promuovere l’adozione dello standard C2PA tra altri attori del settore.
Questo sviluppo è considerato una pietra miliare significativa nella lotta contro la diffusione dei deepfake e delle immagini AI in generale. Con l’adozione di standard come il C2PA, la trasparenza sui media digitali aumenterà, offrendo un modo più affidabile per determinare l’autenticità delle immagini online.
