14 Maggio، 2021

جورنالك

الخبر كما هو ، منكم و اليكم

Il contest di Facebook rivela che il rilevamento di deepfake è ancora un "problema irrisolto"

This post is also available in: Deutsch

Facebook ha annunciato i risultati della sua prima Deepfake Detection Challenge, una competizione aperta per trovare algoritmi in grado di individuare video manipolati dall'intelligenza artificiale. I risultati, sebbene promettenti, mostrano che c'è ancora molto lavoro da fare prima che i sistemi automatizzati possano individuare in modo affidabile il contenuto di deepfake, con i ricercatori che descrivono il problema come un "problema irrisolto".

Facebook afferma che l'algoritmo vincente del concorso è stato in grado di individuare "esempi di sfide reali" di deepfake con una precisione media del 65,18 percento. Non è male, ma non è il tipo di hit rate che vorresti per qualsiasi sistema automatizzato.

Deepfakes ha dimostrato di essere una sorta di minaccia esagerata per i social media. Sebbene la tecnologia abbia suscitato molto interesse per l'erosione di prove video affidabili, gli effetti politici dei deepfake sono stati finora minimi. Invece, il danno più immediato è stato la creazione di pornografia non consensuale, una categoria di contenuti che è più facile da identificare e rimuovere per le piattaforme di social media.

Mike Schroepfer, Chief Technology Officer di Facebook, ha dichiarato ai giornalisti in una conferenza stampa di essere soddisfatto dei risultati della sfida, che secondo lui creerebbe un punto di riferimento per i ricercatori e guiderà il loro lavoro in futuro. "Onestamente il concorso è stato un successo più di quanto avrei mai potuto sperare", ha detto.


Esempi di clip utilizzate nella sfida. Riesci a individuare il deepfake?
Video di Facebook

Circa 2.114 partecipanti hanno presentato alla competizione oltre 35.000 algoritmi di rilevamento. Sono stati testati sulla loro capacità di identificare i video deepfake da un set di dati di circa 100.000 brevi clip. Facebook ha assunto più di 3000 attori per creare queste clip, che sono state registrate durante conversazioni in ambienti naturalistici. Alcune clip sono state modificate utilizzando l'intelligenza artificiale facendo incollare i volti di altri attori ai loro video.

I ricercatori hanno avuto accesso a questi dati per addestrare i loro algoritmi e, quando testati su questo materiale, hanno prodotto tassi di accuratezza fino all'82,56 percento. Tuttavia, quando gli stessi algoritmi sono stati testati su un set di dati "black box" costituito da filmati invisibili, hanno ottenuto risultati molto peggiori, con il modello con il punteggio migliore che ha raggiunto un tasso di accuratezza del 65,18 percento. Questo dimostra che rilevare i deepfake in natura è un problema molto impegnativo.

Schroepfer ha affermato che Facebook sta attualmente sviluppando una propria tecnologia di rilevamento dei falsi, separata da questa competizione. "Abbiamo una tecnologia di rilevamento dei falsi in produzione e la miglioreremo in base a questo contesto", ha affermato. La società ha annunciato che stava vietando i deepfakes all'inizio di quest'anno, ma i critici hanno sottolineato che la minaccia molto più grande alla disinformazione era rappresentata dai cosiddetti "shallowfakes" – video modificati con mezzi tradizionali.

Gli algoritmi vincenti di questa sfida saranno rilasciati come codice open source per aiutare altri ricercatori, ma Facebook ha affermato che manterrà segreta la propria tecnologia di rilevamento per impedire che venga retroingegnerizzata.

Schroepfer ha aggiunto che mentre i deepfake non erano "attualmente un grosso problema" per Facebook, la società voleva avere gli strumenti pronti a rilevare questi contenuti in futuro, per ogni evenienza. Alcuni esperti hanno affermato che le imminenti elezioni del 2020 potrebbero essere un momento privilegiato per i deepfake da utilizzare per una seria influenza politica.

"La lezione che ho imparato duramente negli ultimi due anni, è che voglio essere preparato in anticipo e non essere colto di sorpresa", ha detto Schroepfer. "Voglio essere davvero preparato per un sacco di cose cattive che non accadono mai piuttosto che il contrario."

This post is also available in: Deutsch