La tecnologia rivoluzionaria dell’esercito è un punto di svolta per il rilevamento dei deepfake

ADELPHI, Md. – I ricercatori dell’esercito hanno sviluppato un metodo di rilevamento Deepfake che consentirà la creazione di una tecnologia Soldato all’avanguardia per supportare attività essenziali per la missione come il rilevamento e il riconoscimento delle minacce antagoniste.

Questo lavoro si concentra in particolare su una tecnica di biometria facciale leggera, a bassa complessità di addestramento e ad alte prestazioni che soddisfi i requisiti di dimensioni, peso e alimentazione dei dispositivi di cui i soldati avranno bisogno in combattimento.

I ricercatori del Comando per lo sviluppo delle capacità di combattimento dell’esercito degli Stati Uniti, noto come DEVCOM, Army Research Laboratory, in collaborazione con il professor C.-C. Il gruppo di ricerca di Jay Kuo presso l’Università della California meridionale, si è proposto di affrontare la significativa minaccia che Deepfake rappresenta per la nostra società e la sicurezza nazionale. Il risultato è una soluzione tecnologica innovativa chiamata DefakeHop. I ricercatori hanno lavorato nell’ambito del Research Award for External Collaborative Initiative del direttore del laboratorio e dell’Esercito AI Innovation Institute.

Il loro lavoro è presentato nel documento intitolato “DefakeHop: A light-weight high-performance deepfake detector”, che sarà presentato alla IEEE International Conference on Multimedia and Expo 2021 a luglio.

Deepfake si riferisce a contenuti video iperrealistici sintetizzati dall’intelligenza artificiale che raffigurano falsamente individui che dicono o fanno qualcosa, hanno detto i ricercatori dell’ARL, la dottoressa Suya You e la dottoressa Shuowen (Sean) Hu. La maggior parte dei metodi all’avanguardia di rilevamento video deepfake e media forensics si basa sul deep learning, che presenta molti punti deboli intrinseci in termini di robustezza, scalabilità e portabilità.

“A causa della progressione delle reti neurali generative, il deepfake guidato dall’intelligenza artificiale avanza così rapidamente che c’è una scarsità di tecniche affidabili per rilevare e difendersi dai deepfake”, ha affermato. “C’è un urgente bisogno di un paradigma alternativo che possa comprendere il meccanismo dietro le sorprendenti prestazioni dei deepfake e sviluppare soluzioni di difesa efficaci con un solido supporto teorico”.

Combinando l’esperienza dei membri del team con l’apprendimento automatico, l’analisi del segnale e la visione artificiale, i ricercatori hanno sviluppato una teoria innovativa e un framework matematico, il Successive Subspace Learning, o SSL, come un’architettura di rete neurale innovativa. SSL è l’innovazione chiave di DefakeHop, hanno detto i ricercatori.

“SSL è un framework matematico completamente nuovo per l’architettura di rete neurale sviluppato dalla teoria della trasformazione del segnale”, ha detto Kuo. “È radicalmente diverso dall’approccio tradizionale, offrendo una nuova rappresentazione del segnale e processo che coinvolge più matrici di trasformazione in cascata. È molto adatto per dati ad alta dimensione che hanno strutture di covarianza a breve, medio e lungo raggio. Sfrutta SSL una tale proprietà naturalmente nel suo design. Si tratta di un framework completo non supervisionato basato sui dati, offre uno strumento nuovo di zecca per l’elaborazione delle immagini e la comprensione di attività come la biometria del viso “.

La maggior parte delle attuali tecniche all’avanguardia per il rilevamento di video deepfake e i metodi di media forensics si basano sul meccanismo di apprendimento profondo, ha affermato You.

Secondo il team, il DefakeHop presenta diversi vantaggi significativi rispetto all’attuale inizio delle arti, tra cui:

Questa ricerca supporta gli sforzi di ricerca AI e ML dell’esercito e del laboratorio introducendo e studiando una teoria innovativa dell’apprendimento automatico e i suoi algoritmi computazionali applicati alla percezione, rappresentazione ed elaborazione intelligenti, ha affermato You.

“Ci aspettiamo che i futuri soldati portino sul campo di battaglia dispositivi visivi intelligenti ma di peso estremamente ridotto”, ha affermato. “La soluzione di machine learning odierna è troppo sensibile a un ambiente di dati specifico. Quando i dati vengono acquisiti in un ambiente diverso, la rete deve essere riqualificata, il che è difficile da condurre in un sistema embedded. La soluzione sviluppata ha molti desideri caratteristiche, tra cui un modello di piccole dimensioni, che richiede dati di addestramento limitati, con bassa complessità di addestramento e in grado di elaborare immagini di input a bassa risoluzione. Questo può portare a soluzioni rivoluzionarie con applicazioni di vasta portata per il futuro esercito “.

I ricercatori hanno applicato con successo il principio SSL per risolvere diversi problemi di biometria del viso e di comprensione della scena generale. Insieme al lavoro di DefakeHop, hanno sviluppato un nuovo approccio chiamato FaceHop basato sul principio SSL per un impegnativo riconoscimento dei problemi e la classificazione del genere del viso in ambienti di bassa qualità dell’immagine e bassa risoluzione.

Il team continua a sviluppare nuove soluzioni e scoperte scientifiche per la biometria del viso e per la comprensione generale della scena, ad esempio il rilevamento del bersaglio, il riconoscimento e la comprensione semantica della scena.

“Abbiamo tutti visto l’impatto sostanziale dell’IA sulla società, sia nel bene che nel male, e l’IA sta trasformando molte cose”, ha detto Hu. “Deepfake è un esempio negativo. La creazione di sofisticate immagini generate al computer è stata dimostrata per decenni attraverso l’uso di vari effetti visivi nell’industria dell’intrattenimento, ma i recenti progressi nell’intelligenza artificiale e nell’apprendimento automatico hanno portato a un drammatico aumento del realismo contenuti falsi e la facilità di accesso a questi strumenti “.

Il team di ricerca ha l’opportunità di affrontare queste problematiche impegnative, che hanno un impatto sia militare che quotidiano.

“Oggi vediamo questa ricerca come nuova, nuova, tempestiva e tecnicamente fattibile”, hai detto. “Si tratta di uno sforzo di innovazione ad alto rischio e alto con un potenziale di trasformazione. Prevediamo che questa ricerca fornirà soluzioni con vantaggi significativi rispetto alle tecniche attuali e aggiungerà nuove importanti conoscenze alle scienze dell’intelligenza artificiale, della visione artificiale, della comprensione intelligente della scena e della biometria del viso. . “

###