Ecco come sono i deepfake per clonare la tua voce con l’intelligenza artificiale e rubare la tua identità

Un deepfake è descritto come qualsiasi contenuto audiovisivo che sia stato “falsificato” facendo sembrare reale. I deepfake sono stati utilizzati principalmente nei video, ma vengono utilizzati anche nell’audio e nelle immagini. Anni fa si capiva subito che qualcosa era un deepfake quando si vedevano problemi con la sincronizzazione della voce, le immagini e le proporzioni nei video, dove sembrava che ci fosse uno strato con il volto di un’altra persona. Ora, grazie all’intelligenza artificiale, i deepfake sono più realistici che mai e sebbene il loro utilizzo principale siano ancora i video, li vediamo anche nell’audio. È lì che lavorano gli esperti
sicurezza informatica Ci avvertono di stare attenti all’arrivo di deepfake audio utilizzando AI che sono così realistici che non solo Riescono a clonare perfettamente la vocema lo fanno in tempo reale praticamente senza latenza.

Per anni abbiamo visto moltissimi contenuti creati utilizzando i Deepfake, dove l’apparenza di personaggi famosi come attori o presidenti veniva normalmente utilizzata compiendo atti totalmente estranei alla realtà e che in molti casi venivano ignorati. Questo è successo finché non è arrivata l’intelligenza artificiale e le cose si sono fatte più torbide, perché con maggiore realismo tutto ha cominciato a generare più dubbi su cosa fosse reale e cosa fosse falso. Siamo arrivati ​​a un punto in cui gli Stati Uniti hanno deciso che la regolamentazione doveva essere implementata nel Deepfake AI con contenuti inappropriati.

Un gruppo di cybersecurity mostra come sia possibile realizzare deepfake che clonano la voce utilizzando software e hardware open source come le GPU NVIDIA

L’intelligenza artificiale non solo è in grado di sostituire una persona nelle immagini o nei video, ma funziona molto bene anche nell’audio. Qui è anche in grado di simulare voci, toni e persino espressioni di ogni tipo a seconda dell’umore della persona, quindi abbiamo un “campione” di voce che possiamo utilizzare per tutti i tipi di situazioni. Non solo, ma secondo la società di sicurezza informatica
NCC gruppocon l’intelligenza artificiale è addirittura possibile realizzare deepfake vocali in tempo reale con una latenza minima.

Non hanno voluto lasciarlo come teoria, ma piuttosto l’hanno applicato al praticadimostrando che quanto detto è vero. Per fare questo, hanno utilizzato una combinazione di Strumenti AI open source con hardware NVIDIA per raggiungerlo. Il metodo è denominato “Deepfake Vishing” e utilizza modelli di intelligenza artificiale addestrati con la voce della vittima che sarà il bersaglio dell’attacco.

Con una NVIDIA RTX A1000 di fascia bassa è in grado di ricreare la voce con una latenza di 500 ms e questa sarebbe ridotta con una grafica più potente

Per quanto riguarda l’hardware utilizzato, tutto è stato fatto utilizzando un
Scheda grafica NVIDIA RTX A1000una scheda grafica che non solo è disponibile in quasi tutti i negozi, ma è anche la settore delle workstation di fascia bassaquindi puoi acquistarlo per meno di 500 euro. Nonostante siano molto meno potenti di una scheda grafica di fascia media o alta, hanno ottenuto un ritardo o Latenza di 500 msnon male.

Possiamo vedere nel grafico sopra tutti i passaggi da seguire per effettuare un attacco considerato come simulazione vocale in tempo reale al fine di ingannare la vittima. Si comincia con una fase
OSINT e vengono raccolti campioni audio che verranno successivamente elaborati con un programma
DAW e con questo i dati raccolti vengono organizzati ed elencati. Questi vengono successivamente passati ad un modello acustico e generano un parlato GAN che continua a creare modelli in formato .pth.

Dopodiché passiamo al convertitore che utilizza questi per creare la voce in tempo reale e dopo aver effettuato diverse prove e utilizzato un file Spoofer dell’IDora è il momento di farlo attaccare la vittima che sentirà la voce come se fosse reale. Questi tipi di deepfake sono molto pericolosi, poiché possono impersonare familiari e amici intimi utilizzando questo sistema
furto d’identità chiedendoci dettagli su noi stessi e, se c’è fiducia, possiamo finire per dare loro informazioni che ci mettono in pericolo.