By Paolo Bonanni
(Les Echos) La clonazione vocale basata sull’intelligenza artificiale (IA) solleva preoccupazioni etiche e di sicurezza.
ElevenLabs
La startup americana ElevenLabs è tra le protagoniste della clonazione vocale basata sull’intelligenza artificiale. Fondata nel 2022 da ex collaboratori di Google e Palantir, la società ha già raggiunto una valutazione di 3 miliardi di dollari. L’azienda, specializzata nella generazione e clonazione di voci, ha conquistato il mercato con applicazioni che spaziano dalla creazione di audiolibri al doppiaggio in 29 lingue. La sua tecnologia di clonazione vocale consente di replicare una voce partendo da pochi minuti di registrazione, con risultati quasi indistinguibili dalle voci originali.
La tecnologia tra opportunità e rischi
L’interesse verso il clonaggio vocale non si ferma a ElevenLabs. Anche OpenAI, già celebre per ChatGPT, ha introdotto il suo sistema di clonazione vocale, Voice Engine, capace di creare imitazioni realistiche con soli 15 secondi di audio. Tuttavia, OpenAI ha scelto di limitare l’accesso al sistema, citando i rischi significativi legati a potenziali abusi, soprattutto in un contesto politico, come evidenziato dalle elezioni negli Stati Uniti. Le preoccupazioni riguardano in particolare l’uso fraudolento della tecnologia. La clonazione vocale potrebbe essere utilizzata per truffe bancarie o usurpazioni d’identità, considerando che la voce è un dato biometrico cruciale, al pari delle impronte digitali.
Biometria vocale
Le banche che utilizzano la biometria vocale come metodo di autenticazione temono un aumento dei crimini informatici. Uno studio della fintech britannica Starling Bank ha rivelato che il 28% dei cittadini del Regno Unito è stato vittima di truffe vocali nell’ultimo anno, mentre il 46% non era nemmeno a conoscenza di questa minaccia.
Deepfake e disinformazione
Un’altra preoccupazione riguarda la disinformazione. La clonazione vocale rende possibile creare deepfake vocali, utilizzati per manipolare opinioni pubbliche o creare caos politico. Un caso emblematico ha coinvolto il presidente americano Joe Biden: elettori del New Hampshire hanno ricevuto chiamate automatiche con la sua voce clonata, che li esortava a non votare alle primarie. L’imitazione era stata realizzata con strumenti di ElevenLabs, poi intervenuta per bannare l’account responsabile.