Deep Fake: sotto la lente di ingrandimento del Garante l'app FakeYou, che usa le voci di personaggi noti per riprodurre file di testo

App Fakeyou: che cosa fa?

FakeYou è un'app che consente di riprodurre file di testo facendoli pronunciare dalle voci di personaggi famosi. É ampiamente utilizzata soprattutto in social come Twitter o TikTok, dove circolano video di politici o cantanti che rilasciano dichiarazioni (fake) che non farebbero mai. Per farlo utilizza la tecnologia detta "deepfake". La parola è un neologismo abbastanza recente e descrive il risultato di quella tecnologia basata sull’intelligenza artificiale che permette la creazione di video praticamente perfetti nei quali su un video viene montato il volto di un personaggio noto (o meno noto), al quale viene fatto dire o fare, ciò che vuole l’autore del trucco.

FakeYou è liberamente scaricabile ed è facilissima da utilizzare: basta scegliere al voce che si vuole utilizzare e scrivere il testo che si vuole far dire al finto "protagonista" . L'app è gratuita, ma promette un contributo a chi aiuterà ad accrescere il campionario di voci da cui attingere.

Certo, di per sé il mezzo non è illegittimo, quando si tratta di utilizzarlo per video divertenti. Il problema si pone di fronte alla massa di video dai contenuti spiazzanti, pesanti e inaccettabili.

DeepFake: quali rischi?

Al di là dell'intervento del Garante privacy sulla specifica app, il dibattito intorno al deep fake e i suoi pericoli c'è già da tempo. Sul sito del Garante, il deepfake viene definito come

“foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce”.

Potrebbe essere divertente. Ma anche no. Come ricorda il Garante il deepfake è una forma molto grave di furto d'identità. Se poi il furto d'identità riguarda esponenti politici, si capisce quanto il terreno si faccia difficile e scivoloso, fino ad arrivare a meccanismi di manipolazione dell'opinione pubblica.

Per approfondire > Nuovi pericoli in rete: il deepfake

Garante: l'attività di contrasto al deepfake

Il Garante è già intervenuto sul tema, pubblicando nel Dicembre 2020 un vademecum per sensibilizzare gli utenti e renderli maggiormente consapevoli dei rischi correlati al deepfake. Il Vademecum è disponibile qui > Deepfake - Il falso che ti «ruba» la faccia (e la privacy)

Non solo: la prima istruttoria sul tema riguardò l'app Deep Nude. Questa app permetteva di "spogliare", tramite l'intelligenza artificiale, donne le cui immagini e foto erano rubate dai social. Intorno all'app si era creato un gruppo Telegram che contava oltre 80.000 iscritti che si scambiavano queste foto, anche di minorenni.

Per saperne di più > Deep Nude, l' app su Instagram che spoglia le donne. Il Garante italiano apre una istruttoria

Veniamo quindi a FakeYou. Il Garante ha spiegato che le preoccupazioni

"si indirizzano verso i potenziali rischi che potrebbero determinarsi da un uso improprio di un dato personale, quale è appunto la voce".

Ecco perché il Garante ha aperto l'istruttoria e ingiunto alla società The Storyteller Company - Fakeyou di trasmettere con urgenza ogni possibile elemento utile a chiarire l'iniziativa. Nella nota pubblicata dal Garante si legge:

"la società dovrà, tra l'altro, fornire le modalità di 'costruzione' della voce dei personaggi famosi, il tipo di dati personali trattati, nonché le finalità del trattamento dei dati riferiti ai personaggi noti e agli utenti che utilizzano l'app". 

La società, inoltre,

 "dovrà indicare l'ubicazione dei data center che archiviano i dati personali, sia con riferimento agli utenti registrati dall'Italia, sia ai personaggi noti, e le misure tecniche ed organizzative adottate per garantire un livello di sicurezza adeguato al rischio".