Un’applicazione controversa, progettata per creare contenuti deepfake, è stata brevemente disponibile sull’App Store prima di essere rimossa in seguito a un reclamo. L’applicazione è stata segnalata dal giornalista Emanuel Maiberg, che l’ha scoperta attraverso un annuncio pubblicitario su Reddit. La pubblicità presentava lo strumento come un modo innocuo per cambiare i volti delle persone in foto e video, ma nascondeva funzionalità che permettevano la creazione di contenuti molto più discutibili, in particolare sui siti di video per adulti.
Inoltre, l’app includeva anche un riferimento a un sito di video con un layout molto simile a quello di pornhub, rivelando il vero scopo dell’app. Questo ha sollevato immediatamente dubbi sulla natura “family-friendly” dell’applicazione. Nonostante l’App Store di Apple abbia regole severe che vietano contenuti pornografici e applicazioni che potrebbero essere utilizzate per scopi illeciti, l’applicazione era riuscita a superare il processo di revisione e a essere pubblicata.
Dopo la segnalazione da parte di Maiberg, Apple ha prontamente rimosso l’applicazione dal suo store, ma il fatto che sia stata approvata inizialmente evidenzia potenziali lacune nel sistema di controllo dell’App Store. La tecnologia deepfake, che consente di creare video e immagini estremamente realistici sovrapponendo i volti delle persone su corpi e situazioni diverse, è sempre più al centro di dibattiti etici e legali.
Mentre può essere utilizzata per scopi artistici o di intrattenimento, c’è un crescente allarme per il suo uso improprio, in particolare nella creazione di contenuti pornografici non consensuali. Hany Farid, professore presso l’Università della California a Berkeley, specializzato in immagini manipolate, ha commentato l’episodio sottolineando che il problema principale delle applicazioni deepfake è che la maggior parte dei loro utilizzi sono per la creazione di immagini sessuali non consensuali.
Farid ha suggerito che Apple potrebbe mitigare questi rischi richiedendo che le app deepfake verifichino l’identità degli utenti e limitino la creazione di contenuti ai volti degli stessi utenti, ma ha anche riconosciuto che implementare queste misure non sarebbe semplice.