Deepfake: con l'app Zao prendi il posto di un attore in un film famoso

Condividi su:

L’app cinese di scambio volti Zao (Zao app) è salita in cima alle classifiche degli app store durante il fine settimana, ma la gioia degli utenti per la prospettiva di diventare superstar istantanee è diventata rapidamente un dramma quando le implicazioni sulla privacy hanno iniziato a diffondersi.

Lanciata di recente, Zao è attualmente in cima alla classifica dei download gratuiti sullo store iOS cinese.

La sua popolarità ha anche portato un’altra app di scambio di volti, Yanjee, al quinto posto nella lista.

Dietro Zao c’è una società interamente di proprietà cinese che si occupa di servizi di streaming live ed è presieduta dal ceo Momo Inc. Wang Li e dal co-fondatore Lei Xiaoliang, secondo i documenti di registrazione della società.

Gli utenti dell’app caricano una foto di se stessi ed ecco che l’app vi rende protagonisti di scene popolari in centinaia di film o programmi TV.

È un’occasione per scambiarsi di posto con artisti del calibro di Marilyn Monroe, Leonardo Di Caprio o Sheldon Cooper di The Big Bang Theory in pochi istanti.

https://twitter.com/AllanXia/status/1168049059413643265

Table of Contents

I caricamenti delle foto si sono dimostrati problematici, tuttavia.

Un utente può fornire una foto esistente o, seguendo le istruzioni sullo schermo, creare una serie di foto in cui batte le palpebre e apre la bocca per contribuire a creare un deepfake più realistico.

Una versione precedente del contratto con l’utente di Zao affermava che l’app aveva diritti “liberi, irrevocabili, permanenti, trasferibili e riciclabili” su tutti questi contenuti generati dagli utenti.

Da allora Zao ha aggiornato i suoi termini: l’app ora dice che non utilizzerà i mini video caricati dagli utenti per scopi diversi da quelli per migliorare l’app o cose pre-concordate con gli utenti.

Se gli utenti eliminano il contenuto che hanno caricato, l’app lo cancellerà anche dai suoi server.

Ma la reazione non è stata abbastanza rapida, poiché Zao è stata travolta da un’ondata di recensioni negative che ora vede la sua valutazione dell’App Store attestarsi a 1,9 stelle su cinque, dopo oltre 4.000 recensioni.

Molti utenti si sono lamentati del problema della privacy.

Comprendiamo la preoccupazione per la privacy. Abbiamo ricevuto il feedback e risolveremo i problemi che non abbiamo preso in considerazione, il che richiederà un po ‘di tempo

ha affermato con una nota pubblicata sull’account di Zao della piattaforma di social media Weibo.

Il Centro di ricerca e-commerce cinese ha invitato le autorità ad esaminare la questione. L’app “viola alcune leggi e standard stabiliti dalla nazione e dall’industria”, ha affermato la casa di ricerca in una nota, citando Wang Zheng dello studio legale Taihang.

Non è la prima volta che tali app per lo scambio di volti godono di popolarità in Cina o in tutto il mondo, ma l’integrazione regolare e rapida di volti di Zao in video e meme Internet è ciò che la distingue.

La tecnologia di apprendimento automatico su cui si basano i deepfake di questo tipo è maturata rapidamente, al punto da poter credere a personaggi famosi come Joe Rogan e fargli dire qualunque falsità.

I politici statunitensi stanno affrontando la questione di come regolare questa emergente minaccia di disinformazione e il democratico Adam Schiff l’ha descritta come una fonte di “scenari da incubo” per le elezioni presidenziali del 2020.

Prima dell’app Zao, FaceApp è la più famosa app di modifica del viso per deepfake vista fino ad oggi.

È diventato virale a livello globale in due diverse occasioni, mostrando alle persone come sarebbero apparse nella loro vecchiaia o con il loro genere invertito.

L’app ha anche dato il via a una fobia sulla privacy con la sua pratica di caricare le immagini sui propri server per elaborarle, illustrando una crescente sensibilità al modo in cui vengono gestiti i dati degli utenti.

Dopo che gli utenti hanno invaso WeChat, la piattaforma di social media più utilizzata in Cina, con brevi clip e GIF abilitati per Zao, l’app di messaggistica gestita da Tencent Holdings Ltd. ha vietato i collegamenti al servizio, affermando che ci sono stati numerosi rapporti su di essa che presentano “rischi per la sicurezza.”

Tencent non ha immediatamente commentato la decisione.