Deepfake tech è principalmente utilizzato per il porno e le donne sono le principali vittime
Deepfakes rappresentare una seria minaccia per la democrazia, nel lungo periodo, ma le donne tendono a soffrire prima, un nuovo studio dice.
“Aiutarci”, iniziato Twitter VP di fiducia e di sicurezza Del Harvey, come lei ha annunciato che i social media è venuto con un nuovo progetto di politica per affrontare la diffusione di deepfakes sulla sua piattaforma.
La società invita gli utenti di Twitter per fornire un feedback sulla nuova strategia, che sarà poi rivisto e corretto, prima di essere aggiunto al Twitter Regole.
Creata per affrontare quello che si chiama “sintetico e manipolato i media”, o deepfakes, il progetto delinea le azioni che Twitter avrà quando vede tali contenuti pubblicati con lo scopo di confondere la gente.
La nuova politica avrebbe lasciato Twitter includono un etichetta tweet la condivisione di ciò che si è identificato come modificato il contenuto. La piattaforma, inoltre, avvisa gli utenti prima di condividere o come i tweet che contengono tali etichettati media, e di fornire i link alle fonti che spiegano perché credono che la media è fabbricato.
Harvey ha aggiunto che i tweet possono essere rimossi se il falso contenuto potrebbe minacciare qualcuno la sicurezza fisica “o causare altri danni gravi.”
“Vogliamo sentire da voi, Harvey” continuò, chiamata per gli utenti di Twitter a completare un sondaggio circa la nuova politica.
Tra le altre cose, il sondaggio chiede se è Twitter responsabilità per rimuovere fuorviante media, se ha il diritto di rimuovere i tweet che condividono deepfakes, o se il gigante dei social media dovrebbero fare qualcosa per l’account che condividono falso contenuto.
In alternativa, gli utenti possono tweet sul progetto utilizzando l’hashtag #TwitterPolicyFeedback.
Questa mossa segue un altro recente aggiornamento su Twitter regole, che arrivano anche dopo che l’azienda ha chiesto ai suoi utenti di contribuire con le loro idee e pensieri, questa volta sulla sua politica sull’odio condotta.
Lo scorso luglio, dopo la revisione di 8.000 risposte da più di 30 paesi, la piattaforma ampliato le sue regole contro l’odioso comportamento al linguaggio che si disumanizza gli altri sulla base della religione.
Tradizionalmente, i cambiamenti di Twitter regole avvenire esclusivamente attraverso le consultazioni con il team interno e con la società stessa, di Fiducia e di Sicurezza del consiglio.
Twitter tentativo di raccogliere il feedback degli utenti sul suo deepfake politica nasce come piattaforme di social media rampa i loro sforzi per contrastare la diffusione del fabbricato di contenuti online.
All’inizio di quest’anno, un manipolati video del presidente della camera Nancy Pelosi è stato visto da oltre 1,4 milioni di volte su Facebook. Si scoprì in seguito che il video era stato rallentato per circa il 75% della velocità originale, e che la sua voce era stata alterata.
Con l’approssimarsi delle elezioni presidenziali del novembre 2020, piattaforme come Twitter sono sotto forte pressione per contrastare la diffusione di tali contenuti.
Facebook, Amazon e Microsoft hanno unito le forze nel mese di settembre in una joint DeepFake Rilevamento Sfida (DFDC), con un budget di 10 milioni di dollari per venire con una tecnologia in grado di rilevare i video che sono stati manipolati dall’IA.
Il problema principale è identificato da DFDC è che non c’è grande database di deepfakes, il che significa che non vi è alcun punto di riferimento industriale per la rilevazione manipolato il contenuto.
Poche settimane dopo, Google ha mostrato rilasciato un set di dati di 3.000 fabbricati video con 28 attori, nel tentativo di rafforzare i sistemi progettati per rilevare AI generato deepfakes.
Anche se queste iniziative suggeriscono che le piattaforme di social media stanno intensificando i loro sforzi per affrontare il problema del falso contenuto, essi mostrano anche che non esiste ancora un metodo avanzato per rilevare deepfakes in modo efficiente.
Twitter recente annuncio non offre una nuova soluzione tecnica. Infatti, il post contiene un collegamento a un modulo da compilare “se vuoi collaborare con noi per sviluppare soluzioni per rilevare sintetico e manipolato i media”.
Non è chiaro, quindi, come la società sarà in grado di individuare in modo efficace falso tenore, in primo luogo.
Il feedback periodo di Twitter con una nuova politica deepfakes chiuderà il 27 novembre alle 11:59 pm GMT. La società ha detto che si farà un altro annuncio, almeno 30 giorni prima dell’entrata in vigore della politica.
Argomenti Correlati:
Governo
La Trasformazione Digitale
CXO
Internet delle Cose
L’innovazione
Enterprise Software