Facebook offre 10 milioni di dollari in borse di ricerca per l’tech per rilevare deepfake video
Facebook creerà la sua deepfake video per aiutare a costruire un sistema in grado di rilevarli.
Lo stato della California ha firmato una serie di leggi per reprimere l’uso di deepfake tecnologie nel discorso politico e pornografico.
Il termine ‘deepfake” è relativamente nuovo, ma nonostante la sua fase nascente, si è guadagnato l’attenzione di legislatori. Deepfaking è l’uso della tecnologia tra cui algoritmi di apprendimento automatico o quello che noi attualmente classificare come intelligenza artificiale (AI) per l’inserimento di falsi contenuti in video o per manipolare l’audio, compresi i modelli di voce.
A volte, deepfakes sono utilizzati esclusivamente per la satira, come per prendere in giro i funzionari di governo e l’attuale panorama politico.
Tuttavia, AII-manipolato il contenuto può prendere una svolta dark, quando viene utilizzato per generare propaganda politica in grado di ingannare il pubblico in generale.
La pornografia, troppo, è diventata un’area emergente per l’uso di deepfaking. Un recente studio in pratica trovato che le donne costituiscono la maggioranza delle vittime in deepfake porno, noto anche come “involontario porno.”
In questi casi, i loro volti sono inseriti esistenti, contenuti pornografici, le cui conseguenze non potrebbero essere simili nel mondo reale per vendetta porno — una umiliato vittima e influenzato la famiglia, gli amici, il lavoro.
Come precedentemente riportato da ZDNet, Deeptrace il rapporto dice che generativa contraddittorio reti (GANs) vengono utilizzati per generare deepfakes e il numero di registrazione deepfake video ha scalato da 8.000 a dicembre 2018 oltre 14,600 al momento della scrittura. In totale, il 96 per cento di tutti deepfake video sono di natura pornografica.
Vedi anche: Deepfakes: Per ora le donne sono la principale vittima, non la democrazia
California Gov. Gavin Newsom ha firmato due leggi, Montaggio Bollette 730 e 602, in preparazione per la battaglia contro deepfakes e le potenziali conseguenze politiche di manomissione del contenuto potrebbero avere sulle future elezioni.
Il primo disegno di legge, AB730, propone di vietare la produzione e la distribuzione di “dannoso” o “sostanzialmente ingannevole” deepfake materiale politico, tra cui la sovrapposizione di immagini sulla campagna di materiale audio e video, almeno fino al 2023.
“Questo progetto di legge […] proibire a una persona, comitato o altro ente, entro 60 giorni di una elezione in cui un candidato per la carica elettiva appariranno sulla scheda elettorale, da distribuire con la malizia reale materialmente ingannevoli o audio visiva media dei candidati, con l’intento di ferire il candidato reputazione o per ingannare un votante nel voto a favore o contro il candidato, a meno che il supporto include una comunicazione che indica che il supporto è stato manipolato,” il disegno di legge si legge.
Tuttavia, le indennità sono fatti per deepfake creazione di materiale quando la satira o la parodia è coinvolto, e come lungo come è stato chiarito che tale contenuto è stato manipolato attraverso la divulgazione al pubblico.
Il secondo disegno di legge, AB602, è orientato a dare ai cittadini il diritto di combattere se diventano vittime di deepfake manipolazione, soprattutto nei casi di materiale sessualmente esplicito.
CNET: UN nuovo Instagram funzione consente di identificare e-mail di phishing
Mentre la legislazione esistente non fornisce una via legale per coloro le cui foto private sono state condivise senza il suo consenso, ad esempio a scopo di vendetta porno, il disegno di legge aggiunge una causa potenziale di azione contro coloro che “creare e intenzionalmente rivela materiale sessualmente esplicito se la persona sa o dovrebbe ragionevolmente hanno conosciuto la raffigurato individuo non ha il consenso della sua creazione o la divulgazione, nonché per coloro che condividono il “materiale sessualmente esplicito che la persona non creare” o consenso per.
Le conseguenze di deepfake contenuto non è passato inosservato da parte dei fornitori di tecnologia, sia.
Facebook e Microsoft hanno annunciato un nuovo progetto nel mese di settembre, chiamato Deepfake Rilevamento Sfida a penzoloni premi e sovvenzioni, per un valore di 10 milioni di dollari per gli universitari disposti a passo e sviluppare soluzioni per il rilevamento automatico di deepfake video.
Al fine di fornire un set di dati per gli accademici lavorare, il gigante del social networking ha impegnato per pagare gli operatori a sviluppare sia deepfake video e audio.
Google, troppo, è pronto a entrare in azione. Nello stesso mese, il gigante tecnologico ha pubblicato un database contenente i 3.000 AI manipolato, video di studiosi che ha anche fatto uso di attori pagati.
TechRepublic: Come creare ed esportare una coppia di chiavi GPG su macOS
Il database ha contribuito al FaceForensics benchmark, uno standard sviluppato dall’Università Tecnica di Monaco di baviera e l’Università Federico II di Napoli con la speranza di essere accettati punto di riferimento per la rilevazione di deepfakes in futuro.
Precedente e relativa copertura
Google di guerra di deepfakes: Come elezione telai, condivide tonnellata di AI-finto video
Dimenticate email: i Truffatori usano il CEO voce ‘deepfakes’ con gli operai in cassa di cablaggio
Facebook, Microsoft: ti pagano $10 per il tech a posto deepfake video
Ha un suggerimento? Entrare in contatto in modo sicuro tramite WhatsApp | Segnale a +447713 025 499, o oltre a Keybase: charlie0
Argomenti Correlati:
Di sicurezza, TV
La Gestione Dei Dati
CXO
Centri Dati