Deepfake tech är huvudsakligen används för porr och kvinnor som är de främsta offren
Deepfakes utgör ett allvarligt hot mot demokratin i det långa loppet, men kvinnor är benägna att drabbas först, en ny studie säger.
AWS har lagt sin tyngd bakom den kommande Deepfake Upptäckt Utmaning, en tävling med $10 miljoner i prispotten som Microsoft och Facebook meddelade i September.
Facebook hjälper till att skapa ett stort dataset med deepfake videoklipp för konkurrens, som syftar till att gräva fram nya tekniker för att upptäcka video som har manipulerats med AI och att utveckla system för att jämföra tekniker för att upptäcka.
Cloud jätte AWS på måndagen meddelat att man kommer att erbjuda upp till $1 miljon i AWS poäng över de två kommande åren mot den utmaning som lanseras nu i December och löper fram till slutet av Mars 2020. Initiativet stöds av Facebook, Microsoft, Partnerskap på AI, och flera universitet, bland annat MIT.
Initiativet kommer mitt ökad oro att deepfakes och, mer generellt, desinformation om sociala nätverk kan användas för att manipulera den allmänna opinionen före USA 2020 presidentvalet schema för November.
Facebook, till exempel, den här veckan lanserade Facebook Skydda för att hjälpa kandidater, förtroendevalda och den offentliga sektorn anställda aktivera två-faktor autentisering för publicering Facebook Sidan information.
Det är också nyligen upp tusentals appar för att undvika en upprepning av Cambridge Analytica skandal, vilket kan ha påverkat resultatet av 2016 AMERIKANSKA presidentvalet.
Deltagarna i Deepfake Upptäckt Utmaning kommer att ges tillgång till ett dataset för att utbilda sina modeller och de kan behöva för att skicka koden till en “black-box” – miljö för att testa. Och för att göra det, forskare kommer att behöva tillgång till beräkna makt, lagring och maskin-verktyg för lärande som AWS har.
Amazon säger att det kommer att vara värd för full konkurrens dataset när den blir tillgänglig senare i år. Det är också att ge Amazon machine-learning experter för att hjälpa team att bygga sin upptäckt modeller.
“Vi vill säkerställa tillgång till dessa data för en mångfald av deltagare med olika perspektiv för att bidra till att utveckla bästa möjliga lösningar för att bekämpa det växande problemet med deepfakes,” AWS sagt.
Deepfakes ses som farlig i del eftersom de inte kräver några färdigheter för att producera, tack vare smartphone-appar som kan göra ett tillräckligt bra jobb för att lura människor med falsk video. På kort sikt, deepfakes kan användas för att styra den allmänna opinionen, men på lång sikt är deepfakes kan urholka förtroendet i all information.
Projektet i sig kommer med vissa risker. Eftersom projektet anteckningar i en FAQ, finns det en risk för att skadliga aktörer försöka utnyttja dataset Facebook är att skapa så bra som den kod som deltagarna skapa.
Enligt AWS, den Deepfake Upptäckt Utmaning styrgruppen kommer att dela de första 5 000 videor av dataset med forskare. Det kommer att vara en “riktad” tekniska sessionen vid International Conference on Computer Vision (ICCV) i Seoul början på oktober 27, 2019.
Efter att ha genomfört en due diligence, det kommer att släppa den fullständiga datauppsättningen och starta Deepfake Upptäckt Utmaning på världens främsta AI-konferens – NeurIPS eller Konferensen om Neurala System för Databehandling – i December.
Google har inte stött Deepfake Upptäckt Utmaning, men det och Alfabetet s Pussel har bidragit med ett dataset med 3,000 manipulerade filmer med 28 aktörer FaceForensics riktmärke, som syftar till att bli ett riktmärke för automatiserad facial-manipulation upptäckt. FaceForensics utgör en del av tävlingens inledande 5,000 video dataset.
Mer på deepfakes och säkerhet
Deepfakes: För nu kvinnor, inte demokrati, är de främsta offren
Facebook, Microsoft: Vi ska betala ut $10m för tech till plats deepfake videor
Glöm e-post: Bedragare använder för VD röst “deepfakes’ con arbetstagare i ledningar cash‘Deepfake” app Zao gnistor större personlig integritet i KinaAI, quantum computing och 5G skulle kunna göra brottslingar mer farligt än någonsin, varnar polisenSamsung använder AI att förvandla foton till talande huvud videorFacebook faktum-pjäser tåg AI för att upptäcka “djupt falska” videolurar faran för deepfakes TechRepublicDessa deepfakes av Bill Hader är helt skrämmande CNET
Relaterade Ämnen:
Amazon
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem