TrueMedia evaluerer et stykke av innhold.
TrueMedia.org
Hvor utbredt er politiske deepfakes? De fleste relativt informerte borgere kan huske store tilfeller av syntetisk politisk innhold, for eksempel det tilsynelatende “robocall”; laget av president Joe Biden i januar til velgere i New Hampshire, som viste seg å være en syntetisert stemme skapt av AI. Selv om det ikke finnes noen autoritativ statistikk om deepfakes av kunstig intelligens (AI), kan en skeptiker tro at de ikke er vanlige, gitt at det bare er noen få høyprofilerte som er mye rapportert om.
Men ifølge en AI-forsker er det mer sannsynlig at AI-deepfakes øker i forkant av det amerikanske presidentvalget i november – du ser bare ikke mange av dem.
Også: 80 % av folk tror deepfakes vil påvirke valg. Slik forbereder du deg
"Jeg ville tatt et partallsveddemål på tusen dollar på at vi kommer til å se et enestående sett med disse [deepfakes]" november, “fordi det har blitt så mye lettere å lage dem,”" sa Oren Etzioni, grunnlegger av den ideelle organisasjonen TrueMedia, i et intervju med ZDNET forrige måned.
"Jeg vil ikke oppfordre deg til å ta den innsatsen, fordi jeg har mer informasjon enn deg," ; fortsatte han med en latter.
TrueMedia kjører servere som setter sammen flere AI-baserte klassifiseringsprogrammer med det eneste formål å fortelle om et bilde er en dypfalsk eller ikke. Organisasjonen støttes av Uber-medgründer Garrett Camps veldedige stiftelse, Camp.org.
Når en bruker laster opp et bilde, vil TrueMedia produsere en etikett som sier enten «usikker»," i en gul boble, “svært mistenkelig”," i rødt, eller en grønn boble med "autentisk" hvis AI-modellene har en viss grad av sikkerhet, er det ikke en deepfake. Du kan se en demo og registrere deg for betatilgang til programmet her.
Etzioni, professor ved University of Washington, er også grunnlegger av Allen Institute for AI, som har gjort omfattende arbeid med å oppdage AI-generert materiale.
"Vi ser prøvekjøringer, vi ser prøveballonger, vi ser folk sette opp ting" å produsere mange flere deepfakes etter hvert som valget kommer senere i år, og ikke bare i USA, sier Etzioni.
TrueMedia.org
Etzioni mener det er riktig å si at det “ikke” finnes? t en enorm mengde" av deepfakes som sirkulerer offentlig for øyeblikket. Han la imidlertid til at mye av det som faktisk er der ute, sannsynligvis ikke blir lagt merke til av allmennheten.
"Vet du virkelig hva som skjer i Telegram?" påpekte han og refererte til den private meldingstjenesten.
Dessuten: Når AI-agenter sprer seg, øker risikoen også, sier forskere
Gründeren sa at TrueMedia ser bevis på at deepfake-skapere øker produksjonen for senere i år, når valgsesongen intensiveres. "Vi ser prøvekjøringer, vi ser prøveballonger, vi ser folk sette opp ting," bemerket han — og ikke bare i USA.
"Dette er året som teller, fordi vi står overfor en rekke valg, < /strong>og teknologien [av deepfakes] har blitt så utbredt," han forklarte. “For meg er det et spørsmål om når, ikke om det er forsøk på å forstyrre valg, enten det er på nasjonalt nivå eller ved et bestemt valglokale.”
For å forberede seg har TrueMedia bygget et nett av muligheter og infrastruktur. Organisasjonen kjører sine egne algoritmer på potensielle deepfakes mens de betaler samarbeidende startups som Reality Defender og Sensity for å kjøre algoritmene sine parallelt, for å samle innsats og krysssjekke funn.
"Det virkelig krever en grasrotinnsats for å bekjempe denne tsunamien av desinformasjon som vi ser begynnelsen på," sa Etzioni. “Det er ingen sølvkule, noe som betyr at det ikke er en enkelt leverandør eller en modell som får alt.”
Også: Hva er innholdslegitimasjon?
For å begynne, tuner TrueMedia en rekke åpen kildekode-modeller. "Vi kjører klassifiserere som sier ja eller nei" til hver potensiell deepfake, sa Etzioni. Kjørt som et ensemble, kan klassifikatorene slå sammen svar fra hver modell – og teamet ser over 90 % nøyaktighet.
"Noen av disse klassifisere har generative modeller innebygd i seg, men det er ikke tilfellet at vi bare kjører Transformers," Etzioni fortsatte og refererte til den allestedsnærværende “oppmerksomheten” modell av AI som ga plass til flere andre, inkludert GPT-4, Googles Gemini, Anthropics Claude og Meta's Llama.
TrueMedia tilbyr for øyeblikket ikke kildekode for modellene, og publiserer heller ikke tekniske detaljer eller avslører treningsdatasett. “Vi er forsiktige med hensyn til kilder og metoder, i det minste akkurat nå,” sa Etzioni. “Vi er en ideell organisasjon, så vi prøver ikke å skape noe proprietært — det eneste er at vi er i en uvanlig posisjon fordi vi er i et motstridende landskap.”
Etzioni forventer at ytterligere avsløring kan skje i tide. "Vi trenger bare å finne ut de riktige strukturene," sa han.
Også: Googles VLOGGER AI-modell kan generere videoavatarer fra bilder – hva kan gå galt?&# xA0;
For å støtte kjøringen av alle disse modellene har TrueMedia fått hjelp fra oppstarten OctoAI, som ble grunnlagt av Etzionis venn og kollega ved University of Washington, Luis Ceze.
OctoAI, som kutter tennene sine for å forbedre AI-ytelsen på tvers av forskjellige databrikker og systemer, driver en skytjeneste for å jevne ut arbeidet med å trene modeller og levere spådommer. Utviklere som ønsker å kjøre LLM og lignende kan laste opp modellen sin til tjenesten, og OctoAI tar seg av resten.
TrueMedias slutningsbehov er “ganske komplekse, i den forstand at vi både får tilgang til leverandør-API-er, men også kjører mange av våre egne modeller og justerer dem”," sa Etzioni. "Og vi må bekymre oss mye om sikkerhet fordi dette er et sted hvor du kan bli målrettet av tjenestenektangrep."
Også: Å betjene generativ AI ble akkurat mye enklere med OctoAI
"Når vi nærmer oss valget, forventer vi at volumet vil være ganske høyt" for å utføre spørringer mot TrueMedia-modellene, sier OctoAI-grunnlegger Luis Ceze. "Vi vil at folk ikke skal måtte vente for lenge eller kanskje miste tålmodigheten."
OctoAI
TrueMedia og dets samarbeidspartnere forventer en økende bølge av dypfalske forespørsler. "Særlig når vi nærmer oss valget, forventer vi at volumet vil være ganske høyt" for å utføre spørringer mot modellene, sa Ceze i et intervju med ZDNET.
Den kommende økningen betyr at hastighet og skala er en bekymring. “Vi, som et samfunn generelt, ønsker at folk skal bruke det, og at media skal bruke det og validere bildene det,”" Ceze la til. “Vi vil at folk ikke må vente for lenge eller kanskje miste tålmodigheten.”
"Det siste vi ønsker er å smuldre under et tjenestenektangrep, eller å smuldre fordi vi ikke satte opp automatisk skalering på riktig måte," sa Etzioni. Ifølge ham har TrueMedia allerede tusenvis av brukere. Han forventer at etter hvert som året går, “vil vi ha flere av de ledende medieorganisasjonene over hele verden som bruker verktøyene våre, og vi vil lett ha titusenvis av brukere.”
Så hvordan vil vi Vet TrueMedia om det har en innvirkning?
"Vil vi forhindre at valget blir påvirket?" Etzioni funderte. "Du vet, du kan bruke fancy ord som 'beskytte integriteten til valgprosessen'; det er for storslått for meg. Jeg vil bare at verktøyet skal være tilgjengelig."
Også: Alle øyne rettet mot cyberforsvar når valg går inn i den generative AI-æraen
For Etzioni er målet å skape åpenhet – og samtale – rundt deepfakes. TrueMedias innholdsetiketter er offentlige, slik at seerne kan dele, sammenligne og bestride funnene sine. Den ekstra kontrollen er viktig: Selv med mer enn 90 % nøyaktighet innrømmer Etzioni at TrueMedias ensemble ikke er perfekt. “Slik ChatGPT ikke kan unngå hallusinasjoner, kan vi ikke unngå å gjøre feil”," sa han.
Skeptikere vil stille spørsmål ved hvilken innflytelse som utøves av en ideell organisasjon uten avslørt kildekode, hvis opplæringsdatasett ikke er åpne for offentlig gransking. Hvorfor skal noen stole på etikettene som TrueMedia genererer?
"Jeg synes det er et rettferdig spørsmål," sa Etzioni. “Vi er bare seks uker gamle, vi har mer avsløring å gjøre.” Når det er sagt, understreket Etzioni åpenheten til TrueMedias tilnærming sammenlignet med andre alternativer. “Vi er en åpen bok når det gjelder resultater, i motsetning til mange andre verktøy der ute som er tilgjengelige under panseret eller for salg”," sa han.
TrueMedia forventer å publisere en analyse av den nåværende tilstanden til deepfakes i løpet av de kommende ukene. “Vi får folk til å tenke mer kritisk om det de ser i media”," sa han.