InnholdslegitimasjonsnettstedetAdobe har vært i forkant av det generative AI-området , som avslører mange AI-løsninger, fra den klassiske tekst-til-bilde-generatoren til verktøy rettet spesielt for bedrifter. Uansett applikasjon forblir én ting den samme: Tilstedeværelsen av innholdslegitimasjon.
På Adobe Summit denne uken utvidet selskapet Content Credentials til sine Creative- og Enterprise-applikasjoner, inkludert sin nye Structure Reference i Firefly og Adobe Experience Manager.
Også: Dette nye AI-verktøyet fra Adobe gjør det enda enklere å generere bildene du trenger
Dette tillegget fremhever Adobes fortsatte forpliktelse til å hjelpe publikum med å skille mellom autentisk og falskt innhold – et problem som forverres av den økende tilstedeværelsen av generativ AI verktøy — ved å inkludere manipulasjonssikre metadata som inkluderer informasjon om hvordan innholdet ble opprettet.
“Teknologiproblemet her er det enkleste å løse — vi har løst det; adopsjon er den nest vanskeligste tingen å løse, men vi viser grep," sa Andy Parsons, seniordirektør, Content Authenticity Initiative hos Adobe, til ZDNET.
På toppmøtet kunngjorde Adobe at PricewaterhouseCoopers (PwC), NBCUniversal News Group, WPP og Autodesk har sluttet seg til Content Authenticity Initiative, en organisasjon som fremmer "vedtak av en åpen industristandard for innholdsautentisitet og herkomst." I løpet av det siste året har teknologigiganter som OpenAI, Meta og Google støttet bruken av innholdslegitimasjon.
Også: Vil du jobbe med AI? Hvordan dreie karrieren din i 5 trinn
"Du ser disse store merkene komme ombord for ikke bare å gi oss logoen sin og si at dette er en god idé, men faktisk implementere innholdslegitimasjon, " lagt til Parsons.
Hva er innholdslegitimasjon?
Så hvorfor er disse selskapene med på innholdslegitimasjon? La oss se på innholdslegitimasjon og hvordan du kan bruke dem.
Innholdslegitimasjon fungerer som en "ernæringsetikett" for digitalt innhold, slik at brukere kan se innholdets vitale ingredienser, inkludert skaperens navn, klokkeslett og dato opprettet, verktøy som brukes til å lage innholdet (som kamera eller programvare), og endringer som er gjort.
Informasjonen legges permanent til innholdet gjennom kryptografiske metadata og vannmerking, noe som sikrer at legitimasjonen forblir vedlagt, selv om noen endrer dataene eller innholdet.
Også: The beste AI-bildegeneratorer i 2024: Testet og anmeldt
Siden innholdslegitimasjon er basert på gratis, åpen kildekode-teknologi, kan skapere velge å legge ved innholdslegitimasjon til ethvert innhold for å sikre at riktig kreditt tilskrives. I tillegg implementerer mange AI-applikasjoner – som Adobe Firefly – automatisk innholdslegitimasjon for å generere innhold.
Derfor er det viktig at store aktører i det generative AI-området, som OpenAI og Meta, har vist en forpliktelse til å bruke innholdslegitimasjon for å merke bilder generert i deres AI-modeller, og jobber mot en verden der alle AI-genererte bilder er merket på riktig måte.
Hvorfor merke AI-generert bilder er så viktig
Etter hvert som generative AI-verktøy blir mer populære, og det blir enklere enn noen gang å lage realistisk utseende falske bilder, blir behovet for å identifisere AI-generert innhold mer kritisk.
"Når de [generative AI]-verktøyene blir demokratisert, og lavkost eller gratis, og kvaliteten på de rimelige eller gratis verktøyene som produseres blir umulig å skille fra virkeligheten, selvfølgelig, [Innholdslegitimasjon er] stadig viktigere," sa Parsons.
Også: Vi er ikke klare for virkningen av generativ AI på valg
Ondsinnede aktører kan bruke generativ kunstig intelligens til å lage falskt innhold for å spre feilinformasjon og villede publikum. Denne trenden utgjør en spesielt overhengende trussel i et valgår.
"En reell bekymring [er] at kanskje disse valget i år i 2024 vil være sesongen for AI-valg, der folk' s forståelse av hva som er ekte, hva kandidater gjør, hva de ikke gjør … [det] vil være nok villedende innhold [som vil] legge til mye støy til systemet," lagt til Parsons.
For å takle denne trusselen, og i tillegg til innholdslegitimasjon, tar Adobe Firefly andre tiltak for å sikre at AI-generasjoner av politiske skikkelser, eller kjendiser, ikke er mulig.
Også: 6 AI-verktøy for å forsterke jobben og hverdagen din
Adobe AI ble kun trent på Adobe Stock Images og innhold fra det offentlige domene med utløpte opphavsrettigheter. Teknologien kan ikke generere et bilde av en kjendis eller politisk kandidat fordi den ikke har blitt trent på disse dataene.
“Så mellom disse kontrollene, muligheten til å legge til de metadataene og måten bildemodellen trenes på åpent lisensiert innhold — vi skraper ikke det åpne internett — kunne ikke Firefly-bildemodellen lage en Mikke Mus eller en Donald Trump fordi den egentlig aldri ser en Mikke Mus eller Donald Trump," sa Deepa Subramaniam, Adobes VP for produktmarkedsføring til ZDNET.
Selv for applikasjoner som ikke forbyr generering av offentlige personer og som er opplært ved å skrape internett, kan tilstedeværelsen av innholdslegitimasjon bidra til å takle problemet med herkomst og innholdsautentisitet ved å gjøre det enkelt for brukere å bekrefte kilden til et bilde , uten å måtte vite noe om metadata.
Hvordan du kan bruke innholdslegitimasjon
For forbrukeren er det enkelt å komme i gang med å bruke innholdslegitimasjon. Hvis du ser pinnen for innholdslegitimasjon ved siden av et innhold, kan du klikke på det for å bli presentert med all bildets viktigste informasjon, som vist på bildet øverst i artikkelen. Når en pinne er utilgjengelig, kan du laste opp bildet til Content Credentials-nettstedet.
Når bildet er lastet opp, hvis det er innholdslegitimasjon i metadataene, vil de bli vist til deg. Hvis ikke, vil det matche bildet ditt med lignende bilder på internett og fortelle deg om disse bildene var AI-generert eller ikke.
Dessuten: Adobe kunngjør generative AI-verktøy for å gjenoppfinne annonsekampanjer
Jeg prøvde teknologien ved å ta et skjermbilde av det virale bildet av pave Frans iført en pufferjakke og laste det opp til nettstedet for innholdslegitimasjon. Fordi det var et skjermbilde, hadde ikke bildet metadata. Nettstedet matchet imidlertid bildet med andre bilder funnet på internett og identifiserte at det ble generert av AI, som vist på bildet nedenfor:
Å bruke innholdslegitimasjon var intuitivt, enkelt , og nyttig for å finne ut hva jeg ønsket å vite, og det vil bli enklere med tiden ettersom innholdslegitimasjonspinnen blir tilstede på internett.
"Jeg tror den beste måten som en forbrukeren selv å lære om ting er å se det i aksjon — trykk på det, klikk på det, se hvordan det fungerer," sa Parsons. "Så alle disse ressursene er tilgjengelige på contentcredentials.org."
Bekjentgjørelse: Kostnadene for Sabrina Ortiz' reise til Las Vegas for Adobe Summit ble dekket av Adobe , en vanlig bransjepraksis for langdistanseturer. Dommene og meningene til ZDNETs forfattere og redaktører er alltid uavhengige av selskapene vi dekker.