TikTokPrøver å skille. mellom syntetisk og autentisk innhold blir vanskelig ettersom kvaliteten på AI-genererte bilder blir stadig mer realistisk. For å hjelpe brukere med å gjøre forskjellen mens de ruller på TikTok, legger den korte videoplattformen nå til støtte for innholdslegitimasjon.
Også: De beste AI-bildegeneratorene av 2024: Testet og gjennomgått
På torsdag kunngjorde TikTok at det nå automatisk vil merke AI-generert innhold (AIGC) lastet opp til plattformen som har innholdslegitimasjon knyttet til seg. Når du ruller, vil brukerne se den “AI-genererte etiketten” vises automatisk på innhold som har innholdslegitimasjon som angir at det var AI-generert i metadataene, som vist på bildet øverst i artikkelen.
"AI-generert innhold er et utrolig kreativt utløp, men åpenhet for seerne er avgjørende. Ved å samarbeide med jevnaldrende for å merke innhold på tvers av plattformer, gjør vi det enkelt for skapere å på en ansvarlig måte utforske AI-generert innhold mens vi fortsetter å avskrekke den skadelige eller villedende AIGC som er forbudt på TikTok," sa Adam Presser, leder for operasjoner og tillit og sikkerhet i TikTok.
Innholdslegitimasjon, utviklet av Coalition for Content Provenance and Authenticity (C2PA), refererer til manipulerende metadata som fungerer som en “næringsetikett” for et stykke innholds viktige ingredienser, inkludert skaperens navn, verktøy som brukes til å lage innholdet (for eksempel et kamera eller programvare), endringer som er gjort og mer.
Også: Kod raskere med generativ AI, men pass på risikoen
Denne legitimasjonen kan legges til manuelt til et innhold av forfatteren for å sikre at innholdet tilskrives riktig . Mange AI-applikasjoner, som Adobe Firefly, implementerer automatisk innholdslegitimasjon til AIGC. Hvis noen prøver å laste opp innhold opprettet ved hjelp av et av disse verktøyene, vil TikTok automatisk merke det for brukere.
Dette ekstra sikkerhetstiltaket sikrer at AI-generert innhold er riktig merket, selv om personen som laster opp innhold ikke avslører det selv. Dette tiltaket vil være nyttig på videoplattformer som TikTok når kraftige videogeneratorer, inkludert OpenAIs Sora, blir allment tilgjengelige. Sikkerhetstiltaket begynte å rulle ut til brukere i dag og vil gjelde for alle brukere globalt i de kommende ukene.
Også: OpenAIs nye modellspesifikasjon avslører mer om hvordan den vil ha AI å oppføre seg
I de kommende månedene vil TikTok også legge ved legitimasjon til TikTok-innhold, noe som gjør det mulig for alle å identifisere når AIGC ble opprettet på TikTok. For å vise ytterligere forpliktelse til innholdslegitimasjon, har TikTok også sluttet seg til Adobe-ledede Content Authenticity Initiative.
Innholdslegitimasjonsfunksjonene bygger på praksis som TikTok allerede hadde på plass for å sikre sikker apppraksis, som f.eks. som forbud mot villedende AI-generert innhold og merking av AIGC opprettet med TikTok AI-effekter.