Generert via Adobe Firefly av Sabrina Ortiz/ZDNETÅ tette sikkerhetshull er avgjørende for å holde generativ kunstig intelligens (AI)-modeller sikre mot dårlige skuespillere, skadelig bildegenerering og annen potensiell misbruk. For å sikre at noen av de nyeste og største AI-prosjektene er så sikre som mulig, utvidet Adobe onsdag bug-bounty-programmet sitt, som belønner sikkerhetsforskere for å finne og avsløre feil, til å omfatte innholdslegitimasjon og Adobe Firefly.< /p>
Innholdslegitimasjon er manipulerende metadata knyttet til digitalt innhold som fungerer som en “ernæringsetikett”, som lar brukere se innholdets “ingredienser”," som skaperens navn, opprettelsesdato, eventuelle verktøy som brukes til å lage bildet (inkludert generative AI-modeller), og endringene som er gjort.
Også: Du bør tenke nytt om å bruke AI-genererte bilder hvis du driver med tillitsskapende virksomhet
I en tid med AI-genererte bilder, kan dette herkomstverktøyet hjelpe folk med å bestemme syntetisk innhold fra menneskeskapt innhold. Dette fungerer imidlertid bare hvis innholdslegitimasjonen er manipulasjonssikker og brukes som designet. Adobe samler nå sikkerhetstiltak for innholdslegitimasjon via sitt bug bounty-program for å forsterke beskyttelsen mot potensielle misbruk, for eksempel feil vedlagt legitimasjon til feil innhold.
Noen AI-bildegeneratorer, som Adobe Firefly, knytter automatisk innholdslegitimasjon til AI-generert innhold. Firefly er Adobes gruppe generative AI-modeller som kan lage bilder fra meldinger, andre bilder og mer. Denne modellen av modeller er lett tilgjengelig for publikum gjennom en frittstående nettapplikasjon og noen av Adobes mest populære programmer, inkludert Photoshop.
Utgivelsen sier at Adobe vil at sikkerhetsforskere skal teste Firefly mot Open Worldwide Application Security Project (OWASP)s største sikkerhetsrisikoer i applikasjoner med store språkmodeller (LLM), for eksempel umiddelbar injeksjon, avsløring av sensitiv informasjon og treningsdataforgiftning. Adobe vil deretter bruke denne tilbakemeldingen til å fokusere sin forskning og videre innsats på å adressere Fireflys svakheter.
"Ved å engasjere oss proaktivt med sikkerhetsfellesskapet håper vi å få ytterligere innsikt i sikkerheten holdning til våre generative AI-teknologier, som igjen vil gi verdifull tilbakemelding til vårt interne sikkerhetsprogram," Adobe sa i sin utgivelse.
Også: Google utbetalte $10 millioner i feilbelønninger til sikkerhetsforskere i 2023
Adobe inviterer etiske hackere som er interessert i å delta i bug bounty-programmet til å besøke Adobe HackerOne-siden og til å søke via dette skjemaet, som stiller spørsmål om søkerens sikkerhetsforskning og ekspertise.
I I tillegg til Content Credentials og Adobe Firefly, er bug bounty-programmet tilgjengelig for de fleste Adobe-nettapper og desktop- og mobilversjoner av Creative Cloud-appene. Du finner hele listen over inkluderte apper på Adobe Bug Bounty Program-nettsiden.