Hvordan Adobe håndterer AI-etikk, samtidig som det fremmer kreativitet

Andriy Onufriyenko/Getty Images

Du har kanskje sett ansvarsfraskrivelsen, "Ansvarsfraskrivelse: Du bør vurdere de juridiske konsekvensene (f.eks. opphavsrett) av å bruke AI-genererte bilder før du implementerer dem i arbeidet ditt," nederst i noen av ZDNETs artikler. Dette er artikler som har brukt AI-bildeverktøy for å illustrere eller demonstrere AI-konsepter.

Å håndtere bruken av AI-genererte bilder er et stort problem for organisasjoner. Mange av de generative AI-verktøyene ble trent på hva utviklerne deres kunne hente fra internett, og skapte et opphavsrettsmareritt for mange selskaper.

Også: Hvordan endre et Midjourney-bilde selektivt for å lage en kunstnerisk uttalelse

Vi her i ZDNET har forbudt bruk av AI-genererte bilder bortsett fra i artikler om AI-genererte bilder. For eksempel gjorde jeg en fremgangsmåte om Midjourney der jeg viste frem et stykke AI-generert kunst jeg produserte. Det kunstverket var bare tillatt fordi artikkelen handlet om bruk av AI-verktøyet. 

Men hvis jeg ville bruke et AI-generert bilde som helten for en artikkel om utstyret jeg bruker til å lage YouTube-videoer, ville det ikke vært tillatt fordi artikkelen i seg selv ikke handler om AI-bildegenerering. Hvis et selskap er i sentrum av denne stormen, er det Adobe. 

Adobe lager et bredt spekter av verktøy for skapere, inkludert min elskede Photoshop, og har inkorporert AI-funksjoner for ganske mange år. Adobe har forsøkt å løse bedriftens bekymringer ved å bruke kommersielt sikre opplæringsdata, men selv det har vært kontroversielt.

Også: Adobe inkluderte AI-genererte bilder i 'kommersielt sikre' Firefly treningssett

Grace Yee, Senior Direktør for etisk innovasjon (AI-etikk og tilgjengelighet) i Adobe.

Adobe

For å få Adobes perspektiv på alt dette, hadde vi muligheten til å chatte med Grace Yee, seniordirektør for etisk innovasjon (AI-etikk og tilgjengelighet) hos Adobe. Hennes ansvar innebærer å drive globalt, organisasjonsomfattende arbeid rundt etikk og utvikle prosesser, verktøy, opplæring og andre ressurser for å sikre at Adobes bransjeledende AI-innovasjoner kontinuerlig utvikler seg i tråd med Adobes kjerneverdier og etiske prinsipper.& #xA0;

Grace fremmer Adobes forpliktelse til å bygge og bruke teknologi på en ansvarlig måte, og sentrerer etikk og inkludering i alt selskapets arbeid med å utvikle AI.

Også: Adobe avduker tre nye generative AI-modeller, inkludert neste generasjon Firefly

En rask merknad før vi begynner. Grace snakker mye om Firefly, så la oss sørge for at du vet hva det er. 

Firefly refererer til både et gratis onlineverktøy og AI-teknologien som underbygger det meste av den generative AI funksjoner i Adobes tilbud.

Og med det, la oss komme i gang.

ZDNET: Kan du dele innsikt i hvordan Adobe har prioritert etiske hensyn i utviklingen av Firefly?

Grace Yee: Hos Adobe er etisk innovasjon vår forpliktelse til å utvikle AI-teknologier på en ansvarlig måte som respekterer våre kunder og lokalsamfunn og er i tråd med våre verdier. Tilbake i 2019 etablerte vi et sett med AI-etiske prinsipper vi holder oss til når vi innoverer, inkludert ansvarlighet, ansvar og åpenhet.

Med utviklingen av Firefly har vårt fokus vært på å utnytte disse prinsippene for å redusere skjevheter, svare raskt på problemer og inkludere tilbakemeldinger fra kunder. Vår pågående innsats bidrar til å sikre at vi implementerer Firefly på en ansvarlig måte uten å bremse innovasjonen.

ZDNET: Med fremveksten av AI-evner, inkludert deepfake-teknologi, hvilke tiltak har Adobe iverksatt for å møte etiske bekymringer i Firefly?

GY :Vi anerkjente potensiell misbruk av generativ AI og mediemanipulasjon for flere år siden, og det er grunnen til at Adobe i 2019 var med på å grunnlegge Content Authenticity Initiative for å bidra til å øke tilliten og åpenheten på nettet med innholdslegitimasjon. Som et "ernæringsmerke" for digitalt innhold kan innholdslegitimasjon vise viktig informasjon som skaperens identitet, opprettelsesdato og om AI ble brukt for å hjelpe forbrukere med å vurdere påliteligheten til innhold.

Faktisk gjennomførte Adobe nylig en Future of Trust-undersøkelse som viste at de fleste tror det er viktig at de har de riktige verktøyene, som innholdslegitimasjon, for å verifisere om nettinnhold er pålitelig.

Innholdslegitimasjon er tilgjengelig i Firefly-funksjonene våre, inkludert Generative Fill og tekst-til-bilde-oppretting, som er avgjørende for å gjenopprette tilliten til digitalt innhold på nettet.

ZDNET: Hvilke strategier er avgjørende for å bygge inn etiske hensyn i AI-verktøy fra begynnelsen, og hvordan har Adobe nærmet seg dette?

GY: Allerede før Adobe begynte å jobbe med Firefly, hadde vårt etiske innovasjonsteam utnyttet AI-etikkprinsippene våre for å lage en standardisert gjennomgangsprosess for AI-produktene og funksjonene våre – fra design til utvikling til distribusjon.

For enhver produktutvikling hos Adobe, jobber teamet mitt først med produktteamet for å vurdere potensielle risikoer, evaluere avbøtende tiltak og demonstrere hvordan AI-etikkprinsippene våre brukes. Det gjøres ikke isolert.

Derfra går funksjoner med en høyere potensiell etisk innvirkning videre til ytterligere teknisk gjennomgang, inkludert av AI Review Board, som kan stille spørsmål og foreslå forbedringer.

ZDNET: Hvordan sikrer selskaper som Adobe at AI-teknologier forbedrer kreativiteten uten å gå på akkord med etiske standarder?

GY:AI er bare så god som dataene den er trent på. Jo større datasett, jo mer mangfoldig og nøyaktig blir resultatene, noe som kan bidra til å unngå å opprettholde skadelige skjevheter. Men dataene må komme fra et sted, og du må respektere ting som personvern og opphavsrett.

Også: Etikken til generativ AI: Hvordan vi kan utnytte denne kraftige teknologien

Det er derfor vi trente opp vår første Firefly-modell med kun lisensierte bilder fra vår egen Adobe Stock-fotografisamling, åpent lisensiert innhold og offentlig domeneinnhold der opphavsretten er utløpt.

I tillegg, for å sikre at opphavsrettsbeskyttet eller merkevaremateriale ikke lages som en del av Fireflys utdata, har vi et innholdsmodereringsteam som utfører ekstra filtrering på bildene før de kommer inn i Firefly-datasettet.

ZDNET: Hvordan forbedrer teamsamarbeid hos Adobe og i bransjen generelt utviklingen av sikrere AI-teknologier?

GY:Vi har stor tro på at engasjement på tvers av team og tverrfunksjoner utvider perspektiver og bidrar til kulturen med delt ansvar for kvaliteten og sikkerheten til AI-teknologier. I tillegg til produktteamet vårt, samarbeider teamet vårt for etisk innovasjon tett med tillits- og sikkerhets-, juridiske og internasjonaliseringsteam for å hjelpe til med å redegjøre for mulige problemer, overvåke tilbakemeldinger og utvikle tiltak.