Hvordan Adobe håndterer AI-etikk, samtidig som det fremmer kreativitet

0
15
høydeformen til 46 AI Andriy Onufriyenko/Getty Images

Du har kanskje sett ansvarsfraskrivelsen, "Ansvarsfraskrivelse: Du bør vurdere de juridiske konsekvensene (f.eks. opphavsrett) av å bruke AI-genererte bilder før du implementerer dem i arbeidet ditt," nederst i noen av ZDNETs artikler. Dette er artikler som har brukt AI-bildeverktøy for å illustrere eller demonstrere AI-konsepter.

Å håndtere bruken av AI-genererte bilder er et stort problem for organisasjoner. Mange av de generative AI-verktøyene ble trent på hva utviklerne deres kunne hente fra internett, og skapte et opphavsrettsmareritt for mange selskaper.

Også: Hvordan endre et Midjourney-bilde selektivt for å lage en kunstnerisk uttalelse

Vi her i ZDNET har forbudt bruk av AI-genererte bilder bortsett fra i artikler om AI-genererte bilder. For eksempel gjorde jeg en fremgangsmåte om Midjourney der jeg viste frem et stykke AI-generert kunst jeg produserte. Det kunstverket var bare tillatt fordi artikkelen handlet om bruk av AI-verktøyet. 

Men hvis jeg ville bruke et AI-generert bilde som helten for en artikkel om utstyret jeg bruker til å lage YouTube-videoer, ville det ikke vært tillatt fordi artikkelen i seg selv ikke handler om AI-bildegenerering. Hvis et selskap er i sentrum av denne stormen, er det Adobe. 

Adobe lager et bredt spekter av verktøy for skapere, inkludert min elskede Photoshop, og har inkorporert AI-funksjoner for ganske mange år. Adobe har forsøkt å løse bedriftens bekymringer ved å bruke kommersielt sikre opplæringsdata, men selv det har vært kontroversielt.

Også: Adobe inkluderte AI-genererte bilder i 'kommersielt sikre' Firefly treningssett

Grace Yee

Grace Yee, Senior Direktør for etisk innovasjon (AI-etikk og tilgjengelighet) i Adobe.

Adobe

For å få Adobes perspektiv på alt dette, hadde vi muligheten til å chatte med Grace Yee, seniordirektør for etisk innovasjon (AI-etikk og tilgjengelighet) hos Adobe. Hennes ansvar innebærer å drive globalt, organisasjonsomfattende arbeid rundt etikk og utvikle prosesser, verktøy, opplæring og andre ressurser for å sikre at Adobes bransjeledende AI-innovasjoner kontinuerlig utvikler seg i tråd med Adobes kjerneverdier og etiske prinsipper.& #xA0;

Grace fremmer Adobes forpliktelse til å bygge og bruke teknologi på en ansvarlig måte, og sentrerer etikk og inkludering i alt selskapets arbeid med å utvikle AI.

Også: Adobe avduker tre nye generative AI-modeller, inkludert neste generasjon Firefly

En rask merknad før vi begynner. Grace snakker mye om Firefly, så la oss sørge for at du vet hva det er. 

Firefly refererer til både et gratis onlineverktøy og AI-teknologien som underbygger det meste av den generative AI funksjoner i Adobes tilbud.

Og med det, la oss komme i gang.

ZDNET: Kan du dele innsikt i hvordan Adobe har prioritert etiske hensyn i utviklingen av Firefly?

Grace Yee: Hos Adobe er etisk innovasjon vår forpliktelse til å utvikle AI-teknologier på en ansvarlig måte som respekterer våre kunder og lokalsamfunn og er i tråd med våre verdier. Tilbake i 2019 etablerte vi et sett med AI-etiske prinsipper vi holder oss til når vi innoverer, inkludert ansvarlighet, ansvar og åpenhet.

Med utviklingen av Firefly har vårt fokus vært på å utnytte disse prinsippene for å redusere skjevheter, svare raskt på problemer og inkludere tilbakemeldinger fra kunder. Vår pågående innsats bidrar til å sikre at vi implementerer Firefly på en ansvarlig måte uten å bremse innovasjonen.

ZDNET: Med fremveksten av AI-evner, inkludert deepfake-teknologi, hvilke tiltak har Adobe iverksatt for å møte etiske bekymringer i Firefly?

GY :Vi anerkjente potensiell misbruk av generativ AI og mediemanipulasjon for flere år siden, og det er grunnen til at Adobe i 2019 var med på å grunnlegge Content Authenticity Initiative for å bidra til å øke tilliten og åpenheten på nettet med innholdslegitimasjon. Som et "ernæringsmerke" for digitalt innhold kan innholdslegitimasjon vise viktig informasjon som skaperens identitet, opprettelsesdato og om AI ble brukt for å hjelpe forbrukere med å vurdere påliteligheten til innhold.

Faktisk gjennomførte Adobe nylig en Future of Trust-undersøkelse som viste at de fleste tror det er viktig at de har de riktige verktøyene, som innholdslegitimasjon, for å verifisere om nettinnhold er pålitelig.

Innholdslegitimasjon er tilgjengelig i Firefly-funksjonene våre, inkludert Generative Fill og tekst-til-bilde-oppretting, som er avgjørende for å gjenopprette tilliten til digitalt innhold på nettet.

ZDNET: Hvilke strategier er avgjørende for å bygge inn etiske hensyn i AI-verktøy fra begynnelsen, og hvordan har Adobe nærmet seg dette?

GY: Allerede før Adobe begynte å jobbe med Firefly, hadde vårt etiske innovasjonsteam utnyttet AI-etikkprinsippene våre for å lage en standardisert gjennomgangsprosess for AI-produktene og funksjonene våre – fra design til utvikling til distribusjon.

For enhver produktutvikling hos Adobe, jobber teamet mitt først med produktteamet for å vurdere potensielle risikoer, evaluere avbøtende tiltak og demonstrere hvordan AI-etikkprinsippene våre brukes. Det gjøres ikke isolert.

Derfra går funksjoner med en høyere potensiell etisk innvirkning videre til ytterligere teknisk gjennomgang, inkludert av AI Review Board, som kan stille spørsmål og foreslå forbedringer.

ZDNET: Hvordan sikrer selskaper som Adobe at AI-teknologier forbedrer kreativiteten uten å gå på akkord med etiske standarder?

GY:AI er bare så god som dataene den er trent på. Jo større datasett, jo mer mangfoldig og nøyaktig blir resultatene, noe som kan bidra til å unngå å opprettholde skadelige skjevheter. Men dataene må komme fra et sted, og du må respektere ting som personvern og opphavsrett.

Også: Etikken til generativ AI: Hvordan vi kan utnytte denne kraftige teknologien

Det er derfor vi trente opp vår første Firefly-modell med kun lisensierte bilder fra vår egen Adobe Stock-fotografisamling, åpent lisensiert innhold og offentlig domeneinnhold der opphavsretten er utløpt.

I tillegg, for å sikre at opphavsrettsbeskyttet eller merkevaremateriale ikke lages som en del av Fireflys utdata, har vi et innholdsmodereringsteam som utfører ekstra filtrering på bildene før de kommer inn i Firefly-datasettet.

ZDNET: Hvordan forbedrer teamsamarbeid hos Adobe og i bransjen generelt utviklingen av sikrere AI-teknologier?

GY:Vi har stor tro på at engasjement på tvers av team og tverrfunksjoner utvider perspektiver og bidrar til kulturen med delt ansvar for kvaliteten og sikkerheten til AI-teknologier. I tillegg til produktteamet vårt, samarbeider teamet vårt for etisk innovasjon tett med tillits- og sikkerhets-, juridiske og internasjonaliseringsteam for å hjelpe til med å redegjøre for mulige problemer, overvåke tilbakemeldinger og utvikle tiltak.

For eksempel la Firefly i fjor sommer til AI-aktivert flerspråklig støtte for våre brukere globalt. Vi gjennomgikk og utvidet terminologien vår til å dekke landsspesifikke termer og konnotasjoner, og internasjonaliseringsteamet vårt sørget for at morsmål var en del av prosessen.

ZDNET: Hva er de langsiktige etiske vurderingene av AIs innvirkning på samfunnet?

GY: AI er ikke det sansende vesenet du ser i sci-fi-filmer. Men det er skader som AI kan forårsake i dag og på lang sikt, som spredning av feilinformasjon og skadelig skjevhet.

Det er derfor vi laget en AI Ethics Impact Assessment. Det er en flerdelt vurdering for å identifisere funksjoner og produkter som kan opprettholde skadelige skjevheter og stereotypier.

Vi tror denne risikobaserte tilnærmingen er en nøkkelkomponent for et vellykket AI-etikkprogram og vil bidra til å redusere de langsiktige etiske hensynene til AIs samfunnsmessige påvirkning.

ZDNET: Hvordan påvirker AI konseptet kreativitet i den digitale tidsalderen, med innsikt fra Adobes reise?

GY:< /strong>Da vi lanserte Firefly, så vi på det som en co-pilot for kreativitet, ikke en erstatning. Med Firefly kan hvem som helst skrive inn en tekstmelding og se fantasien komme til live. Selv folk som aldri har brukt Photoshop eller våre andre Creative Cloud-produkter, bruker nå jevnlig Firefly til å veve bilder fra bare noen få ord.

Vårt oppdrag er å gi skapere alle fordeler. Etter hvert som Firefly utvikler seg, vil vi fortsette å jobbe tett med det kreative fellesskapet for å bygge teknologi som støtter og forbedrer den kreative prosessen, inkludert ved å 1) sikre at Firefly produserer utdata som reflekterer deres behov, 2) utvikle fremtidige iterasjoner av AI-teknologien vår ved å bruke tilbakemeldinger fra brukere, og 3) ta opp problemer som krever mer komplisert beslutningstaking og fikse blindsoner i rekkverkene våre.

Firefly-brukertilbakemeldinger har hjulpet oss med å forstå hvilken type bilder brukerne våre drømmer om og hvordan de tolker resultatene, og gir verdifull innsikt i potensielle problemer og forbedringsområder.

Denne øvelsen har trukket vår oppmerksomhet til problemer som krever mer komplisert beslutningstaking og fremhevet noen blinde flekker i rekkverkene våre som vi raskt fikset.

Utover Firefly må bedrifter sørge for at de bygger tilbakemeldingsmekanismer i alle produktene deres som har generativ AI.

ZDNET: Hva er din visjon for en ansvarlig og etisk fremtid innen bruken av kunstig intelligens i den kreative industrien?

GY: Vi skraper bare i overflaten av generativ AI, og teknologien forbedres og blir stadig mer utbredt hver dag.

På veien forventer vi at AI-drevne applikasjoner, som Firefly, vil bli mainstream-løsninger for bedrifter og profesjonelle for å forbedre effektiviteten, generere bilder som inkorporerer merkevaren deres og låse opp nye muligheter – alt basert på tillit, åpenhet og ansvarlig innovasjon.

Siste tanker

ZDNETs redaktører og jeg vil gjerne gi en stor hyllest til Grace Yee for at hun tok seg tid til å delta i dette dybdeintervjuet. Her er det mye å tenke på. Takk, Grace!

Hva synes du? Ga anbefalingene hennes deg noen ideer om hvordan du kan engasjere deg med AI i skaperreisen din, eller for din bedrift eller organisasjon? Gi oss beskjed i kommentarene nedenfor.

Du kan følge mine daglige prosjektoppdateringer på sosiale medier. Sørg for å abonnere på mitt ukentlige oppdateringsnyhetsbrev, og følg meg på Twitter/X på @DavidGewirtz, på Facebook på Facebook.com/DavidGewirtz, på Instagram på Instagram.com/DavidGewirtz og på YouTube på YouTube.com/DavidGewirtzTV.< /p>