Til tross for DALL-E militær pitch, opprettholder OpenAI at verktøyene deres ikke vil bli brukt til å utvikle våpen

0
24
width= Lionel BONAVENTURE/AFP/Getty Images

Dokumenter publisert av The Intercept på onsdag avslører at Microsoft Azure presenterte sin versjon av DALL-E, OpenAIs bildegenerator, for det amerikanske militæret i oktober 2023. Presentasjonen , gitt på et opplæringsseminar for Department of Defense (DoD) om "AI Literacy," foreslått at DALL-E kan hjelpe med å trene slagmarkverktøy via simulering. 

Microsoft lanserte DALL-E under paraplyen Azure OpenAI (AOAI), et felles produkt av Microsofts partnerskap med OpenAI, som fusjonerer førstnevntes cloud computing med sistnevntes. generativ AI-kraft. 

Også: OpenAIs stemmemotor kan klone en stemme fra et 15-sekunders klipp. Lytt selv

Presentasjonsdekket — der OpenAIs logo vises over selskapets oppdrag, “Sørg for at kunstig generell intelligens (AGI) gagner menneskeheten” — detaljer om hvordan DoD kunne bruke AOAI til alt fra løpende ML-oppgaver som innholdsanalyse og virtuelle assistenter til “Bruk av DALL-E-modellene til å lage bilder for å trene kampstyringssystemer.”

Denne avsløringen skapte en viss offentlig forvirring på grunn av OpenAIs egne bruksveiledning. Historisk sett sa OpenAIs policyside at modellene ikke skulle brukes til militær utvikling. Men i januar la The Intercept merke til at OpenAI hadde fjernet "militært" og "krigføring" fra siden; det forbyr nå bare bruken av "tjenesten vår for å skade deg selv eller andre," inkludert å "utvikle eller bruke våpen". 

På spørsmål om endringen fortalte selskapet CNBC det var ment å gi plass til visse militære brukssaker som stemmer overens med OpenAIs oppdrag, inkludert defensive tiltak og cybersikkerhet, som Microsoft har vært separat  tar til orde for. OpenAI hevdet at andre applikasjoner fortsatt ikke var tillatt: "Vår policy tillater ikke at verktøyene våre brukes til å skade mennesker, utvikle våpen, for kommunikasjonsovervåking, eller for å skade andre eller ødelegge eiendom," sa en talsperson. 

Også: OpenAI CEO: Vi er glade hvis Microsoft foretar et salg, og de er glade hvis vi foretar et salg

Imidlertid kan våpenutvikling, skade på andre og ødeleggelse av eiendom sees på som mulige utfall av trening av slagmarkstyringssystemer. Microsoft fortalte Intercept via e-post at pitch fra oktober 2023 ikke har blitt implementert, og at eksemplene i presentasjonen var ment å være “potensielle brukstilfeller” for AOAI. 

Liz Bourgeous, en OpenAI-talsperson fortalte The Intercept at OpenAI ikke var involvert i Microsoft-presentasjonen og gjentok selskapets retningslinjer. “Vi har ingen bevis for at OpenAI-modeller har blitt brukt i denne egenskapen”," sa Bourgeous. “OpenAI har ingen partnerskap med forsvarsbyråer for å bruke API-en vår eller ChatGPT til slike formål.”

Responsen på pitchen viser hvordan det i beste fall er vanskelig å opprettholde retningslinjer på tvers av avledede versjoner av basisteknologi. Microsoft er en langvarig kontraktør med den amerikanske hæren — AOAI er sannsynligvis å foretrekke for militær bruk enn OpenAI på grunn av Azures økte sikkerhetsinfrastruktur. Det gjenstår å se hvordan OpenAI vil skille mellom applikasjoner av verktøyene sine midt i partnerskapet og Microsofts fortsatte bestrebelser med DoD.