Hvorfor Google nettopp forbød Gemini å generere bilder av mennesker

0
20
Google Gemini-logo på bærbar datamaskin Maria Diaz/ZDNET

AI-bildegeneratorer lar deg generere bilder av alt du kan tenke deg, inkludert historiske figurer. Men da brukere begynte å be Googles Gemini om å skildre historiske personer eller grupper av mennesker, fikk de en overraskelse. 

Da brukere den siste uken ba Gemini om å generere bilder av historiske personer eller mennesker av forskjellige raser eller nasjonaliteter, begynte de å legge merke til at ingen av bildene var tro mot spørsmålet. Snarere klarte ikke bildene å gjengi hvite mennesker, selv om individet var hvitt. I stedet genererte den bare bilder av flerkulturelle og rasemessige forskjellige mennesker. 

Også: Slik bruker du Gemini (tidligere Google Bard): Alt du bør vite

< p>Brukere begynte å gå til sosiale medier for å dele disse bildene, der spørsmål som ba Gemini om å lage bilder av paven, Amerikas far og en viking, resulterte i bilder av fargede mennesker. Tidligere Google-ansatt, Debarghya Das, delte en X-tråd med disse unøyaktighetene og kompilerte eksempler fra brukerinnlegg på tvers av X, så vel som sin egen erfaring. 

Som et resultat erkjente Google Communications onsdag problemet via X, og sa at det er klar over unøyaktighetene og jobbet med å forbedre disse skildringene fordi chatboten “bommet målet.” 

Så på Torsdag delte Google at selskapet stopper bildegenerering av mennesker i Gemini mens det jobber med å løse problemene, og selskapet planlegger å gi ut en forbedret versjon på nytt snart. 

Hvis du prøver å be Gemini om å generere et bilde av en person nå, du vil bli møtt med en rekke forskjellige feilmeldinger, for eksempel “Det er ikke noe jeg kan gjøre ennå,” og det vil ikke generere bildet for deg. 

Dessuten: Jeg prøvde nettopp Googles ImageFX AI-bildegenerator, og jeg er sjokkert over hvor bra den er

Til tross for lanseringen av AI-chatboten i mars i fjor, har Gemini bare hatt sitt bilde- genererende evner siden begynnelsen av denne måneden. Med den lange ventetiden før du slipper bildegeneratoren til chatboten, er det overraskende at den allerede gjør disse feiltrinnene. 

Google hadde en lignende opplevelse da den først lanserte Gemini, den gang kalt Google Bard, og chatboten delte unøyaktig informasjon om James Webb-romteleskopet i sin demo.