Noll
Google tar en konservativ inställning till könsrelaterat pronomen i Smart för att Komponera en Gmail-funktion som förutsäger hur en person har för avsikt att slutföra en mening.
Istället för att riskera att kränka användare av Smarta Komponera förutsäga fel könade pronomen, Google har beslutat sig för att helt enkelt hindra sin algoritm från att föreslå pronomen som “honom” och “henne”.
Gmail product manager Paul Lambert Reuters problemet identifierades i januari när ett företag vetenskapsman skrivit “jag träffa en investerare nästa vecka”.
Smart Komponera tydligen föreslog, “vill du träffa honom?”, ett antagande som kan vara fel, orsaka brott, och kritik mot att Google inte hantera bias i sina algoritmer.
Lambert säger Googles ingenjörer försökte flera sätt att hålla könade pronomen förslag, men ingen av dem var bias-gratis, så de bestämde sig för att förbjuda könade pronomen.
Politiken påverkar färre än en procent Smart Komponera förslag. Smart Komponera används på 11 procent av Gmail.com meddelanden över hela världen.
Google lanserade Smart Komponera i Maj, så den politiken har varit på plats hela tiden, den har varit tillgänglig för allmänheten. Men den svarta listan på könade pronomen har även tillämpats för svar i Googles Smarta Svar.
Googles rättvisa ” i sitt ansvarig AI-metoder beskriver svårigheter i att skapa AI-system som är rättvist och inkluderande. Eftersom machine-learning modeller lära av befintliga verkliga data, noggranna modeller kan lära sig och förstärker fördomar.
I fallet med Smarta Komponera, dess språk-modellen har tränat på flera miljarder fraser och meningar, som transporteras över en människa bias som en investerare skulle vara en man.
Men problemet med bias kan vara mer skadliga i andra sammanhang än att fylla i en e-post, till exempel i algoritmerna som används i det straffrättsliga systemet.
Microsoft-ägda LinkedIn har också svartlistade könade pronomen i sin Smarta Svar-funktionen.
Att hjälpa andra att undvika att människors fördomar i sina modeller, Google förra månaden släpptes en utbildningsmodul som lär ut vilka typer av mänskliga fördomar kan hamna i modeller, liksom plats områden av mänskliga bias i data före träning en modell.
Tidigare och relaterade täckning
Google Gmail-användare: Här hur du slår på nya offline när du arbetar, Smart Komponera
Google rullar ut offline stöd i Gmail och dess nya Smarta Komponera funktion som avslutar dina meningar.
Google lägger Komponera integrationer för att utlösa åtgärder i Gmail
Vid lanseringen, Komponera åtgärder integrera med Dropbox, Atlassian, Box och Egnyte.
Gmails nya design: Älskar det eller hatar det, ser ut som du snart ska använda det
Den nya Gmail kommer bara att vara Gmail snart efter det att den når allmän tillgänglighet.
Gmail redesign: Google översyn G Svit med mer AI, mindre skräp
Googles G Suite är makeover som syftar till att spara företag e-post timmar, öppnar och tid på anmälningar.
Hur man gör mest av den nya Gmail
Googles Gmail stor omskrivning introducerar flera nya, användbara funktioner. Här är hur du använder Gmail-förbättringar, som är redo nu.
Gmail spam mysterium: Varför har säkert konton började spamma själva?
Spam visas i användarnas skickat även från konton som inte har äventyrats.
Duplex, Android-P och Assistent: Allt viktigt från Google i/O CNET
Från Gmail som skriver sig till en Assistent som kan klara turingtestet, Google i/O gett oss massor av tillbehör till sina produkter, nästan alla på grund av dess AI och maskininlärning insatser.
Varför G Suite-administratörer bör aktivera Gmail avancerade anti-phishing och malware inställningar TechRepublic
Google har nyligen lagt till nya G Suite säkerhet inställningar för att ge Gmail-användare är ett ytterligare lager av skydd. Lära sig hur att varna användare av skadliga e-postmeddelanden, eller helt enkelt skicka dem direkt till spam med dessa alternativ.
Relaterade Ämnen:
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem
0