Etik vävstolar som en förargliga frågan när det gäller artificiell intelligens (AI). Där gör AI bias våren från, speciellt när det är oavsiktligt? Är företag som betalar tillräckligt mycket uppmärksamhet till det som de kasta sig med full kraft in i AI-utveckling och spridning? Gör de något åt det? Har de ens vet vad de ska göra om det?
Foto: Joe McKendrick
Vridning bias och de oavsiktliga konsekvenserna av AI är på väg till jobbet beskrivningar av teknik chefer och medarbetare, särskilt som företagsledare att vända sig till dem för vägledning och bedömning. Disken till etiska AI innebär en ökad roll för teknologer i verksamheten, som beskrivs i en studie av 1,580 befattningshavare och 4.400 konsumenter från Capgemini Research Institute. Undersökningen kunde göra direkta kopplingar mellan AI etik och tillväxt: om konsumenterna mening ett företag anställer AI etiskt, de kommer att hålla kommer tillbaka, det de känner oetiskt AI praxis, deras verksamhet är borta.
Konkurrenstrycket är anledningen till att företagen driver AI till sina gränser och riskera att korsa etiska linjer. “Trycket att genomföra AI skapar etiska frågor som,” den Capgemini författare, som leds av Anne-Laure Thieullent, vd Capgemini är Artificiell Intelligens & Analytics Group, staten. “När vi frågade befattningshavare varför etiska problem som resulterar från att AI är ett ökande problem, de högst rankade anledning var trycket att genomföra AI.” Trettio-fyra procent hänvisas till detta tryck för att ligga steget före med AI trender.
Ytterligare en tredje rapport om etiska frågor inte ansågs samtidigt bygga AI-system, undersökningen visar. Ett annat 31% sade att deras största problem var brist på personal och resurser. DET är där chefer och medarbetare kan göra skillnaden.
Den Capgemini laget som anges de frågor som IT-chefer och personal behöver för att hantera:
“Brist på etiska AI uppförandekod eller förmågan att bedöma avvikelser från det Brist på relevant utbildning för utvecklare att bygga AI-system
Etiska frågor inte beaktas vid konstruktion av AI-system
Tryck för att snarast genomföra AI utan att på lämpligt sätt ta itu med etiska frågor
Brist på resurser (pengar, människor, teknik) ägnas åt etiska AI-system”
Thieullent och hennes medförfattare har råd till IT-chefer och personal som tar en ledande roll i termer av AI etik:
Ge användarna mer kontroll och möjlighet att vända sig: “Det innebär att bygga strategier och processer där användare kan be om förklaringar av AI-baserade beslut.”
Gör AI-system transparent och begripligt för att få användarnas förtroende: “teamen att utveckla system bör tillhandahålla den information och dokumentation som ska förklara i enkla ordalag hur vissa AI-baserade beslut fattas och hur de påverkar individen. Dessa grupper också behov av att dokumentera processer för datamängder samt system för beslutsfattande.”
Träna bra data management och mildra eventuella fel i data: “Medan allmänna förvaltningen kommer att vara
ansvarig för inställning av bra data management practices, det faller på data teknik och data vetenskap och AI-team för att säkerställa att dessa rutiner följs genom. Dessa team bör införliva “privacy-by-design’ principerna i design och bygga fas och säkerställa robusthet, repeterbarhet, och gransking av alla data cykel (rå data, data, data, etc.).”
Som en del av detta, IT-chefer behöver för att “kontrollera” för noggrannhet, kvalitet, robusthet och eventuella fördomar, inklusive identifiering av underrepresenterade minoriteter eller händelser/mönster,” och “bygga upp tillräcklig data märkning praxis och översyn med jämna mellanrum, lagra på ett ansvarsfullt sätt, så att den görs tillgänglig för revision och repeterbarhet bedömningar.”
Hålla noga kontroll på dataset: “Fokus på att säkerställa att befintliga data inte skapa eller stärka befintliga fördomar. Till exempel, identifiera befintliga fördomar i dataset genom att använda befintliga AI-verktyg eller genom särskilda kontroller i statistiska mönster i datamängder.” Detta omfattar även “att utforska och distribuerar system för att kontrollera och korrigera befintliga fördomar i dataset innan att utveckla algoritmer,” och “genomföra tillräckligt pre-release prövningar och efter utsättning övervakning för att identifiera, reglera och dämpa eventuella befintliga fördomar.”
Använda tekniska verktyg för att bygga etik i AI: “Ett av problemen med de som genomför AI är black-box-arten av djup inlärning och neuronnät. Detta gör det svårt att bygga öppenhet och kontrollera för systematiska fel.” Allt, vissa företag som använder teknik och skapa plattformar som bidrar till att hantera detta. Thieullent och hennes medförfattare punkt för att stimulera utvecklingen på marknaden, till exempel IBM: s AI OpenScale, öppen källkod verktyg och lösningar från AI nystartade företag som kan ge mer öppenhet och kolla för fördomar.
Skapa etik styrning och ansvar för AI-system: “Skapa tydliga roller och strukturer, tilldela etiska AI ansvar för att viktiga personer och grupper och ge dem.” Detta kan åstadkommas genom att “anpassa befintliga ledningsstrukturer för att bygga ansvar inom vissa grupper. Till exempel, gällande etik leder (till exempel brunswicks) i organisationen kunde åläggas ansvar tittar också på etiska frågor i AI.”
Det är också viktigt att ange “senior ledare som skulle ställas till svars för etiska frågor inom AI.” Thieullent och Capgemini team rekommenderar också “bygga intern och extern utskott som ansvarar för utbyggnaden av AI etiskt, som är oberoende och därför under inga påtryckningar för att rusa till AI utbyggnad.”
Bygga olika team för att säkerställa att den är känslig för hela spektrumet av etiska frågor som: “är Det viktigt att involvera olika grupper. Till exempel, organisationer, inte bara behovet av att bygga fler olika data-lag (i termer av kön eller etnisk tillhörighet), men också att aktivt skapa tvärvetenskapliga team av sociologer, beteendevetare och UI/UX-designers som kan ge ytterligare perspektiv under AI design.”
Relaterade Ämnen:
DET Prioriteringar
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem