Noll
IBM säger att det kommer att lansera en cloud programvara som utformats för att hantera artificiell intelligens distributioner, upptäcka bias i modeller och lindra dess effekter och följa upp beslut i flera ramar.
De drag av IBM belyser hur AI förvaltning blir mer av en fråga som företag utnyttja maskinen lärande och olika modeller för att fatta beslut. Befattningshavare kommer sannolikt att ha svårt att förstå modeller och data vetenskap under huven.
IBM säger att dess teknik kommer att övervaka AI så att företagen följer reglerna. Dessutom, IBM: s mjukvara fungerar med modeller som bygger på lärande ramar som Watson, Tensorflow, SparkML, AWS SageMaker, och AzureML.
Under tiden, IBM säger att det kommer att öppen källkod IBM Research bias identifieringsverktyg via det man kallar sin AI Rättvisa 360 toolkit. Verktygslådan kommer att ge ett bibliotek av nya algoritmer, kod och handledning. Förhoppningen är att akademiker, forskare och data forskare kommer att integrera detection bias i sina modeller. IBM: s AI bias upptäckt verktyg som finns på Github.
Ritika Gunnar, vice vd för IBM Watson Data och AI, sade i en intervju att bristen på förtroende och öppenhet med AI modeller håller tillbaka enterprise installationer på skalan och i produktionen. Enkelt uttryckt, modellerna är fortfarande på hyllan på grund av oro för hur beslutsfattande i realtid kan skada ett företag. “Det är ett verkligt problem och förtroende är en av de mest viktiga saker att förebygga AI skala i produktionsmiljöer,” sade hon.
Även: Gratis PDF ladda ner: Data, AI, IoT: framtiden för detaljhandeln
Strategiskt, IBMS flytta vettigt. IBM hoppas att förse Watson AI, men också hantera AI och maskininlärning installationer generellt. Det är bara en tidsfråga innan AI Management blir en akronym bland teknik-leverantörer. IBM säger att det planerar att ge förklaringar som visar hur olika faktorer vägdes, förtroende för rekommendationer, precision, prestanda, rättvisa och härstamning av AI-system.
Det är lite insyn i de modeller som säljs, inneboende partiskhet, eller finstilta. IBM Research har nyligen föreslagit en ansträngning för att lägga till motsvarande en UL-rating till AI tjänster.
IBM säger att det också kommer att erbjuda tjänster för företag som söker för att bättre hantera AI och undvika svarta lådan tänkande.
Big Blue ‘ s research unit nyligen skrivit en vitbok som beskriver dess ta på AI bias och hur man kan förhindra det. IBMS Institute for Business Value fann att 82 procent av företagen med tanke på AI-distributioner, men 60 procent rädsla ansvarsfrågor.
Gunnar konstaterade att AI bias går långt utöver de faktorer som kön och ras. Ett scenario av AI bias kunde kretsa kring ett anspråk på försäkrings-process och en reglerare att fatta ett beslut om att godkänna eller avslå ett yrkande. Poster såsom hur länge en politik som hölls, värdet av ett fordon, ålder samt postnummer kan spela in vad Gunnar som kallas “icke-samhälleliga fördomar.”
IBM: s Rättvisa 360 open source-verktyg inkluderar tutorials på AI bias på credit scoring, kostnader för läkarvård och könsdiskriminering i ansiktet bilder.
Mer AI:
Inside the black box: att Förstå AI beslutsfattandeTid att bryta AI ‘ s black box, och hålla den öppenAI marker för big data och ML: Svåra val i molnet och on-premise Infographic: Hälften av företagen planerar att använda AI, men har inte räknat ut detaljerFem sätt ditt företag kan komma igång att genomföra AI och MLVarför AI och ML måste vara en del av din digitala omvandling planerBör Amazon vara din AI och maskinen lärplattform?Skulle Google vara din AI och maskinen lärplattform?Ska Microsoft vara din AI och maskinen lärplattform?Bör vara IBM din AI och maskinen lärplattform?
Relaterade Ämnen:
Cloud
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem
0