Joe McKendrick er en forfatter og uavhengig analytiker som sporer innvirkningen av informasjonsteknologi på ledelse og markeder. Joe er medforfatter, sammen med 16 ledende industriledere og tenkere, av SOA-manifestet, som skisserer verdiene og veiledende prinsippene for serviceorientering.
Full Bio Posted in Service Oriented 24. desember 2021 | Emne: Kunstig intelligens
Med avhengigheten av AI-baserte beslutninger og operasjoner som vokser for hver dag, er det viktig å ta et skritt tilbake og spørre om alt som kan gjøres for å sikre rettferdighet og redusere skjevhet blir gjort. Det må være større bevissthet og opplæring bak AI-distribusjoner. Ikke bare for utviklere og dataforskere, men også for produktsjefer, ledere, markedssjefer og selgere. Det er ordet fra John Boezeman, teknologisjef i Acoustic, som delte sin innsikt om hvor viktig det er å få AI riktig.
Foto: Joe McKendrick
Spørsmål: Hvor langt er bedriftens innsats for å oppnå rettferdighet og eliminere skjevheter i AI-resultater?
Boezeman: Å prøve å finne skjevheter eller skjevheter i AI er et veldig vanskelig problem og krever mye ekstra omsorg, tjenester og økonomiske investeringer for ikke bare å kunne oppdage, men deretter fikse og kompensere disse problemene. Mange selskaper har utilsiktet brukt partiske eller ufullstendige data i forskjellige modeller; å forstå det og endre denne atferden krever kulturelle endringer og nøye planlegging i et selskap.
De som opererer under definerte dataetiske prinsipper vil være godt posisjonert for å unngå skjevheter i AI, eller i det minste være i stand til å oppdage og utbedre det hvis og når det blir identifisert.
Spørsmål: Gjør selskaper nok for regelmessig å gjennomgå AI-resultatene sine? Hva er den beste måten å gjøre dette på?
Boezeman: Ettersom det kommer nye verktøy rundt reviderbarheten til AI, vil vi se at mange flere selskaper jevnlig gjennomgår AI-resultatene sine. I dag kjøper mange selskaper enten et produkt som har en AI-funksjon eller -funksjon innebygd, eller det er en del av den proprietære funksjonen til det produktet, som ikke avslører reviderbarheten.
Bedrifter kan også stå opp for de grunnleggende AI-funksjonene for et spesifikt brukstilfelle, vanligvis i det AI-oppdagelsesnivået. I hvert av disse tilfellene er imidlertid revisjonen vanligvis begrenset. Hvor revisjon virkelig blir viktig er i “anbefal” og “handling” nivåer av AI. I disse to fasene er det viktig å bruke et revisjonsverktøy for ikke å introdusere skjevheter og skjevheter i resultatene.
En av de beste måtene å hjelpe med å revidere AI er å bruke en av de større skytjenesteleverandørenes AI- og ML-tjenester. Mange av disse leverandørene har verktøy og teknologistabler som lar deg spore denne informasjonen. Nøkkelen er også for å identifisere skjevhet eller bias-lignende oppførsel som en del av opplæringen for dataforskere og AI- og ML-utviklere. Jo mer folk er utdannet om hva de skal se etter, jo mer forberedt vil selskaper være til å identifisere og redusere AI-skjevhet.
Spørsmål: Bør IT-ledere og ansatte motta mer opplæring og bevissthet for å lindre AI-bias?
Boezeman: Definitivt. Både dataviterne og AI/ML-utviklere trenger opplæring i skjevheter og skjevheter, men det er også viktig å utvide denne opplæringen til produktsjefer, ledere, markedssjefer og selgere.
Det er lett å gå i fellen med å gjøre det du alltid har gjort, eller å bare gå etter en skjevhetssentrisk tilnærming som mange bransjer har gjort tidligere. Men med opplæring i å lindre AI-bias, vil ansatte på tvers av organisasjonen din kunne identifisere skjevheter i stedet for å stole på at alt AI produserer er fakta. Derfra kan bedriften din bidra til å redusere effekten.
Spørsmål: AI og maskinlæringsinitiativer har vært i gang i flere år nå. Hvilken lærdom har bedrifter lært når det gjelder mest produktiv bruk og distribusjon?
Boezeman: AI er ikke et universalmiddel for å løse alt. Jeg har sett mange forsøk på å kaste AI på en hvilken som helst brukssituasjon, uavhengig av om AI er den rette brukssaken, alt for å muliggjøre en markedsføringshistorie uten å gi reell verdi. Trikset for vellykket distribusjon av en AI-løsning er en kombinasjon av kvaliteten på dataene og kvaliteten på modellene og algoritmene som styrer beslutningen. Enkelt sagt, hvis du legger søppel inn, får du søppel ut. De mest vellykkede distribusjonene har et skarpt bruksområde og veldefinerte data å bruke.
Spørsmål: Hvilke områder i organisasjonen har størst suksess med AI?
Boezeman: Det er mange forskjellige stadier i AI, men for det meste kan de kokes ned til tre grunnleggende tilstander: oppdage, anbefale og automatisk handling. Akkurat nå er stedene jeg ser det mest brukt i Discover — innsikt, varsler, varsler — plass. Det er her systemet forteller deg at noe skjer unormalt eller utenfor kjente mønstre, eller at noe trender i en retning du bør bry deg om. Folk stoler på denne typen interaksjon og modell, og kan enkelt samarbeide hvis de ønsker bevis.
Markedsførere utnytter AI i oppdagelsesområdet for å finne ut hvor vellykkede kampanjene deres er, for eksempel. Et annet eksempel er en selger som kan distribuere en AI-drevet løsning for å oppdage svindel eller problemer med kundereisen.
Der jeg fortsatt ser mye nøling er i anbefalings- og handlingstilstandene. Jeg pleide å eie et produkt som beregnet den beste prisen for et produkt og bestille for å vise dem i en nettbutikk, basert på mange datapunkter, fra kvantitet, til lønnsomhet, til tid til prisnedgang, til lagringsplass brukt på lager. Og selv dette produktet kan, hvis du slår det på, automatisk iverksette tiltak. Det vi fant er at mange selgere liker å se anbefalingen, men de ønsket personlig å iverksette tiltak, og ønsket også å se flere alternativer, og til slutt ønsket de å se beslutningstreet om hvorfor systemet anbefalte et alternativ. Da vi først lanserte det, hadde vi ikke “Hvorfor anbefalte systemet XYZ?” funksjonalitet. Før vi ga en måte å gi selgeren muligheten til å se hva anbefalingen var basert på, stolte de ikke på den.
Sp: Hvilke teknologier eller teknologitilnærminger utgjør den største forskjellen?
Boezeman: Det er mange selskaper som opererer i dette riket som oppfinner nye, virkningsfulle teknologier hver dag. Spark og Amazon Sagemaker er to eksempler. Teknologiene som utgjør den største forskjellen er imidlertid de som lar deg identifisere skjevheter i AI-modellene dine. Når AI-algoritmer er partiske, kan de føre til urettferdige og uriktige resultater. Ved å kunne se skjevheten i systemet, kan du diagnostisere og redusere situasjonen. Ettersom industrien fortsetter å vokse, vil dette være en nøkkelfunksjon som hver teknologistabel må støtte.
Enterprise Software | Digital transformasjon | CXO | Internet of Things | Innovasjon | Smarte byer