Joe McKendrick er en forfatter og uafhængig analytiker, der sporer informationsteknologiens indvirkning på ledelse og markeder. Joe er medforfatter, sammen med 16 førende industriledere og tænkere, af SOA-manifestet, som skitserer værdierne og de vejledende principper for serviceorientering.
Fuldstændig biografi Udgivet i Service Oriented den 24. december 2021 | Emne: Kunstig intelligens
Da afhængigheden af AI-baserede beslutninger og operationer vokser dag for dag, er det vigtigt at træde et skridt tilbage og spørge, om alt, hvad der kan gøres for at sikre retfærdighed og afbøde skævhed, bliver gjort. Der skal være større opmærksomhed og træning bag AI-implementeringer. Ikke kun for udviklere og dataforskere, men også for produktchefer, ledere, marketingchefer og merchandisere. Det er ordet fra John Boezeman, teknologichef hos Acoustic, som delte sin indsigt om, hvor meget det haster med at få AI rigtigt.
Foto: Joe McKendrick
Q: Hvor langt er virksomhedens indsats for at opnå retfærdighed og eliminere skævhed i AI-resultater?
Boezeman: At prøve at bestemme skævhed eller skævhed i AI er et meget vanskeligt problem og kræver en masse ekstra pleje, tjenester og økonomiske investeringer for ikke kun at kunne opdage, men derefter rette og kompensere disse problemer. Mange virksomheder har utilsigtet brugt skæve eller ufuldstændige data i forskellige modeller; at forstå og ændre denne adfærd kræver kulturelle ændringer og omhyggelig planlægning i en virksomhed.
De, der opererer under definerede dataetiske principper, vil være godt positioneret til at undgå bias i AI, eller i det mindste være i stand til at opdage og afhjælpe det, hvis og når det identificeres.
Sp: Gør virksomheder nok for regelmæssigt at gennemgå deres AI-resultater? Hvad er den bedste måde at gøre dette på?
Boezeman: Efterhånden som der kommer nye værktøjer omkring auditerbarheden af AI, vil vi se mange flere virksomheder regelmæssigt gennemgå deres AI-resultater. I dag køber mange virksomheder enten et produkt, der har en AI-funktion eller -kapacitet indlejret, eller det er en del af det pågældende produkts proprietære funktion, hvilket ikke afslører reviderbarheden.
Virksomheder kan også stå for de grundlæggende AI-egenskaber for en specifik use case, normalt i det AI-opdagelsesniveau. I hvert af disse tilfælde er revisionen dog normalt begrænset. Hvor revision virkelig bliver vigtig, er i “anbefal” og “handling” niveauer af AI. I disse to faser er det vigtigt at bruge et revisionsværktøj for ikke at indføre skævhed og skævvridning af resultaterne.
En af de bedste måder at hjælpe med revision af AI er at bruge en af de større cloud-tjenesteudbyderes AI- og ML-tjenester. Mange af disse leverandører har værktøjer og teknologiske stakke, der giver dig mulighed for at spore disse oplysninger. Det er også vigtigt at identificere bias eller bias-lignende adfærd som en del af uddannelsen for dataforskere og AI- og ML-udviklere. Jo mere folk er uddannet i, hvad de skal holde øje med, jo mere forberedte vil virksomheder være til at identificere og afbøde AI-bias.
Spørgsmål: Bør it-ledere og personale modtage mere træning og bevidsthed for at afhjælpe AI-bias?
Boezeman: Absolut. Både dataforskerne og AI/ML-udviklere har brug for træning i bias og skævhed, men det er også vigtigt at udvide denne uddannelse til produktchefer, ledere, marketingchefer og merchandisere.
Det er let at falde i fælden med at gøre, hvad du altid har gjort, eller kun at gå efter en bias-centreret tilgang, som mange industrier har gjort tidligere. Men med træning omkring afhjælpning af AI-bias vil personale på tværs af din organisation være i stand til at identificere bias i stedet for at stole på, at alt hvad AI producerer er fakta. Derfra kan din virksomhed hjælpe med at afbøde dens påvirkning.
Sp: AI og maskinlæringsinitiativer har været undervejs i flere år nu. Hvilke erfaringer har virksomheder lært med hensyn til den mest produktive indførelse og implementering?
Boezeman: AI er ikke et vidundermiddel til at løse alt. Jeg har set mange forsøg på at kaste AI på enhver use case, uafhængig af om AI er den rigtige use case, alt sammen for at muliggøre en marketinghistorie uden at give reel værdi. Tricket til en vellykket implementering af en AI-løsning er en kombination af kvaliteten af dataene og kvaliteten af de modeller og algoritmer, der driver beslutningen. Kort sagt, hvis du putter skrammel ind, får du skrammel ud. De mest succesrige udrulninger har en skarp use case og veldefinerede data at arbejde med.
Sp: Hvilke områder af organisationen oplever størst succes med kunstig intelligens?
Boezeman: Der er mange forskellige stadier i kunstig intelligens, men for det meste kan de koges ned til tre grundlæggende tilstande: opdage, anbefale og automatisk handling. Lige nu er de steder, jeg ser det mest brugt, i Discover — indsigt, advarsler, notifikationer — space. Det er her systemet fortæller dig, at noget foregår unormalt eller uden for kendte mønstre, eller noget er på vej i en retning, du bør bekymre dig om. Folk stoler på denne form for interaktion og model og kan nemt samarbejde, hvis de vil have beviser.
Markedsførere udnytter AI i opdagelsesrummet til at afgøre, hvor succesrige deres kampagner er, f.eks. Et andet eksempel er en merchandiser, der kan implementere en AI-drevet løsning til at opdage svindel eller problemer med kunderejsen.
Der, hvor jeg stadig ser en del tøven, er i anbefalings- og handlingstilstandene. Jeg plejede at eje et produkt, der beregnede den bedste pris for et produkt og for at vise dem i en webbutik, baseret på mange datapunkter, fra mængde, til rentabilitet, til tid til nedskrivning, til lagerplads, der bruges på lager. Og selv dette produkt kunne, hvis du tændte det, automatisk handle. Det, vi fandt, er, at mange sælgere kan lide at se anbefalingen, men de ønskede personligt at handle og ville også se flere muligheder, og endelig ønskede de at se beslutningstræet om, hvorfor systemet anbefalede en mulighed. Da vi først lancerede det, havde vi ikke “Hvorfor anbefalede systemet XYZ?” funktionalitet. Indtil vi tilbød en måde at give sælgeren mulighed for at se, hvad anbefalingen var baseret på, stolede de ikke på den.
Sp: Hvilke teknologier eller teknologiske tilgange gør den største forskel?
Boezeman: Der er mange virksomheder, der opererer i dette område, som opfinder nye, virkningsfulde teknologier hver dag. Spark og Amazon Sagemaker er to eksempler. De teknologier, der dog gør den største forskel, er dem, der gør dig i stand til at identificere bias i dine AI-modeller. Når AI-algoritmer er forudindtaget, kan de føre til uretfærdige og ukorrekte resultater. Ved at være i stand til at se bias i systemet, kan du derefter diagnosticere og afbøde situationen. Efterhånden som industrien fortsætter med at vokse, vil dette være en vigtig baseline-evne, som hver teknologistack skal understøtte.
Enterprise Software | Digital transformation | CXO | Internet of Things | Innovation | Smarte byer