Joe McKendrick är en författare och oberoende analytiker som spårar informationsteknologins inverkan på ledning och marknader. Joe är medförfattare, tillsammans med 16 ledande branschledare och tänkare, av SOA-manifestet, som beskriver värderingarna och vägledande principer för serviceorientering.
Fullständig biografi publicerad i Service Oriented den 24 december 2021 | Ämne: Artificiell intelligens
Med förtroendet för AI-baserade beslut och operationer som växer för varje dag, är det viktigt att ta ett steg tillbaka och fråga om allt som kan göras för att säkerställa rättvisa och minska fördomar görs. Det måste finnas större medvetenhet och utbildning bakom AI-utbyggnader. Inte bara för utvecklare och datavetare, utan också för produktchefer, chefer, marknadschefer och merchandisers. Det är ordet från John Boezeman, teknisk chef på Acoustic, som delade med sig av sina insikter om hur brådskande det är att få AI rätt.
Foto: Joe McKendrick
F: Hur långt är företagets ansträngningar för att uppnå rättvisa och eliminera partiskhet i AI-resultat?
Boezeman: Att försöka fastställa partiskhet eller skevhet i AI är ett mycket svårt problem och kräver mycket extra omsorg, tjänster och ekonomiska investeringar för att inte bara kunna upptäcka, utan sedan åtgärda och kompensera dessa problem. Många företag har oavsiktligt använt partisk eller ofullständig data i olika modeller; att förstå det och att ändra detta beteende kräver kulturella förändringar och noggrann planering inom ett företag.
De som arbetar under definierade dataetiska principer kommer att vara väl positionerade för att undvika partiskhet i AI, eller åtminstone kunna upptäcka och åtgärda det om och när det identifieras.
F: Gör företag tillräckligt för att regelbundet granska sina AI-resultat? Vad är det bästa sättet att göra detta?
Boezeman: Eftersom nya verktyg tillhandahålls kring granskningsbarheten av AI kommer vi att se många fler företag regelbundet granska sina AI-resultat. Idag köper många företag antingen en produkt som har en AI-funktion eller -kapacitet inbäddad eller så är den en del av den proprietära funktionen för den produkten, vilket inte exponerar granskbarheten.
Företag kan också stå upp för de grundläggande AI-funktionerna för ett specifikt användningsfall, vanligtvis i den AI-upptäcksnivån av användning. I vart och ett av dessa fall är dock revisionen vanligtvis begränsad. Där revision verkligen blir viktig är i “rekommendera” och “action” nivåer av AI. I dessa två faser är det viktigt att använda ett revisionsverktyg för att inte införa fördomar och förvränga resultaten.
Ett av de bästa sätten att hjälpa till med att granska AI är att använda en av de större molntjänstleverantörernas AI- och ML-tjänster. Många av dessa leverantörer har verktyg och tekniska stavar som låter dig spåra denna information. Nyckeln är också att identifiera fördomar eller bias-liknande beteenden som en del av utbildningen för datavetare och AI- och ML-utvecklare. Ju mer folk är utbildade om vad de ska hålla utkik efter, desto mer förberedda är företagen att identifiera och mildra AI-bias.
F: Bör IT-ledare och personal få mer utbildning och medvetenhet för att lindra AI-bias?
Boezeman: Absolut. Både datavetare och AI/ML-utvecklare behöver utbildning i bias och skevhet, men det är också viktigt att utöka denna utbildning till produktchefer, chefer, marknadschefer och merchandisers.
Det är lätt att falla i fällan att göra det du alltid har gjort, eller att bara gå efter ett partiskt tillvägagångssätt som många branscher har gjort tidigare. Men med utbildning kring att lindra AI-bias, kommer personal i hela din organisation att kunna identifiera bias snarare än att lita på att allt som AI producerar är fakta. Därifrån kan ditt företag hjälpa till att mildra dess påverkan.
F: AI- och maskininlärningsinitiativ har pågått i flera år nu. Vilka lärdomar har företag dragit när det gäller mest produktiva införande och implementering?
Boezeman: AI är inte ett universalmedel för att lösa allt. Jag har sett många försök att kasta AI på alla användningsfall, oberoende av om AI är rätt användningsfall, allt för att möjliggöra en marknadsföringshistoria utan att ge verkligt värde. Knepet för en framgångsrik implementering av en AI-lösning är en kombination av kvaliteten på data och kvaliteten på modellerna och algoritmerna som styr beslutet. Enkelt uttryckt, om du lägger in skräp kommer du att få ut skräp. De mest framgångsrika implementeringarna har ett tydligt användningsfall och väldefinierade data att arbeta med.
F: Vilka delar av organisationen har störst framgång med AI?
Boezeman: Det finns många olika stadier i AI, men oftast kan de kokas ner till tre grundläggande tillstånd: upptäck, rekommendera och automatisk åtgärd. Just nu är de platser jag ser att det används mest i Discover — insikter, varningar, notiser — rymden. Det är här systemet talar om för dig att något pågår onormalt eller utanför kända mönster, eller att något trendar i en riktning du bör bry dig om. Människor litar på den här typen av interaktion och modell och kan enkelt samarbeta om de vill ha bevis.
Marknadsförare använder AI i upptäckarutrymmet för att avgöra hur framgångsrika deras kampanjer är, till exempel. Ett annat exempel är en merchandiser som kan distribuera en AI-driven lösning för att upptäcka bedrägerier eller problem med kundresan.
Där jag fortfarande ser en hel del tveksamhet är i rekommendations- och handlingstillstånden. Jag brukade äga en produkt som beräknade det bästa priset för en produkt och beställde att visa dem i en webbutik, baserat på många datapunkter, från kvantitet, till lönsamhet, till tid till markdown, till lagringsutrymme som används i lager. Och även den här produkten kan, om du slår på den, automatiskt vidta åtgärder. Vad vi hittade är att många säljare gillar att se rekommendationen, men de ville personligen vidta åtgärder och ville också se flera alternativ, och slutligen ville de se beslutsträdet om varför systemet rekommenderade ett alternativ. När vi först lanserade det hade vi inte “Varför rekommenderade systemet XYZ?” funktionalitet. Tills vi tillhandahöll ett sätt att ge säljaren möjlighet att se vad rekommendationen var baserad på, litade de inte på den.
F: Vilka tekniker eller tekniska tillvägagångssätt gör störst skillnad?
Boezeman: Det finns många företag som är verksamma i den här sfären som uppfinner nya, effektiva tekniker varje dag. Spark och Amazon Sagemaker är två exempel. De tekniker som gör störst skillnad är dock de som gör att du kan identifiera fördomar i dina AI-modeller. När AI-algoritmer är partiska kan de leda till orättvisa och felaktiga resultat. Genom att kunna se partiskheten i systemet kan du sedan diagnostisera och mildra situationen. När branschen fortsätter att växa kommer detta att vara en viktig baslinjekapacitet som varje teknikstack måste stödja.
Företagsprogramvara | Digital transformation | CXO | Internet of Things | Innovation | Smarta städer