Joe McKendrick Bidragyder
Joe McKendrick er en forfatter og uafhængig analytiker, der sporer informationsteknologiens indvirkning på ledelse og markeder. Som uafhængig analytiker har han forfattet adskillige forskningsrapporter i samarbejde med Forbes Insights, IDC og Unisphere Research, en afdeling af Information Today, Inc.
Fuldstændig biografi Udgivet i Service Oriented den 21. februar 2022 | Emne: Kunstig intelligens
Kunstig intelligens burde ikke skulle aktiveres gennem en “stor rød knap”, der leverer uigennemsigtige resultater, som alle håber er det sidste ord på et givet spørgsmål. Det burde snarere være under en vis grad af kontrol af mennesker i løkken, som kan få en fornemmelse af, hvad resultaterne fortæller dem.
Foto: Joe McKendrick
Det er ordet fra Ge Wang, lektor ved Stanford, som opfordrer til en menneskecentreret designtilgang til AI-applikationer og -systemer. I en nylig webcast arrangeret af Stanford HAI (Human-Centered AI) opfordrer Wang AI-udviklere og -designere til at træde tilbage og overveje menneskers vigtige rolle i løkken. “Vi er så langt væk fra svar i AI, at vi endnu ikke kender de fleste af spørgsmålene,” påpeger han.
Mange af nutidens AI-systemer er designet omkring den store røde knap, siger han. “Uanset hvad vi ønsker fra AI, så kommer vi til at trykke på knappen, og som ved et trylleslag vil det levere resultatet til os,” siger Wang. Opfattelsen er, at “AI har denne magiske kvalitet i den forstand, at den udviser denne, i mangel på et bedre ord, intelligens. Og den er i stand til at udføre komplekse opgaver. AI er den mest kraftfulde mønstergenkender, som vi nogensinde har bygget .”
Spørgsmålet bliver så, “hvad ønsker vi egentlig af kunstig intelligens?” fortsætter Wang. “Vil vi have orakler hele tiden, som bare giver os de rigtige svar uden nødvendigvis at vise dets arbejde? Eller vil vi have værktøjer? Ting, som vi kan bruge til at lære at blive bedre til? Og værktøjer, der per definition er interaktive til mennesket?”
Måden at bringe mennesker mere ind i AI-løkken behøver ikke nødvendigvis at være komplicerede. En yderst effektiv tilgang ville være at indføre “skydere” til at ledsage brugergrænseflader til AI-applikationer, foreslår Wang. AI-systemdesign “kunne begynde med et simpelt spørgsmål” 'Kan jeg sætte en skyder på dette?'” siger Wang. Hvad ville det betyde? Hvordan ville det gøre systemet mere nyttigt skråstreg interessant?”
Han nævner eksemplet med et af hans elevs projekter, et kunstig intelligenssystem, der oversætter juridiske dokumenter til almindeligt engelsk. “Det interessante er tilføjelsen af en skyder, der kontrollerer legaliseringen i outputtet,” fortæller han. “I det øjeblik, skyderen tilføjes, går dette fra et stift system med store knapper til et, hvor du kan kontrollere, men et, hvor også forskellige mennesker kan identificere sig tilbage til deres egen slags behov. Hvad nu, hvis vores værktøjer tillod os faktisk at gøre det. det med vores AI?”
Fordelen “ved denne form for menneske-i-løkken-design er, at du ofte står til at opnå betydelig gennemsigtighed i, hvordan systemet rent faktisk fungerer,” siger Wand. “Også, afhængigt af hvordan man designer det, er det en måde at inkorporere menneskelig dømmekraft på effektive måder. Det er bare trykvejende. Det ser vi faktisk hver gang, vi forsøger at bygge et system med mennesker i løkken. Vi bør presse vægt fra opbygning af den perfekte algoritme mod den store røde knap. Denne ting behøver ikke at være perfekt, ud af boksen for evigt, for ved du hvad? Mennesker er i stand til at forfine outputtet.'
Til gengæld tilpasninger såsom skydere, der muliggør større menneskelig kontrol over AI-output “aktiverer næsten altid mere kraftfulde systemer, ikke mindre,” opsummerer Wang.
AI – som med andre avancerede teknologier – vil ikke lykkes, hvis det blot er faldet oven på folks organisationer. Folk skal kunne udnytte AI-baserede værktøjer til at skabe og operationalisere ideer og tilgange, der vil hjælpe med at skabe en bedre verden for deres kunder og deres medarbejdere.
Enterprise Software | Digital Transformation | CXO | Internet of Things | Innovation | Smart Cities