För företag som Google och Microsoft, artificiell intelligens är en stor del av sin framtid, som erbjuder olika sätt att förbättra befintliga produkter och skapa helt nya intäktsströmmar. Men, som framgick av den senaste tidens finansiella rapporter, både företag erkänner också att AI — särskilt partisk AI som gör dåliga beslut — skulle kunna skada deras varumärken och företag.
Dessa upplysningar, fläckig av Fast, har gjorts i företag’ 10-K former. Dessa är standardiserade dokument som företag är juridiskt skyldiga att lämna varje år, vilket ger investerare en bred översikt av deras verksamhet och den senaste tidens ekonomi. I segmentet med rubriken “riskfaktorer”, både Microsoft och Alfabetet, Googles moderbolaget tog upp AI för första gången.
Från Alfabetet är 10-K, in förra veckan:
“[N]ya produkter och tjänster, inklusive sådana som innehåller eller använder artificiell intelligens och maskininlärning, kan anskaffa nya eller förvärra befintliga etiska, tekniska, juridiska och andra utmaningar, som kan negativt påverka våra varumärken och efterfrågan för våra produkter och tjänster och negativt påverka våra intäkter och rörelseresultat.”
Och från Microsofts 10-K, in i augusti förra året:
“AI-algoritmer kan vara bristfällig. Uppgiftsuppsättningar kan vara otillräcklig eller innehåller partisk information. Olämplig eller kontroversiella uppgifter praxis av Microsoft eller andra kan försämra godkännande av AI lösningar. Dessa brister skulle kunna undergräva de beslut, förutsägelser, eller analys AI-program för att producera, att utsätta oss att konkurrensskada, rättsligt ansvar, varumärke eller anseende skada. Några AI-scenarier fram etiska frågor. Om vi aktivera eller erbjuda AI lösningar som är kontroversiella på grund av deras inverkan på mänskliga rättigheter, personlig integritet, sysselsättning eller andra sociala frågor, som vi kan uppleva varumärke eller anseende skada.”
Dessa upplysningar inte, på det stora hela, väldigt överraskande. Idén om den “risk faktorer” – segmentet är att hålla investerare information, men också minska framtida stämningar som kan anklagar ledningen för att dölja potentiella problem. På grund av detta tenderar de att vara mycket bred i sitt uppdrag, som täcker även de mest uppenbara sätt ett företag kan gå fel. Detta kan innefatta problem som “någon gjort en bättre produkt än oss och nu ska vi inte har några kunder,” och “vi tillbringade alla våra pengar så nu inte har några”.
Men, Fast Tom Simonite påpekar, det är lite märkligt att dessa företag är bara att notera AI som en potentiell faktor nu. Efter alla, båda har varit att utveckla AI produkter för år, från Googles självstyrande bil initiativ, som inleddes 2009, att Microsofts lång odyssé med konversera plattformar som Cortana. Denna teknik ger gott om möjligheter för brand skada, och i vissa fall redan har. Kom ihåg när Microsoft Tay chatbot gick live på Twitter och började sprutande rasistiskt nonsens i mindre än en dag? År senare, är det en fortfarande regelbundet nämns som ett exempel på en AI som gått fel.
Men du kan också hävda att den allmänna medvetenheten om artificiell intelligens och dess potentiella negativa effekter har vuxit enormt under det senaste året. Skandaler som Google ‘ s secret arbete med Pentagon under Projektet Maven, Amazon är partisk programvara för ansiktsigenkänning, och Facebook är algoritmisk inkompetens med Cambridge Analytica skandal har alla väckt problem med dåligt genomförda AI i strålkastarljuset. (Intressant, trots liknande exponering, varken Amazon eller Facebook nämna AI risken i sin senaste 10-Ks.)
Och Microsoft och Google gör mer än många företag att hålla sig à jour med denna fara. Microsoft, till exempel, hävdar att programvara för ansiktsigenkänning måste regleras för att skydda mot potentiella skador, medan Google har börjat sakta verksamheten i dialog med beslutsfattare och forskare om AI styrning. Ge investerare en head ‘ s up för bara verkar rättvist.