Nul
Den såkaldte black box af kunstig intelligens har været et emne for debat i de seneste år. Kan neurale netværk, hvis funktion indeholder “skjulte lag”, der trodser nemme forklaring nogensinde blive betroet med den mest følsomme opgaver, samfundet kan bede for dem?
En praktiserende læge tilbyder et stejlt “ja,” insisterer ældre tilgange til statistik og sandsynlighed, er ikke nødvendigvis mere gennemsigtig end i dag dyb læring.
Nitzan Mekel-Bobrov et år siden tiltrådte McLean, Va.-baseret Capital One Financial som sin kunstige intelligens chef.
På $36 mia i markedsværdi, Capital One overskygges af retail banking konkurrenter som JP Morgan Chase og Bank of America, men firmaet tager stolthed i sin brug af teknologi i hele sin drift, og Mekel-Bobrov forklaret i en time lange interview med ZDNet, hvordan machine learning griber hele dele af organisationen.
Også: Kan IBM eventuelt tamme AI for virksomheder?
Han tilbød også udvidet kommentar til nogle af de negative spin om dyb læring, som han ser det.
En myte om AI, der Mekel-Bobrov vil ikke tolerere, er forestillingen om, at der i dag er dybt læring er for mystisk, for meget af en black box for at være ansat i følsomme finansielle applikationer.
“Jeg køber ikke ind i forestillingen om, at det er en sort boks, og så kan du ikke bruge det,” sagde Mekel-Bobrov i et interview i denne uge.
“Hvis jeg tager en meget simpel lineær regression [en ældre form af statistiske løsning af ligninger], men nu har jeg oprette 10.000 af disse på tværs af en meget kompleks data økosystem, jeg nu har skabt noget, der er meget svært at forstå.”
Mekel-Bobrov for nylig vendt tilbage fra den prestigefyldte NeurIPS AI-konferencen i Montreal, hvor han deltog i en paneldiskussion med andre medlemmer af det økonomiske samfund, herunder overvejelse af de emner, fordomme og retfærdighed og explainability.
“En lejr sagde, dyb læring er i sagens natur mere af en sort boks, og derefter en anden lejr sagde, at Tilfældige Skove [en ældre statistiske metode] er så meget mere.”
Også: IBM, Apple og Facebook repræsenterer nye tilt mod forretning for ærværdige AI konference
Men, “jeg er i lejren, der siger, at det er kompleksiteten, der skaber uklarhed.”
“En god dyb tilgang til læring kunne give os mere komfort, som vi vide, hvad der sker i systemet, end der 1000 af disse menneske-skabt regler, der er skabt over 20 år.”
Der var lidt af en joke, han sagde, på værkstedet: Gør vi rent faktisk tror, at den aktuelle tilstand for anliggender i banker og kreditinstitutter er “meget let at forstå for forbrugerne?”
“Jeg er blevet afvist for kredit, og det er svært for mig at forstå, hvorfor,” siger Mekel-Bobrov. “Med machine learning, vi føler, vi kan faktisk hæve baren. Den menneskelige afgørelse stykke er meget fuzzy. Du kan stribe, der ud af og gøre tingene meget mere kan tolkes.”
Dyb læring er “kun lige nu ved at blive anvendt på skala og med heterogenitet,” bemærker han. “Det er derfor, jeg er optimistisk omkring vores evne til at drille hinanden de indre funktioner af kriterier for klassificering,” hvilket betyder, neurale netværk.
“Med systematisering, jeg føler stærkt, at vi kunne gøre tingene mere forklares og tolkes.”
I bankvæsen, af kursus, det spørgsmålet om den sorte boks er ikke et rent akademisk diskussion: Capital One har mere end én tilsynsmyndighed, bemærker han. Selv om, at virkeligheden er “en udfordring”, siger han, “det er også en mulighed for os til at tage føringen.”
Også: Google siger, ‘eksponentielle vækst af AI er ved at ændre karakter beregne
“Vi har incitament til at tage føringen her, hvor tech-virksomheder, ikke.”
“Vi har kun rulle ud machine learning, hvor vi føler os godt tilpas der er ingen fordomme eller manglende gennemsigtighed eller udfordringer-både fra en intern risiko perspektiv, og fra en ekstern regulering og velvære perspektiv.”
Omkring 70 procent af den tid, Kapital, Man bruger machine learning som en “forbruger” af teknologien, siger Mekel-Bobrov. De øvrige 30 procent, “vi er ML producenter”, der betyder, at bringe innovation til den grundlæggende teknologi.
Selv om virksomheden arbejder med populære AI rammer, som Google ‘ s TensorFlow, “Der er ikke noget, vi kan tage som det er, og der er et væld af re-arbejde og optimering, der har til at ske.”
“For eksempel, med naturligt sprog forarbejdning, der er visse forudsigelser, vi ønsker at gøre for at hjælpe kunder med at nå deres økonomiske mål, som er baseret på word embeddings, der er — de er meget unikt for vores forhold.”
Et område, hvor Kapital er En “virkelig presser den cutting edge” i anvendelse af machine learning er på “personalisering” af service, siger Mekel-Bobrov. Han gør en analogi til Netflix eller Amazon ‘ s henstilling motorer. “Vi beundrer en masse af, hvad de gør, men de sælger et enkelt produkt, og vi er ikke i færd med at sælge et produkt, vi er i færd med relationer, og vi er nødt til at forstå kunden dybt og kontinuerligt.”
Det indebærer at studere en hel overflod af “heterogene” data-point trukket fra tekst, e-mail, telefonopkald, og mange af sådanne “ustrukturerede” data. Ting som “lang og kort sigt hukommelse” netværk, eller LSTM, der specialiserer sig i behandling af sekventiel data, kan være nyttige i tracking point for interaktion over mange år, siger han. Men det er kun begyndelsen. “Vi ved ikke, hvilke funktioner sagen” til en neurale netværk i forhold til kunderne, “Vi aktivt ønsker at lære dem. Vi virkelig ønsker at bruge AI til at efterligne de forhold, at to mennesker ville have.”
Skal læse
“AI er meget, meget dum, “siger Google’ s AI-leder (CNET)Baidu skaber Kunlun silicium til AIUnified Google AI division et klart signal om, at AI ‘ s fremtid (TechRepublic)
Et område, han er entusiastisk, men bevogtet, om, er afsløring af svig og forebyggelse.
“Svindel på et stryg er væsentligt forbedret baseret på machine-learning baseret rammer,” siger Mekel-Bobrov. Presset til at give en forklaring eller en detaljeret beskrivelse Mekel-Bobrov demures, siger, “du ville blive overrasket over den sofistikerede svindlere, at læse noget i en artikel] og test dem, forsvar… Lad os bare sige, at det afhænger af en række ting, herunder netværk, model, den vægt, de parametre, funktion, teknik, men også virkelig at holde den arkitektur, der er meget tæt på virksomhedens problem.”
Spurgte, om banken venter på en bestemt fremskridt på det bredere felt af machine learning, Mekel-Bobrov siger, “Det største jeg kan tænke på er mobile.”
“Der er visse ting i mobile, der vil udløse for os nyere kapaciteter i vores app og i vores mobile platforme.” For eksempel, han vil gerne se en mulighed for real-time “scoring” af neurale netværk i en mobil app. En anden er “model personalisering, en fremtid, hvor der er en [netværk] model for en person.”
“Det er muligt nu, men ikke på en praktisk måde, ikke indtil beregne bliver endnu bedre end det er nu, både i form af inferens og uddannelse.”
Tidligere og relaterede dækning:
Hvad er AI? Alt, hvad du behøver at vide
En executive guide til kunstig intelligens, fra machine learning og generelt AI til neurale netværk.
Hvad er dyb læring? Alt, hvad du behøver at vide
Den lowdown på en dyb læring: fra hvordan det relaterer til det bredere felt af machine learning igennem til, hvordan du kommer i gang med det.
Hvad er machine learning? Alt, hvad du behøver at vide
Denne vejledning forklarer, hvad machine learning er, hvordan det er relateret til kunstig intelligens, hvordan det fungerer, og hvorfor det er vigtigt.
Hvad er cloud computing? Alt, hvad du behøver at vide om
En introduktion til cloud computing-lige fra det grundlæggende op til IaaS og PaaS, hybrid, offentlige og private cloud.
Relaterede Emner:
Virksomhedens Software
Digital Transformation
CXO
Tingenes Internet
Innovation
Intelligente Byer
0