Nul
De zogenaamde black box van kunstmatige intelligentie is een onderwerp van veel discussie in de afgelopen jaren. Kan neurale netwerken waarvan de werking met “verborgen lagen” die defy eenvoudige uitleg ooit worden vertrouwd met de meest gevoelige taken van de maatschappij zou kunnen vragen?
Eén beroepskracht heeft een rotsvast van overtuigd “ja” aan te dringen oudere benaderingen voor de statistiek en waarschijnlijkheid, zijn niet per se meer transparant dan sommige van vandaag diep leren.
Nitzan Mekel-Bobrov een jaar geleden zijn toegetreden tot McLean, Va.-gebaseerd Capital One Financial als de kunstmatige intelligentie en machine learning chief voor de card business.
Op $36 miljard aan beurswaarde, Capital One in het niet valt bij retail banking concurrenten, zoals JP Morgan Chase en Bank of America, maar het bedrijf is trots op haar gebruik van technologie in de gehele bedrijfsvoering en Mekel-Bobrov uitgelegd in een uur lang interview met ZDNet hoe machine learning groeit in delen van de organisatie.
Ook: Kan IBM eventueel tamme AI voor ondernemingen?
Hij bood ook uitgebreid commentaar op een aantal van de negatieve spin over diep leren, zoals hij het ziet.
Een mythe over AI, dat Mekel-Bobrov niet verdraagt, is het idee dat de huidige diepe benaderingen zijn universeel te mystieke, te veel een black box om tewerkgesteld te worden in de gevoelige financiële toepassingen.
“Ik heb geen buy-in voor het begrip, het is allemaal een black box en dus kan je niet gebruiken,” zei Mekel-Bobrov in een interview deze week.
“Als ik in een zeer eenvoudige lineaire regressie [een oudere vorm van statistische vergelijking oplossen], maar nu maak ik 10.000 van deze in een zeer complexe data-ecosysteem, ik heb nu iets gemaakt dat is heel moeilijk te begrijpen.”
Mekel-Bobrov onlangs terug uit het prestigieuze NeurIPS AI-conferentie in Montreal, waar hij deelnam aan een paneldiscussie met de andere leden van de financiële gemeenschap, met inbegrip van de inachtneming van de onderwerpen van de afwijking en de eerlijkheid en explainability.
“Een kamp zei diep leren is per definitie meer van een zwarte doos, en dan nog een kamp zei dat de Random Bossen [een oudere statistische benadering] meer zo.”
Ook: IBM, Apple en Facebook vertegenwoordigen nieuwe kantelen in de richting van het bedrijfsleven voor eerbiedwaardige AI conferentie
Maar, “ik ben in het kamp dat zegt dat het de complexiteit die ontstaat dekking.”
“Een goede deep learning aanpak ons kon geven meer comfort dat we weten wat er gebeurt in het systeem dan 1000 van deze door de mens gecreëerde regels gemaakt over 20 jaar.”
Er was een beetje een grap, hij zei bij de workshop: denken we dat de huidige stand van zaken in de bank-en credit is “zeer eenvoudig te begrijpen voor de consument?”
“Ik heb het afgewezen worden voor het krediet-en het is moeilijk voor mij om te begrijpen waarom,” zegt Mekel-Bobrov. “Met machine learning, we voelen ons in feite kunnen we de lat. De menselijke beslissing stuk is zeer onduidelijk. U kunt de strip en de dingen veel meer interpretable.”
Diep leren ‘ alleen maar nu wordt toegepast op grote schaal en heterogeniteit,” constateert hij. “Dat is waarom ik ben optimistisch over onze mogelijkheden om te plagen elkaar de innerlijke werking van de classifiers,” wat betekent dat, neurale netwerken.
“Met systemization, ik voel me sterk konden we dingen meer verklaarbaar en interpretable.”
In het bankwezen, natuurlijk, de kwestie van de zwarte doos is niet een louter academische discussie: Een Kapitaal heeft van meer dan één toezichthouder, constateert hij. Hoewel dat feit is “een uitdaging”, zegt hij, “het is ook een kans voor ons en de industrie het voortouw te nemen.”
Ook: Google zegt ‘exponentiële groei’ van de AI is het veranderen van de aard van het berekenen van
Verordening zelf is geen grap, hij avers. “We hebben de incentive om het voortouw te nemen hier, waar de tech bedrijven niet.”
“We hebben slechts de uitrol van machine learning waar we voelen er zijn geen vooroordelen of gebrek aan transparantie of uitdagingen-zowel van een interne risico-perspectief, en vanuit een externe regelgeving en welzijn perspectief.”
Ongeveer 70 procent van de tijd, Capital One is met behulp van machine learning als “consument” van de technologie, zegt Mekel-Bobrov. De overige 30 procent, “we ML producenten,” wat betekent dat, om innovatie op de fundamentele technologie.
Hoewel het bedrijf werkt met populaire AI kaders, zoals Google ‘ s TensorFlow, “Er is niets dat we kunnen gewoon zoals het is; er is een ton van re-work en optimalisatie moet gebeuren.”
“Bijvoorbeeld, met een natuurlijke taal verwerking, zijn er bepaalde voorspellingen die we willen maken om klanten te helpen hun financiële doelstellingen op basis van word-embeddings dat zijn — ze zijn zeer uniek is voor onze omstandigheden.”
Een gebied waar het Kapitaal is “echt duwen de cutting edge” in het gebruik van machine learning in de “aanpassing” van de dienst, zegt Mekel-Bobrov. Hij maakt een vergelijking met Netflix en Amazon is de aanbeveling van motoren. “We genieten van een veel van wat ze doen, maar ze zijn het verkopen van een product; wij zijn niet in de business van het verkopen van een product, wij zijn in de zaken van relaties, en te begrijpen, moeten we de klant diep en continu.”
Dat houdt in het bestuderen van een hele reeks van “heterogeen” data punten getrokken uit tekst, e-mail, telefoontjes, en tal van dergelijke “ongestructureerde” gegevens. Dingen zoals “lange korte-termijn geheugen van een” netwerken, of LSTM, die gespecialiseerd zijn in de verwerking van sequentiele data, kan nuttig zijn in het bijhouden van de punten van interactie in de loop van vele jaren, zegt hij. Maar dat is slechts het begin. “We weten niet wat zijn de kenmerken van materie” naar een neuraal netwerk in de relatie met de klant, “We willen actief leren. Eigenlijk willen We het gebruik van AI om na te bootsen de relatie die twee mensen zou hebben.”
Moet lezen
‘AI is heel, heel stom,’ zegt Google AI leider (CNET)Baidu maakt Kunlun silicium voor AIUnified Google AI afdeling een duidelijk signaal van AI ‘ s toekomst (TechRepublic)
Een gebied dat hij is enthousiast, maar bewaakt, over, is fraude detectie en preventie.
“De fraude op een uithaal is wezenlijk verbeterd op basis van machine-learning gebaseerde frameworks,” zegt Mekel-Bobrov. Ingedrukt tot het geven van een toelichting of een gedetailleerde beschrijving, Mekel-Bobrov demures, zeggende: “je zou verbaasd zijn door de verfijning van de fraudeurs, het lezen van iets [in een artikel] en testen die verdediging… Laten we gewoon zeggen, dit is afhankelijk van een aantal dingen, waaronder het netwerk model, de gewichten, de parameters van de functie engineering, maar ook echt houden van de architectuur zeer dicht bij het zakelijke probleem.”
Gevraagd wordt of de bank is wachten op een bepaalde ontwikkelingen in het bredere veld van machine learning, Mekel-Bobrov zegt, “De grootste die ik kan bedenken is mobiel.”
“Er zijn bepaalde dingen in mobile dat zal ontketenen voor ons een nieuwere mogelijkheden in onze app en onze mobiele platforms.” Bijvoorbeeld, hij zou graag zien dat er een mogelijkheid voor real-time “scoren” van neurale netwerken in een mobiele app. Een ander is een “model personalisatie, een toekomst waar sprake is van een [netwerk] in het model voor een individu.”
“Het is nu mogelijk, maar niet op een praktische manier, niet tot het berekenen wordt nog beter dan het nu is, zowel in termen van relaties en opleiding.”
Vorige en aanverwante dekking:
Wat is AI? Alles wat je moet weten
Een executive gids voor kunstmatige intelligentie, van machine learning en algemene AI-neurale netwerken.
Wat is diep leren? Alles wat je moet weten
De lowdown op diep leren: van hoe het zich verhoudt tot het bredere veld van machine-leren door te zien hoe aan de slag met het.
Wat is machine learning? Alles wat je moet weten
In deze gids wordt uitgelegd wat ‘machine learning’ is, hoe het is in verband met kunstmatige intelligentie, hoe het werkt en waarom het belangrijk is.
Wat is cloud computing? Alles wat u moet weten over
Een introductie van cloud computing recht vanaf de basis tot IaaS en PaaS -, hybride -, public en private cloud.
Verwante Onderwerpen:
Enterprise Software
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Smart Cities
0