Nul
IBM Research foreslår, at kunstig intelligens bør komme med en gennemsigtig dokument, som skitserer slægt, specifikationer og anvisninger.
Under sin Betroede AI indsats, IBM Research, offentliggjort et dokument, som opfordrer til, at leverandørens overensstemmelseserklæring (SDoC) for AI-tjenester. Denne erklæring omfatter oplysninger om ydeevne, sikkerhed og sikkerhed.
Tid til at bryde åbne AI ‘ s black box, og holde den åben | Hvad er AI? Alt, hvad du behøver at vide om Kunstig Intelligens | Machine learning? | Dyb læring
I andre brancher, disse dokumenter findes, og selv om de er frivillige i mange tilfælde er disse bestræbelser ofte blevet standarder. Tænk på Energy Star-eller U. S Consumer Product Safety Commission eller tykt papir ratings i den finansielle sektor. En SDoC vil skitsere sikkerhed og produkt test, der har gået på med AI og oplysninger om de underliggende modeller.
Et team af IBM-forskere skrev i en artikel:
En SDoC for AI-tjenester vil indeholde afsnit om ydeevne, sikkerhed og sikkerhed. Resultater vil omfatte en passende nøjagtighed eller risiko foranstaltninger. Sikkerhed behandlet som en minimering af både risiko og epistemisk usikkerhed, vil omfatte explainability, algoritmisk retfærdighed og robusthed til begrebet drift. Sikkerhed vil omfatte robusthed over for fjendtlige angreb. Desuden er, det vil vise en liste over, hvordan tjenesten blev oprettet, uddannet, og indsat sammen med, hvilke scenarier det blev testet på, hvordan det vil reagere på ikke-testede scenarier, og retningslinjer, der angiver, hvilke opgaver der bør og ikke bør bruges til.
I teorien, at disse dokumenter vil også give en mere flydende AI service marketplace og bro oplysninger huller mellem forbrugere og leverandører. IBM Research siger, at SDoC bør være frivillig.
Et andet resultat fra SDoCs ville være mere tillid i AI. En forbruger har tillid til, at bremserne vil arbejde på en bil, og at autopiloten vil fungere godt i et fly. At tillid er bygget på standardisering, åbenhed og innovation. AI-tjenester manglende tillid til, at i dag, og IBM Research, bemærkes, at “forbrugerne endnu ikke har tillid til AI som de har tillid til andre teknologier.”
Gratis PDF download: Data, AI, IoT: fremtidens detailhandel | Inde i den sorte boks: Forståelse af AI beslutningstagning
IBM Research tilføjet:
Tekniske fremskridt på sikkerhed og sikkerhed er nødvendig, men ikke tilstrækkelig til at opnå tillid i AI, men der skal være ledsaget af evnen til at måle og kommunikere resultater niveauer af service på disse dimensioner i en standardiseret og gennemsigtig måde. En måde at opnå dette er at give sådanne oplysninger via SDoCs for AI-tjenester.
Og SDoC for AI-tjenester ville tage fat på spørgsmål som følgende:
Gør det datasæt, der bruges til at træne med den service har et dataark eller en data-erklæring?Var det datasæt og modeller kontrolleret for fordomme? Hvis ja, beskriv bias politikker, der blev kontrolleret, bias kontrol af metoder og resultater.Var nogen bias afhjælpning udføres på datasæt? Hvis ja, beskriv hvilke afbødende metode.Er algoritme udgange kan forklares/tolkes? Hvis ja, forklar hvordan explainability er opnået (fx direkte forklares model, lokale explainability, forklaringer via eksempler).Hvem der er målgruppe bruger af forklaringen (machine learning ekspert, domæne ekspert, almindelige forbruger, regulator, osv.)Var tjenesten testet på alle yderligere datasæt? De har et dataark eller en data-erklæring? Hvis ja, beskriv test metode.Var tjenesten kontrolleret for robusthed mod fjendtlige angreb? Hvis ja, beskriv robusthed politikker, der blev kontrolleret, kontrol af metoder og resultater.Er brug af data fra service virksomhed overført/gemt/opbevares?Hvad er den forventede adfærd, hvis de data, distribution afviger fra den uddannelse, distribution?Hvilken form for styring er ansat til at spore den overordnede arbejdsgang i data, at AI service?
Der er stadig en del diskussion på SDoC koncept, men en sådan bevægelse ville tilføje mere gennemsigtighed i AI marked. Efter at alle, ledere vil have til at styre modeller, at de bliver nødt til at stole endnu ikke fuldt ud forstår.
Infografik: 50 procent af virksomhederne planlægger at bruge AI snart, men har ikke arbejdet ud af detaljerne yetFive, hvordan din virksomhed kan komme i gang med at implementere AI og MLWhy AI og machine learning er nødt til at være en del af din digitale transformation plansShould Amazon være dine AI og machine learning platform?Skal Google være dine AI og machine learning platform?Skulle Microsoft være dine AI og machine learning platform?Bør IBM blive dine AI og machine learning platform?
Relaterede Emner:
IBM
Digital Transformation
CXO
Tingenes Internet
Innovation
Virksomhedens Software
0