Nul
IBM Research stelt dat de kunstmatige intelligentie moet komen met een transparant document dat een overzicht geeft van de lijn, specificaties en routebeschrijvingen.
Onder de Vertrouwde AI inspanning, IBM Research publiceerde een paper dat de oproepen voor de conformiteitsverklaring van de leverancier (SDoC) voor AI diensten. Deze verklaring zou informatie bevatten over de prestaties en veiligheid.
Tijd open te breken AI ‘ s black box, en open houden | Wat is AI? Alles wat u moet weten over Kunstmatige Intelligentie | Machine learning? | Diep leren
In andere branches, deze documenten aanwezig zijn en hoewel zij vrijwillig in veel gevallen zijn deze inspanningen vaak worden normen. Denk aan de Energy Star-of de U. S Consumer Product Safety Commission of obligatieratings in de financiële sector. Een SDoC zou schetsen van de veiligheid en het testen van producten die op is gegaan met AI en informatie over de onderliggende modellen.
Een team van IBM-onderzoekers schreven in een artikel:
Een SDoC voor AI diensten bevat hoofdstukken over de prestaties, veiligheid en zekerheid. De prestaties zijn onder de juiste juistheid of risico maatregelen. Veiligheid, besproken in de minimalisatie van de risico-en epistemische onzekerheid, explainability, algoritmische eerlijkheid, en robuustheid concept drift. De veiligheid zal zijn robuustheid voor vijandige aanvallen. Bovendien zal een lijst van hoe de dienst werd opgericht, getraind en ingezet, samen met wat scenario ‘s getest is, hoe het zal reageren op niet-geteste scenario’ s en richtlijnen die aangeven welke taken hij moet en mag niet worden gebruikt voor.
In theorie zijn deze documenten ook zou toelaten een meer vloeibare AI service marketplace en de brug lacunes in de informatie tussen consumenten en leveranciers. IBM Research gezegd dat de SDoC moeten worden op basis van vrijwilligheid.
Een andere uitkomst van SDoCs zou meer vertrouwen in AI. Een consument vertrouwt erop dat de remmen werken op een auto en dat de automatische piloot zal goed werken in een vliegtuig. Dat vertrouwen is gebaseerd op standaardisatie, transparantie en testen. AI diensten gebrek van vertrouwen van vandaag, en IBM Research opgemerkt dat “consumenten nog geen vertrouwen AI als ze vertrouwen hebben in andere technologieën.”
Gratis PDF-download: Data, AI, IoT: de toekomst van De detailhandel | Inside the black box: het Begrip AI besluitvorming
IBM Research toegevoegd:
Het maken van de technische vooruitgang op de veiligheid en de beveiliging is noodzakelijk, maar niet voldoende is om het vertrouwen in de AI, maar de vooruitgang moet vergezeld gaan van de mogelijkheid om te meten en te communiceren over de prestaties van de service op deze dimensies in een gestandaardiseerde en transparante wijze. Een manier om dit te bereiken is om dergelijke informatie te verstrekken via SDoCs voor AI diensten.
En SDoC voor AI diensten zou richten op vragen zoals de volgende:
Is de dataset gebruikt voor het trainen van de service van een gegevensblad of data-instructie?Was de dataset en het model gecontroleerd voor vooroordelen? Zo ja, beschrijf bias beleidsmaatregelen die werden gecontroleerd, bias controleren van methoden en resultaten.Was een vertekening mitigatie uitgevoerd op de dataset? Zo ja, beschrijf de mitigatie-methode.Zijn algoritme uitgangen verklaarbaar/interpretable? Zo ja, leg uit hoe de explainability is bereikt (bijvoorbeeld direct verklaarbaar model, lokale explainability, uitleg via voorbeelden).Wie is de doelgroep van de uitleg (machine learning expert, domein expert, algemene consument, toezichthouder, etc.)Was de service getest op eventuele aanvullende datasets? Hebben ze een gegevensblad of data-instructie? Zo ja, beschrijf het testen van de methodologie.Was de dienst gecontroleerd voor robuustheid tegen vijandige aanvallen? Zo ja, beschrijf de robuustheid en de beleidsmaatregelen die werden gecontroleerd, het controleren van methoden en resultaten.Is het gebruik van gegevens van service operations bewaard/opgeslagen/bewaard?Wat is het verwachte gedrag als de gegevens verdeling afwijkt van de opleiding distributie?Wat voor soort bestuur is werkzaam voor het bijhouden van de totale workflow van gegevens naar AI service?
Er is nog steeds veel discussie op de SDoC concept, maar een dergelijke beweging zou meer transparantie aan de AI van de markt. Immers, zakelijke leiders hebt voor het beheren van de modellen die ze zal moeten vertrouwen nog niet volledig begrijpen.
Infographic: 50 procent van de bedrijven van plan te gebruiken AI snel, maar nog niet uitgewerkt in de details yetFive manieren waarop uw bedrijf aan de slag kunt implementeren van AI en MLWhy AI en machine learning moet een deel van uw digitale transformatie plansShould Amazon uw AI en machine learning platform?Moet Google uw AI en machine learning platform?Moet Microsoft worden uw AI en machine learning platform?Moet IBM uw AI en machine learning platform?
Verwante Onderwerpen:
IBM
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software
0