Zero
Ricerca IBM propone di intelligenza artificiale dovrebbe venire con un trasparente documento che delinea lignaggio, le specifiche e le indicazioni.
Sotto la sua Fiducia AI sforzo, IBM Research ha pubblicato un documento che chiede fornitore la dichiarazione di conformità (Sdocname) AI servizi. Questa dichiarazione dovrebbe includere informazioni sulle prestazioni e la sicurezza.
Il tempo di rompere aperto AI black box e tenerlo aperto | che Cosa è l’IA? Tutto quello che devi sapere sull’Intelligenza Artificiale | Macchina di apprendimento? | Apprendimento profondo
In altri settori, questi documenti esistono e anche se sono volontari, in molti casi, questi sforzi, spesso diventano standard. Pensare di Energy Star o negli stati uniti Consumer Product Safety Commission o rating delle obbligazioni del settore finanziario. Un Sdocname delineerà la sicurezza e test di prodotto che è andato su con AI e informazioni sui modelli sottostanti.
Un team di ricercatori IBM ha scritto in un articolo:
Un Sdocname per AI servizi contiene sezioni di prestazioni, sicurezza e protezione. Le prestazioni comprendono adeguate precisione o misure di rischio. Sicurezza, discusso come la minimizzazione sia di rischio e di incertezza epistemica, includerà explainability, algoritmi di equità, e robustezza al concetto di deriva. Di sicurezza includono la robustezza di contraddittorio attacchi. Inoltre, vi elenco come il servizio è stato creato, preparati e distribuiti lungo con quali scenari è stato testato, le modalità di risposta non testato scenari, e le linee guida che specificano i compiti che dovrebbe e non dovrebbe essere utilizzato per.
In teoria, questi documenti dovrebbe consentire anche una più liquido AI service marketplace e ponte carenze di informazioni tra consumatori e fornitori. IBM Research, ha detto che il Sdocname dovrebbe essere volontario.
Un altro risultato da SDoCs sarebbe più fiducia AI. Un consumatore si fida che i freni su un auto e che autopilota funzionerà bene in un aereo. Che fiducia si basa sulla standardizzazione, trasparenza e test. AI servizi di mancanza di fiducia di oggi e di Ricerca IBM, ha osservato che “i consumatori non sono ancora fiducia AI come si fidano di altre tecnologie.”
Free PDF download: Dati, AI, IoT: Il futuro del retail | Dentro la scatola nera: la Comprensione AI decisionale
Ricerca IBM ha aggiunto:
Fare progressi tecnici in materia di sicurezza e di sicurezza è necessario, ma non sufficiente per ottenere la fiducia in AI, tuttavia, il progresso deve essere accompagnata dalla capacità di misurare e comunicare le prestazioni del servizio su queste dimensioni in modo standardizzato e trasparente. Un modo per raggiungere questo obiettivo è di fornire tali informazioni via SDoCs per AI servizi.
E Sdocname per AI servizi per affrontare domande come le seguenti:
Il set di dati utilizzato per addestrare il servizio dispone di un foglio dati o di dati istruzione?È stato il set di dati e il modello controllato per pregiudizi? Se sì, descrivere bias criteri che sono stati controllati, il bias di metodi di controllo e risultati.Era pregiudizi di mitigazione eseguita sul set? Se sì, descrivere il metodo di mitigazione.Sono algoritmo di uscite spiegabile/interpretabili? Se sì, spiegare come il explainability è raggiunto (ad es. direttamente spiegabile modello, locale explainability, spiegazioni tramite esempi).Chi è il target di utenti della spiegazione (machine learning esperto, esperto di dominio, di carattere generale, regolatore, ecc.)Il servizio è stato testato su qualsiasi set di dati aggiuntivi? Hanno un foglio dati o di dati istruzione? Se sì, descrivere la metodologia di test.Il servizio è stato controllato per la robustezza contro contraddittorio attacchi? Se sì, descrivere la robustezza criteri che sono stati controllati, metodi di controllo e risultati.Utilizzo di dati provenienti da operazioni di servizio, conservati/salvato/mantenuto?Qual è il comportamento previsto se la distribuzione dei dati si discosta dalla formazione di distribuzione?Che tipo di governo è impiegato per monitorare il flusso di lavoro globale di dati AI servizio?
C’è ancora un sacco di discussione per essere avuto sul Sdocname concetto, ma un movimento di aggiungere più trasparenza ai mercati. Dopo tutto, i dirigenti d’azienda, dovrà gestire i modelli che dovranno fiducia ancora a non comprendere appieno.
Infografica: il 50 per cento delle aziende prevede di utilizzare AI presto, ma non hanno funzionato i dettagli yetFive modi in cui la vostra azienda può iniziare attuazione AI e MLWhy AI e machine learning bisogno di essere parte della vostra trasformazione digitale plansShould Amazon essere il vostro IA e machine learning piattaforma?Google dovrebbe essere il vostro IA e machine learning piattaforma?Microsoft dovrebbe essere il vostro IA e machine learning piattaforma?Dovrebbe IBM essere il vostro IA e machine learning piattaforma?
Argomenti Correlati:
IBM
La Trasformazione Digitale
CXO
Internet delle Cose
L’innovazione
Enterprise Software
0