Ci sono stati degli anni di studio posto il problema di come rendere intelligenza artificiale “robusto” per attaccare e meno incline al fallimento. Ma il campo è ancora alle prese con quale errore in AI, significa in realtà, come sottolineato da un post del blog di questa settimana dalla DeepMind unità di Google.
L’elemento mancante può sembrare ovvio per alcuni: sarebbe veramente d’aiuto se non ci fosse più il coinvolgimento umano nel fissare le condizioni al contorno per come le reti neurali sono supposti per funzione.
I ricercatori Pushmeet Kohli, Sven Gowal, Krishnamurthy, Dvijotham, e Jonathan Uesato hanno studiato il problema, e identificare il tanto lavoro che ancora resta da fare, che ne riassumono sotto il titolo “Verso Robusto e Verificati AI: Specifiche di Test, Robusto, di Formazione e di Verifica Formale.”
C’è una storia ricca di prove di verifica per i programmi per computer, ma questi approcci sono “non adatto per le moderne profondo sistemi di apprendimento.”
Anche: MIT alza la posta a ottenere uno AI insegnare altro
Perché? In gran parte perché gli scienziati stanno ancora imparando a conoscere che cosa significa per una rete neurale per seguire la “specifica” che è stata disposta per. Non è sempre chiaro ciò che la specificazione anche.
“Specifiche che cattura ‘corretto comportamento in sistemi di intelligenza artificiale, sono spesso di difficile proprio stato,” gli autori scrivono.
Google DeepMind propone modi per impostare un limite sul tipo di uscite di una rete neurale in grado di produrre, per tenerlo da fare la cosa sbagliata.
DeepMind
×
google-deepmind-geometria-di-verifica.png
La nozione di “specificazione” esce dal mondo del software, la DeepMind i ricercatori osservano. È prevista la funzionalità di un sistema informatico.
Come gli autori hanno scritto in un post nel mese di dicembre, in AI, non ci può essere solo uno spec, ci possono essere almeno tre. C’è “l’ideale” specifica, ciò che il sistema creatori di immaginare che potrebbe fare. Poi c’è il “design” specifica, la “funzione obiettivo” espressamente ottimizzato per una rete neurale. E, infine, c’è “rivelato” specifica, il modo in cui esegue effettivamente. Si chiamano queste tre specifiche, che tutti possono variare un po ‘ l’uno dall’altro, il desiderio, il design, e il comportamento.
Progettazione di reti neurali artificiali può essere visto come un modo per colmare il divario tra desiderio, di progettazione e di comportamento. Come hanno scritto nel dicembre del saggio “Una specificazione problema sorge quando non c’è corrispondenza tra l’ideale specifica, e il rivelato specifica, che è, quando il sistema di IA non fa quello che vogliamo fare. ”
Anche: Google riflette le carenze di apprendimento automatico
Si propongono vari percorsi per testare e formare reti neurali che sono più robuste errori, e, presumibilmente, più fedele alle specifiche.
Un approccio è quello di utilizzare IA stessa, per capire che cosa befuddles AI. Ciò significa che utilizzando un rafforzamento del sistema di apprendimento, come Google AlphaGo, per trovare il peggiore dei modi possibili che un altro rinforzo del sistema di apprendimento può fallire?
Gli autori hanno fatto solo che, in un articolo pubblicato nel mese di dicembre. “Impariamo contraddittorio funzione di valore, che prevede che le situazioni sono più probabilità di causare guasti per l’agente.” L’agente in questo caso si riferisce a un rafforzamento dell’apprendimento agente.
“Abbiamo quindi utilizzare questo imparato funzione per l’ottimizzazione di concentrarsi sulla valutazione il più problematico input”. Essi sostengono che il metodo porta a grandi miglioramenti nel corso di controlli casuali” di rinforzo dei sistemi di apprendimento.
Deve leggere
‘IA è molto, molto stupido”, dice Google AI leader (CNET)Come ottenere tutti Google Assistente nuove voci di adesso (CNET)Unificata di Google IA divisione di un chiaro segnale di AI del futuro (TechRepublic)Top 5: le Cose da sapere riguardo AI (TechRepublic)
Un altro approccio è quello di addestrare una rete neurale per evitare tutta una serie di uscite, per non farla entrare completamente fuori dai binari e fare davvero male previsioni. Gli autori sostengono che un “semplice delimitazione tecnica”, di un qualcosa chiamato “intervallo associato di propagazione,” è capace di formare un “verificabile robusto” rete neurale. Che lavoro ha vinto “best paper award” al NeurIPS conferenza lo scorso anno.
Sono ora in movimento al di là solo la sperimentazione e la formazione di una rete neurale per evitare il disastro, stanno anche iniziando a trovare una base teorica per una garanzia di robustezza. Si avvicinò come un “problema di ottimizzazione, che cerca di trovare la più grande violazione di proprietà in fase di verifica.”
Nonostante questi risultati positivi, alla fine del giorno”, è necessario molto lavoro,” gli autori scrivono “per costruire strumenti automatizzati per garantire che i sistemi di intelligenza artificiale nel mondo reale volontà di fare la ‘cosa giusta’.”
Alcuni di questo lavoro è la progettazione di algoritmi che possono testare e formare reti neurali più intensamente. Ma alcuni probabilmente si tratta di un elemento umano. Si tratta di fissare obiettivi — funzione obiettivo — per IA che corrisponde a ciò che l’uomo desidera.
“La costruzione di sistemi che possono utilizzare umano parziale specifiche e imparare ulteriori specifiche da feedback valutativo sarebbe necessario,” scrivono, “come costruiamo sempre più agenti intelligenti in grado di esibire comportamenti complessi e di agire in ambienti non strutturati.”
Precedente e relativa copertura:
Che cosa è l’IA? Tutto quello che devi sapere
Un esecutivo a guida di intelligenza artificiale, machine learning e generale AI alle reti neurali.
Cos’è il deep learning? Tutto quello che devi sapere
Il lowdown su deep learning: da come si relaziona con il più ampio campo di machine learning a come iniziare con esso.
Che cosa è macchina di apprendimento? Tutto quello che devi sapere
Questa guida spiega in cosa consiste la macchina di apprendimento, di come esso è legato all’intelligenza artificiale, come funziona e perché è importante.
Che cos’è il cloud computing? Tutto quello che devi sapere su
Un’introduzione al cloud computing destra, dalle nozioni di base fino a IaaS e PaaS, ibrido, public e private cloud.
Storie correlate:
Google AI naviga in “gamescape” per conquistare la teoria dei giochi
Questo è ciò che l’IA sembra (come disegnato dall’IA)
Google DeepMind team leader 3D game dev piattaforma
DeepMind AI punti i primi segni della malattia dell’occhio
Argomenti Correlati:
Sicurezza
La Trasformazione Digitale
CXO
Internet delle Cose
L’innovazione
Enterprise Software