Commonwealth Scientific and Industrial Research Organisation (CSIRO) Data61 har meddelat att forskare har utvecklat en uppsättning tekniker som erbjuder algoritmer som ger immunitet mot kontradiktoriska attacker av olika slag.
Ringer det i praktiken en “vaccination”, Data61 sade förmåga tekniker för att skydda artificiell intelligens (AI) och maskinlärande algoritmer från kontradiktoriska attacker är ett betydande framsteg inom maskininlärning forskning.
Enligt den vetenskapliga organisationens digitala arm, algoritmer “lära sig” från de uppgifter de är utbildade på att skapa en lärande modell som kan utföra en viss uppgift på ett effektivt sätt utan att behöva särskilda instruktioner. Ett exempel är att göra förutsägelser eller korrekt klassificera bilder och e-postmeddelanden — tekniker som används idag för att identifiera skräppost e-post, diagnostisera sjukdomar från X-strålar, och förutsäga skördar.
Data61 sagt att sådana tekniker kommer snart att köra bil.
Se även: Hur AI och maskininlärning kan hjälpa dig att försvara företag från it-angrepp
Data61 maskininlärning gruppledare Dr Richard Nock sade att genom att lägga ett lager av buller — såsom en ovän — över en bild, angripare kan lura modeller i misclassifying bilden.
“Kontradiktoriska attacker har visat sig kunna lura en maskin lärande modell i felaktigt märkning stopp trafik tecken som hastighet tecken, som kan få katastrofala konsekvenser i den verkliga världen,” sade han.
“Vi genomföra en svag version av en motståndare, till exempel små ändringar eller distorsion till en samling av bilder, för att skapa en “svårare” utbildning för uppgifterna. När algoritmen är utbildad på data som utsätts för en liten dos av distorsion, den resulterande modellen är mer robusta och okänsliga för kontradiktoriska attacker.”
Som vaccination tekniker som är byggda från och med den värsta tänkbara kontradiktoriska exempel, Data61 sa att de skulle teoretiskt kunna klara av mycket starka attacker.
Läs också: Varför AI och ML är inte it-lösningar–ännu (TechRepublic)
“Artificiell intelligens och maskininlärning kan hjälpa till att lösa några av världens största sociala, ekonomiska och miljömässiga utmaningar, men det kan inte ske utan en fokuserad forskning i dessa tekniker,” Data61 VD Adrian Turner sade, att ringa forskning som ett betydelsefullt bidrag till det växande området kontradiktoriska maskininlärning.
“Den nya tekniker mot kontradiktoriska attacker som utvecklats vid Data61 kommer att starta en ny linje av maskininlärning forskning och säkerställa en positiv användning av omvälvande AI-tekniker.”
Tillkännagivandet följer Data61 i November investera AU$19 miljoner i en Artificiell Intelligens och maskininlärning Framtida Science Plattformen, som syftar till att riktade AI-drivna lösningar för områden inklusive livsmedelssäkerhet och kvalitet, hälsa och välbefinnande, hållbar energi och resurser, motståndskraftigt och på andra värdefulla miljöer, och Australiska och regional säkerhet.
MER FRÅN CSIRO & DATA61
Data61 med hjälp av maskininlärning för att spåra mänskliga smittsamma sjukdomar i AustraliaCSIRO främjar etisk användning av AI i Australien framtiden guidelinesData61 klar 317 projekt under de första två åren av operationCSIRO bygger analytics plattform för att hjälpa Aussie farmersOn-tv med djur att få en liten bit av den royalty som en plätt tack vare Data61CSIRO: Vår vetenskap startups är bättre för ekonomin än techbrosCSIRO Innovation Fund ryggen teknik för att ta itu med frukt fliesCSIRO med serverlösa beräkna att analysera mänskliga genomeCSIRO engagerande Australier för energi researchCSIRO hosta upp AU$35 för Australiens utrymme och AI insatser
Relaterade Ämnen:
Australien
Säkerhet-TV
Hantering Av Data
CXO
Datacenter