Commonwealth Scientific og Industrial Research Organisation (CSIRO) Data61 har meddelt, at forskere har udviklet et sæt af teknikker, der tilbyder algoritmer som en immunitet mod fjendtlige angreb af en slags.
At kalde det i realiteten en “vaccination”, Data61 sagde kapacitet af teknikker til at beskytte kunstig intelligens (AI) og machine learning algoritmer fra fjendtlige angreb er en betydelig fremgang i machine learning forskning.
Ifølge den videnskabelige organisationens digitale arm, algoritmer “lære” fra de data, de er uddannede på til at skabe en machine learning model, der kan udføre en given opgave effektivt, uden at det kræver særlige instruktioner. Et eksempel er at lave forudsigelser, eller præcist klassificering af billeder og e-mails — teknikker, der anvendes i øjeblikket til at identificere spam e-mails, diagnosticere sygdomme fra X-stråler, og forudsige udbyttet.
Data61 sagde, at sådanne teknikker vil snart køre biler.
Se også: Hvordan AI og machine learning kan hjælpe dig med at forsvare virksomheden fra cyberangreb
Data61 machine learning gruppens leder, Dr. Richard Nock sagde, at ved at tilføje et lag af støj-såsom en modstander — over et billede, hackere kan narre machine learning modeller i misclassifying billedet.
“Kontradiktorisk angreb har vist sig i stand til at narre machine learning model i forkert mærkning en trafik stoppe tegn som hastighed log, som kan have katastrofale følger i den virkelige verden,” sagde han.
“Vi gennemfører en svag version af en modstander, såsom små ændringer eller forvrængning til en samling af billeder, for at skabe en mere “vanskelige” uddannelse datasæt. Når algoritmen er uddannet på data udsættes for en lille dosis af forvrængning, den resulterende model er mere robust og immune over for fjendtlige angreb.”
Som vaccination teknikker er bygget ud fra den værst tænkelige kontradiktorisk eksempler, Data61 sagde, at de burde teoretisk set være i stand til at modstå meget kraftige angreb.
Læs også: Hvorfor AI og ML er ikke cybersecurity løsninger–endnu (TechRepublic)
“Kunstig intelligens og maskinindlæring kan hjælpe med at løse nogle af verdens største sociale, økonomiske og miljømæssige udfordringer, men det kan ikke ske uden fokuseret forskning i disse teknologier,” Data61 administrerende DIREKTØR, Adrian Turner sagde, at kalde forskning et væsentligt bidrag til den voksende felt af kontradiktorisk machine learning.
“De nye teknikker mod fjendtlige angreb, der er udviklet på Data61 vil starte en ny linje af machine learning forskning og sikre positiv brug af transformativ AI teknologier.”
Meddelelsen følger Data61 i November investering AU$19 millioner ind i en Kunstig Intelligens og maskinindlæring Fremtid Videnskab Platform, med henblik på målrettet AI-styrede løsninger til områder, herunder fødevaresikkerhed og-kvalitet, sundhed og velfærd, bæredygtig energi og ressourcer, robust og værdifulde miljøer, og de Australske og den regionale sikkerhed.
MERE FRA CSIRO & DATA61
Data61 bruger machine learning til at spore menneskelige smitsomme sygdomme i AustraliaCSIRO fremmer etiske brug af AI i Australiens fremtid guidelinesData61 afsluttet 317 projekter i de to første år af operationCSIRO bygger analytics platform til at hjælpe Aussie farmersOn-tv med dyr at få et lille stykke af den royalty pie tak til Data61CSIRO: Vores videnskab nystartede virksomheder er bedre for økonomien end techbrosCSIRO Innovation Fond støtter teknologi til at tackle frugt fliesCSIRO hjælp serverless beregne til at analysere den menneskelige genomeCSIRO engagerende Australierne for energi researchCSIRO hoster op på AU$35m til Australien ‘ s plads og AI indsats
Relaterede Emner:
Australien
Sikkerhed-TV
Data Management
CXO
Datacentre