Kina er bekymret for en AI våpenkappløp kan føre til utilsiktet krigen

Eksperter og politikere i Kina er bekymret for at et rush for å integrere kunstig intelligens i våpen og militært utstyr kan utilsiktet føre til krig mellom nasjoner.

Ifølge en ny rapport publisert av AMERIKANSKE national security tenketanken Center for a New American Security (CNAS), Kinesiske myndigheter i økende grad ser et “våpenkappløp” dynamisk i AI, som en trussel mot global fred. Som land rykke ut for å høste fordeler av kunstig intelligens i ulike domener, inkludert militære, frykten er at internasjonale normer forme hvordan land kommunisere vil bli utdatert, som fører til forvirring og potensielle konflikter.

“Den bestemte scenariet som er beskrevet for meg [med en anonym Kinesiske offisielle] er utilsiktet opptrapping knyttet til bruk av en drone,” Gregory C. Allen, en seniorstipendiat ved CNAS, og forfatteren av den nye rapporten, forteller Randen.

Som Allen forklarer, bruk av droner både store og små har blitt stadig mer automatisert i de siste årene. I USA, droner er i stand til grunnleggende autopilot, utføre enkle oppgaver som å fly i en sirkel rundt et mål. Men Kina er å være “mer aggressive om å innføre større grad av autonomi nærmere dødelig bruk av makt,” sier han. Ett eksempel er Blowfish A2 drone, som Kina eksport internasjonalt og som, sier Allen, som er annonsert som å være i stand til “full autonomi hele veien opp til målrettede angrep.”

Fordi droner er fjernstyres, militære styrker har en tendens til å være mer cavalier om deres bruk. Med ingen risiko for human omkomne, de er mer villige til å skyte dem ned, men også distribuere dem inn i omstridte airspaces i første omgang. Denne holdningen kan også sees i cyberwarfare, hvor land vil trenge seg på måter som de ville ikke nødvendigvis risiko hvis mennesker var involvert.

“det er ikke avtalt ramme på hva meldingen sendes.”

“Poenget laget til meg var at det er ikke klart hvordan hver side vil tolke visse typer oppførsel [involverer autonome utstyr],” sier Allen. “Siden å sende ut en autonom drone vil tro det er ikke en big deal fordi det er ingen skadde risiko, mens den andre siden kunne skyte det ned for samme grunn. Men det er ikke avtalt ramme på hva meldingen blir sendt av begge sider ” oppførsel.”

Risikoen i et slikt scenario blir større når factoring i avansert autonomi. Hvis en drone eller robot skyter en advarsel skutt mot fienden tropper, for eksempel om hvordan du vil at handlingen skal tolkes? Vil troppene forstår det som et automatisk svar, eller vil de synes det er avgjørelsen av en human sjef? Hvordan ville de vet i begge tilfeller?

I hovedsak, sier Allen, land rundt om i verden har ennå til å definere “normer for væpnet konflikt” for autonome systemer. Og jo lenger tid som fortsetter, jo større risiko er det for “utilsiktet eskalering.”

“Jeg tror det er et reelt og legitimt trussel, sier Allen.

Resten av CNAS rapporten, med tittelen “Forstå Kinas AI Strategi: Ledetråder til Kinesisk Strategisk Tenkning om Kunstig Intelligens og Nasjonal Sikkerhet,” merknader en rekke andre høyt nivå bekymringer og holdninger i Kinas regjering ledet av AI strategi.

Kinesiske tjenestemenn gjenkjenner, for eksempel, at det og Amerika er det bare to levedyktig AI supermaktene. Begge land har talent, finansiering, og travle tech sektorer som trengs for å få denne teknologien videre, selv om hver enkelt nasjon har også sin egen spesielle styrker og svakheter. Kina har tilgang til mer data, for eksempel, og har potensial til å leapfrog Western-teknologi. (Mange Kinesiske borgere gikk fra å ikke ha telefonen til en mobiltelefon, uten å få en fasttelefon i mellom, for eksempel). Amerika, i mellomtiden, har en betydelig ledelsen i utviklingen av chip-teknologi — en viktig komponent i behandlingen av store datasett som makt AI programmer.

CNAS av rapporten peker på at Kina er spesielt opptatt av å lukke dette viktig gap. Kinesiske bedrifter som Baidu, Hydrogen, og Huawei har etablert nye prosjekter for å utvikle AI accelerator maskinvare; regjeringen pengene å strømme inn i disse initiativene, og bransjen er å prøve andre metoder for å få tak i utenlandsk kompetanse. Disse omfatter nylig foreslåtte oppkjøp av OSS chip designer Qualcomm av Singapore fast Broadcom, som ble blokkert av President Trump på nasjonal sikkerhet grunnlag.

Mens en viss konkurranse mellom Kina og USA er å være forventet, Allen sier at samarbeid er også nødvendig — spesielt når det kommer til disse militære spørsmål.

Han peker på at mens Kinesiske myndigheter snakket han hadde en god forståelse av moderne OSS å tenke på saker som autonome krigføring, Amerikanske tjenestemenn har en tendens til å være mindre godt informert om sine Kinesiske kolleger, delvis fordi mange Kinesiske politiske dokumenter er aldri oversatt til engelsk. Uten riktig forståelse ulike lands strategier på disse områdene, sier Allen, sjansene for misforståelser og konflikt øke.

“Det er definitivt lommer av real kompetanse på dette problemet [i USA], men det er ikke utbredt forståelse at det trenger å være,” sier han.