Kina är orolig för en AI kapprustning kan leda till oavsiktlig krig

Experter och politiker i Kina är oroliga för att en rush för att integrera artificiell intelligens i vapen och militär utrustning av misstag skulle leda till krig mellan nationer.

Enligt en ny rapport från AMERIKANSKA national security tankesmedjan Center for a New American Security (CNA), Kinesiska tjänstemän i allt större utsträckning ser en “kapprustning” dynamisk AI som ett hot mot global fred. Som länder rusning för att dra nytta av artificiell intelligens i olika områden, inklusive den militära, den rädsla är att internationella normer forma hur länderna att kommunicera kommer att bli föråldrade, vilket leder till förvirring och potentiella konflikter.

“De specifika scenario som beskrivs till mig av en anonym Kinesisk tjänsteman] är oavsiktliga upptrappning relaterade till användandet av drönare,” Gregorius C. Allen, en adjungerad senior fellow vid CNAS och författare av den nya rapporten, berättar Gränsen.

Som Allen förklarar, drift av drönare både stora och små har blivit alltmer automatiserade under de senaste åren. I USA, drönare kan grundläggande autopilot, utföra enkla uppgifter som att flyga i en cirkel runt ett mål. Men Kina är att vara “mer aggressiva om att införa en högre grad av självständighet närmare dödligt våld, säger han. Ett exempel är Blowfish A2 drone, som Kina exporterar internationellt och som, säger Allen, är annonserad som klarar av “full autonomi hela vägen upp till riktade strejker.”

Eftersom drönare som styrs på distans, militärer tenderar att vara mer nonchalant om deras användning. Med ingen risk för människoliv, de är mer villiga att skjuta ner dem, men även distribuera dem i angripna luftrum i första hand. Denna attityd kan också ses i cyberwarfare, där länder kommer att inkräkta på ett sätt som de inte nödvändigtvis risk om människor var inblandade.

“det finns ingen överenskommen ram för vad som meddelandet skickas.”

“Det som sägs till mig var att det inte tydligt hur någon sida kommer att tolka vissa beteenden [som rör självständiga utrustning], säger Allen. “Den sida du skickar ut en autonoma drönare kommer att tycka att det inte är en big deal eftersom det inte finns någon risk för olycka, medan den andra sidan skulle kunna skjuta ner det för samma anledning. Men det finns ingen överenskommen ram för vad meddelandet skickas från båda sidorna ” – beteende.”

Riskerna i ett sådant scenario blir större när factoring i avancerade självständighet. Om en drönare eller robot avlossar ett varningsskott vid fiendens trupper, till exempel, hur kommer det att åtgärd tolkas? Kommer trupperna att förstå det som ett automatiserat svar, eller kommer de tycker att det är beslut av en människa som befälhavare? Hur skulle de veta i båda fallen?

I huvudsak, säger Allen, länder runt om i världen har ännu inte nått fram till “normer av väpnad konflikt” för autonoma system. Och ju längre det pågår, desto större risk för “oavsiktlig upptrappning.”

“Jag tror att det är ett verkligt och legitimt hot”, säger Allen.

Resten av CNAS rapporten, med titeln “att Förstå Kinas AI Strategi: Ledtrådar till Kinesiska Strategiskt Tänkande på Artificiell Intelligens och den Nationella Säkerheten”, konstaterar ett antal andra höga oro och attityder i Kinas regerings-AI strategi.

Kinesiska tjänstemän känner igen, till exempel, att det och Amerika är det bara två fungerande AI superkrafter. Båda länderna har talang, finansieringen och den livliga tech sektorer som behövs för att driva denna teknik ytterligare, även om varje land har även sin egen speciella styrkor och svagheter. Kina har tillgång till fler uppgifter, till exempel, och har potential att hoppa av Västerländsk teknik. (Många Kinesiska medborgare gick från att inte ha någon telefon till en mobiltelefon, utan att få en fast telefon i mellan, till exempel). Amerika, under tiden, har en betydande ledande roll i utvecklingen av chip-teknik — en viktig del i att bearbeta stora datamängder som ström AI-program.

CNA: s rapport konstaterar att Kina är särskilt angelägna för att stänga denna viktiga skillnad. Kinesiska företag som Baidu, Alibaba, och Huawei har etablerat nya projekt för att utveckla AI accelerator hårdvara, statliga pengar är att hälla i dessa initiativ, och branschen är att försöka andra metoder för att få tag på utländsk kompetens. Dessa inkluderar den nyligen föreslagna förvärvet av det AMERIKANSKA chip designer Qualcomm av Singapore fast Broadcom, som stoppades av President Trumf på nationella säkerhetsskäl.

Medan en viss konkurrens mellan Kina och USA är att vänta, Allen säger samarbete behövs också — speciellt när det kommer till dessa militära frågor.

Han konstaterar att medan Kinesiska tjänstemän talade han hade ett bra grepp om modern OSS att tänka på frågor som autonoma krig, Amerikanska tjänstemän tenderar att vara mindre väl informerade om sina Kinesiska motsvarigheter, delvis på grund av att många Kinesiska politiska dokument är aldrig översatt till engelska. Utan att riktigt förstå olika länders strategier inom dessa områden, säger Allen, risken för missförstånd och konflikter ökar.

“Det är definitivt fickor av verklig expertis på denna fråga [i USA] men det är inte utbredd förståelse måste det vara”, säger han.