Rätten till en mänsklig granskning kommer att bli opraktisk och oproportionerlig i många fall när AI -applikationer växer under de närmaste åren, sade ett samråd från den brittiska regeringen.
Bild: iStock/Getty Images Plus
Medan världens största ekonomier arbetar med nya lagar för att hålla AI under kontroll för att undvika att tekniken skapar oavsiktliga skador, verkar Storbritannien driva på en ganska annorlunda tillvägagångssätt. Regeringen har nyligen föreslagit att bli av med några av de regler som redan finns för att sätta avbrott i användningen av algoritmer – och experter varnar nu för att detta är en farlig väg att gå.
I ett samråd som lanserades tidigare i år inbjöd Department for Digital, Culture, Media and Sport (DCMS) experter att lämna sina tankar om några nya förslag som syftar till att reformera Storbritanniens dataskyddsregim.
Bland de presenterade var ett bud om att ta bort en lagbestämmelse som för närvarande gör det möjligt för medborgarna att bestrida ett beslut som fattades om dem genom en automatiserad beslutsteknik, och att begära en mänsklig granskning av beslutet.
SE: Rapporten finner uppseendeväckande ointresse för etisk, ansvarsfull användning av AI bland företagsledare
Samrådet fastställde att denna regel kommer att bli opraktisk och oproportionerlig i många fall när AI -applikationer växer under de närmaste åren, och planering för behovet av att alltid behålla förmågan att tillhandahålla mänsklig granskning blir omöjlig.
Men experter från BCS, Storbritanniens chartrade institut för IT, har varnat för det föreslagna beslutet att skrota lagen.
“Denna regel handlar i grunden om att försöka skapa någon form av insyn och skydd för individerna i beslutsfattandet genom helautomatiserade processer som kan ha betydande skador på någon”, säger Sam De Silva, partner på advokatbyrå, CMS och ordförande för BCS juridisk specialistgrupp, säger till ZDNet. “Det måste finnas något skydd snarare än att förlita sig på en komplett svart låda.”
Bakom Storbritanniens försök att ändra landets dataskyddsförordning ligger en önskan att bryta sig loss från sin tidigare skyldighet att förbinda sig till EU: s allmänna dataskyddsförordning (GDPR).
“Rätten till en mänsklig granskning” utgör i själva verket den 22: e artikeln i EU: s GDPR och har som sådan införlivats i Storbritanniens egen inhemska GDPR, som tills nyligen var tvungen att följa lagar som finns i blocket.
Sedan landet lämnade EU har regeringen dock varit angelägen om att lyfta fram sitt nyfunna självständighet – och i synnerhet Storbritanniens förmåga att göra egna regler när det gäller dataskydd.
“Utanför EU kan Storbritannien omforma sitt förhållningssätt till reglering och ta tillfällen i akt med sina nya regleringsfriheter, vilket hjälper till att driva tillväxt, innovation och konkurrens i hela landet”, startar DCMS: s samråd om dataskydd.
Artikel 22 i GDPR ansågs olämplig för sådan framtidssäker reglering. Samrådet erkänner att de skyddsåtgärder som tillhandahålls enligt lagen kan vara nödvändiga i ett antal utvalda högriskanvändningsfall-men rapporten drar slutsatsen att eftersom automatiskt beslutsfattande förväntas växa inom branscher under de kommande åren är det nu nödvändigt att bedöma om skyddet behövs.
Några månader innan samrådet inleddes kom en separat statlig arbetsgrupp med en liknande rekommendation som hävdade att kraven i artikel 22 är betungande och kostsamma, eftersom de innebär att organisationer måste komma med en alternativ manuell process även när de automatiserar rutinåtgärder.
Arbetsgruppen rekommenderade att artikel 22 helt skulle tas bort från brittisk lag och DCMS bekräftade i samrådet att regeringen nu överväger detta förslag.
Enligt De Silva är motivationen bakom flytten ekonomisk. “Regeringens argument är att de tror att artikel 22 kan vara kvävande innovation”, säger De Silva. “Det verkar vara deras grund för att föreslå borttagning.”
Samrådet framhåller effektivt behovet av att skapa datalagstiftning som gynnar företag. DCMS presenterade en “pro-tillväxt” och “innovationsvänlig” uppsättning lagar som kommer att låsa upp mer forskning och innovation, samtidigt som det minskar kostnaderna för efterlevnad för företag, och sa att det förväntar sig att nya regler kommer att ge betydande monetära fördelar.
För De Silva är risken för avreglering av tekniken dock för stor. Från rekrytering till finansiering har automatiska beslut potential att påverka medborgarnas liv på mycket djupa sätt, och att bli av med skyddslagar för tidigt kan få farliga konsekvenser.
SE: Programmeringsspråk: Python tog bara ett stort hopp framåt
Därmed inte sagt att bestämmelserna i GDPR är tillräckliga. Några av de klagomål som beskrivs i DCMS: s samråd mot artikel 22 är legitima, säger De Silva: till exempel saknar lagen visshet om att medborgare har rätt att begära mänsklig prövning när beslutet enbart bygger på automatiserad behandling, utan att specificera vid vilken tidpunkt det kan anses att en människa var inblandad.
“Jag håller med om att det inte är helt klart, och det är inte en riktigt väl utformad bestämmelse som den är”, säger De Silva. “Min uppfattning är att vi behöver titta närmare på det, men jag tror inte att skrotning är lösningen. Att ta bort det är förmodligen det minst föredragna alternativet.”
Om något, säger De Silva, bör de befintliga reglerna ändras för att gå ännu längre. Artikel 22 är bara en klausul inom en omfattande förordning som fokuserar på personuppgifter-när ämnet förmodligen kan göra med en egen lagstiftning.
Denna brist på räckvidd kan också förklara varför bestämmelsen saknar tydlighet och belyser behovet av mer omfattande lagar.
“Artikel 22 finns i GDPR, så det handlar bara om att hantera personuppgifter”, säger De Silva. “Om vi vill göra det bredare än så måste vi titta på om vi reglerar AI i allmänhet. Det är en större fråga.”
En fråga som sannolikt också kommer att ligga hos brittiska tillsynsmyndigheter. De närmaste månaderna kommer att avslöja vilka svar de kan ha hittat, om några.
Sekretess
Så här gör du sekretess till ditt företags “mördarapp” Personligt identifierbar information (PII): Vad det är, hur det används och hur det skyddas Dataskydd och dataskydd datasäkerhet är inte samma Cybersäkerhet 101: Skydda din integritet från hackare, spioner och regeringen
Relaterade ämnen:
CXO Digital Transformation Internet of Things Innovation Enterprise Software Smart Cities 