Retten til en menneskelig gennemgang vil blive upraktisk og uforholdsmæssig i mange tilfælde, efterhånden som AI -applikationer vokser i de næste par år, lød det fra en høring fra den britiske regering.
Billede: iStock/Getty Images Plus
Mens verdens største økonomier arbejder på nye love for at holde AI under kontrol for at undgå, at teknologien skaber utilsigtede skader, ser det ud til, at Storbritannien presser på for en temmelig anderledes tilgang. Regeringen har for nylig foreslået at slippe af med nogle af de regler, der allerede eksisterer for at sætte brud på brugen af algoritmer – og eksperter advarer nu om, at dette er en farlig vej at gå.
I en høring, der blev lanceret tidligere på året, inviterede Department for Digital, Culture, Media and Sport (DCMS) eksperter til at fremsætte deres tanker om nogle nye forslag, der er designet til at reformere Storbritanniens databeskyttelsesregime.
Blandt de fremhævede var et bud på at fjerne en lovbestemmelse, der i øjeblikket gør det muligt for borgerne at anfægte en beslutning, der blev truffet om dem ved hjælp af en automatiseret beslutningstagningsteknologi, og at anmode om en menneskelig gennemgang af beslutningen.
SE: Rapporten finder opsigtsvækkende uinteresse i etisk, ansvarlig brug af AI blandt virksomhedsledere
Høringen fastslog, at denne regel vil blive upraktisk og uforholdsmæssig i mange tilfælde, når AI -applikationer vokser i de næste par år, og planlægning af behovet for altid at bevare evnen til at give menneskelig anmeldelse bliver upraktisk.
Men eksperter fra BCS, Storbritanniens chartrede institut for IT, har advaret mod det foreslåede skridt til at skrotte loven.
“Denne regel handler i bund og grund om at forsøge at skabe en form for gennemsigtighed og beskyttelse for enkeltpersoner i beslutningsprocessen ved fuldt automatiserede processer, der kan have betydelige skader på nogen,” siger Sam De Silva, partner på advokatfirma, CMS og formanden for BCS's jurispecialistgruppe, fortæller til ZDNet. “Der skal være en vis beskyttelse i stedet for at stole på en komplet sort boks.”
Bag Storbritanniens forsøg på at ændre landets databeskyttelsesforordning ligger et ønske om at bryde fri fra sin tidligere forpligtelse til at forpligte sig til EU's generelle databeskyttelsesforordning (GDPR).
“Retten til en menneskelig anmeldelse” udgør i realiteten den 22. artikel i EU's GDPR og er som sådan behørigt blevet inkorporeret i Storbritanniens egen nationale GDPR, som indtil for nylig var nødt til at overholde love på plads i blokken.
Siden landet forlod EU har regeringen imidlertid været ivrig efter at fremhæve sin nyfundne uafhængighed – og især Storbritanniens evne til at lave sine egne regler, når det kommer til databeskyttelse.
“Uden for EU kan Storbritannien omforme sin tilgang til regulering og gribe muligheder med sine nye lovgivningsmæssige friheder og hjælpe med at drive vækst, innovation og konkurrence i hele landet”, starter DCMS's høring om databeskyttelse.
Artikel 22 i GDPR blev anset for uegnet til en sådan fremtidssikret regulering. Høringen anerkender, at de sikkerhedsforanstaltninger, der er givet i henhold til loven, kan være nødvendige i et udvalg af højrisiko-brugssager-men rapporten konkluderer, at da det forventes, at automatiseret beslutningstagning vil vokse på tværs af brancher i de kommende år, er det nu nødvendigt at vurdere om beskyttelsen er nødvendig.
Et par måneder før høringen blev lanceret, kom en separat regeringsgruppe med en lignende anbefaling, der argumenterede for, at kravene i artikel 22 er byrdefulde og dyre, fordi de betyder, at organisationer skal komme med en alternativ manuel proces, selv når de automatiserer rutinemæssige operationer.
Taskforcen anbefalede, at artikel 22 udelukkende blev fjernet fra britisk lov, og DCMS bekræftede i høringen, at regeringen nu overvejer dette forslag.
Ifølge De Silva er motivationen bag flytningen økonomisk. “Regeringens argument er, at de mener, at artikel 22 kan være en kvælende innovation,” siger De Silva. “Det ser ud til at være deres begrundelse for at foreslå fjernelse.”
Høringen fremlægger effektivt behovet for at oprette datalovgivning, der gavner virksomheder. DCMS fremlagde et “pro-growth” og “innovationsvenligt” sæt love, der vil låse op for mere forskning og innovation, samtidig med at det letter omkostningerne ved overholdelse af virksomheder, og sagde, at det forventer, at nye regler vil skabe betydelige monetære fordele.
For De Silva er risikoen for at afregulere teknologien imidlertid for stor. Fra rekruttering til finansiering har automatiserede beslutninger potentiale til at påvirke borgernes liv på meget dybe måder, og at slippe af med beskyttelseslove for tidligt kan have farlige konsekvenser.
SE: Programmeringssprog: Python tog lige et stort spring frem
Dermed ikke sagt, at bestemmelserne i GDPR er nok. Nogle af de klager, der er beskrevet i DCMS's høring mod artikel 22, er legitime, siger De Silva: loven mangler for eksempel sikkerhed, der fastslår, at borgerne har ret til at anmode om menneskelig gennemgang, når beslutningen udelukkende er baseret på automatiseret behandling, uden at specificere på hvilket tidspunkt kan det overvejes, at et menneske var involveret.
“Jeg er enig i, at det ikke er helt klart, og det er ikke en rigtig veludformet bestemmelse, som den er,” siger De Silva. “Min opfattelse er, at vi har brug for at se nærmere på det, men jeg tror ikke, at skrotning er løsningen. At fjerne det er nok den mindst foretrukne løsning.”
Hvis der er noget, siger De Silva, bør de eksisterende regler ændres for at gå endnu længere. Artikel 22 er kun en klausul inden for en vidtrækkende regulering, der fokuserer på personoplysninger-når emnet sandsynligvis kunne have sin egen lovgivning.
Denne mangel på anvendelsesområde kan også forklare, hvorfor bestemmelsen mangler klarhed, og fremhæver behovet for mere omfattende love.
“Artikel 22 er i GDPR, så det handler kun om håndtering af personoplysninger,” siger De Silva. “Hvis vi vil gøre det bredere end det, skal vi se på, om vi regulerer AI generelt. Det er et større spørgsmål.”
Et spørgsmål, der sandsynligvis også vil komme til at tænke på britiske tilsynsmyndigheder. De næste par måneder afslører, hvilke svar de eventuelt har fundet.
Fortrolighed
Sådan gør du fortrolighed til din virksomheds 'killer -app' Personligt identificerbare oplysninger (PII): Hvad det er, hvordan det bruges, og hvordan det beskyttes Datasikkerhed og datasikkerhed er ikke det samme Cybersikkerhed 101: Beskyt dit privatliv mod hackere, spioner og regeringen
Relaterede emner:
CXO Digital Transformation Internet of Things Innovation Enterprise Software Smart Cities 