Selv dataeksperter synes å avslutte menneskelig tilsyn med AI er en veldig dårlig idé

0
13

 Daphne Leprince-Ringuet

Av Daphne Leprince-Ringuet | 14. oktober 2021 | Tema: Kunstig intelligens

 gettyimages-1299491248.jpg

Retten til en menneskelig anmeldelse vil bli upraktisk og uforholdsmessig i mange tilfeller etter hvert som AI -applikasjoner vokser i løpet av de neste årene, sa en konsultasjon fra den britiske regjeringen.

Bilde: iStock/Getty Images Plus

Mens verdens største økonomier jobber med nye lover for å holde AI under kontroll for å unngå at teknologien skaper utilsiktede skader, ser det ut til at Storbritannia presser på for en ganske annen tilnærming. Regjeringen har nylig foreslått å bli kvitt noen av reglene som allerede eksisterer for å sette brudd på bruk av algoritmer – og eksperter advarer nå om at dette er en farlig vei å gå.

I en konsultasjon som ble lansert tidligere i år, inviterte Department for Digital, Culture, Media and Sport (DCMS) eksperter til å komme med sine tanker om noen nye forslag for å reformere Storbritannias databeskyttelsesregime.

Blant de omtale var et bud om å fjerne en lovbestemmelse som i dag gjør det mulig for innbyggerne å utfordre en beslutning som ble tatt om dem av en automatisert beslutningsteknologi, og å be om en menneskelig gjennomgang av avgjørelsen.

SE: Rapporten finner oppsiktsvekkende uinteresse i etisk, ansvarlig bruk av AI blant bedriftsledere

Høringen bestemte at denne regelen vil bli upraktisk og uforholdsmessig i mange tilfeller etter hvert som AI -applikasjoner vokser i løpet av de neste årene, og planlegging for behovet for alltid å opprettholde evnen til å gi menneskelig anmeldelse blir upraktisk.

Men eksperter fra BCS, Storbritannias chartrede institutt for IT, har advart mot det foreslåtte tiltaket for å skrote loven.

“Denne regelen handler i utgangspunktet om å prøve å skape en form for åpenhet og beskyttelse for enkeltpersoner i beslutningsprosessen ved hjelp av fullt automatiserte prosesser som kan ha betydelige skader på noen,” sier Sam De Silva, partner ved advokatfirma, CMS og leder av BCS jusspesialistgruppe, sier til ZDNet. “Det må være noe beskyttelse i stedet for å stole på en komplett svart boks.”

Bak Storbritannias forsøk på å endre landets databeskyttelsesforordning ligger et ønske om å bryte fri fra sin tidligere plikt til å forplikte seg til EUs generelle databeskyttelsesforordning (GDPR).

“Retten til en menneskelig anmeldelse” utgjør i realiteten den 22. artikkelen i EUs GDPR, og har som sådan blitt behørig innlemmet i Storbritannias egen innenlandske GDPR, som inntil nylig måtte overholde lover på plass i blokken.

Siden landet forlot EU, har imidlertid regjeringen vært opptatt av å markere sin nyoppdagede uavhengighet – og spesielt Storbritannias evne til å lage sine egne regler når det gjelder databeskyttelse.

“Utenfor EU kan Storbritannia omforme sin tilnærming til regulering og gripe muligheter med sine nye reguleringsfriheter, og bidra til å drive vekst, innovasjon og konkurranse over hele landet,” starter DCMSs konsultasjon om databeskyttelse.

Artikkel 22 i GDPR ble ansett som uegnet for slik framtidssikker regulering. Konsultasjonen erkjenner at de sikkerhetstiltakene som gis under loven kan være nødvendige i et utvalg av tilfeller med høy risiko-men rapporten konkluderer med at ettersom automatisert beslutningsprosess forventes å vokse på tvers av bransjer i de kommende årene, er det nå nødvendig å vurdere om beskyttelsen er nødvendig.

Noen måneder før konsultasjonen ble lansert, kom en egen regjerings arbeidsgruppe med en lignende anbefaling, som argumenterte for at kravene i artikkel 22 er belastende og kostbare, fordi de betyr at organisasjoner må komme med en alternativ manuell prosess selv når de automatiserer rutinemessige operasjoner.

Arbeidsstyrken anbefalte at artikkel 22 ble fjernet helt fra britisk lov, og DCMS bekreftet i høringen at regjeringen nå vurderer dette forslaget.

Ifølge De Silva er motivasjonen bak flyttingen økonomisk. “Regjeringens argument er at de tror artikkel 22 kan være kvelende innovasjon,” sier De Silva. “Det ser ut til å være deres begrunnelse for å foreslå fjerning.”

Høringen fremhever effektivt behovet for å lage datalovgivning som kommer bedrifter til gode. DCMS la opp et “pro-growth” og “innovasjonsvennlig” lovverk som vil åpne for mer forskning og innovasjon, samtidig som det reduserer kostnadene for etterlevelse for bedrifter, og sa at det forventer at nye forskrifter vil gi betydelige økonomiske fordeler.

For De Silva er imidlertid risikoen for å avregulere teknologien for stor. Fra rekruttering til finansiering har automatiserte beslutninger potensial til å påvirke borgernes liv på svært dype måter, og å bli kvitt beskyttelseslovene for tidlig kan ha farlige konsekvenser.

SE: Programmeringsspråk: Python tok et stort hopp fremover

Det er ikke å si at bestemmelsene i GDPR er nok. Noen av klagene som er beskrevet i DCMSs høring mot artikkel 22 er legitime, sier De Silva: for eksempel mangler loven sikkerhet, som sier at innbyggerne har rett til å be om menneskelig gjennomgang når avgjørelsen utelukkende er basert på automatisert behandling, uten å spesifisere på det tidspunktet kan det anses at et menneske var involvert.

“Jeg er enig i at det ikke er helt klart, og at det ikke er en veldig godt utformet bestemmelse som den er,” sier De Silva. “Mitt syn er at vi trenger å se nærmere på det, men jeg tror ikke skrotning er løsningen. Å fjerne det er sannsynligvis det minst foretrukne alternativet.”

Hvis noe, sier De Silva, bør de eksisterende reglene endres for å gå enda lenger. Artikkel 22 er bare en klausul i en omfattende forskrift som fokuserer på personopplysninger-når temaet sannsynligvis kan gjøre med sitt eget lovverk.

Denne mangelen på omfang kan også forklare hvorfor bestemmelsen mangler klarhet, og understreker behovet for mer omfattende lover.

“Artikkel 22 er i GDPR, så det handler bare om å håndtere personopplysninger,” sier De Silva. “Hvis vi vil gjøre det bredere enn det, må vi se på om vi regulerer AI generelt. Det er et større spørsmål.”

Et spørsmål som sannsynligvis også kommer til å tenke på britiske regulatorer. De neste månedene vil avsløre hvilke svar de eventuelt har funnet.

Personvern

Hvordan gjøre personvernet ditt til bedriftens 'killer app' Personlig identifiserbar informasjon (PII): Hva det er, hvordan det brukes, og hvordan du beskytter det Datasikkerhet og datasikkerhet er ikke det samme Cybersikkerhet 101: Beskytt personvernet ditt mot hackere, spioner og regjeringen

Relaterte emner:

CXO Digital Transformation Internet of Things Innovation Enterprise Software Smart Cities Daphne Leprince-Ringuet

Av Daphne Leprince-Ringuet | 14. oktober 2021 | Tema: Kunstig intelligens

LEAVE A REPLY

Please enter your comment!
Please enter your name here