Siden sikkerhetstiltak ennå ikke er på plass for å sikre at teknologien brukes på en ansvarlig måte, sa FN -kommisjonæren, bør regjeringer snarest tøyle kunstig intelligens.
Bilde: picture alliance/Contributor/Getty Images
Samtaler om å sette bremser på bruk av kunstig intelligens og i noen tilfeller for å forby teknologien helt blir sterkere. Nå har FNs menneskerettighetssjef Michelle Bachelet sluttet sin stemme til koret av eksperter som oppfordrer regjeringene til å iverksette sterkere tiltak for å holde algoritmer under kontroll, i en ny rapport som anbefaler moratorier for salg og bruk av kunstig intelligens for høyrisiko brukstilfeller.
Bachelet tok også til orde for et forbud mot noen AI -applikasjoner som er i strid med internasjonal menneskerettighetslov, for eksempel sosial scoring av enkeltpersoner basert på diskriminerende kriterier.
Siden sikkerhetstiltak ennå ikke er på plass for å sikre at teknologien brukes på en ansvarlig måte, sa FN -kommisjonæren, bør regjeringer snarest tøyle kunstig intelligens. Uten det vil algoritmer som potensielt kan skade menneskerettighetene fortsette å bli distribuert uten tilsyn, noe som forårsaker mer skade på innbyggerne.
Algoritmer er allerede tilstede i alle aspekter av de fleste menneskers liv, understreket Bachelet og pekte på forskjellige systemer som for tiden deltar i livsendrende beslutninger, for eksempel hvem som får offentlige tjenester, hvem som får jobb eller hvilke brukere kan se og dele på nettet.
“Vi har ikke råd til å fortsette å følge med på AI-slik at de kan brukes med begrensede eller ingen grenser eller tilsyn og håndtere de nesten uunngåelige menneskerettighetskonsekvensene etter dette,” sa Bachelet.
FN -kommissærens kommentarer kommer bak på en rapport som ble utført av hennes kontor for å undersøke hvordan AI kan påvirke menneskerettigheter som personvern, helse, utdanning, bevegelsesfrihet eller ytringsfrihet.
Selv om kunstig intelligens i stor grad ble funnet å være “en kraft for godt” som kan hjelpe samfunn og økonomier med å overvinne enorme utfordringer, fremhevet rapporten også en “ubestridelig og stadig voksende” innvirkning av AI på visse menneskerettigheter.
Algoritmer kan for eksempel trenge betydelig inn i brukernes personvern. AI -systemer får store mengder data, inkludert personlige data, som oppfordrer organisasjoner til å samle inn, lagre og behandle sensitiv informasjon om sine brukere eller kunder, noen ganger på hemmelighetsfulle måter. Systemene kan igjen brukes til å gjøre spådommer om folks personlige liv, alt fra nabolaget de bor i til deres sovemønstre.
Det er flere sektorer der bruken av disse AI -systemene er spesielt bekymrende, ifølge rapporten. De inkluderer rettshåndhevelse, der algoritmer kan påvirke en beslutning om å arrestere en kriminell, så vel som offentlige tjenester, der AI -modeller kan hjelpe til med å bestemme velferdsrettigheter helt til om en familie skal flagges for besøk av barnehagetjenester.
På arbeidsplassen pekte rapporten på risikoen ved å bruke algoritmer for å overvåke og administrere arbeidere. Og på nettet kan AI -systemer brukes til å støtte beslutninger om innholdshåndtering, som er avgjørende for å bestemme hvilken type innhold hver bruker blir utsatt for.
For mange av disse programmene er risikoen todelt. Ikke bare kan AI -systemet selv være i strid med grunnleggende menneskerettigheter som retten til personvern; men i noen tilfeller, når algoritmen er partisk, kan teknologien også ta diskriminerende beslutninger.
For eksempel kan dataene som brukes til å informere AI -systemer, være forutinntatt mot bestemte grupper, eller det kan ganske enkelt være feil, utdatert eller irrelevant, noe som igjen fører til at algoritmer tar urettferdige beslutninger. Slik endte for eksempel algoritmen som ble brukt til å forutsi elevkarakterer i Storbritannia i fjor, med å tildele høyere karakterer til de som bor i velstående områder.
Det er nok eksempler på at AI -modeller tar skadelige – og noen ganger helt feil – beslutninger til bekymring. “Risikoen for diskriminering knyttet til AI-drevne beslutninger-beslutninger som kan endre, definere eller skade menneskeliv-er altfor reell. Derfor må det systematisk vurderes og overvåkes effekten av AI-systemer for å identifisere og redusere menneskelige liv. rettigheter, sier Bachelet.
FN-rapporten henvendte seg spesielt til staters bruk av algoritmer for overvåkingsformål, og spesielt biometriske teknologier som ansiktsgjenkjenning, som brukes til å identifisere mennesker i sanntid og på avstand, med potensial til å tillate ubegrenset sporing av enkeltpersoner.
Det bør være et moratorium for bruk av biometriske teknologier i offentlige rom, sier rapporten, til det er påvist at det ikke er problemer med algoritmens nøyaktighet, og at systemet ikke har en diskriminerende virkning.
Det er derfor opp til regjeringene å implementere de riktige lovene for å holde utviklingen av AI -verktøy som muliggjør overvåking og andre menneskerettighetsbrudd under kontroll, ifølge FN -kommissæren.
Tidligere i år presenterte for eksempel EU -kommisjonen utkast til regler om kunstig intelligens, som katalogiserte AI -applikasjoner basert på forskjellige risikonivåer. På toppen av pyramiden var brukstilfeller som kommer med “uakseptabel risiko”, som bryter med grunnleggende rettigheter og bør forbys.
Bruken av ansiktsgjenkjenning i offentlige rom, sa EU -kommisjonen, bør forbys da den bryter disse rettighetene. Dommen kom imidlertid med forskjellige unntak som ble fordømt av fortalergrupper som tillot for mange smutthull.
Personvern
Hvordan gjøre personvernet ditt til bedriftens 'killer app' Personlig identifiserbar informasjon (PII): Hva det er, hvordan det brukes, og hvordan du beskytter det Datasikkerhet og datasikkerhet er ikke det samme Cybersikkerhet 101: Beskytt personvernet ditt mot hackere, spioner og myndighetene
Relaterte emner:
Government Digital Transformation CXO Internet of Things Innovation Enterprise Software 