Australian Human Rights Commission (AHRC) -kommissær Edward Santow har advart den føderale regjeringen mot å bruke kunstig intelligens i ytterligere beslutningsprosesser, og fremhever risikoen for AI som menneskerettigheter kan utgjøre.
Santow snakket tirsdag om nylig utgitt Menneskerettighets- og teknologirapporten, pekte på Centrelink online compliance-intervensjonsprogram – som automatiseringselementet ble kjent som robo-gjeld – for å markere denne risikoen.
“Våre bekymringer om bruken av AI i beslutningsprosesser, spesielt i virkelig viktige beslutningsprosesser – jeg er veldig bevisst på at i overgangen til bruk av uavhengige vurderinger i NDIA at det er en risiko for at noen av feilene som ble gjort med hensyn til robo-gjeld kunne gjøres igjen i denne sammenheng, “sa han.
National Disability Insurance Agency (NDIA) kunngjorde innføring av uavhengige vurderinger for NDIS-deltakere. I følge regjeringen er de designet for å sikre at tilgang til NDIS er rettferdig og rettferdig for nye og eksisterende deltakere.
Ifølge den føderale opposisjonen er uavhengige vurderinger en annen måte å si “robo-planning”.
Må lese: NDIS går bort fra blockchain i statlig kjøkkenvaskgjelds-app
“Vi må lære leksjonene fra robo-gjeld og det igjen betyr at vi må sørge for at når AI brukes, spesielt når det brukes av myndighetene, må det være rettferdig, det må være nøyaktig, og det må være ansvarlig, “sa Santow.
“Jeg tror noen av bekymringene som har blitt uttrykt offentlig om bruken av en algoritme i den uavhengige vurderingsprosessen for NDIS, er at noen av disse elementene, rettferdighet, nøyaktighet og ansvarlighet, godt kan bli kompromittert.”
Santow sa at hvis en algoritme ble brukt til å ta de avgjørende avgjørelsene i NDIS, måtte regjeringen være veldig trygg på kvaliteten på informasjonen som ble matet inn i systemet og sørge for at den ville være nøyaktig, ikke inneholde feil , og vær forspenningsfri.
“Ansvar er også avgjørende viktig – uansett hvilken beslutning som tas, for eksempel i det uavhengige vurderingsområdet, må det være ansvarlig,” la han til. “Folk må forstå årsakene til vurderingen, og de må kunne utfordre den avgjørelsen hvis de mener at avgjørelsen er feil eller hvis den er urettferdig, spesielt hvis den er ulovlig.”
I sin rapport fremmet AHRC en rekke anbefalinger og forslag til regjeringen, inkludert at den legger et forbud mot bruk av ansiktsgjenkjenning og annen biometrisk teknologi i “høyrisiko” -områder.
Men der det er tilgjengelig teknologien var bekymret, ba kommisjonen at føderale, statlige, territoriale og lokale myndigheter skulle forplikte seg til å bruke digital kommunikasjonsteknologi som fullt ut overholder anerkjente tilgjengelighetsstandarder.
Det anbefales å gjøre det gjennom innføring av hele -myndighetskrav for overholdelse av disse standardene.
“Mennesker med funksjonshemming har rett til tilgang til teknologi,” sa AHRC. “Tilgang til ny teknologi, spesielt digital kommunikasjonsteknologi, er en muliggjøringsrett for mennesker med nedsatt funksjonsevne fordi den er avgjørende for glede av en rekke andre sivile, politiske, økonomiske, sosiale og kulturelle rettigheter.
“God teknologidesign kan muliggjøre deltakelse av mennesker med nedsatt funksjonsevne som aldri før – fra bruk av billedtekst i sanntid til å stole på smarte hjemmeassistenter. På den annen side kan dårlig design forårsake betydelig skade og redusere kapasiteten til mennesker med funksjonshemning for å delta i aktiviteter som er sentrale for glede av deres menneskerettigheter, og deres evne til å leve selvstendig. “
SISTE FRA CANBERRA
Digital Health Agency sier My Health Record risikoreduserende arbeid med -trackLabor Bill vil tvinge australske organisasjoner til å avsløre når de betaler løsepenger AI-skjevhet og diskriminering i overflod: Australske grønne vil ha en online sikkerhetsregning opphevet Føderal domstol godkjenner en kompensasjon på 112 millioner dollar i oppgjør for mislykkede gjeld
Beslektede emner:
Australia CXO Digital Transformation Tech Industry Smart Cities Cloud 