Campbell er journalist for ZDNet, der dækker teknologiens indvirkning på tværs af spektret af regering, lovgivning og regulering.
Fuld biografisk biografisk den 16. december 2021 | Emne: Sikkerhed
I en undersøgelse udført af Australiens informationskommissær (OAIC) har den fundet, at det australske føderale politi (AFP) brug af Clearview AI-platformen forstyrrer australske borgeres privatliv.
Clearview AI's ansigtsgenkendelsesværktøj er kendt for at overtræde privatlivslovgivningen på adskillige fronter ved at skrabe biometriske oplysninger fra nettet vilkårligt og indsamle data om mindst 3 milliarder mennesker, hvoraf mange af disse mennesker er australiere.
Fra november 2019 til januar 2020 brugte 10 medlemmer af AFP's Australian Center to Counter Child Exploitation (ACCCE) Clearview AI-platformen til at foretage søgninger af visse personer bosat i Australien.
ACCCE-medlemmer brugte platformen til at søge efter skrabet billeder af mulige personer af interesse, en påstået gerningsmand, ofre, medlemmer af offentligheden og medlemmer af AFP, sagde OAIC.
Mens AFP kun brugte Clearview AI-platformen på forsøgsbasis, fastslog informations- og privatlivskommissær Angelene Falk [PDF] at det føderale politi undlod at foretage en privatlivskonsekvensvurdering af Clearview AI-platformen, på trods af at det var et projekt med høj privatlivsrisiko.
Ved at undlade at gøre det, sagde OAIC, at AFP overtrådte de australske regeringsagenturers privatlivskodeks.
Den tilføjede, at AFP ikke tog rimelige skridt til at implementere praksis, procedurer og systemer i forbindelse med at sikre, at Clearview AI-platformen også overholdt de australske privatlivsprincipper.
AFP fremførte, at det ikke foretog en vurdering af indvirkningen på privatlivets fred, da dets brug af Clearview AI-platformen kun var under en “begrænset prøveperiode”.
Da OAIC undersøgte denne beslutning, sagde OAIC imidlertid, at AFP ikke fremlagde bevis for, at en projektleder eller forsøgsdeltager udførte en tærskelvurdering for at afgøre, om en vurdering af privatlivets fred var påkrævet. En tærskelvurdering er en foreløbig vurdering, der bruges til at bestemme et projekts potentielle indvirkning på privatlivets fred, og om der skal foretages en vurdering af privatlivets fred.
Bekymrende nok fandt OAIC's undersøgelse også, at AFP ikke har vist nogen indikation af, at den har taget eller ville tage skridt til at forhindre, at lignende brud opstår igen i fremtiden. Dette er på trods af, at AFP allerede i april sidste år har indrømmet, at de prøvede Clearview AI-platformen på trods af, at de ikke havde en passende lovgivningsramme på plads
“Uden en mere koordineret tilgang til at identificere projekter med høj privatlivsrisiko og forbedringer af personalets privatlivsuddannelse er der risiko for, at lignende overtrædelser af Privacy Act vil forekomme i fremtiden,” skrev OAIC i sin beslutning.
“Dette er især tilfældet i betragtning af den stigende tilgængelighed og muligheder for udbydere af ansigtsgenkendelsestjenester og andre nye og nye teknologier med stor indvirkning på privatlivets fred, som kunne understøtte undersøgelser.”
I lyset af disse brud på privatlivets fred har OAIC beordret AFP til at engagere en uafhængig tredjepartsbedømmer til at gennemgå dens praksis, procedurer og systemer og skrive en rapport om eventuelle ændringer, som AFP skal foretage for at sikre sin overholdelse af den australske regering Agenturers privatlivskodeks.
Rapporten om hullerne i AFP's privatlivsinfrastruktur skal skrives inden for de næste seks måneder, og AFP skal også give OAIC en tidslinje for implementering af eventuelle handlinger angivet i rapporten.
OAIC har også beordret alt AFP-personale, der håndterer personlige oplysninger, at have gennemført et opdateret privatlivstræningsprogram inden for de næste 12 måneder.
RELATERET DÆKNING
UK og australsk Informationskommissærer skal undersøge Clearview AI
AFP brugte Clearview AI-ansigtsgenkendelsessoftware til at modvirke udnyttelse af børn
Victoria Police-e-mails afslører Clearview AI's risikable direkte markedsføring
Europa-Parlamentet vedtager ikke-bindende beslutning om at forbyde ansigtsgenkendelse ion
Singapore skal udvise forsigtighed med brug af kunstig intelligens, gennemgå tilgangen til offentlig tillid Australien | Sikkerheds-tv | Datastyring | CXO | Datacentre