Campbell är journalist för ZDNet, som täcker teknikens inverkan över hela spektrumet av myndigheter, lagar och förordningar.
Fullständig beskrivning den 16 december 2021 | Ämne: Säkerhet
I en undersökning gjord av Australiens informationskommissionär (OAIC) har den funnit att den australiensiska federala polisens (AFP) användning av Clearview AI-plattformen stör australiensiska medborgares integritet.
Clearview AI:s ansiktsigenkänningsverktyg är känt för att bryta mot integritetslagar på flera fronter genom att urskillningslöst skrapa biometrisk information från webben och samla in data om minst 3 miljarder människor, där många av dessa människor är australiensiska.
Från november 2019 till januari 2020 använde 10 medlemmar av AFP:s Australian Center to Counter Child Exploitation (ACCCE) Clearview AI-plattformen för att genomföra sökningar av vissa individer som bor i Australien.
ACCCE-medlemmar använde plattformen för att söka efter skrapade bilder av möjliga personer av intresse, en påstådd gärningsman, offer, medlemmar av allmänheten och medlemmar av AFP, sa OAIC.
Medan AFP endast använde Clearview AI-plattformen på försök, fastställde informations- och integritetskommissionären Angelene Falk [PDF] att den federala polisen misslyckades med att genomföra en integritetskonsekvensbedömning av Clearview AI-plattformen, trots att det var ett projekt med hög integritetsrisk.
Genom att underlåta att göra det, sa OAIC att AFP bröt mot de australiska myndigheternas sekretesskod.
Den lade till att AFP inte vidtog rimliga åtgärder för att implementera praxis, procedurer och system för att säkerställa att Clearview AI-plattformen också överensstämde med de australiensiska integritetsprinciperna.
Läs mer: 'Booyaaa': Australiens federala polisens användning av Clearview AI detaljerad
AFP hävdade att den inte genomförde integritetskonsekvensbedömningen eftersom dess användning av Clearview AI-plattformen endast var under en “begränsad prövning”.
När OAIC undersökte detta beslut, sa dock att AFP inte kunde tillhandahålla några bevis för att en projektledare eller försöksdeltagare genomförde en tröskelbedömning för att avgöra om en integritetskonsekvensbedömning krävdes. En tröskelbedömning är en preliminär bedömning som används för att fastställa ett projekts potentiella integritetseffekter och huruvida en integritetskonsekvensbedömning bör göras.
Oroväckande nog fann OAIC:s utredning också att AFP inte har visat någon indikation på att den har vidtagit eller skulle vidta åtgärder för att förhindra att liknande överträdelser inträffar igen i framtiden. Detta trots att AFP redan i april förra året medgav att de testade Clearview AI-plattformen trots att de inte hade en lämplig lagstiftningsram på plats
“Utan ett mer samordnat tillvägagångssätt för att identifiera projekt med hög integritetsrisk och förbättringar av personalens integritetsutbildning, finns det en risk för att liknande överträdelser av Privacy Act inträffar i framtiden”, skrev OAIC i sitt beslut.
“Detta är särskilt fallet med tanke på den ökande tillgängligheten och kapaciteten hos tjänsteleverantörer för ansiktsigenkänning och andra nya och framväxande teknologier med hög integritetspåverkan som kan stödja utredningar.”
I ljuset av dessa integritetsintrång har OAIC beordrat AFP att anlita en oberoende tredje part bedömare för att granska dess praxis, procedurer och system och skriva en rapport om eventuella ändringar som AFP måste göra för att säkerställa dess efterlevnad av den australiensiska regeringen Agencies Privacy Code.
Rapporten om luckorna i AFP:s integritetsinfrastruktur måste skrivas under de kommande sex månaderna, och AFP måste också förse OAIC med en tidslinje för att implementera eventuella åtgärder som anges i rapporten.
OAIC har också beordrat all AFP-personal som hanterar personlig information att ha genomfört ett uppdaterat sekretessutbildningsprogram under de kommande 12 månaderna.
RELATERAD TÄCKNING
Storbritannien och Australien Informationskommissionärer ska utreda Clearview AI
AFP använde Clearview AI ansiktsigenkänningsprogram för att motverka utnyttjande av barn
Victoriapolisens e-postmeddelande avslöjar Clearview AI:s tvivelaktiga direktmarknadsföring
Europaparlamentet antar en icke-bindande resolution om att förbjuda ansiktsigenkänning ion
Singapore måste vara försiktig med AI-användning, se över tillvägagångssätt för allmänhetens förtroende Australien | Säkerhets-TV | Datahantering | CXO | Datacenter