0
Unga vuxna som är födda i familjer med låg socioekonomisk kan använda en algoritm som bygger på regeringen-insamlade data för att avgöra huruvida de ska bry sig om sin högskoleutbildning, en representant från den Viktorianska Högre Antagning Centrum har avslöjat.
Det påstods på Data + Integritet Asien / Stillahavsområdet-konferensen i Sydney på onsdagen en namnlösa företag ser till att använda “mycket detaljerad information” om socioekonomisk bakgrund, bland annat, att skapa plattformar där unga människor kan gå in i och koppla in sina uppgifter för att få en bestämning på sannolikheten för deras förmåga att fortsätta på universitetet.
“Den här gruppen har arbetat med program som pedagoger kan vara bestört över, där barnen skulle skriva i och det kommer att säga till dem, “och bygger på din socioekonomisk bakgrund och dina föräldrar historia etc du kommer inte att göra mycket bra vid university’ … eller dina odds är låga,” antagningen centrum representant förklarade.
En hel del data som samlas in av högre antagning centraler över hela Australien i uppdrag att gå in på olika statliga myndigheter för en mängd olika skäl, men när uppgifterna lämnas ut till andra företag, Dr Simon Longstaff från Etik Centrum sade en diskussion om etiska stewardship behov att vara hade.
“Jag misstänker att regeringen-i detta fall som i många — har agerat utan någon som helst tanke på den etiska dimensionen,” Longstaff sagt. “De flesta av den tid för saker att gå fel i etik, inte för att folk är elaka … men eftersom “alla gör det”.”
Longstaff sade att denna typ av data användning orsakar förödelse i världen och ifrågasatte om lämpliga statliga organ med ansvar för att de uppgifter som finns att vidta åtgärder och att be om ursäkt för missförstånd bolagets syfte för att samla in data.
Tala med ZDNet, Anna Johnston, tidigare New South Wales Vice Integritet Kommissarie och chef på Salinger Integritet, sade denna typ av data analytics har både en positiv och en negativ inverkan. Hon sa att frågor måste ställas kring varför uppgifterna har samlats in i första hand, och sedan vad universitet-eller personer-kommer att göra med denna information.
“Rätt sak att göra är att använda den informationen för att utveckla tidiga insatser för de elever som behöver det,” Johnston sa.
På flipside, men en kommersiellt sinnade universitet kan säga att de helt enkelt inte att anmäla elever med de högsta riskerna för att misslyckas.
“Det är naturligtvis en diskriminerande resultatet-en oetiska och olagliga resultatet-men det är den potentiella end-point för denna typ av analyser,” förklarade hon. “Du måste också tänka på de faror av profilering och pre-destination för studenter.”
Johnston tror alla behöver förmågan att bevisa algoritmen fel.
Hon sa att även om information som samlats in om en individ är avsett att användas som något positivt att basera den på är född-egenskaper sätter någon i en låda innan de har haft möjlighet att fatta sina egna livsbeslut.
“Om du försöker att ta fram riskprofiler eller riskindikatorer … du vill använda för att beräkna risken för misslyckande bygger inte bara på den bakgrund de har kommit från men deras faktiska beteende gång på institutionen, så att elevernas betyg, närvaro priser, sedan rikta insatser för elever som behöver det mest.”, tillade hon.
“Om en elev berättade på sin allra första dag på universitetet att de är i riskzonen för att misslyckas eftersom de kom från fel postnummer, som kan bli ett ödelagt självuppfyllande profetia för eleven och istället vad du vill göra är att säga, för alla som kämpar på det här, “här är några resurser som vi har fått för att hjälpa dig”.”
Data Governance Australien (DGA), den oberoende organ med uppgift att etablera industristandarder runt data, lanserade ett förslag till uppförandekod för offentliga samråd förra månaden, som en del av sina ansträngningar att ställa industrin normer och riktmärken för den som ansvarar för insamling, användning, hantering och utlämnande av uppgifter.
Det förslag till kod [PDF] är en tung fokus på att göra “inte skada” till kunden, lyfta fram detta innebär att organisationer som skulle krävas för att “använda bästa ansträngningar” för att säkerställa att de inte orsakar skada för en individ som ett resultat av insamling, användning eller utlämnande av sina personuppgifter.
Men, som DGA har ingen juridisk makt över en organisation, det skulle förlita sig på de moraliska och etiska typ av organisation att upprätthålla de regler som koden föreskriver.
Senaste Australiska nyheter
ATO kommer att fortsätta att använda verktyg Cellebrite
Undersökning säger att Australiensarna inte litar på operatörerna att lagra sina data
Vocus får andra övertagande förslag
Apples FileMaker lanserar Cloud med AWS i Australien, Japan, Kanada
NBN endast tillgängliga på en tredjedel av hyra: Hyra.com.au
0