0
Unge voksne født i lav socioøkonomisk familier kan bruge en algoritme, der er bygget på regeringen, der er indsamlet data til at afgøre, om eller ikke at de skal belemres med deres videregående uddannelse, en repræsentant fra den Victorianske Videregående Indlæggelser Center har afsløret.
Det blev påstået på Data + Privatliv Asien og Stillehavsområdet konference i Sydney onsdag en unavngiven virksomhed søger ind i brugen af “meget detaljerede oplysninger” om socioøkonomiske baggrunde, blandt andre ting, at skabe platforme, hvor unge mennesker kan gå i, og sæt i deres data til at modtage en bestemmelse om sandsynligheden for, at deres evne til at fortsætte på universitetet.
“Denne gruppe har arbejdet på programmer, at pædagoger kan være rystet over, hvor børnene skulle skrive i, og det vil sige til dem, ‘Jamen, der er baseret på din socioøkonomiske baggrund og dine forældre, historie osv., du vil ikke gøre meget godt på universitetet” … eller er dine odds er lav,” indlæggelser center repræsentant forklaret.
En masse af data, som er indsamlet af videregående indlæggelser centre i Australien har mandat til at gå ind på forskellige ministerier for en række forskellige årsager, men når data stilles til rådighed for andre virksomheder, Dr. Simon Longstaff fra Etik-Center sagde en diskussion om etiske stewardship behov til være havde.
“Jeg formoder, at regeringen-i dette tilfælde, som i mange-har handlet uden nogen tanke om den etiske dimension,” Longstaff sagde. “De fleste af den tid, tingene gå galt i etik, ikke fordi folk er onde … men fordi “alle gør det’.”
Longstaff sagde, at denne form for data brug forårsager kaos i verden, og stillede spørgsmålstegn ved, om de relevante statslige enheder, der er ansvarlige for de data, der er at tage handling og en undskyldning for misforståelsen om virksomhedens mål for indsamling af data.
At tale med ZDNet, Anna Johnston, tidligere New South Wales Stedfortræder Privacy Commissioner og direktør i Salinger Privatlivets fred, sagde denne type af data analytics har både en positiv og en negativ indvirkning. Hun sagde, at spørgsmål skal stilles omkring, hvorfor data blev indsamlet i første omgang, og derefter, hvad universiteter — eller enkeltpersoner kommer til at gøre med disse oplysninger.
“Den rigtige ting at gøre, er at bruge denne viden til at udvikle strategier for tidlig indgriben for de elever, der har brug for det,” Johnston sagde.
På den bagside, men en kommercielt tænkende universitet kan sige, at de simpelthen ikke vil tilmelde den studerende med de højeste risiko for fiasko.
“Det er selvfølgelig en diskriminerende udfald — en uetisk og ulovlig resultatet-men det er det potentiale, end-point for denne type af analytics,” forklarede hun. “Du skal også tænke på de farer, profilering og pre-destination for studerende.”
Johnston mener, alle har brug for evnen til at bevise, at algoritmen forkert.
Hun sagde selv, hvis de indsamlede oplysninger, om en person er beregnet til at blive brugt positivt, at basere det på er født-egenskaber, der sætter en person i en kasse, før de har haft mulighed for at træffe deres egne beslutninger liv.
“Hvis du forsøger at udvikle risikoprofiler eller risiko indikatorer … du ønsker at beregne deres risiko for fiasko, der er baseret ikke bare på den baggrund at de er kommet fra, men deres faktiske adfærd, når i institutionen, så eksamen scoringer, deltagelse priser, så mål intervention for studerende, der har mest brug for det.”, tilføjede hun.
“Hvis en elev fortalte om deres meget første dag på universitetet, at de er i risiko for fiasko, fordi de kom fra den forkerte postnummer, der kan blive et ødelagt selvopfyldende profeti til, at studerende, og i stedet, hvad du ønsker at gøre, er at sige, for alle, der kæmper på dette, “her er nogle ressourcer, vi har til at hjælpe dig’.”
Data Governance Australien (DGA), den uafhængige instans, der har til opgave at etablere industri-standarder omkring data, lanceret et udkast til Kodeks for god Praksis for offentlig høring i sidste måned, som en del af sin indsats for at sætte industri-standarder og benchmarks for den, der er ansvarlig for indsamling, anvendelse, håndtering og videregivelse af data.
Udkast til kodeks [PDF] lægger en tung fokusere på at gøre “ingen skade” til kunden, der fremhæver dette betyder, at organisationer, der ville være nødvendige for at “gøre sit yderste” for at sikre, at de ikke forvolder skade på en person som et resultat af indsamling, brug eller videregivelse af deres personlige oplysninger.
Men, som DGA har nogen juridisk magt over en organisation, det ville stole på de moralske og etiske karakter af organisationen til at håndhæve reglerne sin kode dikterer.
Seneste Australske nyheder
ATO vil fortsætte med at bruge Cellebrite værktøjer
Undersøgelse siger, at Australierne ikke har tillid til teleselskaber at gemme deres data
Vocus modtager anden overtagelse forslag
Apple ‘ s FileMaker lancerer Cloud med AWS i Australien, Japan, Canada
NBN, som kun findes på en tredjedel af leje: Leje.kom.au
0