0
Jongvolwassenen geboren in een lage sociaal-economische gezinnen kan het gebruik van een algoritme gebouwd op door de overheid verzamelde gegevens om te bepalen of ze wel of niet moeten lastig vallen met hun tertiair onderwijs, een vertegenwoordiger van de Victoriaanse Tertiaire Opnames Centrum heeft geopenbaard.
Het werd gesproken op de Data + Privacy-Azië / Pacific conference in Sydney op woensdag een naamloze vennootschap is op zoek naar gebruik van “zeer gedetailleerde informatie” over de sociaal-economische achtergronden, onder andere, om platforms te creëren waarbij jonge mensen kan gaan en de stekker in hun gegevens te ontvangen van een bepaling van de kans van hun vermogen om te blijven aan een universiteit.
“Deze groep heeft gewerkt aan programma’ s die docenten zou kunnen worden ontzet op, waar kinderen zouden type in en het zal tot hen zeggen, ‘Nou, gebaseerd op uw socio-economische achtergrond en je ouders de geschiedenis etc je niet echt goed doen op de universiteit’ … of uw kansen zijn laag,” de toelatings-centrum vertegenwoordiger uitgelegd.
Veel van de data die is verzameld door de tertiaire opnames centra in Australië is gemandateerd om te gaan naar de verschillende departementen van de overheid voor een verscheidenheid van redenen, maar als de gegevens worden verstrekt aan andere bedrijven, Dr. Simon Longstaff van het Ethiek Centrum zei een discussie over ethische stewardship moet worden gehouden.
“Ik vermoed dat de overheid, in dit geval, net als in veel — heeft gehandeld zonder enige gedachte van de ethische dimensie,” Longstaff zei. “De meeste van de tijd dingen verkeerd gaan in de ethiek, niet omdat de mensen zijn slecht … maar omdat ‘iedereen het doet’.”
Longstaff zei dat dit soort gegevens gebruiken ravage veroorzaakt in de wereld en de vraag gesteld of de geëigende overheidsinstanties die verantwoordelijk zijn voor de gegevens in actie en verontschuldigen voor het misverstand, het doel van de vennootschap voor het verzamelen van gegevens.
Gesprek met ZDNet, Anna Johnston, het vroegere Nieuw-Zuid-Wales Adjunct-Privacy-Commissaris en bestuurder bij Salinger Privacy, zei dat dit type van data-analyse heeft zowel een positieve als een negatieve invloed. Zei ze vragen moeten worden gesteld rond de reden waarom de gegevens zijn verzameld in de eerste plaats, en vervolgens wat de universiteiten — of personen — gaat doen met die informatie.
“Het juiste ding om te doen is om die informatie te gebruiken om het ontwikkelen van een vroege interventie strategieën voor de leerlingen die dat nodig hebben,” Johnston zei.
Aan de andere kant, echter, een commercieel aangelegd universiteit zou kunnen zeggen dat ze simpelweg niet inschrijven van de studenten met de hoogste risico van falen.
“Dat is natuurlijk een discriminerende uitkomst — een onethische en onrechtmatige uitkomst — maar dat is het potentieel eindpunt voor dit type van analyse,” legde ze uit. “Je moet ook nadenken over de gevaren van de profilering en de pre-bestemming van studenten.”
Johnston gelooft iedereen heeft de mogelijkheid om te bewijzen dat het algoritme verkeerd.
Ze zei: zelfs als de informatie die verzameld zijn op een individu is bedoeld om gebruikt te worden in de positieve zin, te baseren op born-eigenschappen zet iemand in een doos voordat ze de kans gehad om hun eigen leven te nemen beslissingen.
“Als je probeert om het ontwikkelen van risico-profielen of risico-indicatoren … je wilt voor het berekenen van de risico’ s van falen niet alleen gebaseerd op de achtergrond hebben ze vandaan komen, maar hun werkelijke gedrag eenmaal in de instelling, zodat examen scores, opkomstcijfers, dan doel interventie voor studenten die het het meest nodig hebt.” voegde ze eraan toe.
“Als een student is te horen op hun eerste dag op de universiteit, dat ze op risico van falen, want ze kwam uit de verkeerde postcode, dat kan een verwoest self-fulfilling prophecy voor die leerling en in plaats daarvan wat je wilt doen is zeggen, voor iedereen die worstelt op dit, ‘hier is een aantal middelen die we hebben om u te helpen’.”
Data Governance Australië (DGA), de onafhankelijke instantie die belast is met de oprichting van de industrie normen rond data, gestart met een concept-Code van de Praktijk voor publieke consultatie van afgelopen maand, als onderdeel van haar inspanningen om de industrie normen en benchmarks voor de verantwoorde inzameling, het gebruik, het beheer en de bekendmaking van de gegevens.
De concept-code [PDF] voor het plaatsen van een zware focus op het doen van “geen schade” aan de klant, met de nadruk dit betekent dat organisaties nodig zou zijn om te “gebruiken best doen” om te zorgen dat ze geen schade toebrengen aan een persoon als gevolg van de verzameling, het gebruik of de openbaarmaking van hun persoonlijke informatie.
Echter, als de DGA heeft geen juridische macht over een organisatie, het zou rekenen op de morele en ethische aard van de organisatie om de regels van de code bepaalt.
Laatste Australische nieuws
ATO gebruik blijven maken van Cellebrite tools
Het onderzoek zegt de Australiërs niet vertrouwen telecombedrijven het opslaan van hun gegevens
Vocus ontvangt de tweede overname voorstel
Apple ‘ s FileMaker Cloud lanceert met AWS in Australië, Japan, Canada
NBN alleen beschikbaar op een derde van de huur: de Huur.com.au
0