0
Veel recente discussies over privacy en data governance is gericht op de praktische en op de korte termijn. Dat is begrijpelijk, gezien het feit dat hier in Australië onze verplichte data breach notification regime weefgetouwen groot, en Europa ‘ s General Data Protection Regulation (GDPR) volgt snel na. Maar de balans is een goede zaak.
Ik was blij, dus dat de Data + Privacy-Azië / Pacific conference in Sydney op woensdag trapte af met een blik op de ethiek van de gegevens rentmeesterschap. Niet de alledaagse, wat, waar en hoe van gegevens operaties, maar het waarom van het doen van een van deze gegevens dingen in de eerste plaats.
Deze framing is van opzet, Australië en de Information and Privacy Commissioner, Timothy Pelgrim, vertelde ZDNet.
“Er is geen ironie in het feit dat vaak de meest persoonlijke informatie is de rijkste in de mogelijkheden voor het openbaar gebruik van de gegevens,” zei de Pelgrim in zijn openingstoespraak. Daarin liggen de ethische problemen.
Hoe doen we een balans tussen persoonlijke risico ‘ s met de mogelijkheid voor het publieke goed, of op zijn minst het goede van de organisatie voor het verzamelen van de gegevens? Wat telt als een “legitiem belang” in het verzamelen van de data, in tegenstelling tot zuigen zo veel mogelijk zo snel mogelijk?
Nieuwe manieren van analyseren van gegevens, re-identificeren van zogenaamd anonieme gegevens, en verregaande conclusies worden razendsnel ontwikkeld. Zelfs de grootste spelers als Google en Facebook zouden toegeven, ze hebben geen idee wat het zou mogelijk zelfs een paar jaar vooruit.
Dus hoe gaan we te werk in de oceaan van mogelijkheden wanneer gegevens kunnen worden gekocht, verkocht, verloren, gestolen, of gelekt?
“Ik denk dat je bent precies goed in het wijzen naar dit als de grootste uitdaging, niet alleen voor ons in deze discussie, maar voor ons allemaal vandaag de dag,” zei Rob Sherman, deputy chief privacy officer bij Facebook. “We weten niet 20 jaar aan de weg welke technologie gaat eruit.”
“Je moet bereid zijn om uitgevoerd te worden. We hebben aan de principes die zijn vastgesteld, die een afspiegeling zijn van onze opvattingen over de manier om dit te doen, onafhankelijk van de technologie, en onafhankelijk van het specifieke gebruik van de gegevens.”
Geweldig. Maar hoe ontwikkel je principes in het abstracte?
Volgens Dr. Simon Longstaff, uitvoerend directeur van Het Ethiek Centrum, een handig hulpmiddel hierbij is de “sluier van onwetendheid”, een gedachte-experiment voorgesteld in 1971 door de Amerikaanse filosoof John Rawls.
Stel je voor dat je de ontwikkeling van de operationele principes voor, zeg, een on-demand dienstverlening.
Stel je nu voor dat je niets weet over jezelf, je natuurlijke talenten, of uw positie in de samenleving. Je weet niets over uw geslacht, ras, taal, vaardigheden, gezondheid … geen van deze dingen. De sluier van onwetendheid is neergedaald.
Hoe zou u het instellen van de regels voor deze service als u een van de mensen die betrokken zijn — van bestuurder, passagier, aandeelhouder, een bruine huid, zwangere, geestelijk ziek, dronken, welke? Of zelfs mensen die niet rechtstreeks betrokken is, zoals autofabrikanten, toezichthouders proberen te beperken overhead, of ingezetenen van omgaan met de milieu-effecten?
Welke principes zouden worden redelijk en billijk voor alle betrokkenen?
“[Zo] u kunt beginnen om een idee te krijgen van wat u zou bouwen, dat is technologie-neutraal, effectief in termen van omgaan met onze belangen,” zei Longstaff.
Een dergelijke ‘morele verbeelding’, zoals Longstaff beschreven, zou gaan een lange weg in de richting van het aanpakken van één van Startupland is de meest voor de hand liggende problemen — dat diensten worden bedacht, gebouwd door, en ontwikkeld voor een smalle demografische dat is meestal mannelijke, meestal wit, meestal bevoorrechte, meestal jonger dan 30 jaar, en meestal besotted met hun eigen “inzicht” van hoe de wereld werkt.
Een dergelijke morele verbeelding zou kunnen hebben bijgedragen tot het creëren van een on-demand vervoer zeer verschillend van Uber.
Vergeet niet de echte reden voor het Uber?
“We wilden een stijlvolle rit. We wilden baller in San Francisco. Dat is alles wat het was,” zei oprichter Theo Kalanick in 2013.
Een dergelijke morele verbeelding zou kunnen geholpen hebben de makers van de dienst die, naar wordt beweerd, ontmoedigd arme studenten van de universiteit, eerder dan te suggereren manieren om hen te helpen hun droom. Ze kunnen voorstellen hoe een tiener voelt zich misschien wordt verteld, “Nah, ik zou het niet de moeite.”
En zo ‘ n morele verbeelding zou hebben geholpen human services minister Alan Tudge navigeert zich een weg door de Centrelink robodebt debacle, waar slordige algoritmen en processen geleid tot onredelijke eisen voor het geld dat wordt verzonden naar het welzijn van de ontvangers. Hij zou hebben gedacht hoe het zou zijn als aan de ontvangende kant.
Dingen werken heel anders dan in Canada.
“Overheden willen koppelen van gegevens, dus is het misschien af te snijden iemand van de voordelen, bijvoorbeeld omdat je het verklaren van het inkomen die nu bekend is,” zei Michael McEvoy, Adjunct-Commissaris op het Kantoor van de Information and Privacy Commissioner for British Columbia.
‘We werken met de overheid op, dat wil zeggen dat u kunt dat doen door de machine proces, maar als je het doet om disentitle iemand, of in de een of andere manier afbreuk te doen aan die individu, een mens heeft om te kijken alvorens een beslissing wordt gemaakt.”
Terwijl je je Tudge met een morele verbeelding kan een stuk van de verbeelding, het is niet zo onrealistisch om te verwachten dat een organisatie de raad van bestuur om deze problemen onder de noemer van maatschappelijk verantwoord ondernemen.
Zoals ik schreef in 2015, big data ethiek is een board-level probleem.
lees meer
Big Data Analytics
Big data kan een revolutie analytics, databases en enterprise.
0