Aangezien er nog geen waarborgen zijn om ervoor te zorgen dat de technologie op verantwoorde wijze wordt gebruikt, zei de VN-commissaris, moeten regeringen met spoed kunstmatige intelligentie in toom houden.
Afbeelding: fotoalliantie/Bijdrager/Getty Images
De roep om het gebruik van kunstmatige intelligentie af te remmen en in sommige gevallen de technologie helemaal te verbieden, wordt steeds luider. Nu heeft de mensenrechtenchef van de VN, Michelle Bachelet, haar stem gevoegd bij het koor van experts die regeringen aansporen om krachtiger actie te ondernemen om algoritmen onder controle te houden, in een nieuw rapport dat moratoria aanbeveelt op de verkoop en het gebruik van kunstmatige intelligentie voor risicovolle gebruik gevallen.
Bachelet pleitte ook voor een verbod op sommige AI-toepassingen die in strijd zijn met de internationale mensenrechtenwetgeving, zoals het sociaal scoren van individuen op basis van discriminerende criteria.
Aangezien er nog geen waarborgen zijn om ervoor te zorgen dat de technologie op verantwoorde wijze wordt gebruikt, zei de VN-commissaris, moeten regeringen met spoed kunstmatige intelligentie in toom houden. Zonder dat zullen algoritmen die mogelijk schadelijk zijn voor de mensenrechten, zonder toezicht worden ingezet, wat meer schade toebrengt aan burgers.
Algoritmen zijn al aanwezig in elk aspect van het leven van de meeste mensen, benadrukte Bachelet, wijzend op verschillende systemen die momenteel deelnemen aan levensveranderende beslissingen, zoals wie openbare diensten krijgt, wie een baan krijgt of welke gebruikers online kunt bekijken en delen.
“We kunnen het ons niet veroorloven om door te gaan met het inhalen van AI – het gebruik ervan met beperkte of geen grenzen of toezicht toestaan en achteraf omgaan met de bijna onvermijdelijke gevolgen voor de mensenrechten”, zei Bachelet.
De opmerkingen van de VN-commissaris komen uit een rapport dat door haar kantoor is uitgevoerd om te onderzoeken hoe AI van invloed kan zijn op mensenrechten, zoals privacy, gezondheid, onderwijs, bewegingsvrijheid of vrijheid van meningsuiting.
Hoewel kunstmatige intelligentie in grote mate een “kracht ten goede” bleek te zijn die samenlevingen en economieën kan helpen bij het overwinnen van enorme uitdagingen, benadrukte het rapport ook een “onmiskenbare en gestaag groeiende” impact van AI op bepaalde mensenrechten.
Algoritmen kunnen bijvoorbeeld een aanzienlijke inbreuk maken op de privacy van gebruikers. AI-systemen worden gevoed met grote hoeveelheden gegevens, waaronder persoonlijke gegevens, wat organisaties aanmoedigt om gevoelige informatie over hun gebruikers of klanten te verzamelen, op te slaan en te verwerken, soms op geheime manieren. De systemen kunnen op hun beurt worden gebruikt om voorspellingen te doen over het persoonlijke leven van mensen, variërend van de buurt waarin ze wonen tot hun slaappatroon.
Er zijn verschillende sectoren waar het gebruik van die AI-systemen bijzonder zorgwekkend is, aldus het rapport. Ze omvatten wetshandhaving, waar algoritmen van invloed kunnen zijn op een beslissing om een crimineel te arresteren, evenals openbare diensten, waar AI-modellen kunnen helpen bij het bepalen van socialezekerheidsrechten tot en met de vraag of een gezin moet worden gemarkeerd voor bezoeken door kinderopvangdiensten.
Op de werkplek wees het rapport op het risico van het gebruik van algoritmen om werknemers te controleren en te beheren. En online kunnen AI-systemen worden gebruikt om beslissingen over contentbeheer te ondersteunen, wat van groot belang is bij het bepalen van het type content waaraan elke gebruiker wordt blootgesteld.
Voor veel van deze toepassingen is het risico tweeledig. Niet alleen kan het AI-systeem zelf op gespannen voet staan met fundamentele mensenrechten zoals het recht op privacy; maar in sommige gevallen, wanneer het algoritme bevooroordeeld is, kan de technologie ook discriminerende beslissingen nemen.
De gegevens die worden gebruikt om AI-systemen te informeren, kunnen bijvoorbeeld bevooroordeeld zijn ten opzichte van bepaalde groepen, of ze kunnen eenvoudig defect, verouderd of irrelevant zijn, wat er op zijn beurt toe leidt dat algoritmen oneerlijke beslissingen nemen. Dit is hoe bijvoorbeeld het algoritme dat vorig jaar werd gebruikt om de cijfers van studenten in het VK te voorspellen, hogere cijfers toekende aan mensen die in rijkere gebieden woonden.
Er zijn genoeg voorbeelden van AI-modellen die schadelijke – en soms ronduit verkeerde – beslissingen nemen om je zorgen over te maken. “Het risico van discriminatie in verband met AI-gestuurde beslissingen – beslissingen die mensenlevens kunnen veranderen, definiëren of schaden – is maar al te reëel. Daarom moet er een systematische beoordeling en monitoring zijn van de effecten van AI-systemen om menselijke rechten risico's,” zei Bachelet.
Het VN-rapport vestigde met name de aandacht op het gebruik van algoritmen door staten voor bewakingsdoeleinden, en met name biometrische technologieën zoals gezichtsherkenning, die wordt gebruikt om mensen in realtime en op afstand te identificeren, met het potentieel om onbeperkte tracking mogelijk te maken van individuen.
Er zou een moratorium moeten komen op het gebruik van biometrische technologieën in de openbare ruimte, zegt het rapport, totdat is aangetoond dat er geen problemen zijn met de nauwkeurigheid van het algoritme en dat het systeem geen discriminerend effect.
Het is daarom aan overheden om de juiste wetten te implementeren om de ontwikkeling van AI-tools die surveillance en andere mensenrechtenschendingen mogelijk maken onder controle te houden, aldus de VN-commissaris.
Eerder dit jaar heeft de EU-commissie bijvoorbeeld ontwerpregels over kunstmatige intelligentie onthuld, waarin AI-toepassingen worden gecatalogiseerd op basis van verschillende risiconiveaus. Aan de top van de piramide stonden use-cases met “onaanvaardbare risico's”, die fundamentele rechten schenden en verboden zouden moeten worden.
Het gebruik van gezichtsherkenning in openbare ruimtes, zei de Europese Commissie, moet worden verboden omdat het die rechten schendt. De uitspraak kwam echter met verschillende uitzonderingen die door belangengroepen werden veroordeeld als te veel mazen in de wet.
Privacy
Hoe u van privacy de 'killer-app' van uw bedrijf maakt Persoonlijk identificeerbare informatie (PII): wat het is, hoe het wordt gebruikt en hoe u het beschermt Gegevensprivacy en gegevensbeveiliging is niet hetzelfde Cyberbeveiliging 101: Bescherm uw privacy tegen hackers, spionnen en de overheid
gerelateerde onderwerpen:
Overheid Digitale transformatie CXO Internet of Things Innovatie Enterprise Software