Het recht op een menselijke beoordeling zal in veel gevallen onpraktisch en onevenredig worden naarmate AI-toepassingen de komende jaren groeien, aldus een consultatie van de Britse regering.
Afbeelding: iStock/Getty Images Plus
Terwijl 's werelds grootste economieën werken aan nieuwe wetten om AI onder controle te houden om te voorkomen dat de technologie onbedoelde schade veroorzaakt, lijkt het VK aan te dringen op een nogal andere aanpak. De regering heeft onlangs voorgesteld om enkele bestaande regels af te schaffen om het gebruik van algoritmen te doorbreken – en experts waarschuwen nu dat dit een gevaarlijke weg is.
In een consultatie die eerder dit jaar werd gelanceerd, nodigde het Department for Digital, Culture, Media and Sport (DCMS) experts uit om hun mening te geven over een aantal nieuwe voorstellen om het Britse gegevensbeschermingsregime te hervormen.
Een van de onderwerpen was een poging om een wettelijke bepaling te verwijderen die burgers momenteel in staat stelt om een beslissing die over hen is genomen door een geautomatiseerde besluitvormingstechnologie aan te vechten, en om een menselijke beoordeling van de beslissing te vragen.
ZIE: Rapport constateert opzienbarende desinteresse in ethisch, verantwoord gebruik van AI onder bedrijfsleiders
De raadpleging heeft vastgesteld dat deze regel in veel gevallen onpraktisch en onevenredig zal worden naarmate AI-toepassingen de komende jaren groeien, en planning voor de noodzaak om altijd het vermogen te behouden om menselijke beoordeling te bieden, wordt onwerkbaar.
Maar experts van de BCS, het Britse instituut voor IT, hebben gewaarschuwd voor de voorgestelde stap om de wet te schrappen.
“Deze regel gaat in feite over het proberen om een soort van transparantie en bescherming te creëren voor de individuen bij de besluitvorming door volledig geautomatiseerde processen die aanzienlijke schade kunnen toebrengen aan iemand”, Sam De Silva, partner bij advocatenkantoor, CMS en de voorzitter van BCS's juridische specialistische groep, vertelt ZDNet. “Er moet enige bescherming zijn in plaats van te vertrouwen op een complete zwarte doos.”
Achter de poging van het VK om de gegevensbeschermingsregelgeving van het land te wijzigen, schuilt de wens om los te komen van zijn eerdere verplichting om zich te committeren aan de Algemene Verordening Gegevensbescherming (AVG) van de EU.
Het “recht op een menselijke beoordeling” vormt in feite het 22e artikel van de AVG van de EU en is als zodanig naar behoren opgenomen in de eigen binnenlandse AVG van het VK, die tot voor kort moest voldoen aan de wetten die in het blok van kracht zijn.
Sinds het land de EU heeft verlaten, heeft de regering echter graag de nadruk gelegd op de nieuw verworven onafhankelijkheid – en in het bijzonder op het vermogen van het VK om zijn eigen regels te maken als het gaat om gegevensbescherming.
“Buiten de EU kan het VK zijn benadering van regelgeving hervormen en kansen grijpen met zijn nieuwe regelgevende vrijheden, waardoor groei, innovatie en concurrentie in het hele land worden gestimuleerd”, begint de DCMS-raadpleging over gegevensbescherming.
Artikel 22 van de AVG werd ongeschikt geacht voor een dergelijke toekomstbestendige regelgeving. Tijdens de raadpleging wordt erkend dat de door de wet geboden waarborgen nodig kunnen zijn in een select aantal gevallen van gebruik met een hoog risico, maar in het rapport wordt geconcludeerd dat, aangezien geautomatiseerde besluitvorming de komende jaren in alle sectoren zal toenemen, het nu noodzakelijk is om te beoordelen of de beveiliging nodig is.
Enkele maanden voordat de consultatie werd gelanceerd, kwam een aparte overheidstaakgroep met een soortgelijke aanbeveling, met het argument dat de vereisten van artikel 22 omslachtig en kostbaar zijn, omdat ze betekenen dat organisaties met een alternatief handmatig proces, zelfs wanneer ze routinehandelingen automatiseren.
De taskforce adviseerde om artikel 22 volledig uit de Britse wetgeving te schrappen, en DCMS bevestigde in de consultatie dat de regering dit voorstel nu in overweging neemt.
Volgens De Silva is de motivatie achter de verhuizing economisch. “Het argument van de regering is dat ze denken dat artikel 22 innovatie in de weg staat”, zegt De Silva. “Dat lijkt hun reden te zijn om de verwijdering ervan voor te stellen.”
De raadpleging brengt de noodzaak naar voren om datawetgeving te creëren die bedrijven ten goede komt. DCMS presenteerde een reeks “pro-groei” en “innovatievriendelijke” wetten die meer onderzoek en innovatie zullen ontsluiten, terwijl de nalevingskosten voor bedrijven worden verlaagd, en zei dat het verwacht dat nieuwe regelgeving aanzienlijke financiële voordelen zal opleveren.
Voor De Silva is het risico van deregulering van de technologie echter te groot. Van werving tot financiering, geautomatiseerde beslissingen kunnen het leven van burgers ingrijpend beïnvloeden, en het te snel afschaffen van beschermende wetten kan gevaarlijke gevolgen hebben.
ZIE: Programmeertalen: Python heeft net een grote sprong voorwaarts gemaakt
Dat wil niet zeggen dat de bepalingen van de AVG voldoende zijn. Sommige van de grieven die in de consultatie van DCMS tegen artikel 22 worden beschreven, zijn legitiem, zegt De Silva: de wet ontbreekt bijvoorbeeld aan zekerheid, waarin staat dat burgers het recht hebben om menselijke toetsing te vragen wanneer de beslissing uitsluitend gebaseerd is op geautomatiseerde verwerking, zonder te specificeren waarbij kan worden aangenomen dat er een mens bij betrokken was.
“Ik ben het ermee eens dat het niet helemaal duidelijk is en dat het niet echt een goed opgestelde bepaling is”, zegt De Silva. “Mijn mening is dat we er verder naar moeten kijken, maar ik denk niet dat het de oplossing is om het te schrappen. Het verwijderen ervan is waarschijnlijk de minst wenselijke optie.”
Als er iets is, zegt De Silva, moeten de bestaande regels worden gewijzigd om nog verder te gaan. Artikel 22 is slechts één clausule binnen een veelomvattende verordening die zich richt op persoonsgegevens – terwijl het onderwerp waarschijnlijk zijn eigen wetgeving zou kunnen gebruiken.
Dit gebrek aan reikwijdte kan ook verklaren waarom de bepaling onduidelijk is, en benadrukt de noodzaak van meer substantiële wetten.
“Artikel 22 staat in de AVG, het gaat dus alleen om het omgaan met persoonsgegevens”, zegt De Silva. “Als we het breder willen maken dan dat, dan moeten we kijken of we AI in het algemeen reguleren. Dat is een grotere vraag.”
Een vraag die waarschijnlijk ook in de hoofden van de Britse regelgevers zal zijn. De komende maanden zullen onthullen welke antwoorden ze eventueel hebben gevonden.
Privacy
Hoe u van privacy de 'killer-app' van uw bedrijf maakt Persoonlijk identificeerbare informatie (PII): wat het is, hoe het wordt gebruikt en hoe u het beschermt Gegevensprivacy en gegevensbeveiliging is niet hetzelfde Cyberbeveiliging 101: bescherm uw privacy tegen hackers, spionnen en de overheid
gerelateerde onderwerpen:
CXO digitale transformatie Internet of things Innovatie Enterprise Software Smart Cities 