Advies voor technologen op het bevorderen van de AI ethiek

0
18

Ethiek doemt als een vervelend probleem wanneer het gaat om kunstmatige intelligentie (AI). Waar komt AI bias voorjaar uit, vooral als het onbedoelde? Bedrijven betalen genoeg aandacht aan besteden als ze een duik volle-kracht in AI-ontwikkeling en-implementatie? Doen ze iets over? Doen ze ook weten wat er aan te doen?

airport-chicago-ohare-cropped-nov-2015-photo-by-joe-mckendrick.jpg

Foto: Joe McKendrick

Wringen bias en onbedoelde gevolgen van de AI is het maken van zijn weg in de functiebeschrijvingen van de technologie van managers en professionals, vooral als zakelijke leiders bij hen terecht voor begeleiding en beoordeling. De drive om ethische AI betekent een grotere rol voor de technologen in de bedrijfsvoering, zoals beschreven in een studie van 1580 leidinggevenden en 4,400 de consument van het Capgemini-Onderzoek Instituut. De enquête was in staat om directe verbindingen tussen AI ethische en zakelijke groei: als de consument de zin van een bedrijf in dienst AI ethisch, zullen ze terug blijven komen; ze zin onethisch AI praktijken, hun bedrijf is verdwenen.

De concurrentiedruk is de reden dat bedrijven duwen AI naar zijn grenzen en komt het oversteken van ethische regels. “De druk op te voeren AI is het aanwakkeren van ethische kwesties,” de Capgemini auteurs, geleid door Anne-Laure Thieullent, gedelegeerd bestuurder van Capgemini ‘ s Artificial Intelligence & Analytics-Groep staat. “Toen we vroegen leidinggevenden waarom ethische vraagstukken als gevolg van AI, zijn een toenemend probleem, de top-ranked reden was de druk om te implementeren AI.” Vier en dertig procent aangehaald deze druk om voorop te blijven lopen met AI trends.

Een andere een-derde rapport ethische kwesties niet beschouwd werden tijdens de aanleg van AI-systemen, het onderzoek laat zien. De andere 31% zei dat hun belangrijkste probleem was het gebrek aan mensen en middelen. Dit is waar IT-managers en-professionals maken het verschil.

De Capgemini-team vastgesteld dat de problemen waarmee IT-managers en-professionals nodig hebben om te gaan:

“Het gebrek aan ethische AI-code van gedrag of het vermogen om te beoordelen in afwijking van het Ontbreken van relevante training voor ontwikkelaars gebouw AI-systemen
Ethische kwesties werden niet in aanmerking genomen bij de bouw van AI-systemen
De druk om met spoed te implementeren AI zonder adequaat aanpakken van ethische kwesties
Gebrek aan middelen (geld, mensen, technologie, gewijd aan ethische AI systemen”

Thieullent en haar co-auteurs hebben een advies voor IT-managers en-professionals met het nemen van een leidende rol in termen van AI-ethiek:

Gebruikers met meer controle en de mogelijkheid om te zoeken beroep: “Dit betekent gebouw beleid en processen, waar gebruikers kunnen de vraag om uitleg van de AI-gebaseerde beslissingen te nemen.”

Zorg AI systemen transparant en begrijpelijk te winnen van het vertrouwen van bezoekers: “De teams ontwikkelen van de systemen moet de documentatie en informatie om uit te leggen, in eenvoudige termen, hoe bepaalde AI-gebaseerde beslissingen worden bereikt en hoe ze invloed hebben op een individu. Deze teams moeten ook de document processen voor data-sets alsmede de besluitvorming systemen.”

De praktijk is goede data management en het inperken van mogelijke vertekeningen in de data: “als general management
verantwoordelijk voor het opzetten van goede data management praktijken, het valt op de gegevens engineering en data science en AI-teams om te zorgen dat deze praktijken worden gevolgd. Deze teams nemen ‘privacy-by-design’ – beginselen in het ontwerpen en bouwen van een fase en zorgen voor robuustheid, herhaalbaarheid en controleerbaarheid van de gehele data-cyclus (ruwe data, de training data, testdata, enz.).”

Als onderdeel van deze IT-beheerders moet “controleren voor juistheid, kwaliteit, robuustheid en mogelijke vooroordelen, met inbegrip van de detectie van onder-vertegenwoordigd minderheden of events/patronen,” evenals “het bouwen van voldoende gegevens labeling praktijken en periodiek, op te slaan op een verantwoorde manier, zodat het beschikbaar wordt gesteld voor de audits en de herhaalbaarheid van assessments.”

Houd de loep genomen op datasets: “Focus op het waarborgen van bestaande datasets niet maken of versterken van bestaande vooroordelen. Bijvoorbeeld, het identificeren van bestaande vooroordelen in de dataset door het gebruik van bestaande AI gereedschap of door middel van gerichte controles in de statistische patronen van datasets.” Dit omvat ook ‘ het verkennen en implementeren van systemen voor het controleren en corrigeren van bestaande vooroordelen in de dataset voor de ontwikkeling van algoritmen,” en “het uitvoeren van voldoende pre-release proeven en na de release van het toezicht te identificeren, te reguleren, en het inperken van een bestaande vooroordelen.”

Gebruik maken van technologie, tools voor het bouwen van ethiek in AI: “Een van de problemen die door de uitvoering van de AI is het black-box karakter van diep leren en neurale netwerken. Dit maakt het moeilijk om te bouwen transparantie en controle voor vooroordelen.” Steeds meer bedrijven de implementatie van tech-en het bouwen van platformen die helpen bij het aanpakken van deze. Thieullent en haar co-auteurs punt aan het stimuleren van ontwikkelingen in de markt, zoals IBM ‘ s AI OpenScale, open source tools en oplossingen van AI startups die kunnen zorgen voor meer transparantie en controle voor vooroordelen.

Maak ethiek governance structuren en zorg wordt de verantwoordelijkheid voor het AI-systemen: “Maak duidelijke rollen en structuren, toewijzen ethische AI verantwoording aan belangrijke mensen en teams en hen.” Dit kan worden bereikt door aanpassing van de bestaande governance-structuren op te bouwen verantwoording binnen bepaalde teams. Bijvoorbeeld, de bestaande ethiek leiden (bijvoorbeeld, de Chief Ethics Officer) in de organisatie kunnen worden belast met de verantwoordelijkheid ook op zoek naar de ethische kwesties in AI.”

Het is ook belangrijk voor het toewijzen van “senior leiders die zou verantwoordelijk worden gehouden voor ethische vragen in de AI.” Thieullent en de Capgemini-team raadt ook aan “het bouwen van interne en externe commissies die verantwoordelijk zijn voor de implementatie van AI ethisch, die onafhankelijk zijn en daarom onder geen druk te haasten naar AI-implementatie.”

Het bouwen van diverse teams om ervoor te zorgen gevoeligheid voor het volledige spectrum van ethische kwesties: “Het is belangrijk om te betrekken bij diverse teams. Bijvoorbeeld, organisaties moeten niet alleen het bouwen van meer verschillende data-teams (in termen van geslacht of etniciteit), maar ook het actief maken van inter-disciplinaire teams van sociologen, gedragsdeskundigen en UI/UX ontwerpers die kan zorgen voor extra perspectieven tijdens de AI-design.”

Verwante Onderwerpen:

HET Prioriteiten

Digitale Transformatie

CXO

Het Internet van Dingen

Innovatie

Enterprise Software