For nu, i stedet for at indrette etik direkte i produktet for at undgå fremtidige skader, har virksomhederne stadig en tendens til at vente, indtil der er en krise, før de ændrer sig.
Billede: Shutterstock/Kostenko Maxim
Begrebet etisk teknologi har altid virket bedre egnet til teoretiske samtaler i konferencelokaler, men det skal nu blive en håndgribelig – og økonomisk – prioritet for virksomheder, der udvikler digitale værktøjer.
Ifølge techanalytiker Gartner vil de verdensomspændende privatlivsdrevne udgifter til databeskyttelse og compliance-teknologi i år 2024 overstige 15 milliarder dollars årligt, efterhånden som digital etik bliver mere og mere top-of-mind.
Fortrolighedsbevidste organisationer er indstillet på at investere i nye teknologier, der bedre forhindrer algoritmiske skader, siger Gartner, lige fra homomorf kryptering, som muliggør algoritmisk beregning af krypterede data, til suveræn sky og syntetiske data.
Dette er drevet af den hurtige udvikling af kunstige intelligensværktøjer, som kan have utilsigtede konsekvenser af en langt større skala end tidligere teknologier, ifølge Gartner -analytiker Bart Willemsen. Uanset om det er at skrive tekster, køre bil eller hjælpe med kriminelle overbevisninger, har AI -værktøjer en vis grad af autonomi, hvilket betyder, at når det går galt, går det alvorligt galt.
“AIs autonome karakter, den skala, hvormed AI kan have indflydelse, den hastighed, hvormed den kan have indflydelse, betyder, at der ikke skal tænkes på udesignede og uønskede konsekvenser tidligere,” fortæller Willemsen ZDNet.
I stigende grad vil den etiske diskussion om de potentielle uforudsete konsekvenser af et AI -værktøj finde sted før og under en teknologis implementering, snarere end efter, siger Gartner.
Selvom denne strategi langsomt er på vej frem, er den dog stadig langt fra at nå de fleste virksomheder. For nu, i stedet for at arkitekturen etiket direkte ind i produktet for at undgå fremtidige skader, har virksomhederne stadig en tendens til at vente, indtil der er en krise, før de ændrer sig.
I 2018 måtte Amazon for eksempel skrotte et automatiseret ansættelsesværktøj, efter at det blev offentliggjort, at teknologien havde vist sig at diskriminere kvinder. Et år senere blev Goldman Sachs konfronteret med påstande om, at virksomhedens kreditalgoritme var kønsbestemt. Og selv regeringer har været nødt til at gå tilbage til brugen af AI: Storbritanniens ministerium for uddannelse har for eksempel for nylig trukket en algoritme tilbage, der tildeler elevernes karakterer, efter at det viste sig, at det begunstigede børn fra rigere skoler.
“Derfor skifter det etiske spørgsmål til: Skal vi overhovedet bruge dette? Hvis ja, i hvilket omfang? Og så er der et spørgsmål, der næppe blev stillet før for et par år siden: Er vi villige til at trække stikket?” siger Willemsen.
I nogle lande udvikler love sig for at få virksomheder til at stille sig selv disse spørgsmål før, frem for efter at have udviklet AI -værktøjer. Men selv da følger juridiske processer et velkendt reaktivt mønster.
Willemsen peger på EU's seneste udkast til forskrifter om AI, som indeholder bestemmelser som f.eks. Forbud mod brug af AI til social scoring af enkeltpersoner – et forsøg på at undgå en replikation af det kinesiske sociale kreditsystem, siger analytikeren – eller forbyder AI -værktøjer, der kan påvirke en persons adfærd eller mening.
“Til mig siger der bare: 'Vi har set Cambridge Analytica, vi vil meget gerne ikke have det igen,” siger Willemsen. “Det er en reaktion. Vi ved alle, hvor det kommer fra.”
Gartner forventer, at i slutningen af 2023 vil mere end 80% af virksomhederne over hele verden stå over for mindst én fortrolighedsfokuseret databeskyttelsesforordning-og love vil stadig spille en enorm rolle i tøjlerne i skadelige algoritmer. Men for at sikre, at AI -værktøjer ikke medfører nye skader, bliver virksomheder nødt til at gå et skridt videre end love designet til at forhindre, hvad der allerede er sket tidligere.
Willemsen forudser tre forskellige tilgange til digital etik. Nogle virksomheder vil simpelthen investere for at sikre, at de overholder reglerne; mens lidt mere proaktive virksomheder vil begynde at tænke på risikoreducering.
“Sig, at du kører på en åben vej, og du ser et skilt, der siger, at du ikke må overstige 55 miles i timen,” siger Willemsen. “Overholdelsesetik betyder at sætte fartpiloten på 54 og lukke øjnene. Afbødende risiko betyder konstant at kigge gennem forruden, for hvis 3.000 mennesker foran dig stopper fuldstændigt i et trafikprop, slår du bremserne.”
I begge tilfælde er fremgangsmåden imidlertid reaktiv. Implementering af ægte digital etik vil kræve endnu en strategi, siger Willemsen: tænker ud over overensstemmelse, forsøger at indgyde etiske principper helt fra starten af udviklingsprocessen for en AI -teknologi og skaber værdi gennem disse principper. Gartner er optimistisk over for, at det er den tilgang, der gradvist er ved at blive mainstream.
Om virksomheder, der implementerer digital etik, er naturligvis drevet af et sandt ønske om at gøre tech til det gode, eller om behovet for at undgå offentlige og juridiske tilbageslag mangler at se. Med de utilsigtede konsekvenser af, at teknologien er mere alvorlig i naturen, er der også meget stærkere offentligt ramaskrig, når algoritmer forårsager skade – og at forårsage sådan et ramaskrig er i ingen forretnings interesse.
“Du drives enten stadig af din fortjeneste og tab eller af et humanistisk perspektiv,” siger Willemsen. “Det afhænger af organisationen. Men så vidt jeg kan se, er den afgørende faktor i de fleste tilfælde væksten.”
I begge tilfælde er resultatet det samme: virksomheder bevæger sig væk fra reaktiv overholdelse mod proaktivt privatliv ved design. En optimistisk prognose, der kan komme med enorme samfundsmæssige fordele.
Fortrolighed
Sådan gør du fortrolighed til din virksomheds 'killer -app' Personligt identificerbare oplysninger (PII): Hvad det er, hvordan det bruges, og hvordan det beskyttes Datasikkerhed og datasikkerhed er ikke det samme Cybersikkerhed 101: Beskyt dit privatliv mod hackere, spioner og regeringen
Relaterede emner:
Datastyring Digital Transformation CXO Internet of Things Innovation Enterprise Software 