Foreløpig, i stedet for å bygge etikk direkte inn i produktet for å unngå fremtidige skader, har selskaper fortsatt en tendens til å vente til det er en krise før de gjør endringer.
Bilde: Shutterstock/Kostenko Maxim
Konseptet med etisk teknologi har alltid virket bedre egnet for teoretiske samtaler i konferanserom, men det er nå satt til å bli en håndgripelig – og økonomisk – prioritet for virksomheter som utvikler digitale verktøy.
Ifølge teknologianalytiker Gartner vil de verdensomspennende personverndrevne utgiftene til databeskyttelse og overholdelsesteknologi i år 2024 overstige 15 milliarder dollar årlig, ettersom digital etikk stadig blir topp i sinnet.
Personvernbevisste organisasjoner skal investere i ny teknologi som bedre forhindrer algoritmiske skader, sier Gartner, alt fra homomorf kryptering, som muliggjør algoritmisk beregning av krypterte data, til suveren sky og syntetiske data.
Dette er drevet av den raske utviklingen av kunstig intelligens -verktøy, som kan ha utilsiktede konsekvenser av en mye større skala enn tidligere teknologier, ifølge Gartner -analytiker Bart Willemsen. Enten det er å skrive tekster, kjøre bil eller bistå med straffedomme, har AI -verktøy en viss grad av autonomi, noe som betyr at når ting går galt, går de alvorlig galt.
“Den autonome naturen til AI, omfanget av hvilken AI kan påvirke, hastigheten den kan ha innvirkning på, betyr at udesignede og uønskede konsekvenser må tenkes på tidligere,” sier Willemsen ZDNet.
Den etiske diskusjonen om de potensielle uforutsette konsekvensene av et AI -verktøy kommer i økende grad til å finne sted før og under en teknologis implementering, snarere enn etter, sier Gartner.
Selv om denne strategien sakte kommer frem, er den imidlertid fortsatt langt fra å nå de fleste virksomhetene. For nå, i stedet for å bygge etikk direkte inn i produktet for å unngå fremtidige skader, har selskaper fortsatt en tendens til å vente til det er en krise før de gjør det godt.
I 2018, for eksempel, måtte Amazon skrote et automatisert ansettelsesverktøy etter at det ble offentliggjort at teknologien hadde blitt funnet å diskriminere kvinner. Et år senere ble Goldman Sachs stilt overfor en undersøkelse av påstander om at selskapets kredittalgoritme var kjønnsbestemt. Og selv regjeringer har måttet gå tilbake til bruken av AI: Storbritannias avdeling for utdanning, for eksempel, har nylig trukket tilbake en algoritme som tildeler elevenes karakterer etter at det viste seg at den favoriserte barn fra velstående skoler.
“Det er derfor det etiske spørsmålet skifter til: Skal vi bruke dette? Hvis ja, i hvilken grad? Og så er det et spørsmål som knapt ble stilt før for noen få år siden: Er vi villige til å trekke ut pluggen?” sier Willemsen.
I noen land utvikler lover seg for å få selskaper til å stille seg selv disse spørsmålene før, i stedet for etter, etter å ha utviklet AI -verktøy. Men selv da følger juridiske prosesser et kjent reaktivt mønster.
Willemsen peker på EUs siste utkast til forskrifter om AI, som inkluderer bestemmelser som forbud mot bruk av AI for sosialt å score enkeltpersoner – et forsøk på å unngå en replikasjon av det kinesiske sosiale kredittsystemet, sier analytikeren – eller forby AI -verktøy som kan påvirke en persons oppførsel eller mening.
“For meg sier det bare:” Vi har sett Cambridge Analytica, vi vil veldig gjerne at det ikke skal skje igjen, “sier Willemsen. “Det er en reaksjon. Vi vet alle hvor det kommer fra.”
Gartner forventer at innen utgangen av 2023 vil mer enn 80% av selskapene over hele verden stå overfor minst én personvernfokusert databeskyttelsesforordning-og lover vil fortsatt spille en enorm rolle for å ta igjen skadelige algoritmer. Men for å sikre at AI -verktøy ikke gir nye skader, må selskapene gå et skritt videre enn lover som er utformet for å forhindre det som allerede har skjedd tidligere.
Willemsen forutser tre forskjellige tilnærminger til digital etikk. Noen selskaper vil ganske enkelt investere for å sikre at de overholder reglene; mens litt mer proaktive virksomheter vil begynne å tenke på risikoreduksjon.
“Si at du kjører på en åpen vei, og du ser et skilt som sier at du ikke bør overstige 55 miles i timen,” sier Willemsen. “Overholdelsesetikk betyr at du setter cruisekontrollen på 54 og lukker øynene dine. Avbøtende risiko betyr kontinuerlig å se gjennom frontruten fordi hvis 3000 mennesker foran deg stopper fullstendig i et trafikkork, slår du bremsene.”
I begge tilfeller er tilnærmingen imidlertid reaktiv. Implementering av ekte digital etikk vil kreve enda en strategi, sier Willemsen: tenker utover samsvar, prøver å tilføre etiske prinsipper helt fra starten av utviklingsprosessen for en AI -teknologi, og generere verdi gjennom disse prinsippene. Gartner er optimistisk om at dette er tilnærmingen som gradvis blir mainstream.
Selvfølgelig gjenstår det å se om selskaper som implementerer digital etikk er drevet av et sant ønske om å gjøre teknologi for godt, eller av behovet for å unngå offentlige og juridiske tilbakeslag. Med de utilsiktede konsekvensene av at teknologien er mer seriøs, er det også mye sterkere offentlig opprør når algoritmer forårsaker skade – og det er i ingen virksomhets interesse.
“Du drives enten stille av fortjeneste og tap, eller av et humanistisk perspektiv,” sier Willemsen. “Det avhenger av organisasjonen. Men så vidt jeg ser, er den avgjørende faktoren i de fleste tilfeller veksten.”
I begge tilfeller forblir utfallet det samme: selskaper går bort fra reaktiv overholdelse mot proaktivt personvern ved design. En optimistisk prognose som kan komme med store samfunnsmessige fordeler.
Personvern
Slik gjør du personvernet til bedriftens 'killer app' Personlig identifiserbar informasjon (PII): Hva det er, hvordan det brukes, og hvordan du kan beskytte det Datasikkerhet og personvern datasikkerhet er ikke det samme Cybersikkerhet 101: Beskytt personvernet ditt mot hackere, spioner og myndighetene
Relaterte emner:
Datahåndtering Digital Transformation CXO Internet of Things Innovation Enterprise Software 