Sydney-baserede finansielle serviceydelser licenstager Kalk FS har aftalt, til frivilligt at lukke to af sin robo-råd og redskaber, efter bekymringer, der blev rejst af Australian Securities and Investments Commission (ASIC).
Robo-råd og værktøjer, der ejes af Kalk FS — Masser Væld af Kalk og Rigdom — er godkendt til at levere automatiserede personlig økonomisk rådgivning til forbrugere om livsforsikring, budgettering, skat, investeringer, og pensionsindbetalinger. Begge værktøjer fungerer ved hjælp af algoritmer og teknologi, uden direkte involvering af en menneskelig vejleder.
Men ASIC sagde efter gennemgå en prøve råd fil fra Masser Væld af Kalk og Rigdom, kvaliteten af den rådgivning, der genereres af den automatiske online-værktøjer, var “utilstrækkelige”. I nogle tilfælde, at den rådgivning, der genereres af de værktøjer, der er i strid med kundens mål eller andre anbefalinger også genereret af værktøj.
“Digital rådgivning, værktøjer og tilbyder et bekvemt og billigt alternativ til de forbrugere, der ellers ikke søge personlig økonomisk rådgivning. Men den rådgivning, som ydes ved hjælp af disse værktøjer skal opfylde de samme juridiske forpligtelser, som kræves af den menneskelige rådgivere — rådgivningen skal være relevant for kunden, og er i overensstemmelse med den bedste interesser pligt,” ASIC-kommissær Danielle Tryk på advaret.
ASIC sagde, at det var også berørt af Kalk FS’ evne til at overvåge de råd, der stammer fra disse værktøjer.
“ASIC forventer AFS licenstagere og finansielle rådgivere bruge eller anbefale digital rådgivning værktøjer til at sikre, at de i tilstrækkelig grad at overvåge og teste råd for kvalitet og relevans,” sagde Tryk på.
Se også: Kunstig intelligens etiske politik (TechRepublic)
Det er tilfælde som disse, der har udløst de kan lide af Commonwealth Scientific og Industrial Research Organisation (CSIRO) til at kalde for udviklingen af kunstig intelligens (AI) med en tilstrækkelig ramme for at sikre, noget er sat til borgere uden den fornødne etiske hensyn.
Data61, CSIRO digital innovation arm, offentliggjort et debatoplæg i April på de vigtige spørgsmål, der er rejst i stort omfang af AI, der søger svar på en håndfuld spørgsmål, der forventes at informere regeringens tilgang til AI etik i Australien.
Det antages, at der ikke er nogen one-size-fits-all løsning til den række af juridiske og etiske implikationer spørgsmål i tilknytning til AI, CSIRO identificeret ni redskaber, som de siger, kan bruges til at vurdere risikoen og sikre overholdelse og kontrol.
Disse blev konsekvensanalyser, anmeldelser, risikovurderinger, retningslinjer for bedste praksis, standarder inden for industrien, samarbejde, overvågning og forbedring mekanismer, klagemuligheder, og høring.
Australian National University for nylig iværksat et forskningsprojekt, der skal fokus på at designe Australske værdier i AI-system.
Den humanisering af maskinen intelligens (HMI) projektet vil se 17 centrale forskere, der er involveret i at opbygge et design ramme for moralsk machine intelligence (MMI), der kan være udbredt.
Leder af Skolen for Filosofi på ANU Seth Lazar tidligere fortalt ZDNet behovet for at udvikle moralske AI kommer ud af de seneste bekymringer om eksisterende AI systemer.
“De ting, der udløser min bekymring for AI er, at der [er] så mange måder, som vi kunne bruge AI for sociale god, men over det sidste år eller to, er det blevet klart, at der er potentielt en masse utilsigtede konsekvenser, som AI, der potentielt kunne være gjort for dårlige grunde,” sagde han. “Så der er stor efterspørgsel og interesse for udvikling af AI med moralske værdier.”
Relaterede Dækning
AI og etik: Den debat, der har behov for at blive hadAdvice for teknologer på at fremme AI ethicsBoeing at udvikle AI systemer med Forsvaret er selvstændig forskning centreSpending på AI-systemer, der bruges til at bølge og konsulenter kommer til at trives
Relaterede Emner:
Kunstig Intelligens
CXO
Digital Transformation
Tech-Branchen
Intelligente Byer
Cloud