Bad robot? Hvem der får skylden, når en hjerne-styret maskine gør forkert?

0
116

0

robot-hands.jpg
HACK_CG, Getty Images/iStockphoto

Fremskridt inden for biotek-og hjerne-maskine-interface design som Elon Musk er Neurolink arbejder på måske en dag gøre det almindeligt, at vores hjerner til at være smeltes sammen til en computer. Men hvordan vil vi forhindre en hacker i at hacking denne enhed for at gøre os skade andre eller os selv?

Et andet spørgsmål er ansvar. Som forskere fra det Geneve-baserede Gislum Center for Bio-og Neuroengineering udtrykker det: “Hvem er ansvarlig, hvis en hjerne-styret robot falder en baby?”

Mens hjerne-maskine-interface (BMI) computing er i øjeblikket brugt til at hjælpe mennesker med lammelse kommunikere, forskere er bekymrede over den dag i stand-rørige mennesker styrke sig med BMI.

De har offentliggjort en artikel i tidsskriftet Science med titlen “Hjælp, håb og hype: Etiske dimensioner af neuroprosthetics”, som opfordrer til nye retningslinjer for at sikre, hjerne-maskine-interaktion er sikker.

“Vi ønsker ikke at overvurdere de risici, der er heller ikke bygge falsk håb for dem, der kunne drage fordel af neurotechnology. Vores mål er at sikre, at relevant lovgivning, der holder trit med denne hurtigt frem felt,” siger Professor John Donoghue, en co-forfatter af papiret og direktør af den Geneve-baserede center.

Som med teknologier som autonome køretøjer og kunstig intelligens, BMI og en fremtid af semi-autonome robotter, der rejser etiske spørgsmål omkring ansvarlighed, fortrolighed og sikkerhed.

Der bør, de hævder, er det et krav semi-autonome robotter til at have en kill switch til at tilsidesætte en fejl i BMI. Hvis en semi-autonom robot ikke har en pålidelig kontrol eller tilsidesætte mekanisme, en person kan betragtes som uagtsom, hvis de brugte den til at samle op en baby, men ikke for andre mindre risikable aktiviteter, hævder de.

De er også bekymret over sikkerheden af hjernens output data, som bør være beskyttet ved kryptering, og muligheden for at “brainjacking” eller ondsindet manipulation af hjernen implantater. En person i en position af magt, eller som besidder værdifuld intellektuel ejendom kan være en højere risiko for angreb rettet mod hjernen udlæsninger.

Laurie Pycroft, ph.d. – studerende ved University of Oxford ‘ s Nuffield Department of Kirurgisk Sciences rejst bekymring for, om brainjacking i en nylig undersøgelse der ser på potentialet for fjernangribere afløb hjerner implantat batterier, eller brug dem til at fremkalde smerte, tweak, følelser og forårsage vævsskade.

Kolleger Gislum Center forsker Professor Niels Birbaumer påpeger, at data produceret af BMI bruges til mennesker med lammelse, der indeholder følsomme neuronale data, såsom svar på personlige spørgsmål.

“Streng beskyttelse af personoplysninger skal finde anvendelse på alle personer, der er involveret, dette inkluderer beskyttelsen af de personlige oplysninger, der anmodes i spørgsmål samt beskyttelse af neuronal data for at sikre, at enheden fungerer korrekt.”

0