MIT: s Intelligens Quest syftar till att helt tänka om hur vi framåt AI
Kanske den största hämtmat från MIT IQ är att algoritmer behöver nya metoder och flera discipliner och forskningsområden behöver samarbeta för att driva AI genombrott. Läs mer: http://zd.net/2FuKbun
Nu vet vi vad man ska kalla det, att stora, störande samling av bekymmer om artificiell intelligens och den myriad av hot som vi föreställer oss, från maskinen bias till förlorade arbetstillfällen till Terminator-liknande robotar: “Maskinens beteende.”
Det är den term som forskare vid Massachusetts Institute of Technology ‘ s Media Lab har föreslagit en ny typ av tvärvetenskapliga fältet studie för att räkna ut hur AI utvecklas, och vad det betyder för människor. (De använder Brittisk stavning, eftersom detta är en Europeisk tidning.)
Insatserna är höga, eftersom det finns massor av möjligheter för den mänskliga förmågan att förstärkas av algoritmer, men också massor av fara.
Debattörer och forskare, skriver de, “har larm om de breda, oavsiktliga konsekvenser av AI-agenter som kan uppvisa beteenden och producera nedströms samhälleliga effekter-både positiva och negativa-som är oväntade av sin skapare.” Det är “en rädsla för att den potentiella förlusten av mänskliga tillsyn över intelligenta maskiner” och utveckling av “autonoma vapen”, som innebär att “maskiner som kan avgöra vem som lever och vem som dör i väpnade konflikter.”
Det finns inga slutsatser här om något av detta, det är en trevlig, ambitiöst försök att ge en viss riktning för att studera AI: s roll i samhället snarare än att bara oroa om det.
Också: AI pionjär Sejnowski säger att det handlar om gradient
Publicerad i veckans nummer av tidskriften Nature, pappers -, Maskin Beteende, kräver en gemensam ansträngning av “de områden som design och ingenjör AI-system och de fält som traditionellt använda vetenskapliga metoder för att studera beteendet av biologiska agens.” Specifikt, författare föreslår att studera inte bara hur maskinlärande algoritmer fungerar, men hur de påverkas av, och påverkar, den miljö i vilken de fungerar.
Det är “besläktad med hur etologi och beteende-ekologi studerar djurs beteende genom att integrera fysiologi och biokemi — inneboende egenskaper-med-studie i ekologi och evolution-egenskaper formas av miljön.”
Frågorna stora och små MIT föreslår att be om A. I.
MIT Media Lab
×
abb7e724-21dc-4cee-afae-134088d0cf09.jpg
Bly författare iyad Rahwan, Manuel Cebrian, och Nick Obradovich av MIT samarbetat med 20 andra forskare från flera institutioner, inklusive Facebook AI, Microsoft, Stanford, sociologiska institutionen vid Yale-Universitetet, Berlin Max Planck-Institutet för Mänskliga Utvecklingen, bland annat. De har också förberett ett blogginlägg på ämnet. Rahwan driver en grupp inom Media Lab som kallas Skalbar Samarbete i Gruppen som har kommit upp med många vägar för forskning på att studera maskiner och frågor som rör etik och sådant.
Författarna börjar med det faktum att mycket av AI är möjligheten att fungera-trots det faktum att människor inte förstår varför det fungerar.
“De får input och producerar output”, som de beskriver det, “men exakt funktionella processer som genererar dessa utgångar är svårt att tolka även till de allra forskare som kan skapa de algoritmer som sig själva.”
“På grund av sin utbredning och komplexitet, att förutsäga effekter av intelligenta algoritmer för mänskligheten — oavsett om de är positiva eller negativa-utgör en stor utmaning,” författarna noterar.
Också: Googles DeepMind frågar vad det innebär för AI att misslyckas
Författarna tar sin cue från Nobel Prize winner Nikolaas Tinbergen, en av grundarna av etologi. Tinbergen som beskrivs etologi som “biologiska studier av beteende,” och han föreslog att fyra element som utgör en sådan studie: mekanismer, utveckling, funktion och evolution. Dessa fyra begrepp kan vara ett sätt att utforska maskinens beteende, skriver de.
I denna ram, som de föreslår termen mekanismer gäller de områden som redan är mest studerat i AI, såsom neurala nätverk modeller och data att mata dem. Begreppet utveckling gäller saker som neurala nät att lära sig nya strategier för hur de samverkar med miljön. “Till exempel, en förstärkning lärande agent utbildade för att maximera långsiktig vinst kan lära sig märkliga kortsiktiga handelsstrategier baserade på sina egna tidigare åtgärder och åtföljande respons från marknaden.”
Författarna beskriver “funktion” som en slags blandning mellan syftet med en algoritm som tjänar till sin mänskliga skapare, men också den oavsiktliga roll som en algoritm som kan ta på, till exempel sociala medier algoritmer som leder till “filter bubblor” och falska nyheter. Författarna är verkligen utforska här problemet med den “objektiva funktion” i machine learning, nämligen exakt vad dessa algoritmer är tänkt att uppnå.
Den fjärde aspekten, evolution, är inte så enkelt som du kanske förstår av namnet: Det finns flera aspekter, bland annat att det finns en benägenhet för antaganden av skaparna av neurala nät för att främja vissa typer av algoritmer jämfört med andra, men också möjligheten att “mutationer” sprida på oväntade sätt. “Det är möjligt för en enda adaptiv “mutation” i beteendet hos en viss förarlösa bilen för att propagera direkt till miljontals andra bilar genom en uppdatering av programvaran,” de observerar.
Dessa fyra områden leda till en del intressanta frågor om AI, både stor-bild och en låg nivå.
Till exempel, med saker som autonoma fordon, de ställer frågor som “Hur aggressivt gör bilen köra om andra fordon?” Och “hur fungerar bilen fördela risk mellan passagerare och fotgängare?” Andra intressanta frågor är saker som om konversera robotar slutet upp att vara ett medel för att haka barn på produkter, eller om en matchning algoritmer för dating webbplatser “ändra fördelningspolitiska utfall av dating processen.”
“Maskiner form av mänskliga beteenden,” är en av deras störande observationer. “Det är viktigt att undersöka om små fel i algoritmer eller de data som de kan använda sammansatta för att producera samhället-breda effekter och hur intelligenta robotar i våra skolor, sjukhus och vårdcentraler kan förändra människors utveckling och livskvalitet och för att kunna påverka resultat för människor med funktionsnedsättning.”
Måste läsa
Vad är AI? Allt du behöver för att vetavad är djupt lärande? Allt du behöver för att vetavad är lärande? Allt du behöver för att vetavad är cloud computing? Allt du behöver veta
Denna typ av studie inte kommer att bli lätt, inte bara för att det handlar om att föra samman flera discipliner. Författarna noterar att forskarna står inför utmaningar om de vill studera kommersiella algoritmer med upphovsrätt eller patent-skydd. Och valet att försöka följa algoritmer i en empirisk mode i det vilda ger sin egen uppsättning av etiska problem.
Även själva termen “agent”, som de använder upprepade gånger för att hänvisa till AI innovationer, ger alla typer av problematiska antaganden om människors och djurs paralleller, de erkänner.
“Även om upplåning befintliga beteendemässiga vetenskapliga metoder kan vara användbara för studier av maskiner, maskiner kan uppvisa former av intelligens och beteende som är kvalitativt olika—även alien—från de som ses i biologiska agenser
Artificiell Intelligens
LG att utveckla robotar för restauranger
Skalning Agile, anta AI: Hur Intel är att göra DET till en strategisk del av verksamheten
Über vs Lyft: Hur rivaler strategi moln, AI, maskininlärning
Google drar pluggen på AI etik grupp bara några veckor efter starten
Game of Thrones: AI förutspår vem som lever och dör (CNET)
Hur man gör AI etik med prioritet på ditt företag (TechRepublic)
Relaterade Ämnen:
Robotteknik
Digital Omvandling
CXO
Sakernas Internet
Innovation
Affärssystem