MIT ‘ s Intelligence-Quest wil helemaal opnieuw na te denken hoe we vooraf AI
Misschien wel de grootste afhaalrestaurants van MIT IQ zijn dat de algoritmen moeten nieuwe benaderingen en meerdere disciplines en onderzoek op gebieden moeten samenwerken om te rijden AI doorbraken. Lees meer: http://zd.net/2FuKbun
Nu we weten wat te noemen, dat grote, storende collectie van zorgen over kunstmatige intelligentie en de talloze bedreigingen die we voorstellen, uit de machine bias tot verlies van banen aan de Terminator-achtige robots: “Machine gedrag.”
Dat is de term die de onderzoekers aan het Massachusetts Institute of Technology ‘ s Media Lab hebben voorgesteld voor een nieuwe vorm van interdisciplinaire veld van onderzoek om erachter te komen hoe de AI zich ontwikkelt, en wat dat betekent voor de mens. (Ze gebruiken de Britse spelling, dit is een Europees tijdschrift.)
De inzet is hoog, want er is veel potentieel voor het menselijk vermogen om te worden versterkt door algoritmes, maar ook veel gevaren.
Commentatoren en wetenschappers, schrijven ze, “zijn het verhogen van de alarm over de brede, onbedoelde gevolgen van de AI middelen die kunnen vertonen van gedrag en het produceren downstream maatschappelijke effecten (zowel positief en negatief — dat zijn onverwachte door hun makers.” Er is een angst voor het verlies van menselijk toezicht over intelligent machines, en de ontwikkeling van de “autonome wapens” betekent dat “de machines kunnen bepalen wie leeft en wie sterft in gewapende conflicten.”
Hoewel er geen conclusies hier over een van deze, het is een leuke, ambitieuze poging om een bepaalde richting te studeren AI ‘ s rol in de samenleving in plaats van alleen zorgen te maken over het.
Ook: AI-pionier Sejnowski, zegt alles over het verloop
Gepubliceerd in het tijdschrift Nature van deze week, de papier -, Machine-Gedrag, vraagt om een gezamenlijke inspanning van “de velden die ontwerpen en construeren van AI-systemen en de velden die van oudsher gebruik van wetenschappelijke methoden te bestuderen van het gedrag van biologische agentia.” Specifiek, de auteurs stellen voor om te studeren niet alleen hoe de machine learning algoritmes werken, maar hoe ze worden beïnvloed door, en invloed op de omgeving waarin ze functioneren.
Het is “verwant aan hoe ethologie en behavioural ecology studie van het gedrag van dieren door de integratie van de fysiologie en de biochemie — intrinsieke eigenschappen — met de studie van de ecologie en evolutie-eigenschappen gevormd door de omgeving.”
Vragen grote en kleine MIT stelt vragen over A. I.
MIT Media Lab
×
abb7e724-21dc-4cee-afae-134088d0cf09.jpg
Leiden auteurs iyad Rahwan, Manuel Cebrian, en Nick Obradovich van het MIT, werkte samen met 20 andere onderzoekers van tal van instellingen, waaronder Facebook AI, Microsoft, Stanford, de afdeling sociologie van de Universiteit van Yale, en de Berlijnse Max Planck Institute for Human Development, onder anderen. Ze hebben ook bereid een blog post over het onderwerp. Rahwan loopt een groep binnen de Media Lab genaamd de Schaalbare Samenwerking van de Groep die is coming up met tal van mogelijkheden voor onderzoek op het bestuderen van machines en ethische vraagstukken en dergelijke.
De auteurs beginnen met het feit dat veel van de AI is in staat om te functioneren — ondanks het feit dat mensen niet begrijpen waarom het werkt.
“Ze zijn in de gegeven invoer en uitvoer,” zoals zij het beschrijft, “maar de exacte functionele processen die leiden tot deze resultaten zijn moeilijk te interpreteren, zelfs voor de zeer wetenschappers die het genereren van de algoritmes.”
“Door hun alomtegenwoordigheid en de complexiteit, het voorspellen van de effecten van intelligente algoritmes op de mensheid — positief of negatief — vormt een aanzienlijke uitdaging,” de auteurs merken.
Ook: Google ‘ s DeepMind vraagt wat het betekent voor de AI om te falen
De auteurs nemen van de initiatieven van Nobelprijs winnaar Nikolaas Tinbergen, mede-grondlegger van de ethologie. Tinbergen beschreven ethologie als de “biologische studie van het gedrag,” en hij stelde vier elementen die in een dergelijke studie: mechanismen, ontwikkeling, functie en evolutie. Deze vier concepten kan een manier zijn om te verkennen machine gedrag, schrijven ze.
In dit kader stellen zij, de term mechanismen betreft de gebieden die reeds het meest bestudeerd in AI, zoals neurale netwerk modellen, en de gegevens die hen voeden. Het begrip ontwikkeling betreft de dingen zoals neurale netwerken die leer nieuwe strategieën, want hoe ze omgaan met de omgeving. “Bijvoorbeeld, een van reinforcement learning agent getraind te maximaliseren op lange termijn de winst kan leren eigenaardige korte termijn trading strategieën op basis van zijn eigen acties in het verleden en bijkomende feedback vanuit de markt.”
De auteurs beschrijven “functie” als een soort mix tussen het doel van een algoritme dient om de menselijke makers, maar ook de onbedoelde rol dat een algoritme kan nemen, zoals social media algoritmen die leiden tot “filter bubbles” en nep-nieuws. De auteurs zijn echt verkennen hier het probleem van de “objectieve functie” in de machine learning, namelijk, wat er precies aan deze algoritmes worden verondersteld te bereiken.
Het vierde aspect, evolutie, is niet zo eenvoudig als je zou denken van de naam: Er is een aantal aspecten, waaronder de neiging om veronderstellingen door de makers van neurale netwerken te bevorderen van bepaalde soorten algoritmen tegenover anderen, maar ook het vooruitzicht van de “mutaties” het propageren van op onverwachte manieren. “Het is mogelijk voor een enkele adaptieve ‘mutatie’ in het gedrag van een bepaalde driverless auto te propageren direct aan miljoenen andere auto ‘s door middel van een software-update” zij waarnemen.
Deze vier gebieden leiden tot een aantal interessante vragen over AI, zowel de grote afbeelding en op laag niveau.
Bijvoorbeeld met zaken als autonome voertuigen, stellen ze vragen als: ‘Hoe agressief is de auto inhalen van andere voertuigen?” En “hoe doet de auto het distribueren van de risico’ s tussen de passagiers en voetgangers?” Andere intrigerende vragen zijn bijvoorbeeld of conversatie robots eindigen als een middel om de haak kinderen op producten, of matching algoritmen voor dating sites “veranderen van de verschillen in de uitkomsten van het dating proces.”
“Machines vorm van menselijk gedrag,” is een van hun verontrustende waarnemingen. “Het is belangrijk om te onderzoeken of kleine fouten in het algoritme of de gegevens die ze gebruiken kunnen compound te produceren maatschappij-brede effecten en hoe intelligente robots in onze scholen, ziekenhuizen en zorginstellingen kunnen veranderen ontwikkeling van de mens en de kwaliteit van leven en mogelijk van invloed zijn op de prognose voor mensen met een handicap.”
Moet lezen
Wat is AI? Alles wat je nodig hebt om knowWhat is diep leren? Alles wat je nodig hebt om knowWhat is van ‘machine learning’? Alles wat je nodig hebt om knowWhat is cloud computing? Alles wat je moet weten
Dit soort onderzoek zal niet gemakkelijk zijn, niet alleen omdat het gaat om het bijeenbrengen van verschillende disciplines. De auteurs merken op dat de onderzoekers geconfronteerd met uitdagingen als ze willen om te studeren commerciële algoritmen met auteursrecht of octrooi bescherming. En de keuze om te proberen en observeren van algoritmes in een empirische mode in het wild brengt zijn eigen set van ethische bezwaren.
Zelfs de term ‘agent’, die zij vaak gebruikt om te verwijzen naar AI innovaties en brengt alle soorten van problematische veronderstellingen van mens en dier, parallels, erkennen ze.
“Zelfs als het lenen van bestaande gedrags-wetenschappelijke methoden kan nuttig zijn voor de studie van machines, machines kunnen vertonen vormen van intelligentie en gedrag die kwalitatief verschillende—zelfs alien—van die in de biologische agentia
Kunstmatige Intelligentie
LG om robots te ontwikkelen voor restaurants
Het schalen van Agile, de vaststelling van AI: Hoe Intel is het maken van een strategisch onderdeel van de business
Uber vs. Lyft: Hoe de rivalen aanpak cloud -, AI -, machine learning
Google trekt de stekker op AI ethiek groep slechts een paar weken na aanvang
Spel der Tronen: AI voorspelt, die leeft en sterft (CNET)
Hoe maak AI ethiek een van de prioriteiten van uw bedrijf (TechRepublic)
Verwante Onderwerpen:
Robotica
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software