Hon vill lära roboten ta mänskliga beslut

2015 presenterades flera stora svenska satsningar på forskning om autonoma system, artificiell intelligens och robotik. Danica Kragic Jensfelt, som är professor i robotik på KTH, är en av de toppforskare som ska förvandla anslagen till konkreta resultat.

Foto: Daniel Roos

Industrirobotar har funnits länge. Ford introducerade den första i bilindustrin i början av 1960-talet och själva ordet robot är bröderna Čapeks från 1920-talet.

– Förr förprogrammerades exempelvis bilfabrikernas robotar. Det var slutna system där robotarna gjorde sitt utan att människor behövde vara i närheten, säger Danica Kragic Jensfelt.

Nu handlar robotutvecklingen istället om att integrera fysiska maskiner med mänsklig aktivitet i normala miljöer.

– Tidigare var en robot egentligen en kraftig arm som utförde rörelser mycket exakt. Men nu har Honda och Sony utvecklat humanoider. Sådana finns också i forskningslabb.

Det är först de senaste åren som datorer och sensorer har fått tillräcklig kapacitet för att det ska bli möjligt att konstruera autonoma system som styrs av artificiell intelligens.

– Det behövs data från många sensorer. Systemen måste kunna ta hänsyn till allt brus som uppstår på grund av den stora datamängden. Sensorer motsvarar på sätt och vis människans sinnen. Och robotar måste kunna tolka informationen innan den omsätts till handling.

När roboten interagerar med en människa ska den förstå mänskligt tal och själv kunna göra sig hörd. Det är goda egenskaper för robotarbetaren i framtidens fabriker. I ett flerårigt projekt, finansierat av Stiftelsen för strategisk forskning, ska Danica Kragic Jensfelt ta reda på hur robotar och människor kan samarbeta just i en produktionsmiljö.

– Då tar roboten hand om de monotona uppgifterna. Den lär sig bland annat genom att se hur människan utför dem.

Maskinen kan bidra med mer än så. Internetuppkopplad hinner den också med att underhålla den mänskliga kollegan med sådant som intresserar honom eller henne.

– Jag tror att det blir roligare arbetsplatser.

Autonoma system kommer att förändra arbetsvillkoren inom många yrken. Chaufförer är ett exempel. Konvojer med långtradare utan förare, bortsett från i den lastbil som går i täten, är ingen utopi. Och i Tokyo ska robottaxi sköta persontransporter under OS 2020.

Datorer är bättre än människor på att jämföra och analysera stora mängder data. Om lagtexter och alla uppgifter om domar finns i molnet så minskar troligen behovet av advokater. Robotar kan också göra god nytta inom vården.

– AI-system kan leverera sammanställningar från olika skeenden som skapar stora datavolymer. System som självständigt skriver enklare sportreferat finns redan.

Också journalister kan med andra ord se fram mot ökad konkurrens om jobben. Kanske även forskare kan få robotar som kollegor. Inte otänkbart, anser Danica Kragic Jensfelt.

En forskande robot kan ha tillgång till all kunskap inom ett visst område. Den kan sedan med hjälp av statistiska modeller leta efter samband som annars är svåra att se för en vanlig forskare.

– Inom bioteknik, där man inte använder matematik så extremt mycket, kunde kanske avancerad mjukvara hjälpa till att hitta oväntade relationer i den totala datamängden.

Men om en robot ska utföra kirurgiska ingrepp på en människa är kravet att operationerna lyckas. Till 100 procent.

– Ingen går med på att roboten bara gör rätt i 99 fall av hundra.

Innan robotar med hjälp av AI på allvar kan samspela med människor i vardagliga situationer, på arbetet eller i hemmet, återstår mycket forskning. Maskinen måste ju exempelvis förstå vad vi säger till den. Och alla mänskliga förmågor är ju inte ens fullt klara för oss själva.

– Människor förstår ironi. Tonfall och ansiktsuttryck hos den som säger något gör det lätt. Man kopplar ihop erfarenheter och vad man vet om den ironiske personen.

Att få maskiner att förstå ironi är inte den mest triviala uppgift en forskare kan ägna sig åt. Även mer konkreta företeelser, som en kopp, hur förklarar man vad det är för en maskin?

– I framtiden ska robotar se och lära av sina misstag.



Danica Kragic Jensfelt är en av de forskare som ska leda ett av projekten i jätteprogrammet Wallenberg Autonomous Systems Program, Wasp. Hennes projekt handlar just om perception, lärande och verifikation i interaktiva autonoma system. Kort sagt ska robotars förmåga att lära sig och att anpassa sitt beteende utvecklas.

– Wasp har stor betydelse för Sverige. De största lärosätena är med. Vi ska, utöver att forska, också i interaktion med företag skapa utbildningar för en helt ny typ av ingenjörer. Det övergripande målet är att utveckla maskiner som är i människans tjänst.

I en internationell jämförelse är svensk forskning om hur robotar samverkar med människor inte så stor. Men Sverige hör istället till de ledande inom exempelvis reglerteknik. Även när det gäller interaktion och lokaliseringsteknik finns stort svenskt kunnande.

– Men vi kan inte jämföra oss med MIT eller Berkeley. Tyska Fraunhofer är också mycket större än den svenska forskningsmiljön. Det behövs stora labb.

Konkret ägnar sig robotforskare åt matematik och modelering för att skapa algoritmer som kan få fysiska maskiner att utföra det ena eller det andra. Algoritmerna testas med hjälp av data från sensorer. Teori, modell följt av ”trial and error” tills det fungerar till belåtenhet.

– Ska man utveckla ett system som kan parkera en bil gäller det att hitta en modell som fungerar snabbt. Det får ju inte ta en halvtimme att få bilen på plats.

A:et i Artificiell intelligens betyder förstås ”icke mänsklig”. En kalkylator räknar fortare än den mänskliga hjärnan. Men den är inte intelligent.

– Mänsklig intelligens kan ta beslut i situationer där inte allt är känt. AI är när datorn gör på samma sätt. Med sensorer och sakernas internet kan man få reda på att det bara finns en deciliter mjölk kvar i kylskåpet och att mer måste köpas. Systemet kan rent av vara konstruerat så att mjölken beställs automatiskt. Fast det kanske inte är så smart om familjen ska åka bort i morgon?

Danica Kragic Jensfelt är helt säker på att maskiner i framtiden kommer att ta beslut, som hittills varit förbehållna människor.

Självkörande bilar är ett sådant exempel. De är bra eftersom de ger bättre flöde i trafiken och säkert leder till att färre bilar behövs för att utföra det nödvändiga transportarbetet.

Men vad händer om det oväntade inträffar? Volvo har visserligen sagt att de kommer att ta ansvar för sina bilar, men hur kommer bilen att agera i en komplicerad krocksituation?

– Låt säga att du är ensam i bilen men i den mötande finns en barnfamilj och att de automatiska systemen trots allt inte klarar av att undvika kollisionen. Vilken av bilarna ska köra i diket för att den andra ska klara sig? Våra mänskliga beslut handlar sällan om att göra det som är bäst för helheten.

När människor fattar beslutet blir ofta valet att agera för att klara sig själv. Maskiner kommer att ta livsavgörande beslut på andra grunder.

– Detta är känsliga frågor eftersom det handlar om etik och moral. Därför är beteendevetare och filosofer med i forskningen om AI. Det blir diskussioner om sådant som vi inte ens anar att vi behöver diskutera.

Kanske kommer konsekvenserna av att också en robot kan hackas finnas på dagordningen för diskussionerna.

Och långt fram i tiden kommer robotar att kunna klona sig själva. Robotar ska ju kunna konstruera och bygga samma saker som vi.

– Som forskare har vi ansvar för det vi programmerar. Det ska fungera exakt som vi vill. Därför måste programmen innehålla sådana ”varningsinstruktioner” som finns på fysiska produkter, säger Danica Kragic Jensfel.

Danica Kragic Jensfelt hinner med mer än bara sin forskning, bland annat är hon styrelseledamot i FAM, Wallenbergstiftelsernas ägarbolag.

– Det är en utmaning. Som akademiker lär man sig om hur näringslivet fungerar. Detta ger annat än vanliga samarbeten med företag. Styrelsearbetet ger insikter om hur företag resonerar och fungerar. Som akademiker tänker man annorlunda. Man kan tänka utanför boxen när det gäller samspelet mellan vinst och utveckling.