Öppen AI-forskning enda vägen

Vi frågade IVA-ledamoten Sara Mazur som är ordförande för den svenska AI-satsningen WASP.

Vad var din första reaktion när du läste om det här uppropet?

- Det är ju alltid bra att ha akademiska diskussioner, och vi är självklart positiva till att man reflekterar över AI-teknologins utveckling och användningen av den. Generellt sett är det svårt att bromsa teknikutveckling och i detta fall är det tveksamt om det är en framgångsrik väg att ta. Jag vet inte ens om de skulle vara möjligt att göra det.

Du är ordförande i forskningsprogrammet WASP (Wallenberg AI, Autonomous Systems and Software Program) som är Sveriges hittills största satsning på forskning om bland annat AI. Vad är det ni gör?

- WASP är ett gigantiskt forskningsprogram med en budget på över sex miljarder kronor, där vi bedriver grundforskning kring nya teknologier inom AI, autonoma system och mjukvara. Långsiktig grundforskning inom WASPs områden är en förutsättning för näringslivets och samhällets utveckling och är en möjliggörande faktor i arbetet för en hållbar framtid.

- WASP stärker nu Sveriges konkurrenskraft inom områden där världsfronten utvecklas med oerhörd hastighet. Vi har rekryterat ett stort antal framstående forskare till Sverige, som fått bygga upp nya forskargrupper och vi har som mål att utbilda över 600 nya doktorer, varav minst 150 ska vara ha varit anställda av industrin under sin doktorandutbildning. Vi har också etablerat forskningsarenor tillsammans med svensk industri, där kunskap, infrastruktur, system och teknologi delas för att tillsammans forska kring intressanta områden inom bland annat AI. Vi satsar nu också 200 mkr på cyber security forskning inom WASP och AI kommer där att spela en stor roll.

Hur skulle en paus av all avancerad AI-utveckling som föreslås i uppropet påverka det ni gör, och kanske i förlängningen det som görs på AI-området i hela Sverige?

- Uppropet pekar snarare på ett behov av att utöka forskningen för att öka förståelsen för AI och vad dess möjligheter och begränsningar är. Förutom den tekniska forskningen inom WASP, finns även WASP-HS som har som syfte att utveckla kunskap kring etiska, ekonomiska, arbetsmarknadsmässiga, sociala, kulturella och legala implikationer av nya teknologier. I ljuset av den snabba tekniska utvecklingen bör denna forskning accelereras och utökas.

I uppropet vill man bland annat pausa all träning av avancerade AI-system, såsom kommande generationer av Chat GPT som handlar om att bygga upp språkmodeller som kan lära sig att tolka och producera avancerad text. Ett sådant projekt pågår i Sverige, GPT SW3, där ni på WASP tillsammans med bland annat AI Sweden och RISE utvecklar en AI-driven språkmodell för nordiska språk. Känner du någon oro för att en paus, om den blev verklighet, skulle påverka det arbetet?

- Nej, den träning av språkmodellen som vi gör är en del av vår forskningsarena Research Arena for Media & Language och det handlar om grundforskning. Det handlar alltså inte om kommersialisering av AI-produkter. Det handlar om akademisk forskning. Till skillnad från flertalet av generativa modeller som nu görs tillgängliga världen över är vårt arbete öppet och transparent, både forskningsresultaten och den resulterande språkmodellen. Detta möjliggör många av de studier och forskning som krävs för att fortsatt kunna utveckla AI på ett säkert och ansvarsfullt vis.

Syftet verkar ju vara att ta en paus för att hinna få fram regler och ramverk som är up-to-date med den snabba AI-utveckling som pågår just nu. Vissa tycker att det vore vettigt att utifrån någons slags försiktighetsprincip även innefatta forskningen i det. Håller du med? 

- Det är givetvis viktigt att diskutera teknologier och hur man ska reglera användningen. Kunskap krävs för att stifta rätt lagar och skriva rätt regelverk. Vi måste ha en gedigen kunskap om hur nya teknologier påverkar vårt samhälle. Och det får man genom att bedriva öppen forskning.

- Men det måste råda en balans mellan dessa överväganden om reglering och försiktighet och de möjligheter som skapas genom öppen och fri banbrytande forskning. Det vore olyckligt om vi förhindrade ofarlig forskning som kan leda till lösningar på världens stora utmaningar och rädda enskilda människors liv.

I uppropet sägs också att beslut om hur vi handskas med en teknologi som AI, som kan påverka hela vår framtida samhällsutveckling, är en demokratisk fråga. Alltså inget som borde avgöras av vd:ar på stora tech-företag utan av folkvalda politiker. Är det säkert att våra politiker har kompetensen att avgöra hur den här utvecklingen bäst ska regleras? 

- Det är alltid politikerna som har beslutsrätten och det demokratiska ansvaret men det är viktigt att det finns forskare som kan vara med och bedriva forskning och generera kunskap kring detta och hjälpa till med den kompetensen. Det kan ju vara väldigt svårt för en person som är lekman att bilda sig en uppfattning kring hur man ska reglera det här på ett bra sätt. Det är därför det måste finnas sakkunniga som är med i den processen. Och det finns det idag.

Om du får spekulera: tror du att det kan bli aktuellt med en global paus av all avancerad AI-utveckling under sex månader?

- Nej, det har jag väldigt svårt att tro, men det är mycket bra att ämnet sakligt debatteras och att det leder till en sund fortsatt utveckling av teknologier som kan gynna mänskligheten.