IVAs vd - Vi behöver tala om hur AI skakar om forskningen i grunden

Kära IVA-vänner,

Vi talar ofta om hur AI kommer att förändra eller kanske till och med ersätta yrken, professioner och hela branscher. Vi vet ännu inte hur omfattande konsekvenserna blir. Men ett område skakar AI redan om i grunden: forskningen.

När OpenAI i september meddelade att deras AI-agenter hade löst Navier-Stokes-ekvationerna, ett av matematikens mest betydelsefulla problem, började genast en debatt om resultatet. Oavsett var debatten landar, så skrev Scientific American “the field will never be the same”. AI kan redan nu analysera enorma datamängder, föreslå forskningsmetoder, utforma experiment, genomföra analyser och skriva artiklar, den typ av uppgifter som under århundraden har varit centrala för forskares kritiska tänkande, omdöme och vetenskapliga hantverk.

Den stora ökningen i antalet AI-genererade forskningsartiklar och forskningsansökningar sätter stor press på den process som länge fungerat som forskningens viktigaste kvalitetskontroll: peer review.

Peer review är på många sätt en av forskningens mest centrala institutioner. Det är genom att kunniga experter inom fältet (peers) granskar, som forskarsamhället avgör vilka projekt som ska finansieras, vilka resultat som publiceras och ofta också vilka forskare som får möjlighet att avancera i sina karriärer. I förlängningen påverkar dessa beslut vår förmåga att utveckla innovationer, förbättra hälsa och utbildning, stärka vår säkerhet och öka företagens konkurrenskraft.

Nu varnar allt fler bedömare för att AI riskerar att undergräva själva fundamentet i detta system. Vissa menar till och med att utvecklingen kan tvinga fram helt nya modeller för hur forskning finansieras och bedöms.

För Sverige är detta en särskilt viktig fråga. Jämfört med många andra europeiska länder fördelar vi en stor del av forskningsmedlen genom konkurrensutsatta utlysningar som bygger på peer review. Vi har dessutom ett stort antal offentliga och privata forskningsfinansiärer som använder liknande bedömningsprocesser. Samtidigt är det viktigt att komma ihåg att det inte är AI som skapar alla dessa utmaningar. Snarare visar teknikutvecklingen på de svagheter som sedan länge funnits i systemet.

Peer review-processen bygger i stor utsträckning på att forskare ideellt granskar artiklar och ansökningar vid sidan av sina ordinarie arbetsuppgifter. Processen är ofta tidskrävande och långsam. Den kan också gynna försiktighet framför nytänkande och ibland förstärka etablerade uppfattningar om vad som anses som god forskning. Det här är knappast nya problem. Men AI förstärker dem och gör dem betydligt svårare att bortse från.

Frågan är därför om Sverige är tillräckligt väl förberett för det som nu väntar. Jag är inte övertygad om det.

Stresstestet som AI utgör skulle kunna vara en möjlighet att på allvar fundera över vad forskning, högre utbildning och universitet egentligen ska vara till för och vad som behöver förändras i systemen.

Och det är hög tid för den diskussionen. Samhället har förändrats i grunden under de senaste decennierna, liksom teknikens roll i våra liv. Trots det bygger många av våra institutioner fortfarande på strukturer som skapades för en annan tid. Det var också utgångspunkten för den bok som Mats Benner och jag skrev tillsammans: Ändra allt!? En högskolepolitik för vår tid.

Om AI tvingar oss att ompröva hur forskning bedöms och finansieras behöver vi också fundera över universitetens grundläggande uppdrag och roll. Det är en av anledningarna till att IVA nyligen har initierat projektet Framtidens lärosäten, som leds av Martin Nilsson Jacobi, rektor för Chalmers. Ett av syftena är att diskutera hur forskningsfinansiering, organisering och utvärdering kan utvecklas för att bättre stödja kunskapsutveckling och universitetens bidrag till samhället.

Kanske behöver vi tänka nytt kring hur forskningsmedel fördelas. Kanske behövs nya sätt att fördela medel, med fokus på större projekt, olika typer av forskningsmiljöer och förändringar av hur processen med forskningsansökningar går till. Det viktiga är att våga ställa frågorna, precis som Ulf Danielsson gör på Svd debatt. 

När vi nu föreställer oss framtidens universitet bör vi inte utgå från att dagens strukturer är oföränderliga. Många av de system vi i dag betraktar som självklara är i själva verket relativt nya. Den moderna peer review-processen infördes exempelvis först på 1970-talet. Under Francis Bacons och Isaac Newtons tid publicerade forskare istället essäer eller brev som sedan diskuterades öppet av forskarsamhället. Dagens forskarutbildning, växte fram först under 1800-talet vid det som nu är Humboldtuniversitetet i Berlin. Samtidigt finns det exempel på att det prövas nya modeller. I Kina testas en ny form av doktorsexamina som baseras på konkreta innovationer och produkter istället för en avhandling.

Om historien lär oss något är det att universitetens arbetssätt och institutioner inte är statiska. Frågan är därför inte om forskningssystemet kommer att förändras, utan hur vi kan säkerställa att förändringarna stärker forskningens kvalitet och samhällsnytta. Som universitetsforskaren John Douglass formulerat det "Universities are extensions of the societies that give them life and meaning." Universitetens uppgift är ytterst att tjäna samhället genom att skapa, utveckla och sprida kunskap.

Det är en tanke som känns särskilt viktig i en tid av geopolitiska spänningar, snabb teknikutveckling och stora samhällsförändringar. Forskningen vid våra universitet spelar en avgörande roll för vår förmåga att rädda liv, stärka konkurrenskraften, hantera klimatutmaningar och bygga ett bättre samhälle.

Kanske kan AI till och med bli en del av lösningen. Men då behöver tekniken användas för att stärka transparens, ansvarstagande och kvalitet i forskningens utvärderingar och finansieringsbeslut. Ytterst handlar det om att skapa tillförlitlig kunskap som kommer samhället till nytta.

Stora förändringar väntar forskningen och forskningsfinansieringen. Det behöver inte vara något negativt. Om vi kan hålla fast vid kvalitet och excellens samtidigt som vi vågar ompröva invanda arbetssätt finns möjligheten att bygga ett starkare och mer ändamålsenligt system för kunskap, forskning och innovation.