När AI utmanar forskningens grundprinciper

Vi talar ofta om hur AI kommer att förändra eller kanske till och med ersätta yrken, professioner och hela branscher. Vi vet ännu inte hur omfattande konsekvenserna blir. Men ett område skakar AI redan om i grunden: forskningen.

När OpenAI i september meddelade att deras AI-agenter hade löst Navier-Stokes-ekvationerna, ett av matematikens mest betydelsefulla problem, började genast en debatt om resultatet. Oavsett var debatten landar, så skrev Scientific American “the field will never be the same”. AI kan redan nu analysera enorma datamängder, föreslå forskningsmetoder, utforma experiment, genomföra analyser och skriva artiklar, den typ av uppgifter som under århundraden har varit centrala för forskares kritiska tänkande, omdöme och vetenskapliga hantverk.

Den stora ökningen i antalet AI-genererade forskningsartiklar och forskningsansökningar sätter stor press på den process som länge fungerat som forskningens viktigaste kvalitetskontroll: peer review.

Peer review är på många sätt en av forskningens mest centrala institutioner. Det är genom att kunniga experter i fältet (peers) granskar, som forskarsamhället avgör vilka projekt som ska finansieras, vilka resultat som publiceras och ofta också vilka forskare som får möjlighet att avancera i sina karriärer. I förlängningen påverkar dessa beslut vår förmåga att utveckla innovationer, förbättra hälsa och utbildning, stärka vår säkerhet och öka företagens konkurrenskraft.

Nu varnar allt fler bedömare för att AI riskerar att undergräva själva fundamentet i detta system. Vissa menar till och med att utvecklingen kan tvinga fram helt nya modeller för hur forskning finansieras och bedöms.

För Sverige är detta en särskilt viktig fråga. Jämfört med många andra europeiska länder fördelar vi en stor del av forskningsmedlen genom konkurrensutsatta utlysningar som bygger på peer review. Vi har dessutom ett stort antal offentliga och privata forskningsfinansiärer som använder liknande bedömningsprocesser. Samtidigt är det viktigt att komma ihåg att det inte är AI som skapar alla dessa utmaningar. Snarare visar teknikutvecklingen på de svagheter som sedan länge funnits i systemet.

Peer review-processen bygger i stor utsträckning på att forskare ideellt granskar artiklar och ansökningar vid sidan av sina ordinarie arbetsuppgifter. Processen är ofta tidskrävande och långsam. Den kan också gynna försiktighet framför nytänkande och ibland förstärka etablerade uppfattningar om vad som anses som god forskning. Det här är knappast nya problem. Men AI förstärker dem och gör dem betydligt svårare att bortse från.

Frågan är därför om Sverige är tillräckligt väl förberett för det som nu väntar. Jag är inte övertygad om det.

Stresstestet som AI utgör skulle kunna vara en möjlighet att på allvar fundera över vad forskning, högre utbildning och universitet egentligen ska vara till för och vad som behöver förändras i systemen.

Och det är hög tid för den diskussionen. Samhället har förändrats i grunden under de senaste decennierna, liksom teknikens roll i våra liv. Trots det bygger många av våra institutioner fortfarande på strukturer som skapades för en annan tid. Det var också utgångspunkten för den bok som Mats Benner och jag skrev tillsammans: Ändra allt!? En högskolepolitik för vår tid.

Om AI tvingar oss att ompröva hur forskning bedöms och finansieras behöver vi också fundera över universitetens grundläggande uppdrag och roll. Det är en av anledningarna till att IVA nyligen har initierat projektet Framtidens lärosäten, lett av Martin Nilsson Jacobi, rektor för Chalmers. Ett av syftena är att diskutera hur forskningsfinansiering, organisering och utvärdering kan utvecklas för att bättre stödja kunskapsutveckling och universitetens bidrag till samhället.

Kanske behöver vi tänka nytt kring hur forskningsmedel fördelas. Kanske behövs nya sätt att fördela medel, med fokus på större projekt, olika typer av forskningsmiljöer och förändringar av hur processen med forskningsansökningar går till. Det viktiga är att våga ställa frågorna.

När vi nu föreställer oss framtidens universitet bör vi inte utgå från att dagens strukturer är oföränderliga. Många av de system vi i dag betraktar som självklara är i själva verket relativt nya. Den moderna peer review-processen infördes exempelvis först på 1970-talet. Under Francis Bacons och Isaac Newtons tid publicerade forskare istället essäer eller brev som sedan diskuterades öppet av forskarsamhället. Dagens forskarutbildning, växte fram först under 1800-talet vid det som nu är Humboldtuniversitetet i Berlin. Samtidigt finns det exempel på att det prövas nya modeller. I Kina testas en ny form av doktorsexamina som baseras på konkreta innovationer och produkter istället för en avhandling.

Om historien lär oss något är det att universitetens arbetssätt och institutioner inte är statiska. Frågan är därför inte om forskningssystemet kommer att förändras, utan hur vi kan säkerställa att förändringarna stärker forskningens kvalitet och samhällsnytta. Som universitetsforskaren John Douglass formulerat det "Universities are extensions of the societies that give them life and meaning." Universitetens uppgift är ytterst att tjäna samhället genom att skapa, utveckla och sprida kunskap.

Det är en tanke som känns särskilt viktig i en tid av geopolitiska spänningar, snabb teknikutveckling och stora samhällsförändringar. Forskningen vid våra universitet spelar en avgörande roll för vår förmåga att rädda liv, stärka konkurrenskraften, hantera klimatutmaningar och bygga ett bättre samhälle.

Kanske kan AI till och med bli en del av lösningen. Men då behöver tekniken användas för att stärka transparens, ansvarstagande och kvalitet i forskningens utvärderingar och finansieringsbeslut. Ytterst handlar det om att skapa tillförlitlig kunskap som kommer samhället till nytta.

Stora förändringar väntar forskningen och forskningsfinansieringen. Det behöver inte vara något negativt. Om vi kan hålla fast vid kvalitet och excellens samtidigt som vi vågar ompröva invanda arbetssätt finns möjligheten att bygga ett starkare och mer ändamålsenligt system för kunskap, forskning och innovation.

Om Sylvia Schwaag Serger

Sylvia Schwaag Serger är vd för IVA och professor i ekonomisk historia vid Lunds universitet. Sylvia är en av Sveriges mest erfarna röster inom innovation, teknik och samhällsutveckling. Hon har en gedigen internationell bakgrund och är en efterfrågad expert i medier kring Sveriges konkurrenskraft, framtidens industri, AI, ekonomisk historia och Kina.

Vill du komma i kontakt med Sylvia Schwaag Serger så är du välkommen att kontakta IVAs pressansvarig per.andersson@iva.se, 072-071 39 73. 

Tidigare vd-ord: 

Små ekonomier – stort inflytande. Sverige och Finland är inga stormakter. Men vi tillhör en region med en anmärkningsvärt stark innovationsförmåga. Sverige, Danmark och Finland är tillsammans med Nederländerna de enda EU-länderna på topp tio i Global Innovation Index 2025. Det är ingen slump.

AI, demokrati och tillit. Debatten om AI och demokrati kretsar ofta kring information och makt. Vi diskuterar vilken information som sprids, hur opinioner påverkas och hur ekonomisk och politisk makt kan förskjutas mellan länder eller/och stora teknikföretag. Betydligt mindre uppmärksamhet ägnas åt hur AI påverkar staten själv, och hur statens sätt att använda AI i sin tur påverkar demokratin.

Vi behöver tala om Tyskland. Debatten har stundtals varit så ensidigt negativ att man nästan får intrycket att Europas största ekonomi är på väg att spela ut sin roll. Det är en slutsats som är både förhastad och riskabel.

"It's the economy, stupid". En starkare inre marknad, bättre tillgång till kapital, snabbare teknikutveckling och ökad innovationskraft är helt avgörande för att få Europa på banan igen.

En gemensam framtidsberättelse. Vad kan vi lära av Victor Hugo och hans tankar om demokrati, frihet och folkligt självstyre? Om vikten av visioner? 

Staten som första kund. Jag tror att Sverige behöver prioritera och systematisera den del av innovationskedjan där det offentliga agerar första kund. I ett land som Sverige, som har en förhållandevis stor offentlig konsumtion, skulle detta vara särskilt betydelsefullt.