Yttrande över betänkandet Anpassningar till AI-förordningen

Övergripande synpunkter

Kungl. Ingenjörsvetenskapsakademien (IVA) välkomnar utredningens övergripande inriktning och understryker att en väl avvägd implementering av AI-förordningen utgör en kritisk framgångsfaktor för Sveriges långsiktiga konkurrensförmåga. I linje med detta delar IVA utredningens förslag om en hybridmodell med en central samordnare, under förutsättning att resurssättningen säkrar nödvändig skyndsamhet och att vägledningen till företagen blir sammanhållen och praktiskt tillämplig.

IVA ställer sig positiv till utredningens förslag om en samordnad marknadskontrollstruktur med Post- och telestyrelsen (PTS) som central punkt. Som framgår av IVA-rapporten 'Resilient Digital Infrastruktur' (2025) är en av de största utmaningarna för svensk konkurrenskraft och resiliens det fragmenterade regelverket. AI-förordningen adderar till en redan komplex struktur av lagar (som NIS 2, cybersäkerhetslagen och dataskyddsförordningen). IVA anser därför att regeringen, i det fortsatta arbetet med AI-förordningen, bör prioritera en långtgående koordinering av tillsyn där fokus flyttas från detaljerade tekniska processkrav till tydligt ansvarsutkrävande.

Vidare vill IVA understryka vikten av att de kommande föreskrifterna och tillämpningen av AI-förordningen utformas med sikte på att bevara och stärka det svenska forsknings- och innovationssystemets riskbenägenhet och regulatoriska trygghet. Även om utredningen i kapitel 12 och 16 adresserar behovet av stöd till små och medelstora företag samt testning under verkliga förhållanden, krävs en tydlighet i gränsdragningarna för att undvika att rättslig osäkerhet leder till en hämmande försiktighetskultur. För att Sverige ska förbli en ledande miljö för avancerad AI-utveckling krävs ett regelverk som erbjuder en hög grad av förutsebarhet.

IVA vill särskilt betona behovet av att flytta fokus från en reaktiv tillsyn till en proaktiv och mognadsanpassad vägledning. För tidiga AI-startups, som ofta utvecklar arkitektur parallellt med affärsmodell och saknar intern juridisk expertis, räcker det inte med generella principer.

IVA efterlyser ett ramverk för stegvis regelefterlevnad (compliance), där kraven och vägledningen speglar bolagets mognadsgrad – från prototypfas till fullskalig lansering. Proportionalitetsprincipen bör således inte enbart tillämpas vid utmätning av sanktioner, utan fungera som ett operativt stöd i bolagens tidiga utvecklingsfaser för att undvika att innovationskraften hämmas. 

Specifika synpunkter

Kapitel 4.4 Olika krav för olika risknivåer

IVA noterar utredningens diskussion kring undantag och ansvarsfördelning. Det är angeläget att den slutgiltiga författningstexten tydliggör gränsdragningen mellan forskning och kommersialisering, särskilt för öppen källkod, för att säkerställa att innovationskraften i Sverige inte hämmas av otydliga ansvarsförhållanden längs värdekedjan.

I detta sammanhang finns en betydande risk för överklassificering, särskilt inom hälso- och sjukvård. AI-system som fungerar som kliniskt beslutsstöd eller för administrativ avlastning riskerar att behandlas som högrisk per automatik, trots att de ofta stärker snarare än ersätter det mänskliga omdömet. IVA anser att regeringen bör prioritera att ta fram konkreta tillämpnings-exempel för artikel 6.3 inom vårdsektorn. Det krävs en tydlig distinktion mellan faktiskt automatiserat beslutsfattande och system som utför förberedande uppgifter, för att säkerställa att innovationer som kan korta vårdköer och avlasta personal inte möter onödiga regulatoriska trösklar.

Kapitel 6 Marknadskontrollmyndigheter

Utredningen föreslår en hybridmodell där marknadskontrollen delas upp på flera myndigheter beroende på sektor. Detta riskerar att bli administrativt tungt för mindre bolag vars AI-lösningar ofta spänner över flera sektorer. De tvärsektoriella aktörerna kan behöva förhålla sig till flera olika regelverk och tolkningar, vilket riskerar skapar en regulatorisk osäkerhet och en hög administrativ tröskel som är svårhanterlig för bolag utan stora juridiska avdelningar. Från ett forsknings, innovations- och näringslivsperspektiv är förutsägbarhet viktigt. Utmaningen för regeringen blir att se till att föreskrifterna fokuserar på vägledning snarare än enbart kontroll.

Kapitel 6.9 Ansvarsfördelning: artikel 4

Gällande kravet på AI-kunnighet enligt artikel 4, stöder IVA utredningens inriktning att marknadskontrollmyndigheterna bör ha en aktiv roll i att främja denna hos operatörerna.

Kapitel 9 Samordning, samverkan och vissa sekretessfrågor

Myndighetssamverkan och tydlighet. Utredningen föreslår att PTS ska vara marknadskontroll-myndighet med huvudsakligt ansvar och samordnande roll. IVA stöder förslaget om en samordningsfunktion för att undvika fragmentering och ”dragkamp” mellan myndigheter. För att uppnå den efterfrågade tydligheten ("lätt att göra rätt") bör PTS mandat att lämna generell vägledning (enligt förslag i avsnitt 9.5.4) prioriteras högt. För att denna vägledning ska bli praktiskt användbar för mindre aktörer bör den omfatta framtagande av nationella mallar och verktyg för bland annat avsedd användning (intended use) och riskbeskrivningar anpassade för svenska förhållanden. Vidare bör vägledningen inkludera vägledande arkitekturprinciper för tekniska krav, såsom hur "människan-i-loopen" kan realiseras i praktiken. Detta skulle höja kvaliteten i hela ekosystemet och minska behovet av korrigerande tillsyn i efterhand. Det är kritiskt att myndigheternas kommunikation är enhetlig så att operatörer inte drabbas av motstridiga besked vid överlappande lagstiftning, såsom GDPR och AI Act.

Kapitel 12 Regulatoriska sandlådor för AI och testning under verkliga förhållanden

IVA ser positivt på inrättandet av minst en regulatorisk sandlåda senast augusti 2026. För att sandlådorna ska bli det effektiva instrument för innovation som presenterats, måste de ges tillräckliga resurser för att kunna ge snabba svar. IVA betonar också vikten av att utredningens förslag om att även andra myndigheter (till exempel IMY) ska medverka i specifika projekt realiseras för att hantera frågor om till exempel personuppgiftsbehandling i ett tidigt skede.

För att sandlådorna ska bli effektiva instrument för innovation, särskilt inom hälso- och sjukvård, får de inte begränsas till tekniska pilotprojekt i isolerade labbmiljöer. IVA betonar vikten av att sandlådor kan genomföras i klinisk miljö med verkliga vårdflöden, vårdteam och patienter (med informerat samtycke). Det regulatoriska lärandet måste ske där tekniken faktiskt ska göra nytta. IVA föreslår att utrymmet i AI-förordningen, som medger befrielse från sanktioner för deltagare som följer myndighetens vägledning i sandlådan, utnyttjas fullt ut för att möjliggöra testning under verkliga förhållanden.

Kapitel 12.2.3 Närmare arrangemang och funktionssätt för regulatoriska sandlådor för AI

IVA vill lyfta risken för långa ledtider i certifieringsprocesser vid överlappande regelverk. Det är av största vikt att de anmälda organen och marknadskontrollmyndigheterna dimensioneras resursmässigt för att inte utgöra flaskhalsar för marknadsintroduktion.

Kapitel 16.11 Konsekvenser för andra myndigheter

IVA noterar att utredningen i sin konsekvensanalys uttryckligen identifierar de risker för regulatorisk osäkerhet och de potentiella intressekonflikter som kan uppstå till följd av en decentraliserad tillsynsmodell. Som det framkommer i utredningens analys finns en befogad oro för att en splittrad myndighetsstruktur kan minska företagens incitament att delta i innovationsdrivande projekt, särskilt inom ramen för regulatoriska sandlådor.

För att motverka detta bör myndigheterna ges ett tydligt uppdrag att fungera som lärande parter. Det innebär att de inte bara ska kontrollera, utan proaktivt sprida lärdomar från sandlådor och löpande uppdatera sin vägledning baserat på den tekniska utvecklingen. Målet måste vara att bygga rätt innovation från början, där regelverket stödjer processen snarare än att enbart utgöra en administrativ tröskel.

För att säkerställa svensk konkurrenskraft är det viktigt att de samordningsmekanismer som föreslås i kapitel 9.5 inte bara blir organisatoriska ramverk, utan i praktiken fungerar som ett effektivt skydd mot nationella krav och administrativa trösklar som riskerar att tynga oproportionerligt i synnerhet mindre aktörer och nystartade bolag.

Akademiens beredning av ärendet

Beslut i ärendet har fattats av Sylvia Schwaag Serger, verkställande direktör IVA.

Ärendet har handlagts av projektledare Linda Olsson, IVA. I ärendets beredning har IVA-ledamöterna Fredrik Heintz, Hanifeh Khayyeri, Stefan Larsson, Simin Nadjm-Tehrani och Sofia Svanteson deltagit. Ärendet har också diskuterats vid avdelningsmöte med IVAs avdelning Informationsteknik.