Är ert AI-system ett högrisksystem?

AI Act i korthet

AI Act är EU:s förordning (EU) 2024/1689 – det första sammanhållna regelverket för artificiell intelligens. Den är horisontell: den gäller oavsett bransch och träffar både den som utvecklar ett AI-system och den som använder det, så länge systemet används i unionen. Grundtanken är riskbaserad – ju större risk för hälsa, säkerhet och grundläggande rättigheter, desto fler och tyngre skyldigheter.

Regelverket fasas in successivt i stället för att träda i kraft vid ett enda tillfälle. Först kommer de förbjudna tillämpningarna, därefter reglerna för generella AI-modeller (GPAI) och sist de mest omfattande kraven på högrisksystem, tillsammans med standarder och tillsynsstruktur. Tidsplanen har justerats i omgångar. Kontrollera därför alltid aktuella datum och övergångsperioder i förordningen eller hos behörig myndighet. Förberedelserna börjar ändå nu.

De fyra risknivåerna

Klassningen avgörs av vad systemet används till, inte av vilken teknik som ligger bakom. Samma modell kan vara ett högrisksystem i ett sammanhang och helt oreglerat i ett annat.

Tabellen är en förenkling för att komma igång. Nivåerna, undantagen och gränsdragningarna definieras i förordningen.

Vad gör ett system till högrisk?

Det finns två vägar in i högrisk. Den första är produktsäkerhet: ett AI-system som är säkerhetskomponent i en produkt som omfattas av visst EU-regelverk – till exempel maskiner, medicinteknisk utrustning eller fordon – och där en oberoende bedömning krävs. Den andra vägen är användningsområdet.

Bilaga III i förordningen listar de områden där ett AI-system normalt anses vara högrisk:

• Biometri – identifiering och kategorisering av personer samt känsloigenkänning.
• Kritisk infrastruktur – drift och förvaltning av till exempel el, vatten, gas, värme, transporter och digital infrastruktur.
• Utbildning – antagning, bedömning och betygssättning, eller system som styr vad en elev får tillgång till.
• Arbetsliv och HR – rekrytering och urval, befordran, uppsägning, fördelning av arbetsuppgifter och prestationsövervakning.
• Tillgång till viktiga samhällstjänster – offentliga bidrag och förmåner, kreditvärdighet, försäkring, nödsamtal och prioritering i vården.
• Brottsbekämpning – riskbedömning av personer, bevismaterial och utredningsstöd.
• Migration och gränskontroll – asylprövning, visering och kontroller vid gräns.
• Rättskipning och demokratiska processer – stöd till domstolar och påverkan på val.

Listan ska läsas i förordningen, inte i en sammanfattning som den här – formuleringarna avgör vad som träffas. Det finns också en möjlighet att undanta ett system som annars skulle vara högrisk, om det inte utgör betydande risk för hälsa, säkerhet eller grundläggande rättigheter. Undantaget är inte en genväg: bedömningen ska göras mot tydliga kriterier, dokumenteras och i vissa fall registreras – och den ska hålla om någon granskar den.

Leverantör eller användare – två olika roller

AI Act lägger olika ansvar beroende på er roll, och många verksamheter är båda. Rollen följer av vem som sätter systemet på marknaden eller tar det i bruk.

Om ni är leverantör

• Ett riskhanteringssystem genom hela livscykeln, som uppdateras när systemet förändras.
• Datastyrning: krav på tränings-, validerings- och testdata, inklusive relevans och snedvridning.
• Teknisk dokumentation som beskriver systemet, dess syfte, begränsningar och prestanda.
• Loggning och spårbarhet så att händelser i drift kan följas upp i efterhand.
• Mänsklig tillsyn inbyggd i systemet, med tydliga gränssnitt för att kunna ingripa.
• Noggrannhet, robusthet och cybersäkerhet, inklusive skydd mot manipulation av indata och modell.
• Kvalitetsledningssystem, överensstämmelsebedömning och CE-märkning, registrering, bruksanvisning samt incidentrapportering.

En detalj som ofta förbises: ändrar ni väsentligt ett högrisksystem, eller sätter ert eget varumärke på det, kan ni själva betraktas som leverantör – med hela skyldighetslistan.

Om ni är användare

• Använda systemet enligt leverantörens instruktioner, och inte till något annat än det är avsett för.
• Säkerställa mänsklig tillsyn: utsedda personer med kompetens, mandat och tid att faktiskt granska och ingripa.
• Se till att indata är relevanta och tillräckligt representativa för ändamålet.
• Övervaka driften, spara loggar enligt reglerna och rapportera incidenter vidare.
• Informera berörda personer när systemet fattar eller stödjer beslut om dem.
• I vissa fall göra en bedömning av konsekvenserna för grundläggande rättigheter (FRIA) innan systemet tas i bruk – det gäller offentliga organ och vissa privata aktörer med viktiga samhällstjänster.
• Registrera sig i relevant register där det krävs och samarbeta med tillsynsmyndigheten.

Parallellt löper dataskyddet. Är personuppgifter inblandade gäller GDPR som vanligt, med rättslig grund, konsekvensbedömning (DPIA) och reglerna om automatiserade beslut. AI Act ersätter inte det arbetet utan lägger till krav – och de två spåren bör hanteras tillsammans. Kraven på incidenthantering och leverantörskedja hänger också ihop med NIS2, som vi går igenom i NIS2: vad gäller för er – och vad gör man först?

Så gör ni en första klassning i fyra steg

En första klassning behöver inte vara fullständig – men gjord, dokumenterad och möjlig att revidera. Vi brukar arbeta så här:

1. Inventera. Lista alla AI-funktioner i drift eller planering – även de som sitter inbäddade i inköpta system, molntjänster och verktyg som medarbetarna skaffat själva. Beskriv vad varje system gör, vilket beslut det stödjer och vilka som påverkas.
2. Pröva de förbjudna tillämpningarna först. Är något förbjudet ska det bort eller byggas om – det spelar ingen roll hur väl dokumenterat det är.
3. Pröva högriskvägarna. Är systemet en säkerhetskomponent i en reglerad produkt? Träffar användningsområdet något i bilaga III? Om ja, bedöm om systemet ändå inte utgör betydande risk – och dokumentera bedömningen med motivering.
4. Bestäm roll och krav. Är ni leverantör, användare eller båda? Mappa mot kraven, gör en gap-analys och sätt en handlingsplan med ansvarig och datum. Gör dataskyddet i samma veva.

Fem vanliga misstag

• Att tro att allt är högrisk. Då blir arbetet oöverskådligt och ingen orkar prioritera. De flesta system i vardagen är inte högrisk.
• Att glömma att man kan vara användare. Man läser reglerna som leverantör trots att man bara köper in ett system – och missar sina egna skyldigheter.
• Att inte dokumentera klassningen. En bedömning som bara finns i någons huvud eller i ett mötesprotokoll håller inte vid en granskning.
• Att inte ha koll på leverantörskedjan. Vem ansvarar för vad, och vad står i avtalet? Otydlig rollfördelning är den vanligaste orsaken till att krav faller mellan stolarna.
• Att tro att GDPR-arbetet räcker. Regelverken överlappar men har olika syften. AI Act kräver bland annat riskhanteringssystem, teknisk dokumentation och inbyggd mänsklig tillsyn.

Börja med klassningen

Klassningen avgör hur mycket arbete som ligger framför er – och för de flesta går den att göra på några dagar. Det viktiga är att den blir gjord innan systemen tas i bruk, inte att den blir fulländad. Vi hjälper till med genomgång, dokumentation och de rutiner som håller klassningen levande: klassning och riskhantering under AI & AI Act, och dataskyddsfrågorna under GDPR & dataskydd. Osäker på var ni står? Boka ett möte – vi går igenom era system och säger vad som behöver göras först.