SkarpSkarp

Chapter 3 of 8

När blir AI i en produkt ett högrisksystem?

En uppkopplad eller intelligent produkt är inte automatiskt ett högriskfall. Två rättsliga villkor avgör om AI-systemet träffas av de särskilda produktanknutna högriskkraven.

8 min readsv

1. Börja med två villkor, inte med produktens tekniknivå

Inte automatiskt högrisk

En AI-funktion i en uppkopplad produkt är inte automatiskt högrisk. Bedömningen enligt artikel 6.1 bygger på två rättsliga villkor, inte på hur avancerad tekniken verkar vara.

Villkor 1

AI-systemet ska vara en säkerhetskomponent i en produkt, eller självt vara en produkt, som omfattas av den unionslagstiftning som listas i bilaga I.

Villkor 2

Produkten måste dessutom enligt den tillämpliga produktlagstiftningen kräva tredjepartsbedömning av överensstämmelse för att få släppas ut på marknaden eller tas i bruk.

Beslutsregel

Villkor 1 + villkor 2 = högrisk enligt artikel 6.1. Om ett villkor saknas blir systemet inte produktanknutet högrisk enbart på denna grund.

2. Säkerhetskomponent: pröva funktion och konsekvens

Definitionen

En säkerhetskomponent fyller en säkerhetsfunktion, eller är en komponent vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.

Avsedd användning styr

Pröva AI-funktionens avsedda användning: Är dess syfte att förebygga eller minska en säkerhetsrisk? Då talar det starkt för säkerhetskomponent.

Inte varje påverkan räcker

AI som styr bekvämlighet, marknadsföring eller energieffektivitet är inte automatiskt säkerhetsrelevant. En faktisk koppling till säkerhetsfunktionen krävs.

Feltestet

Fråga: Om AI:n ger fel resultat eller slutar fungera, kan människor eller egendom då utsättas för fara? Ett ja är en tydlig varningssignal.

3. Tankeövning: säkerhet eller bara smart funktion?

Sortera funktionerna

För varje AI-funktion: välj mentalt säkerhetskomponent, inte tydligt säkerhetskomponent eller mer information behövs.

  1. En hissapp förutser när flest resenärer kommer och föreslår hissfördelning för kortare väntetider.
  2. Ett AI-system hindrar en hissdörr från att stängas när en person eller ett föremål befinner sig i dörröppningen.
  3. En medicinteknisk app sammanfattar journalanteckningar för vårdpersonal, men ger inga diagnoser, behandlingsförslag eller styrsignaler.
  4. Programvara beräknar och begränsar stråldosen i en behandlingsutrustning.

Återkoppling

  • 1: Inte tydligt säkerhetskomponent. Funktionen handlar främst om effektivitet och komfort.
  • 2: Säkerhetskomponent. Funktionen förebygger fysisk skada.
  • 3: Mer information behövs. Sammanfattning kan vara administrativ, men den avsedda medicinska funktionen måste utredas.
  • 4: Säkerhetskomponent. Ett fel kan direkt skapa en säkerhetsrisk.

Övningen avgör bara det första villkoret. Nästa fråga är alltid om produkten omfattas av bilaga I och om tredjepartsbedömning faktiskt krävs.

4. Exempel: AI för stråldos i medicinteknisk utrustning

Scenario

En AI-funktion beräknar och begränsar stråldosen i radioterapi. Funktionen används som del av den faktiska behandlingen, inte bara för administration.

Säkerhetsfrågan

Den avsedda användningen är att begränsa en farlig dos. Om AI-funktionen felar kan patienten skadas. Det talar för att den är en säkerhetskomponent.

Bilaga I

Medicintekniska produkter ingår i bilaga I. Men detta steg räcker inte ensamt: den konkreta produkten och bedömningsvägen måste fortfarande kontrolleras.

Slutsats

Kräver den sektoriella regleringen tredjepartsbedömning? Om ja, är båda artikel 6.1-villkoren uppfyllda och AI-systemet är produktanknutet högrisk.

5. Bilaga I: kontrollera rätt produktlagstiftning

Rätt fråga

Fråga inte bara om produkten är "reglerad". Kontrollera i stället om den relevanta sektoriella EU-rättsakten faktiskt finns i bilaga I.

Praktisk kontroll

Identifiera produkten, fastställ tillämplig produktlagstiftning och kontrollera den aktuella bilaga I. Dokumentera sedan varför AI:n är produkten eller en säkerhetskomponent.

Maskiner är ett specialfall

Maskinförordningen flyttades den 27 juli 2026 till bilaga I, avsnitt B. Där är AI-förordningens tillämpning mer begränsad och sektorsregleringen får större betydelse.

6. Tredjepartsbedömning: den avgörande skiljelinjen

Scenario A: säkerhets-AI

AI:n upptäcker farlig närhet till en robot och utlöser nödstopp. Om produkten omfattas av bilaga I och måste tredjepartsbedömas är AI-systemet högrisk enligt artikel 6.1.

Scenario B: energispar-AI

AI:n väljer energisnålt driftsläge. Om funktionen inte har ett säkerhetssyfte och dess fel inte skapar den relevanta faran, faller första villkoret.

Anmält organ

En anmäld organisation är ofta den oberoende bedömaren. Det relevanta är dock ett rättsligt krav på tredjepartsbedömning, inte ett frivilligt test eller en konsultgranskning.

Undvik cirkelresonemang

AI-förordningen gör inte automatiskt tredjepartsbedömning obligatorisk. Kontrollera först vad den tillämpliga sektoriella produktlagstiftningen kräver för just produkten.

7. Kunskapskontroll: vilka fakta räcker?

Välj det bästa svaret

Ett företag säger: "Vår produkt använder avancerad AI och omfattas av EU:s produktregler. Därför är AI:n ett högrisksystem enligt artikel 6.1."

Vilken ytterligare uppgift är mest avgörande för att kunna dra slutsatsen?

Vilken ytterligare uppgift är mest avgörande?

  1. Om AI-systemet är en säkerhetskomponent eller självt en bilaga I-produkt, och om tredjepartsbedömning krävs.
  2. Hur många träningsdata modellen har använt.
  3. Om AI-systemet använder en molntjänst.
  4. Om företaget marknadsför produkten som innovativ.
Show Answer

Answer: A) Om AI-systemet är en säkerhetskomponent eller självt en bilaga I-produkt, och om tredjepartsbedömning krävs.

Rätt svar är alternativ 1. Artikel 6.1 kräver både produkt- eller säkerhetskopplingen och ett rättsligt krav på tredjepartsbedömning. Teknisk komplexitet, molndrift och marknadsföring avgör inte denna klassificering.

8. Använd beslutsloggen i ett eget fall

Mini-mall för klassificering

Välj en verklig eller påhittad intelligent produkt och fyll i följande beslutslogg:

  1. Produkt: Vad tillhandahålls på marknaden?
  2. AI-system: Vilken avgränsad funktion analyserar eller påverkar du?
  3. Avsedd användning: Vad ska AI-funktionen göra enligt instruktioner, teknisk dokumentation och marknadsföring?
  4. Säkerhetsfunktion: Förebygger eller minskar funktionen risk för hälsa, säkerhet eller egendom?
  5. Felföljd: Kan fel eller funktionsstörning skapa sådan fara?
  6. Bilaga I: Vilken sektoriell EU-rättsakt är relevant, och återfinns den i bilaga I?
  7. Bedömningsväg: Kräver den sektoriella rättsakten tredjepartsbedömning för just denna produkt och konfiguration?
  8. Slutsats: Är båda artikel 6.1-villkoren uppfyllda?

[Visuell bild: Ett kontrollprotokoll med åtta rutor. De två sista rutorna är markerade med en juridisk stämpel: "Bilaga I" och "Tredjepartsbedömning".]

Skriv alltid ned underlaget för varje ja- eller nej-svar. En bra klassificering är spårbar: någon annan ska kunna förstå både produktens rättsliga ram och varför AI-funktionen bedömts som säkerhetsrelevant eller inte.

9. Begreppsrepetition

Vänd korten och repetera de centrala begreppen.

Säkerhetskomponent
En komponent som fyller en säkerhetsfunktion, eller vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.
Bilaga I
AI-förordningens lista över viss unionslagstiftning för reglerade produktsektorer. Produktens relevanta rättsakt måste kontrolleras i den aktuella bilagan.
Tredjepartsbedömning
En rättsligt föreskriven överensstämmelsebedömning där en oberoende tredje part medverkar. Frivillig extern granskning räcker inte.
Anmäld organisation
Ett organ som utsetts och anmälts för att utföra vissa överensstämmelsebedömningar enligt EU:s produktregelverk.
Artikel 6.1
Regeln för produktanknutna högrisksystem: säkerhetskomponent eller produkt i bilaga I, plus krav på tredjepartsbedömning.
Avsedd användning
Den funktion och det syfte som systemet är avsett för. Den är central när man bedömer om en AI-funktion faktiskt fyller en säkerhetsfunktion.

10. Slutscenario: dra en juridiskt hållbar slutsats

Fall: den intelligenta hissdisplayen

En hiss har två AI-funktioner:

  • Funktion X: analyserar resandemönster och väljer vilka våningar som visas först på displayen för att minska upplevd väntetid.
  • Funktion Y: analyserar dörrsensorer och beslutar om dörren ska hållas öppen för att förhindra att en person kläms.

Anta att hissens relevanta sektoriella överensstämmelsebedömning kräver tredjepartsbedömning.

Vilken slutsats är bäst?

Vilken slutsats är bäst?

  1. Båda funktionerna är automatiskt högrisk eftersom de sitter i en hiss.
  2. Funktion X är sannolikt högrisk, eftersom den använder beteendedata.
  3. Funktion Y är sannolikt högrisk enligt artikel 6.1, medan Funktion X inte blir det enbart genom att optimera väntetid.
  4. Ingen funktion kan vara högrisk eftersom AI-förordningen bara gäller fristående programvara.
Show Answer

Answer: C) Funktion Y är sannolikt högrisk enligt artikel 6.1, medan Funktion X inte blir det enbart genom att optimera väntetid.

Rätt svar är alternativ 3. Funktion Y har ett tydligt säkerhetssyfte och kan vid fel medföra fysisk fara. Med antagandet om obligatorisk tredjepartsbedömning uppfylls båda artikel 6.1-villkoren. Funktion X är däremot främst en komfort- och effektiviseringsfunktion.

Key Terms

Bilaga I
Förteckningen över unionslagstiftning för produktsektorer som är relevant för produktanknuten högriskklassificering.
Artikel 6.1
Bestämmelsen som klassificerar vissa AI-system kopplade till reglerade produkter som högrisksystem när två kumulativa villkor är uppfyllda.
AI-förordningen
Europaparlamentets och rådets förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens.
Avsedd användning
Det syfte och den funktion som en produkt eller AI-funktion är avsedd att ha enligt bland annat instruktioner och teknisk dokumentation.
Säkerhetskomponent
En komponent som fyller en säkerhetsfunktion eller vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.
Anmäld organisation
Ett organ som har utsetts och anmälts för att utföra angivna överensstämmelsebedömningar.
Produktanknutet högrisksystem
Ett AI-system som klassificeras som högrisk enligt artikel 6.1 på grund av sin koppling till en bilaga I-produkt och ett krav på tredjepartsbedömning.
Tredjepartsbedömning av överensstämmelse
Bedömning som enligt tillämplig produktlagstiftning måste utföras med medverkan av en oberoende tredje part före marknadstillträde eller idrifttagande.

Finished reading?

Test your understanding with a custom practice exam on this chapter.

Test yourself