Chapter 3 of 8
När blir AI i en produkt ett högrisksystem?
En uppkopplad eller intelligent produkt är inte automatiskt ett högriskfall. Två rättsliga villkor avgör om AI-systemet träffas av de särskilda produktanknutna högriskkraven.
1. Börja med två villkor, inte med produktens tekniknivå
Inte automatiskt högrisk
En AI-funktion i en uppkopplad produkt är inte automatiskt högrisk. Bedömningen enligt artikel 6.1 bygger på två rättsliga villkor, inte på hur avancerad tekniken verkar vara.
Villkor 1
AI-systemet ska vara en säkerhetskomponent i en produkt, eller självt vara en produkt, som omfattas av den unionslagstiftning som listas i bilaga I.
Villkor 2
Produkten måste dessutom enligt den tillämpliga produktlagstiftningen kräva tredjepartsbedömning av överensstämmelse för att få släppas ut på marknaden eller tas i bruk.
Beslutsregel
Villkor 1 + villkor 2 = högrisk enligt artikel 6.1. Om ett villkor saknas blir systemet inte produktanknutet högrisk enbart på denna grund.
2. Säkerhetskomponent: pröva funktion och konsekvens
Definitionen
En säkerhetskomponent fyller en säkerhetsfunktion, eller är en komponent vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.
Avsedd användning styr
Pröva AI-funktionens avsedda användning: Är dess syfte att förebygga eller minska en säkerhetsrisk? Då talar det starkt för säkerhetskomponent.
Inte varje påverkan räcker
AI som styr bekvämlighet, marknadsföring eller energieffektivitet är inte automatiskt säkerhetsrelevant. En faktisk koppling till säkerhetsfunktionen krävs.
Feltestet
Fråga: Om AI:n ger fel resultat eller slutar fungera, kan människor eller egendom då utsättas för fara? Ett ja är en tydlig varningssignal.
3. Tankeövning: säkerhet eller bara smart funktion?
Sortera funktionerna
För varje AI-funktion: välj mentalt säkerhetskomponent, inte tydligt säkerhetskomponent eller mer information behövs.
- En hissapp förutser när flest resenärer kommer och föreslår hissfördelning för kortare väntetider.
- Ett AI-system hindrar en hissdörr från att stängas när en person eller ett föremål befinner sig i dörröppningen.
- En medicinteknisk app sammanfattar journalanteckningar för vårdpersonal, men ger inga diagnoser, behandlingsförslag eller styrsignaler.
- Programvara beräknar och begränsar stråldosen i en behandlingsutrustning.
Återkoppling
- 1: Inte tydligt säkerhetskomponent. Funktionen handlar främst om effektivitet och komfort.
- 2: Säkerhetskomponent. Funktionen förebygger fysisk skada.
- 3: Mer information behövs. Sammanfattning kan vara administrativ, men den avsedda medicinska funktionen måste utredas.
- 4: Säkerhetskomponent. Ett fel kan direkt skapa en säkerhetsrisk.
Övningen avgör bara det första villkoret. Nästa fråga är alltid om produkten omfattas av bilaga I och om tredjepartsbedömning faktiskt krävs.
4. Exempel: AI för stråldos i medicinteknisk utrustning
Scenario
En AI-funktion beräknar och begränsar stråldosen i radioterapi. Funktionen används som del av den faktiska behandlingen, inte bara för administration.
Säkerhetsfrågan
Den avsedda användningen är att begränsa en farlig dos. Om AI-funktionen felar kan patienten skadas. Det talar för att den är en säkerhetskomponent.
Bilaga I
Medicintekniska produkter ingår i bilaga I. Men detta steg räcker inte ensamt: den konkreta produkten och bedömningsvägen måste fortfarande kontrolleras.
Slutsats
Kräver den sektoriella regleringen tredjepartsbedömning? Om ja, är båda artikel 6.1-villkoren uppfyllda och AI-systemet är produktanknutet högrisk.
5. Bilaga I: kontrollera rätt produktlagstiftning
Rätt fråga
Fråga inte bara om produkten är "reglerad". Kontrollera i stället om den relevanta sektoriella EU-rättsakten faktiskt finns i bilaga I.
Praktisk kontroll
Identifiera produkten, fastställ tillämplig produktlagstiftning och kontrollera den aktuella bilaga I. Dokumentera sedan varför AI:n är produkten eller en säkerhetskomponent.
Maskiner är ett specialfall
Maskinförordningen flyttades den 27 juli 2026 till bilaga I, avsnitt B. Där är AI-förordningens tillämpning mer begränsad och sektorsregleringen får större betydelse.
6. Tredjepartsbedömning: den avgörande skiljelinjen
Scenario A: säkerhets-AI
AI:n upptäcker farlig närhet till en robot och utlöser nödstopp. Om produkten omfattas av bilaga I och måste tredjepartsbedömas är AI-systemet högrisk enligt artikel 6.1.
Scenario B: energispar-AI
AI:n väljer energisnålt driftsläge. Om funktionen inte har ett säkerhetssyfte och dess fel inte skapar den relevanta faran, faller första villkoret.
Anmält organ
En anmäld organisation är ofta den oberoende bedömaren. Det relevanta är dock ett rättsligt krav på tredjepartsbedömning, inte ett frivilligt test eller en konsultgranskning.
Undvik cirkelresonemang
AI-förordningen gör inte automatiskt tredjepartsbedömning obligatorisk. Kontrollera först vad den tillämpliga sektoriella produktlagstiftningen kräver för just produkten.
7. Kunskapskontroll: vilka fakta räcker?
Välj det bästa svaret
Ett företag säger: "Vår produkt använder avancerad AI och omfattas av EU:s produktregler. Därför är AI:n ett högrisksystem enligt artikel 6.1."
Vilken ytterligare uppgift är mest avgörande för att kunna dra slutsatsen?
Vilken ytterligare uppgift är mest avgörande?
- Om AI-systemet är en säkerhetskomponent eller självt en bilaga I-produkt, och om tredjepartsbedömning krävs.
- Hur många träningsdata modellen har använt.
- Om AI-systemet använder en molntjänst.
- Om företaget marknadsför produkten som innovativ.
Show Answer
Answer: A) Om AI-systemet är en säkerhetskomponent eller självt en bilaga I-produkt, och om tredjepartsbedömning krävs.
Rätt svar är alternativ 1. Artikel 6.1 kräver både produkt- eller säkerhetskopplingen och ett rättsligt krav på tredjepartsbedömning. Teknisk komplexitet, molndrift och marknadsföring avgör inte denna klassificering.
8. Använd beslutsloggen i ett eget fall
Mini-mall för klassificering
Välj en verklig eller påhittad intelligent produkt och fyll i följande beslutslogg:
- Produkt: Vad tillhandahålls på marknaden?
- AI-system: Vilken avgränsad funktion analyserar eller påverkar du?
- Avsedd användning: Vad ska AI-funktionen göra enligt instruktioner, teknisk dokumentation och marknadsföring?
- Säkerhetsfunktion: Förebygger eller minskar funktionen risk för hälsa, säkerhet eller egendom?
- Felföljd: Kan fel eller funktionsstörning skapa sådan fara?
- Bilaga I: Vilken sektoriell EU-rättsakt är relevant, och återfinns den i bilaga I?
- Bedömningsväg: Kräver den sektoriella rättsakten tredjepartsbedömning för just denna produkt och konfiguration?
- Slutsats: Är båda artikel 6.1-villkoren uppfyllda?
[Visuell bild: Ett kontrollprotokoll med åtta rutor. De två sista rutorna är markerade med en juridisk stämpel: "Bilaga I" och "Tredjepartsbedömning".]
Skriv alltid ned underlaget för varje ja- eller nej-svar. En bra klassificering är spårbar: någon annan ska kunna förstå både produktens rättsliga ram och varför AI-funktionen bedömts som säkerhetsrelevant eller inte.
9. Begreppsrepetition
Vänd korten och repetera de centrala begreppen.
- Säkerhetskomponent
- En komponent som fyller en säkerhetsfunktion, eller vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.
- Bilaga I
- AI-förordningens lista över viss unionslagstiftning för reglerade produktsektorer. Produktens relevanta rättsakt måste kontrolleras i den aktuella bilagan.
- Tredjepartsbedömning
- En rättsligt föreskriven överensstämmelsebedömning där en oberoende tredje part medverkar. Frivillig extern granskning räcker inte.
- Anmäld organisation
- Ett organ som utsetts och anmälts för att utföra vissa överensstämmelsebedömningar enligt EU:s produktregelverk.
- Artikel 6.1
- Regeln för produktanknutna högrisksystem: säkerhetskomponent eller produkt i bilaga I, plus krav på tredjepartsbedömning.
- Avsedd användning
- Den funktion och det syfte som systemet är avsett för. Den är central när man bedömer om en AI-funktion faktiskt fyller en säkerhetsfunktion.
10. Slutscenario: dra en juridiskt hållbar slutsats
Fall: den intelligenta hissdisplayen
En hiss har två AI-funktioner:
- Funktion X: analyserar resandemönster och väljer vilka våningar som visas först på displayen för att minska upplevd väntetid.
- Funktion Y: analyserar dörrsensorer och beslutar om dörren ska hållas öppen för att förhindra att en person kläms.
Anta att hissens relevanta sektoriella överensstämmelsebedömning kräver tredjepartsbedömning.
Vilken slutsats är bäst?
Vilken slutsats är bäst?
- Båda funktionerna är automatiskt högrisk eftersom de sitter i en hiss.
- Funktion X är sannolikt högrisk, eftersom den använder beteendedata.
- Funktion Y är sannolikt högrisk enligt artikel 6.1, medan Funktion X inte blir det enbart genom att optimera väntetid.
- Ingen funktion kan vara högrisk eftersom AI-förordningen bara gäller fristående programvara.
Show Answer
Answer: C) Funktion Y är sannolikt högrisk enligt artikel 6.1, medan Funktion X inte blir det enbart genom att optimera väntetid.
Rätt svar är alternativ 3. Funktion Y har ett tydligt säkerhetssyfte och kan vid fel medföra fysisk fara. Med antagandet om obligatorisk tredjepartsbedömning uppfylls båda artikel 6.1-villkoren. Funktion X är däremot främst en komfort- och effektiviseringsfunktion.
Key Terms
- Bilaga I
- Förteckningen över unionslagstiftning för produktsektorer som är relevant för produktanknuten högriskklassificering.
- Artikel 6.1
- Bestämmelsen som klassificerar vissa AI-system kopplade till reglerade produkter som högrisksystem när två kumulativa villkor är uppfyllda.
- AI-förordningen
- Europaparlamentets och rådets förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens.
- Avsedd användning
- Det syfte och den funktion som en produkt eller AI-funktion är avsedd att ha enligt bland annat instruktioner och teknisk dokumentation.
- Säkerhetskomponent
- En komponent som fyller en säkerhetsfunktion eller vars fel eller funktionsstörning kan äventyra hälsa och säkerhet för personer eller egendom.
- Anmäld organisation
- Ett organ som har utsetts och anmälts för att utföra angivna överensstämmelsebedömningar.
- Produktanknutet högrisksystem
- Ett AI-system som klassificeras som högrisk enligt artikel 6.1 på grund av sin koppling till en bilaga I-produkt och ett krav på tredjepartsbedömning.
- Tredjepartsbedömning av överensstämmelse
- Bedömning som enligt tillämplig produktlagstiftning måste utföras med medverkan av en oberoende tredje part före marknadstillträde eller idrifttagande.