SkarpChapter 2 of 8
Två tillsynssystem blir ett gemensamt pussel
När programvara börjar påverka en fysisk produkts beteende räcker det inte alltid att kontrollera material, märkning och konstruktion. AI-förordningen kopplar därför samman AI-tillsynen med EU:s etablerade system för marknadskontroll.
1. Börja med pusselbilden
Ett gemensamt problem
När AI påverkar hur en fysisk produkt beter sig kan både produktsäkerhet och AI-risker behöva granskas. Det är inte två helt skilda världar.
Den rättsliga bron
AI-förordningens artikel 74 gör marknadskontrollförordningen, förordning (EU) 2019/1020, till en del av AI-tillsynen för AI-system.
Viktig tidslinje
Den 2 augusti 2026 började vissa AI-regler och tillsynsbefogenheter tillämpas. Bilaga I-system i reglerade produkter omfattas av högriskreglerna från 2 augusti 2028.
2. Steg för steg: AI-system behandlas som en produkt
Två juridiska översättningar
Artikel 74 säger att AI-system ska räknas in när marknadskontrollförordningen talar om produkter, och att AI-aktörer räknas in bland ekonomiska aktörer.
Varför spelar det roll?
Tillsynen kan då använda etablerade arbetssätt: begära dokumentation, utreda risker, samverka mellan länder och kräva korrigerande åtgärder.
Fem frågor i rätt ordning
Identifiera objektet, aktörerna och regelverken. Bedöm sedan den samlade risken och välj en proportionerlig åtgärd.
3. När blir AI i en produkt ett högrisksystem?
Inte all AI i en produkt är högrisk
Att en produkt innehåller AI räcker inte. Bedömningen beror bland annat på AI:ns avsedda funktion, produktreglerna och om tredjepartsbedömning krävs.
Tre villkor
Kontrollera om AI:n är en säkerhetskomponent, om produkten finns i bilaga I avsnitt A och om sektorsreglerna kräver tredjepartsbedömning.
Datum att hålla isär
För AI som är inbyggd i reglerade produkter börjar högriskreglerna tillämpas den 2 augusti 2028. Förväxla inte detta med 2 augusti 2026.
4. Vem gör vad i kedjan?
Leverantör och produkttillverkare är olika roller
Leverantören ansvarar för AI-systemet under eget namn. Produkttillverkaren ansvarar för den fysiska produkt som säljs under eget namn.
Övriga aktörer
Importören för in vissa tredjelands-AI-system till EU. Distributören gör systemet tillgängligt. Den användande organisationen använder systemet under sin kontroll.
Rollerna kan överlappa
Samma organisation kan ha flera roller. För säkerhets-AI i en reglerad produkt kan produkttillverkaren dessutom få leverantörsansvar för AI-systemet.
5. Exempel: Den AI-styrda robotcellen
Produkten och AI:n
Robotcellens AI ska upptäcka människor och få robotarmen att sakta ned eller stanna. AI:n påverkar alltså direkt en säkerhetsfunktion.
Identifiera rollerna
Integratören kan vara både produkttillverkare och AI-leverantör. Återförsäljaren är distributör och fabriken är användande organisation.
Var ligger risken?
En uppdatering gör att AI:n missar reflexvästar. Bedömningen måste koppla ihop modellens brister med robotcellens faktiska fysiska risk.
En samordnad åtgärd
Relevant myndighet kan behöva granska loggar, testning, instruktioner och skyddsfunktioner. Lösningen kan kräva både mjukvarukorrigering och produktsäkerhetsåtgärder.
6. Övning: Gör en rollkarta
Din tur: kartlägg ansvaret
En kommun köper smarta kameror till en kollektivtrafikterminal. Kamerorna använder AI för att upptäcka trängsel och rekommendera öppning eller stängning av spärrar.
Aktörer:
- FlowSense Ltd utvecklar AI-systemet i Storbritannien.
- Trygg Terminal AB bygger kameraskåpen, integrerar systemet och säljer den färdiga lösningen under sitt varumärke.
- Nordic Import AB släpper lösningen på EU-marknaden.
- TechStore AB säljer lösningen till kommunen.
- Kommunen använder den i terminalen.
Uppgift i tre steg
- Märk ut vem som sannolikt är leverantör, produkttillverkare, importör, distributör och användande organisation.
- Skriv två frågor som en tillsynsmyndighet bör ställa om AI:n påverkar spärrarnas säkra funktion.
- Markera en punkt där en ändring kan flytta eller utöka ansvar, till exempel om kommunen ändrar modellens användningsändamål eller om integratören sätter eget namn på AI-systemet.
Självkontroll
Ett rimligt svar är att Trygg Terminal AB sannolikt har en central roll som produkttillverkare och kan ha AI-leverantörsroll om systemet släpps under bolagets namn. Nordic Import AB kan vara importör, TechStore AB distributör och kommunen användande organisation. Den exakta analysen beror på vem som faktiskt släpper AI-systemet på EU-marknaden och under vilket namn eller varumärke.
Kom ihåg: ansvar följer inte bara av ett avtal eller en faktura. Det följer också av den faktiska rollen enligt förordningens definitioner.
7. Kunskapskontroll: Vilket påstående stämmer?
Välj det mest korrekta påståendet om AI-system som är kopplade till reglerade fysiska produkter.
Vilket påstående är mest korrekt den 19 augusti 2026?
- All AI som finns i en fysisk produkt är automatiskt ett högrisksystem enligt AI-förordningen.
- AI-förordningen använder marknadskontrollförordningen så att AI-system kan omfattas av etablerade tillsynsverktyg, men produktrelaterad högriskklassning kräver särskilda villkor.
- En produkttillverkare kan aldrig samtidigt vara AI-leverantör.
- Bilaga I-reglerna för AI i reglerade produkter började tillämpas den 2 augusti 2026.
Show Answer
Answer: B) AI-förordningen använder marknadskontrollförordningen så att AI-system kan omfattas av etablerade tillsynsverktyg, men produktrelaterad högriskklassning kräver särskilda villkor.
Artikel 74 kopplar AI-förordningen till marknadskontrollförordningen. Samtidigt är inte all produkt-AI högrisk: bland annat spelar säkerhetsfunktion, sektorsregler och tredjepartsbedömning roll. De produktrelaterade högriskreglerna börjar tillämpas den 2 augusti 2028.
8. Så gör du en samordnad riskbedömning
Undvik två isolerade spår
Gör inte först en AI-checklista och sedan en helt separat produktchecklista. Fråga i stället hur AI-felet kan påverka produktens riskprofil.
Börja i faktisk användning
Beskriv vad AI:n gör, i vilken miljö produkten används och vilken fysisk skada som kan uppstå om utdata blir fel.
Säkra bevisen
Knyt riskerna till dokumentation: testresultat, loggar, versionshistorik, incidenter, instruktioner och underhållsrutiner.
9. Repetera nyckelbegreppen
Vänd korten och testa om du kan skilja roller, regler och tidpunkter åt.
- Marknadskontrollförordningen
- Förordning (EU) 2019/1020. Den ger ramen för marknadskontroll, samarbete och åtgärder mot risker på EU-marknaden.
- Artikel 74 i AI-förordningen
- Kopplar AI-tillsynen till marknadskontrollförordningen: AI-system räknas in som produkter och AI-aktörer räknas in bland relevanta ekonomiska aktörer.
- Leverantör
- Den som utvecklar eller låter utveckla ett AI-system och släpper det på marknaden eller tar det i drift under eget namn eller varumärke.
- Produkttillverkare
- Den som tillverkar eller låter tillverka den fysiska produkten och marknadsför den under eget namn eller varumärke.
- Användande organisation
- Organisationen som använder AI-systemet under sin kontroll. AI-förordningens engelska term är deployer.
- Produktrelaterad högrisk-AI
- Kan uppstå när AI är en säkerhetskomponent i, eller själv är, en reglerad produkt och sektorsreglerna kräver tredjepartsbedömning.
- Datum för bilaga I-produkter
- Reglerna för högrisksystem inbyggda i reglerade produkter börjar tillämpas den 2 augusti 2028.
10. Avslutande scenario: Vem behöver agera?
En distributör får information om att en AI-uppdatering i en såld robotcell kan försämra en säkerhetsfunktion. Vad är den bästa första åtgärden?
Vilket svar visar bäst förståelse för det gemensamma tillsynspusslet?
- Distributören behöver inte agera eftersom bara AI-leverantören ansvarar för mjukvara.
- Distributören bör samarbeta med behöriga myndigheter och berörda aktörer för att bidra till att risken utreds och begränsas, exempelvis genom att stoppa fortsatt tillhandahållande när det behövs.
- Endast den användande organisationen behöver agera eftersom produkten redan är såld.
- Det är enbart en fråga om dataskydd och saknar koppling till produktsäkerhet.
Show Answer
Answer: B) Distributören bör samarbeta med behöriga myndigheter och berörda aktörer för att bidra till att risken utreds och begränsas, exempelvis genom att stoppa fortsatt tillhandahållande när det behövs.
En risk i AI:n kan samtidigt vara en fysisk produktsäkerhetsrisk. Distributörer ingår i aktörskedjan och ska samarbeta vid åtgärder för att minska eller begränsa risker. Den konkreta ansvarsfördelningen beror på roll, avtal och regelverk, men ingen aktör bör behandla säkerhetsproblemet som enbart någon annans fråga.
Key Terms
- Importör
- EU-etablerad aktör som släpper ut ett AI-system på EU-marknaden under namn eller varumärke från en aktör i ett tredjeland.
- Leverantör
- Aktör som utvecklar, eller låter utveckla, ett AI-system och släpper det på marknaden eller tar det i drift under eget namn eller varumärke.
- Distributör
- Aktör i leveranskedjan som gör ett AI-system tillgängligt på EU-marknaden utan att vara leverantör eller importör.
- AI-förordningen
- EU:s förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens.
- Ekonomisk aktör
- Ett samlingsbegrepp i marknadskontrollsystemet. AI-förordningens artikel 74 gör att dess relevanta AI-aktörer omfattas i detta sammanhang.
- Marknadskontroll
- Myndigheters arbete för att kontrollera att produkter och, genom AI-förordningens koppling, relevanta AI-system uppfyller regler och inte medför oacceptabla risker på EU-marknaden.
- Produkttillverkare
- Aktör som tillverkar eller låter tillverka en fysisk produkt och säljer den under eget namn eller varumärke.
- Säkerhetskomponent
- Komponent som fyller en säkerhetsfunktion eller vars fel kan äventyra hälsa, säkerhet eller egendom.
- Användande organisation
- Organisation som använder ett AI-system under sin kontroll; motsvarar AI-förordningens engelska term deployer.
- Samordnad riskbedömning
- En bedömning som kopplar samman AI-systemets risker med den fysiska produktens funktion, användningsmiljö och säkerhetsrisker.
- Marknadskontrollförordningen
- Förordning (EU) 2019/1020 om marknadskontroll och överensstämmelse för produkter.