SkarpChapter 4 of 8
AI-baserade leksaker under myndigheternas lupp
En leksak som lyssnar, lär sig och ändrar sitt beteende kan skapa andra risker än lösa smådelar och brandfarliga material. Samtidigt faller många leksaker utanför AI-förordningens högriskkategori eftersom tillverkaren får använda intern tillverkningskontroll.
1. Börja med rätt regelverk och rätt tidpunkt
Två regelspår
En AI-leksak är samtidigt en leksak och potentiellt ett AI-system. Produktsäkerhet och AI-regler behöver därför bedömas tillsammans, men de svarar på olika frågor.
Vad gäller nu?
Den 19 augusti 2026 gäller fortfarande leksaksdirektivet 2009/48/EG för nya leksaker. Den nya leksakssäkerhetsförordningen 2025/2509 börjar huvudsakligen tillämpas den 1 augusti 2030.
Startfrågan
Kartlägg först leksakens faktiska påverkan: rörelser, ljud, råd, belöningar, insamling av data och kontakt med internet. AI-etiketten i marknadsföringen är mindre viktig än funktionen.
2. Avgör om AI:n är en säkerhetskomponent
Definitionen
En säkerhetskomponent fyller en säkerhetsfunktion eller är en komponent vars fel kan äventyra hälsa, säkerhet eller egendom. Definitionen omfattar alltså både avsiktlig säkerhetsfunktion och farliga felutfall.
Feltestet
Fråga: Om sensorn, modellen eller uppdateringen har fel - vad händer då? Om svaret är fysisk skada eller en konkret säkerhetsrisk kan AI:n vara en säkerhetskomponent.
Inte samma sak som smart
En talande docka som väljer nästa sång är inte automatiskt en säkerhetskomponent. En autonom leksaksbil som ska upptäcka hinder och bromsa kan däremot vara det.
3. Exempel: två AI-funktioner, två olika bedömningar
Fall A: musikval
Milo använder AI för att rekommendera musik. Ett modellfel ger främst fel rekommendation. Funktionen har normalt ingen direkt säkerhetsroll och blir därför vanligen inte en säkerhetskomponent.
Fall B: autonom rörelse
Rover använder AI för att bromsa och väja. Ett fel kan skapa påkörning, fall eller klämrisk. Här kan AI:n vara en säkerhetskomponent, även om produkten säljs som leksak.
Jämförelseregel
Bedöm inte utifrån om produkten kallas "AI-leksak". Följ i stället kedjan: AI-beslut → produktbeteende → möjlig skada.
4. Tankeövning: gör ett feltest
Din tur: skulle felet kunna skada?
En interaktiv dinosaurie lär sig barnets vanor. Den kan:
- röra huvud och svans med motorer
- höja volymen när barnet verkar glatt
- gå framåt när barnet säger "kom hit"
- stanna om den upptäcker ett hinder
Gör bedömningen i tre steg:
- Välj en funktion som kan orsaka skada.
- Beskriv ett rimligt fel, exempelvis dålig sensoravläsning, felklassificering av ett kommando eller en felaktig mjukvaruuppdatering.
- Skriv en konsekvenskedja med formen: `fel → ändrat beteende → exponering → skada`.
Exempelsvar: `sensorn missar ett barns hand → dinosaurien fortsätter framåt → handen hamnar vid en rörlig led → klämrisk`.
Om din kedja är trovärdig bör du undersöka om AI-funktionen har rollen som säkerhetskomponent.
5. Varför blir många AI-leksaker inte automatiskt högrisk-AI?
Två kumulativa villkor
För artikel 6.1 krävs både att AI:n är en säkerhetskomponent i en reglerad produkt och att produkten måste tredjepartsbedömas. Saknas ett villkor blir den inte högrisk enligt just denna väg.
Intern tillverkningskontroll
När harmoniserade standarder täcker leksakens relevanta säkerhetskrav kan intern tillverkningskontroll vara möjlig. Därför blir AI i en leksak inte automatiskt högrisk-AI.
Rätt nyans
Titta inte bara på det förfarande tillverkaren väljer. Fråga om produktreglerna, den konkreta konstruktionen och riskbilden kräver en oberoende tredjepartsbedömning.
Tidpunkt
Den 19 augusti 2026 är de produktanknutna högriskreglerna ännu inte tillämpliga. Efter AI-omnibusförordningen 2026/1744 börjar de tillämpas den 2 augusti 2028.
6. Kunskapskontroll: högrisk eller inte?
Välj det mest korrekta svaret
En AI-modul i en fjärrstyrd leksaksbåt väljer musik och berättelser. Den styr inte fart, motor, batteriladdning eller nödstopp. Leksaken uppfyller relevanta harmoniserade standarder och kan bedömas genom intern tillverkningskontroll.
Vilken slutsats är mest rimlig enligt artikel 6.1 i AI-förordningen?
- Systemet är automatiskt högrisk eftersom det finns AI i en leksak.
- Systemet är normalt inte högrisk enligt artikel 6.1, eftersom musikfunktionen inte är en säkerhetskomponent och tredjepartsbedömning inte krävs i scenariot.
- Systemet är alltid högrisk eftersom leksaker står i AI-förordningens bilaga I.
- Systemet omfattas inte av några produktsäkerhetskrav eftersom AI:n bara används för underhållning.
Show Answer
Answer: B) Systemet är normalt inte högrisk enligt artikel 6.1, eftersom musikfunktionen inte är en säkerhetskomponent och tredjepartsbedömning inte krävs i scenariot.
Leksaker omfattas av bilaga I, men artikel 6.1 kräver dessutom en säkerhetskomponent och ett krav på tredjepartsbedömning. AI för musik och berättelser är normalt inte en säkerhetsfunktion.
7. Kartlägg fyra risklager
Fysisk risk
AI kan orsaka klassiska skador på nya sätt: ett felaktigt AI-beslut kan skapa oväntad fart, fel riktning, klämning, fall eller överhettning.
Beteendemässig och psykologisk risk
En leksak som lär sig vad barnet reagerar på kan förstärka olämpliga mönster. Barnets sårbarhet gör upprepning, belöningar och auktoritetsliknande formuleringar särskilt viktiga att granska.
Cyber och integritet
En mikrofon, kamera eller platsfunktion kan angripas eller missbrukas. Säkerhetsbrister kan dessutom ändra hur leksaken beter sig, inte bara röja data.
8. Exempel: den anpassningsbara robotkompisen
Produktbild
Nora kombinerar rörelse, röst, kamera, anpassning och fjärruppdateringar. Det betyder att en enda produkt kan skapa fysiska, psykologiska, integritets- och cybersäkerhetsrisker samtidigt.
Testa anpassningen
Granska vad modellen belönar. Om systemet optimerar fortsatt engagemang kan det uppmuntra trötthet, beroendelika mönster eller olämpliga handlingar - även utan att tillverkaren avsett det.
Cyberperspektivet
Internetanslutna leksaker med tal, filmning eller platsfunktioner anges som klass I-produkter i cyberresiliensförordningen. Bedöm därför också åtkomst, uppdateringar och skydd mot intrång.
9. Miniworkshop: bygg en riskmatris
Från risk till kontrollåtgärd
Välj en AI-leksak: robot, docka, drönare eller spelkonsol. Skapa fyra rader i dina anteckningar:
- `Funktion:` Vad gör AI:n?
- `Felutfall:` Vad kan gå fel i modell, sensor, dataflöde eller uppdatering?
- `Barnpåverkan:` Vilken fysisk, beteendemässig, psykologisk eller digital skada kan följa?
- `Kontroll:` Hur kan risken förebyggas, begränsas, upptäckas eller stoppas?
Exempel:
`Funktion: AI väljer svårighetsgrad i rörelselek`
`Felutfall: systemet tolkar upphetsning som att barnet vill fortsätta`
`Barnpåverkan: barnet uppmuntras att fortsätta trots trötthet eller rädsla`
`Kontroll: fasta pauser, åldersanpassade gränser, föräldrainställningar, testning med olika barnbeteenden och enkel avstängning`
Avsluta med frågan: Är kontrollen teknisk, organisatorisk eller både och? Robusta lösningar behöver ofta båda.
10. Samordning: ett tillsynsärende kan ha flera spår
Varför samordna?
En sårbarhet i en uppkopplad robot kan samtidigt vara en cyberbrist, en integritetsrisk och en produktsäkerhetsrisk om angriparen kan ändra robotens rörelser.
Gemensam incidentbild
Samla produktmodell, programvaru- och modellversion, uppdateringshistorik, exponerade användare och skadeutfall. Utan versionsspårning blir en adaptiv produkt svår att utreda.
Framåtblick
Från 1 augusti 2030 ska den nya leksakssäkerhetsförordningen tillämpas. Den digitala produktpassmodellen är utformad för samspel med bland annat AI- och cybersäkerhetsdokumentation.
11. Repetera nyckelbegreppen
Vänd korten och testa dig själv
- Säkerhetskomponent
- En komponent som har en säkerhetsfunktion, eller vars fel eller funktionsbrist kan äventyra hälsa, säkerhet eller egendom.
- Intern tillverkningskontroll
- Ett förfarande där tillverkaren själv ansvarar för bedömningen av överensstämmelse. Det kan vara möjligt när relevanta harmoniserade standarder täcker säkerhetskraven.
- Produktanknuten högrisk-AI
- AI som uppfyller båda artikel 6.1-villkoren: säkerhetskomponent i en produkt i bilaga I och krav på tredjepartsbedömning för produkten.
- Anpassningsbart beteende
- Att leksaken ändrar respons, innehåll eller handlingsmönster utifrån data, interaktioner eller uppdaterade modeller.
- Barns sårbarhet
- Barn har ofta begränsad riskmedvetenhet och kan vara mer mottagliga för påverkan, upprepning, auktoritetsliknande instruktioner och design som driver fortsatt engagemang.
- Samordnad tillsyn
- Att produktsäkerhet, AI, cybersäkerhet och dataskydd hanteras utifrån en gemensam bild av produkt, programvaruversion, incident och risk.
Key Terms
- AI-förordningen
- Förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens. För produktanknuten högrisk-AI enligt artikel 6.1 börjar de centrala högriskreglerna tillämpas den 2 augusti 2028. ([eur-lex.europa.eu](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744&utm_source=openai))
- leksaksdirektivet
- Direktiv 2009/48/EG om leksakers säkerhet. Det gäller fortfarande den 19 augusti 2026 och upphävs med verkan från den 1 augusti 2030. ([eur-lex.europa.eu](https://eur-lex.europa.eu/legal-content/en/ALL/?uri=CELEX%3A32009L0048&utm_source=openai))
- tredjepartsbedömning
- Bedömning av överensstämmelse där ett oberoende anmält organ deltar, exempelvis EU-typkontroll.
- cyberresiliensförordningen
- Förordning (EU) 2024/2847 om horisontella cybersäkerhetskrav för produkter med digitala element. Internetanslutna leksaker med sociala funktioner eller platsfunktioner anges som klass I-produkter. ([eur-lex.europa.eu](https://eur-lex.europa.eu/eli/reg/2024/2847/oj?eliuri=eli%3Areg%3A2024%3A2847%3Aoj&locale=en&utm_source=openai))
- leksakssäkerhetsförordningen
- Förordning (EU) 2025/2509 om leksakers säkerhet. Den ersätter leksaksdirektivet och ska huvudsakligen tillämpas från den 1 augusti 2030. ([eur-lex.europa.eu](https://eur-lex.europa.eu/legal-content/en/TXT/?uri=CELEX%3A32025R2509))