Systematisk snedvridning i modellens resultat som gör att vissa grupper, företag eller produkter gynnas eller missgynnas utan saklig grund.

Förmågan att i efterhand se vilka data, regler, parametrar och modellversioner som ledde fram till ett visst AI-stött beslut.

Att en människa kan förstå de viktigaste orsakerna till varför en AI-modell gav ett visst utfall, till exempel vilka faktorer som påverkade riskbedömningen.

En GDPR-princip: samla inte in eller behandla fler personuppgifter än vad som är nödvändigt för det specifika syftet.

Systematisk snedvridning i data eller modeller som leder till orättvisa eller oproportionerliga utfall för vissa grupper eller kategorier.

EU:s AI-förordning som från och med 2024 stegvis reglerar utveckling och användning av AI-system inom EU, med särskilda krav på högrisk-AI i offentlig sektor.

Möjligheten att i efterhand följa och rekonstruera hur ett AI-stött beslut kom till, inklusive vilka data och modellversioner som användes.

What is Dataminimering?

GDPR-princip om att bara samla in och behandla de personuppgifter som är nödvändiga för ett specifikt, tydligt definierat ändamål.

Etik, integritet och transparens: ansvarsfull AI i marknadskontroll — AI-drivna arbetssätt för marknadskontroll av GPSR‑produkter, leksaker och PPE i internationell e‑handel

Varför etik och transparens är avgörande i AI-baserad marknadskontroll

AI förändrar maktbalansen

När marknadskontrollmyndigheter använder AI kan algoritmer snabbt hitta riskprodukter och prioritera ärenden. Men felaktiga eller orättvisa beslut blir också lättare att sprida i stor skala.

AI Act som ram

Sedan 2024 har EU:s AI-förordning (AI Act) blivit central för offentlig AI-användning. Marknadskontroll ligger nära högrisk-AI, med krav på riskhantering, datakvalitet, dokumentation och mänsklig kontroll.

Tre etiska huvudfrågor

Fokus i modulen: 1) Rättvisa och bias, 2) Transparens och spårbarhet, 3) Integritet och förtroende. Du ska kunna känna igen risker och formulera principer för ansvarsfull AI i din organisation.

Bias och snedvridna modeller i tillsynsbeslut

Vad är bias här?

Bias är när en AI-modell systematiskt gynnar eller missgynnar vissa grupper, företag eller produkter. I marknadskontroll kan det leda till orättvisa beslut med ekonomiska och juridiska följder.

Källor till bias

Källor: 1) Historiska data som speglar gammal praxis, 2) Orepresentativa träningsdata (bara stora plattformar), 3) Teknisk bias, t.ex. bild- eller språkmodeller som fungerar sämre för vissa grupper.

Konsekvenser

Bias kan ge diskriminerande tillsyn, sned resursanvändning och rättssäkerhetsproblem. Fokus bör vara att kartlägga, mäta och motverka bias, inte att kräva perfekta modeller.

Exempel: Snedfördelad webbtillsyn mot vissa länder

Scenario: farliga leksaker

En AI-agent övervakar e-handelsplattformar för farliga leksaker. Den tränas på fem års historiska ärenden, där myndigheten tidigare fokuserat hårt på produkter från Land X.

Snedvridet utfall

Modellen ger högre riskpoäng till annonser från Land X, föreslår fler inspektioner där och inspektörerna börjar lita på detta mönster. Företag från Land X upplever sig särbehandlade.

Ansvarsfull motåtgärd

Lösningar: kartlägg land-bias i förväg, följ upp fördelning av kontroller, uppmuntra inspektörer att ifrågasätta mönster och justera modellen med mer balanserade data.

Transparens, spårbarhet och förklarbarhet i AI-stödda beslut

Varför spårbarhet?

I en rättsstat måste berörda förstå varför beslut fattats och kunna överklaga. Därför måste AI-system lämna tydliga spår: data, regler och modellversioner bakom varje beslut.

Förklarbarhet

Förklarbarhet betyder att människan som fattar beslut får mer än en riskpoäng. Systemet bör visa vilka faktorer som vägde tyngst, så att bedömningen kan granskas och ifrågasättas.

Transparens i praktiken

Myndigheter behöver dokumenterade processer, sparade loggar och tydliga gränssnitt. Externt måste besluten kunna motiveras med begriplig text, inte bara hänvisning till en algoritm.

Övning: Designa en spårbar AI-beslutsprocess

Föreställ dig att din myndighet ska införa ett AI-baserat verktyg som prioriterar vilka webbannonser som ska granskas manuellt.

Din uppgift: Skissa mentalt (eller på papper) en enkel processkedja med 4–6 steg som säkerställer spårbarhet och transparens.

Fundera på och skriv ner (för dig själv):

Vilka händelser måste loggas?

Exempel: tidpunkt, modellversion, indata (i anonymiserad eller pseudonymiserad form), riskpoäng, vem som tog del av rekommendationen.

Var i kedjan krävs mänsklig bekräftelse?

Ska varje AI-förslag granskas av en inspektör innan åtgärd, eller bara de över en viss tröskel?

Hur dokumenteras den mänskliga bedömningen?

Behövs en särskild ruta: “Skäl till avvikelse från AI:s rekommendation”?

Hur skulle du förklara processen för ett företag som får sin annons nedtagen?

Försök formulera en kort, begriplig motivering utan teknisk jargong.

Reflektera 2–3 minuter. Om du vill fördjupa dig senare kan du jämföra din skiss med verkliga riktlinjer från till exempel Datainspektionen/Integritetsskyddsmyndigheten eller EU:s vägledningar om AI i offentlig sektor.

Integritet, dataskydd och förtroende

AI och dataskydd

AI i marknadskontroll innebär ofta hantering av stora datamängder om företag och personer. Arbetet måste därför följa GDPR och nationell lag, med tydligt fokus på ändamål och skydd.

Fyra nyckelprinciper

Viktigt: 1) Ändamålsbegränsning, 2) Dataminimering, 3) Transparens mot registrerade, 4) Säkerhet och åtkomstkontroll. AI får inte bli en ursäkt för gränslös datainsamling.

Förtroendeperspektivet

Förtroende kräver mer än laglydnad. Fråga: Skulle de berörda acceptera denna användning om de kände till alla detaljer? Om svaret tvekar, behöver designen justeras.

Kunskapscheck: Bias och transparens

Testa din förståelse av bias och transparens i AI-baserad marknadskontroll.

Vilken av följande åtgärder är mest direkt inriktad på att upptäcka och hantera bias i ett AI-system för marknadskontroll?

Att kryptera alla loggfiler med starkare algoritmer
Att regelbundet analysera hur ofta olika länder, branscher och plattformar flaggas av systemet
Att kräva att alla inspektörer genomgår en allmän IT-säkerhetsutbildning
Att förkorta tiden som loggar sparas från fem år till ett år

Show Answer

Answer: B) Att regelbundet analysera hur ofta olika länder, branscher och plattformar flaggas av systemet

Det är genom att analysera utfallet (t.ex. fördelning av flaggningar per land, bransch och plattform) som du kan upptäcka systematiska snedvridningar, alltså bias. De andra alternativen kan vara bra av andra skäl, men de riktar sig inte specifikt mot bias.

Reflektionsövning: Mänsklig slutlig beslutsrätt

En central princip i både etisk AI och i EU:s reglering är att viktiga beslut om människor och företag inte ska fattas helt automatiskt, utan med mänsklig slutlig beslutsrätt.

Fundera på följande scenario:

Ett AI-system ger varje webbannons en riskpoäng mellan 0 och 100.
Föreslagen rutin: Alla annonser över 80 tas automatiskt bort från plattformen, utan manuell granskning. Företaget får ett automatiskt meddelande om att annonsen brutit mot reglerna.

Frågor att reflektera över (svara för dig själv):

Vilka risker ser du med en helt automatiserad borttagning vid tröskeln 80?
I vilka typer av fall skulle du anse att automatisk borttagning kan vara acceptabel, om alls?
Hur skulle du utforma en rutin där AI används effektivt, men där mänsklig beslutsrätt fortfarande är tydlig?

Förslag: Skissa en enkel policy med tre nivåer, till exempel:

Låg risk: AI ger bara rekommendationer.
Medelrisk: Manuell granskning är obligatorisk.
Hög risk: Förstärkt granskning eller krav på två oberoende mänskliga bedömningar.

Syftet är att du ska kunna omsätta abstrakta principer i konkreta regler för vardagen.

Repetition av nyckelbegrepp

Använd korten för att repetera centrala begrepp kring etik, integritet och transparens i AI-baserad marknadskontroll.

Bias (i AI-modeller): Systematisk snedvridning i modellens resultat som gör att vissa grupper, företag eller produkter gynnas eller missgynnas utan saklig grund.
Spårbarhet: Förmågan att i efterhand se vilka data, regler, parametrar och modellversioner som ledde fram till ett visst AI-stött beslut.
Förklarbarhet: Att en människa kan förstå de viktigaste orsakerna till varför en AI-modell gav ett visst utfall, till exempel vilka faktorer som påverkade riskbedömningen.
Mänsklig slutlig beslutsrätt: Principen att viktiga beslut inte ska fattas helt automatiskt, utan att en människa har ansvar för den slutliga bedömningen och kan frångå AI:ns rekommendation.
Dataminimering: En GDPR-princip: samla inte in eller behandla fler personuppgifter än vad som är nödvändigt för det specifika syftet.
Transparens mot externa parter: Att företag och individer på ett begripligt sätt kan få veta att AI används, hur den påverkat beslutet och få en motivering som går att ifrågasätta och överklaga.

Avslutande uppgift: Formulera principer för ansvarsfull AI i din organisation

Som sista steg ska du formulera ett första utkast till grundprinciper för ansvarsfull AI i marknadskontroll, tänkt för en fiktiv eller verklig myndighet.

Ta 3–4 minuter och skriv (för dig själv) 4–6 korta punkter som börjar med “Vi ska…”. Exempel på områden att täcka:

Hantering av bias och rättvisa
Transparens och dokumentation
Mänsklig kontroll och ansvar
Integritet och dataskydd
Dialog och förtroende med företag och allmänhet

Exempel (inspirationsnivå, inte facit):

Vi ska regelbundet analysera AI-systemens utfall för att upptäcka och åtgärda bias.
Vi ska alltid dokumentera hur AI använts i ärenden som leder till ingripande åtgärder.
Vi ska säkerställa att en människa har slutligt ansvar för beslut som påverkar enskilda företag.
Vi ska minimera mängden personuppgifter i träningsdata och använda pseudonymisering där det är möjligt.
Vi ska kommunicera öppet om när och hur vi använder AI i vår tillsyn.

Spara dina punkter – de kan fungera som utgångspunkt för en diskussion i en seminariegrupp eller i din framtida arbetsplats.

Key Terms

Bias: Systematisk snedvridning i data eller modeller som leder till orättvisa eller oproportionerliga utfall för vissa grupper eller kategorier.
AI Act: EU:s AI-förordning som från och med 2024 stegvis reglerar utveckling och användning av AI-system inom EU, med särskilda krav på högrisk-AI i offentlig sektor.
Spårbarhet: Möjligheten att i efterhand följa och rekonstruera hur ett AI-stött beslut kom till, inklusive vilka data och modellversioner som användes.
Dataminimering: GDPR-princip om att bara samla in och behandla de personuppgifter som är nödvändiga för ett specifikt, tydligt definierat ändamål.
Förklarbarhet: Egenskap hos ett AI-system som gör att människor kan förstå de viktigaste orsakerna till ett visst resultat eller beslut.
Marknadskontroll: Myndigheters tillsyn av att produkter på marknaden uppfyller krav på säkerhet, märkning och annan reglering.
Pseudonymisering: Behandling av personuppgifter så att de inte längre kan kopplas till en specifik person utan ytterligare information, som förvaras separat.
Mänsklig slutlig beslutsrätt: Principen att människor, inte AI, har det yttersta ansvaret för beslut, särskilt sådana med betydande konsekvenser.