SkarpSkarp

Chapter 21 of 25

Riskimenettelyt, korjaustoimenpiteet ja yleiskäyttöisen tekoälyn täytäntöönpano

Täytäntöönpanoa koskevissa luvuissa käsitellään järjestelmiä, jotka ovat riskialttiita, virheellisesti luokiteltuja, muodollisesti puutteellisia tai paperilla vaatimustenmukaisia mutta käytännössä vaarallisia. Niissä annetaan myös komissiolle ja tekoälytoimistolle erityisvaltuuksia yleiskäyttöisten tekoälymallien osalta säilyttäen samalla valitus-, selitys- ja väärinkäytöksistä ilmoittamisen kanavat.

7 min readfi

79 artikla: Kun tekoälyjärjestelmä aiheuttaa riskin

Riskin oikeudellinen merkitys

79 artikla yhdistää riskialttiin tekoälyn EU:n tuoteturvallisuuslainsäädäntöön: "riskin aiheuttavilla tekoälyjärjestelmillä tarkoitetaan ’riskin aiheuttavaa tuotetta’, sellaisena kuin se on määritelty asetuksen (EU) 2019/1020 3 artiklan 19 kohdassa".

Arvioinnin käynnistävä peruste

Jos markkinavalvontaviranomaisella on riittävä syy katsoa, että riski on olemassa, sen on arvioitava kaikkien asetuksen vaatimusten noudattaminen. Sen on kiinnitettävä erityistä huomiota haavoittuviin ryhmiin.

Perusoikeuksiin kohdistuvat riskit

Jos perusoikeuksiin kohdistuvia riskejä havaitaan, viranomaisen on ilmoitettava asiasta 77 artiklan 1 kohdassa tarkoitetuille kansallisille elimille ja tehtävä niiden kanssa täysimääräistä yhteistyötä. Asianomaisten toimijoiden on tehtävä tarvittavaa yhteistyötä.

Korjaavien toimien määräaika

Vaatimustenvastaisuuden jälkeen viranomainen voi edellyttää vaatimustenmukaisuutta, markkinoilta poistamista tai takaisinvetoa: "joka tapauksessa lyhyemmän, joko 15 työpäivän tai asiaa koskevassa unionin yhdenmukaistamislainsäädännössä säädetyn määräajan kuluessa".

Seuraa 79 artiklan täytäntöönpanopolkua

Ajatusharjoitus: Mitä viranomaisen on tehtävä seuraavaksi?

Kansallinen markkinavalvontaviranomainen saa uskottavaa näyttöä siitä, että korkean riskin tekoälypohjainen rekrytointijärjestelmä sulkee järjestelmällisesti vammaiset hakijat ulkopuolelle. Viranomaisella on riittävä syy katsoa, että järjestelmä aiheuttaa riskin perusoikeuksille.

Aseta seuraavat toimet 79 artiklan edellyttämään järjestykseen:

  1. Arvioi kaikkien asetuksen mukaisten vaatimusten ja velvollisuuksien noudattaminen.
  2. Ilmoita asiasta 77 artiklan 1 kohdan mukaisille asiaankuuluville kansallisille viranomaisille tai elimille ja tee niiden kanssa täysimääräistä yhteistyötä.
  3. Vaadi asianmukaisia korjaavia toimia, jos arvioinnissa havaitaan vaatimustenvastaisuus.
  4. Varmista, että toimijalle asetettu määräaika ei ylitä lyhyempää joko 15 työpäivän määräaikaa tai sovellettavan unionin yhdenmukaistamislainsäädännön mukaista määräaikaa.
  5. Ilmoita asiasta asianomaiselle ilmoitetulle laitokselle.

Itsetarkistus

Looginen järjestys alkaa siitä, että viranomaisella on riittävä syy epäillä riskiä. Sen jälkeen se suorittaa arvioinnin. Koska tässä tilanteessa havaitaan perusoikeusriski, yhteistyö 77 artiklan 1 kohdan mukaisten elinten kanssa on myös tarpeen. Jos vaatimustenvastaisuus todetaan, viranomainen edellyttää vaatimustenmukaisuutta, markkinoilta poistamista tai takaisinvetoa määräajassa ja ilmoittaa asiasta ilmoitetulle laitokselle.

Älä oleta, että 79 artikla sallii viranomaisen odottaa yksityistä kantelua ennen toimiin ryhtymistä. Sen 2 kohdan mukainen peruste on se, että viranomaisella on riittävä syy katsoa, että järjestelmä aiheuttaa määritellyn riskin.

79 artikla yli rajojen ja 80 artiklan virheellinen luokittelu

Aloittajavaltiota laajemmalle

Jos vaatimustenvastaisuus ei rajoitu yhden valtion alueelle, aloitteentekijänä toimivan viranomaisen on ilmoitettava komissiolle ja muille jäsenvaltioille ilman aiheetonta viivytystä. Korjaavien toimien on katettava kaikki unionin markkinoilla olevat järjestelmät, joita asia koskee.

Kun toimija ei toimi

Jos riittäviä korjauksia ei toteuteta ajoissa, 79 artikla edellyttää väliaikaisia toimenpiteitä: rajoittamista, kieltämistä, markkinoilta poistamista tai takaisinvetoa, minkä jälkeen asiasta ilmoitetaan komissiolle ja muille jäsenvaltioille.

Muu kuin korkean riskin luokitus ei ole lopullinen

80 artiklan nojalla liitteen III järjestelmä, joka on luokiteltu muuksi kuin korkean riskin järjestelmäksi, voidaan arvioida uudelleen, jos viranomaisella on riittävä syy katsoa sen olevan tosiasiassa 6 artiklan 3 kohdan mukainen korkean riskin järjestelmä.

Kiertämisellä on merkitystä

Jos viranomainen toteaa, että "palveluntarjoaja oli luokitellut tekoälyjärjestelmän virheellisesti muuksi kuin korkean riskin järjestelmäksi kiertääkseen III luvun 2 jakson vaatimusten soveltamisen", sovelletaan 99 artiklan sakkoja.

Tietovisa: Riski, korjaus ja luokittelu

Valitse 79 ja 80 artiklan mukaisesti täsmällisin vastaus.

Palveluntarjoaja merkitsee liitteen III järjestelmän muuksi kuin korkean riskin järjestelmäksi. Viranomainen toteaa, että merkintää käytettiin III luvun 2 jakson vaatimusten kiertämiseksi. Mitä 80 artiklan 7 kohdassa todetaan?

  1. Palveluntarjoajalle määrätään 99 artiklan mukaisia sakkoja.
  2. Viranomainen voi antaa vain epävirallista ohjausta, koska luokittelu on yksinomaan palveluntarjoajan päätös.
  3. Palveluntarjoaja saa automaattisesti kolmen kuukauden määräajan, ennen kuin täytäntöönpanotoimi on mahdollinen.
  4. Komission on ensin julistettava jokainen liitteen III järjestelmä korkean riskin järjestelmäksi.
Show Answer

Answer: A) Palveluntarjoajalle määrätään 99 artiklan mukaisia sakkoja.

80 artiklan 7 kohta koskee tahallista kiertämistä. Sen täsmällinen peruste on, että **"palveluntarjoaja oli luokitellut tekoälyjärjestelmän virheellisesti muuksi kuin korkean riskin järjestelmäksi kiertääkseen III luvun 2 jakson vaatimusten soveltamisen"**. Tällöin palveluntarjoajalle määrätään 99 artiklan mukaisia sakkoja.

79–83 artikla: Tarkastelu, unionin suojatoimet ja muodolliset puutteet

Väliaikaisten toimenpiteiden tarkastelu

Ilmoitetun kansallisen väliaikaisen toimenpiteen katsotaan olevan perusteltu, jos "kolmen kuukauden kuluessa tämän artiklan 5 kohdassa tarkoitetun ilmoituksen vastaanottamisesta ei ole esitetty vastalauseita".

5 artiklan nopeutettu menettely

Jos 5 artiklan kieltoja ei noudateta, tavanomainen kolmen kuukauden tarkasteluaika lyhenee 30 päivään. Myös 81 artikla lyhentää komission päätöksentekoajan 60 päivään.

Riski vaatimustenmukaisuudesta huolimatta

82 artiklaa sovelletaan myös silloin, kun korkean riskin järjestelmä on muodollisesti vaatimusten mukainen mutta aiheuttaa silti riskin terveydelle, turvallisuudelle, perusoikeuksille tai muulle yleisen edun suojan näkökohdalle.

Muodollinen vaatimustenvastaisuus

83 artiklaan sisältyvät EU-tietokantaan rekisteröinnin puuttuminen, CE-merkinnän puutteet, puuttuvat vakuutukset, soveltuvin osin puuttuvat edustajat sekä teknisten asiakirjojen saatavuuden puute. Jatkuvat puutteet johtavat oikeasuhteiseen rajoittamiseen, kieltämiseen, takaisinvetoon tai markkinoilta poistamiseen.

84–87 artikla: Tukirakenteet ja yksilölliset oikeussuojakeinot

Testaustuki

"Komissio nimeää yhden tai useamman unionin tekoälyn testauksen tukirakenteen". Ne toteuttavat määritettyjä markkinavalvonnan tukitehtäviä ja antavat pyydettäessä myös riippumatonta teknistä tai tieteellistä neuvontaa.

Oikeus tehdä valitus

Jokainen luonnollinen henkilö tai oikeushenkilö, jolla on perusteita katsoa, että rikkomus on tapahtunut, voi tehdä valituksen asianomaiselle markkinavalvontaviranomaiselle. Valitukset on otettava huomioon valvontatoiminnassa ja käsiteltävä niitä varten osoitettujen menettelyjen mukaisesti.

Selitys: ehdollinen oikeus

86 artiklaa sovelletaan tiettyihin liitteen III korkean riskin järjestelmien päätöksiin, joilla on oikeusvaikutuksia tai vastaavalla tavalla merkittäviä haitallisia vaikutuksia. Se sulkee pois liitteen III kohdan 2 järjestelmät, ja sitä sovelletaan unionin tai kansallisen lainsäädännön mukaisten laillisten poikkeusten rajoissa.

Ilmoittavat henkilöt

87 artiklassa sovelletaan direktiiviä (EU) 2019/1937 tämän asetuksen rikkomuksista ilmoittamiseen ja tällaisia ilmoituksia tekevien henkilöiden suojelemiseen.

88–90 artikla: Yleiskäyttöisten tekoälymallien valvonta

Kuka panee V luvun täytäntöön?

88 artiklassa todetaan: "Komissiolla on yksinomainen toimivalta valvoa V luvun noudattamista ja panna se täytäntöön". Komissio antaa täytäntöönpanon tekoälytoimiston tehtäväksi 94 artiklan menettelyllisiä takeita noudattaen.

Seuranta ja valitukset

Tekoälytoimisto voi seurata vaatimustenmukaisuutta, mukaan lukien hyväksyttyjen käytännesääntöjen noudattamista. "Jatkoketjun palveluntarjoajilla on oikeus tehdä valitus, jossa väitetään tämän asetuksen rikkomista."

Mitä jatkoketjun valitus edellyttää

Valituksen on oltava asianmukaisesti perusteltu, ja siinä on ilmoitettava palveluntarjoajan yhteyspiste, tosiseikat, asiaankuuluvat säännökset, väitetyn rikkomuksen perusteet sekä muut tiedot, joita jatkoketjun palveluntarjoaja pitää merkityksellisinä.

Perustellut ilmoitukset

"Tiedepaneeli voi antaa tekoälytoimistolle perustellun ilmoituksen" konkreettisesta, yksilöitävissä olevasta unionin tason riskistä tai siitä, että malli saattaa täyttää 51 artiklan edellytykset.

Muistikortit: Täytäntöönpanon sanasto

Käännä jokainen kortti ja testaa, pystytkö ilmoittamaan täsmällisesti perusteen, toimijan ja seurauksen.

79 artiklan riskimääritelmä
Riskin aiheuttavilla tekoälyjärjestelmillä tarkoitetaan asetuksen (EU) 2019/1020 3 artiklan 19 kohdan mukaista riskin aiheuttavaa tuotetta, siltä osin kuin ne aiheuttavat riskin terveydelle, turvallisuudelle tai perusoikeuksille.
79 artiklan korjaavien toimien raja
Viranomainen voi määrätä määräajan, mutta toimi on toteutettava joka tapauksessa lyhyemmän, joko 15 työpäivän tai asiaa koskevassa unionin yhdenmukaistamislainsäädännössä säädetyn määräajan kuluessa.
80 artiklan virheellisen luokittelun seuraus
Jos palveluntarjoaja luokitteli järjestelmän muuksi kuin korkean riskin järjestelmäksi kiertääkseen III luvun 2 jaksoa, palveluntarjoajalle määrätään 99 artiklan mukaisia sakkoja.
82 artiklan keskeinen havainto
Korkean riskin tekoälyjärjestelmä voi edellyttää korjaavia toimenpiteitä, vaikka se on asetuksen mukainen, jos se aiheuttaa silti määritellyn riskin.
85 artiklan mukainen valituksen tekijä
Jokainen luonnollinen henkilö tai oikeushenkilö, jolla on perusteita katsoa rikkomuksen tapahtuneen, voi tehdä valituksen asianomaiselle markkinavalvontaviranomaiselle.
88 artiklan mukainen täytäntöönpanon vastuunjako
Komissiolla on yksinomainen toimivalta valvoa V luvun noudattamista ja panna se täytäntöön, ja se antaa täytäntöönpanotehtävät tekoälytoimistolle.
92 artiklan malliin pääsy
Komissio voi pyytää pääsyä sovellusliittymien tai muiden asianmukaisten teknisten keinojen ja välineiden, myös lähdekoodin, kautta.

91–94 artikla: Tiedot, arviointi, toimenpiteet ja oikeudenmukainen menettely

Tietopyynnöt

Komissio voi pyytää 53 ja 55 artiklan mukaisia asiakirjoja sekä tarvittavia lisätietoja. Pyynnössä on ilmoitettava sen oikeusperusta, tarkoitus, vaadittavat tiedot, määräaika ja sovellettavat 101 artiklan sakot.

Milloin arviointi on käytettävissä

Hallintoneuvostoa kuultuaan tekoälytoimisto voi arvioida mallia, jos 91 artiklan mukaiset tiedot ovat riittämättömiä tai unionin tason systeemisten riskien tutkimiseksi, erityisesti tiedepaneelin perustellun ilmoituksen jälkeen.

Pääsy malliin

"Komissio voi pyytää pääsyä kyseiseen yleiskäyttöiseen tekoälymalliin sovellusliittymien tai muiden asianmukaisten teknisten keinojen ja välineiden, myös lähdekoodin, kautta."

Toimenpiteet ja menettelylliset oikeudet

Tarvittaessa ja asianmukaisissa tapauksissa komissio voi edellyttää vaatimustenmukaisuutta, riskin lieventämistä tai "rajoittaa mallin asettamista saataville markkinoilla, poistaa mallin markkinoilta tai vetää sen takaisin". 94 artiklassa säilytetään sovellettavat menettelylliset oikeudet.

Lopputesti: Mikä toimivalta sopii tilanteeseen?

Sovella 91–94 artiklan täsmällistä rakennetta.

Tekoälytoimisto on kuullut hallintoneuvostoa ja toteaa, että 91 artiklan nojalla saadut tiedot eivät riitä yleiskäyttöisen tekoälymallin palveluntarjoajan vaatimustenmukaisuuden arvioimiseen. Mikä väite on oikea?

  1. Tekoälytoimisto voi tehdä 92 artiklan mukaisen arvioinnin, ja komissio voi pyytää pääsyä malliin sovellusliittymien tai muiden asianmukaisten teknisten keinojen, myös lähdekoodin, kautta.
  2. Tekoälytoimiston on välittömästi vedettävä malli takaisin kuulematta palveluntarjoajaa tai tekemättä lisäarviointia.
  3. Vain kansallinen markkinavalvontaviranomainen voi pyytää tietoja yleiskäyttöisen tekoälymallin palveluntarjoajalta.
  4. Tiedepaneelin on itse annettava sitova markkinoilta poistamista koskeva määräys.
Show Answer

Answer: A) Tekoälytoimisto voi tehdä 92 artiklan mukaisen arvioinnin, ja komissio voi pyytää pääsyä malliin sovellusliittymien tai muiden asianmukaisten teknisten keinojen, myös lähdekoodin, kautta.

92 artiklan 1 kohdan a alakohdassa sallitaan arviointi, jos 91 artiklan mukaiset tiedot eivät riitä vaatimustenmukaisuuden arvioimiseen. 92 artiklan 3 kohdassa todetaan, että komissio voi pyytää pääsyä sovellusliittymien tai muiden asianmukaisten teknisten keinojen ja välineiden, myös lähdekoodin, kautta. Takaisinveto on sen sijaan yksi mahdollinen 93 artiklan mukainen toimenpide tarvittaessa ja asianmukaisissa tapauksissa.

Key Terms

deployer
Tekoälyjärjestelmää käyttävä toimija. 86 artiklan nojalla käyttöönottajalla voi olla velvollisuus antaa henkilölle, jota asia koskee, selkeät ja merkitykselliset selitykset, kun kaikki määritellyt edellytykset täyttyvät.
qualified alert
Asianmukaisesti perusteltu ilmoitus, jonka tiedepaneeli voi antaa tekoälytoimistolle 90 artiklan nojalla, jos se epäilee konkreettista, yksilöitävissä olevaa unionin tason riskiä tai 51 artiklan edellytysten täyttymistä.
mutatis mutandis
Sovelletaan eri asiayhteyden edellyttämin muutoksin. 94 artiklassa sovelletaan asetuksen (EU) 2019/1020 18 artiklaa tällä tavoin yleiskäyttöisten tekoälymallien palveluntarjoajiin.
relevant operator
Sovellettavan säännöksen nojalla täytäntöönpanotoimen kohteena oleva toimija, kuten palveluntarjoaja tai muu toimitusketjuun kuuluva toimija.
downstream provider
Palveluntarjoaja, jolla on 89 artiklan nojalla oikeus tehdä asianmukaisesti perusteltu valitus, jossa väitetään asetuksen rikkomista.
high-risk AI system
Tekoälyjärjestelmä, joka kuuluu asetuksen korkean riskin kehykseen. Tässä moduulissa termi on erityisen merkityksellinen 80, 82 ja 83 artiklan sekä 86 artiklan kannalta.
provisional measure
79 artiklan 5 kohdan nojalla toteutettava kansallinen rajoittamis-, kielto-, markkinoilta poistamis- tai takaisinveto toimenpide, kun toimija ei toteuta riittäviä korjaavia toimia vaaditussa määräajassa.
structured dialogue
Vuoropuhelu, jonka tekoälytoimisto voi aloittaa ennen tietopyyntöä, malliin pääsyä koskevaa pyyntöä tai 91–93 artiklan mukaista pyydettyä toimenpidettä.
formal non-compliance
83 artiklassa lueteltu puute, kuten CE-merkinnän puutteet, puuttuvat tai virheelliset vaatimustenmukaisuusvakuutukset, EU-tietokantaan rekisteröinnin puuttuminen, soveltuvin osin valtuutetun edustajan puuttuminen tai teknisten asiakirjojen saatavuuden puute.
general-purpose AI model
V luvun 88–94 artiklan mukaisen valvonnan ja täytäntöönpanon kohde.
Union safeguard procedure
81 artiklan mukainen menettely, jossa komissio arvioi riitautettuja kansallisia toimenpiteitä tai toimenpiteitä, joiden katsotaan olevan unionin oikeuden vastaisia.
market surveillance authority
Jäsenvaltion viranomainen, joka hoitaa markkinavalvontatehtäviä, mukaan lukien tekoälyjärjestelmien arviointi sekä tässä opetettujen artiklojen mukaisten korjaavien ja rajoittavien toimenpiteiden määrääminen tai käynnistäminen.

Finished reading?

Test your understanding with a custom practice exam on this chapter.

Test yourself