SkarpSkarp

Chapter 13 of 25

Suuririskistä järjestelmää koskeva näyttö ja tarjoajan hallintakeinot

Vaatimustenmukaisuus on sisällytettävä järjestelmään ja säilytettävä näyttönä. Artiklat 11–21 yhdistävät dokumentaation, automaattiset lokit, ohjeet, valvonnan ja resilienssin tarjoajan laadunhallintajärjestelmään, säilyttämiseen, korjaaviin toimenpiteisiin ja sääntelyviranomaisyhteistyöhön.

8 min readfi

11 artikla: tekninen dokumentaatio ennen markkinoille saattamista

Laadi näyttö ennen käyttöönottoa

11 artikla edellyttää täsmälleen tätä ajoitusta: "Suuririskisen tekoälyjärjestelmän tekniset asiakirjat on laadittava ennen kyseisen järjestelmän markkinoille saattamista tai käyttöönottoa, ja ne on pidettävä ajan tasalla."

Mitä dokumentaation on osoitettava

Sen on osoitettava tämän jakson noudattaminen ja annettava viranomaisille ja ilmoitetuille laitoksille selkeät ja kattavat tiedot vaatimustenmukaisuuden arviointia varten. Sen on sisällettävä vähintään liitteessä IV tarkoitetut osat.

Yksi asiakirjakokonaisuus ja yksinkertaistetut menettelyt

Pk-yritykset voivat käyttää komission yksinkertaistettua liitteen IV lomaketta, joka ilmoitettujen laitosten on hyväksyttävä. 11 artiklan 2 kohdassa edellytetään yhtä yhdistettyä asiakirjakokonaisuutta asiaankuuluville liitteessä I olevan A jakson tuotantojärjestelmille.

12 artikla: lokit jäljitettävyyttä koskevana näyttönä

Automaattinen lokitus on pakollista

12 artiklassa edellytetään: "Suuririskisten tekoälyjärjestelmien on teknisesti mahdollistettava tapahtumien (lokien) automaattinen tallentaminen järjestelmän elinkaaren ajan." Lokituksen on oltava tekninen ominaisuus, ei improvisoitu manuaalinen käytäntö.

Miksi tapahtumia tallennetaan?

Lokien on tuettava jäljitettävyyttä: 79 artiklan 1 kohdassa tarkoitettujen mahdollisten riskien tai olennaisten muutosten tunnistamista, 72 artiklan mukaista markkinoille saattamisen jälkeistä seurantaa sekä 26 artiklan 5 kohdassa tarkoitettujen järjestelmien toiminnan seurantaa.

Erityinen vähimmäisvaatimus liitteen III kohdan 1 a alakohdassa

Näiden järjestelmien osalta on tallennettava jokainen käyttöjakso, tarkistettu vertailutietokanta, täsmäämiseen johtaneet syöttötiedot sekä niiden luonnollisten henkilöiden henkilöllisyys, jotka varmistivat tulokset 14 artiklan 5 kohdan mukaisesti.

13 artikla: läpinäkyvyys tarkoittaa käyttökelpoista tietoa

Läpinäkyvyydellä on toiminnallinen tavoite

13 artiklassa edellytetään, että järjestelmät suunnitellaan ja kehitetään siten, että "niiden toiminta on riittävän läpinäkyvää, jotta käyttöönottajat voivat tulkita järjestelmän tuotoksia ja käyttää niitä asianmukaisesti".

Ohjeiden on oltava käyttökelpoisia

Käyttöohjeet on annettava asianmukaisessa digitaalisessa muodossa tai muulla tavoin, ja niiden on oltava tiiviitä, täydellisiä, virheettömiä, selkeitä, merkityksellisiä, saavutettavia ja käyttöönottajien ymmärrettävissä.

Käyttöohjeiden vähimmäissisältö

Käsittele käyttötarkoitus; testattu suorituskyky ja rajoitukset; ennakoitavissa olevat riskit; tulkintavälineet; tarvittaessa tietojen eritelmät; ihmisen suorittama valvonta; ylläpito; käyttöikä; sekä asiaankuuluvat lokien käsittelymekanismit.

14 artikla: toimivan ihmisen suorittaman valvonnan suunnittelu

Valvonnan on oltava tehokasta

14 artiklassa edellytetään, että järjestelmät, myös asianmukaisten rajapintojen avulla, suunnitellaan siten, että "luonnolliset henkilöt voivat valvoa niitä tehokkaasti niiden käyttöaikana".

Mitä valvojan on voitava tehdä

Ymmärtää rajoitukset, seurata poikkeamia, vastustaa automatisointiharhaa, tulkita tuotoksia, olla käyttämättä tai ohittaa tuotoksia sekä puuttua järjestelmän toimintaan tai pysäyttää se turvallisesti. Toimenpiteiden on sovelluttava riskiin, autonomiaan ja asiayhteyteen.

Tunnistusjärjestelmät: lisäsuoja

Liitteen III kohdan 1 a alakohdan osalta tunnistaminen edellyttää tavallisesti, että vähintään kaksi toimivaltaista, koulutettua ja valtuutettua luonnollista henkilöä varmistaa ja vahvistaa sen erikseen ennen kuin käyttöönottaja toimii.

15 artikla: suorituskyky koko elinkaaren ajan

Ei kertaluonteista vaatimustenmukaisuustilannekuvaa

15 artiklassa edellytetään, että järjestelmät "saavuttavat asianmukaisen tarkkuuden, vankkuuden ja kyberturvallisuuden tason ja toimivat johdonmukaisesti näiltä osin koko elinkaarensa ajan".

Vankkuus ja oppivat järjestelmät

Käytä teknisiä ja organisatorisia toimenpiteitä virheiden ja epäjohdonmukaisuuksien torjumiseksi. Varmuuskopiointi- tai vikasietosuunnitelmat voivat tukea vankkuutta. Jatkuvasti oppivien järjestelmien on vähennettävä ja lievennettävä puolueellisia takaisinkytkentäsilmukoita.

Tekoälykohtainen kyberturvallisuus

Turvatoimenpiteiden on sovelluttava riskeihin, ja ne voivat koskea tietojen myrkyttämistä, mallin myrkyttämistä, vastakkaisia esimerkkejä tai mallin kiertämistä, luottamuksellisuushyökkäyksiä ja mallivirheitä.

Tietotarkistus: dokumentaatio, lokit ja valvonta

Valitse väite, joka kuvaa täsmällisimmin 11, 12 ja 14 artiklaa.

Mikä väite on oikea?

  1. Tekniset asiakirjat voidaan laatia markkinoille saattamisen jälkeen, jos palveluntarjoaja voi rekonstruoida ne lokien perusteella.
  2. Lokien tarvitsee olla teknisesti mahdollisia vain tutkinnan aikana eikä järjestelmän koko elinkaaren ajan.
  3. Ihmisen suorittaman valvonnan on mahdollistettava nimettyjen luonnollisten henkilöiden osalta asianmukaisesti ja oikeasuhteisesti tuotoksen ohittaminen tai kumoaminen sekä turvallinen puuttuminen järjestelmän toimintaan tai sen keskeyttäminen.
  4. Kaikki suuririskiset tekoälyjärjestelmät edellyttävät, että täsmälleen kaksi luonnollista henkilöä vahvistaa jokaisen tuotoksen.
Show Answer

Answer: C) Ihmisen suorittaman valvonnan on mahdollistettava nimettyjen luonnollisten henkilöiden osalta asianmukaisesti ja oikeasuhteisesti tuotoksen ohittaminen tai kumoaminen sekä turvallinen puuttuminen järjestelmän toimintaan tai sen keskeyttäminen.

14 artiklan 4 kohdassa edellytetään, että nimettyjen valvojien on voitava asianmukaisesti ja oikeasuhteisesti jättää tuotos huomiotta, ohittaa tai kumota se sekä puuttua järjestelmän toimintaan tai keskeyttää se pysäytyspainikkeella tai vastaavalla turvallisella menettelyllä. 11 artikla edellyttää dokumentaatiota ennen markkinoille saattamista tai käyttöönottoa, 12 artikla edellyttää elinkaaren aikaista lokitusvalmiutta, ja kahden henkilön sääntö koskee erityisesti liitteen III kohdan 1 a alakohdan mukaisia tunnistamisia, mainitun poikkeuksen mukaisesti.

16 artikla: palveluntarjoaja vaatimustenmukaisuuden vastuullisena tahona

Palveluntarjoajan ensisijainen velvollisuus

16 artiklan a alakohdassa edellytetään, että palveluntarjoajat "varmistavat, että niiden suuririskiset tekoälyjärjestelmät täyttävät 2 jaksossa säädetyt vaatimukset". Tämä yhdistää 11–15 artiklat palveluntarjoajan vastuullisuuteen.

Markkinoille saattamista edeltävät ja näyttöön liittyvät vastuut

Palveluntarjoajien on käytettävä 17 artiklan mukaista laatujärjestelmää, säilytettävä 18 artiklan mukainen dokumentaatio ja hallinnassaan olevat lokit, suoritettava asiaankuuluva vaatimustenmukaisuuden arviointi, laadittava vakuutus, kiinnitettävä CE-merkintä ja rekisteröidyttävä, jos sitä edellytetään.

Palveluntarjoaja on edelleen vastuussa

16 artikla edellyttää myös korjaavia toimia, tietojen toimittamista, yhteistyötä viranomaisen perusteltujen pyyntöjen yhteydessä sekä nimettyjen saavutettavuusvaatimusten noudattamista.

17 artikla: laadunhallinta ohjausjärjestelmänä

Kirjallinen, järjestelmällinen ja asianmukainen

"Suuririskisten tekoälyjärjestelmien palveluntarjoajien on otettava käyttöön laadunhallintajärjestelmä, jolla varmistetaan tämän asetuksen noudattaminen." Järjestelmä on dokumentoitava järjestelmällisesti ja asianmukaisesti kirjallisten toimintaperiaatteiden, menettelyjen ja ohjeiden avulla.

Mitä sen on katettava

Vähintään: vaatimustenmukaisuus- ja muutosstrategia; suunnittelu- ja kehittämisen ohjaus; testaus; tekniset eritelmät; tiedonhallinta; riskienhallinta; markkinoille saattamisen jälkeinen seuranta; tapahtumista ilmoittaminen; viestintä; tallenteet; resurssit; vastuuvelvollisuus.

Oikeasuhteinen ei tarkoita vapaaehtoista

Toteutuksen on oltava oikeasuhteinen palveluntarjoajan kokoon nähden, mutta vaadittu huolellisuus ja suoja säilyvät. Rahoituslaitoksia koskeva kohtelu ei katso 17 artiklan 1 kohdan g, h tai i alakohdan täyttyvän.

18 ja 19 artikla: säilytä asiakirjat, säilytä lokit

Dokumentaatio: kymmenen vuotta

18 artiklassa edellytetään, että määritetyt aineistot pidetään kansallisten toimivaltaisten viranomaisten saatavilla "10 vuotta suuririskisen tekoälyjärjestelmän markkinoille saattamisen tai käyttöönoton jälkeen".

Mitä säilytettävä asiakirjakokonaisuus sisältää?

Säilytä 11 artiklan mukaiset tekniset asiakirjat, 17 artiklan mukainen laadunhallintajärjestelmän dokumentaatio, asiaankuuluvat ilmoitettujen laitosten muutostietueet ja päätökset sekä 47 artiklan mukainen EU-vaatimustenmukaisuusvakuutus.

Lokit: vähintään kuusi kuukautta

Hallinnassa olevien automaattisten lokien osalta "lokit on säilytettävä suuririskisen tekoälyjärjestelmän käyttötarkoitukseen soveltuvan ajan, joka on vähintään kuusi kuukautta", sovellettavaa lainsäädäntöä rajoittamatta.

Näytön priorisointitehtävä: mitä tapahtuu vian jälkeen?

Sovella 20 ja 21 artiklaa

Kuvittele, että palveluntarjoaja saa käyttöönottajalta tiedon, että sen suuririskinen tekoälyjärjestelmä on tuottanut validoidun suorituskykynsä kanssa ristiriitaisia tuotoksia ja voi aiheuttaa 79 artiklan 1 kohdassa tarkoitetun riskin.

Aseta toimet järjestykseen

  1. Arvioi vaatimustenmukaisuus välittömästi. 20 artiklan 1 kohtaa sovelletaan, kun palveluntarjoaja katsoo tai sillä on syytä katsoa, että markkinoille saattamansa tai käyttöönottamansa järjestelmä ei ole vaatimusten mukainen.
  2. Toteuta asianmukainen korjaus ilman aiheetonta viivytystä. Lähdetekstissä todetaan, että palveluntarjoajan "on välittömästi toteutettava tarvittavat korjaavat toimet kyseisen järjestelmän saattamiseksi vaatimustenmukaiseksi, poistamiseksi markkinoilta, käytöstä poistamiseksi tai palautusmenettelyllä keräämiseksi, tapauksen mukaan".
  3. Ilmoita vaikutuksen kohteena oleville toimitusketjun ja käyttöpuolen osapuolille. Ilmoita jakelijoille ja tarvittaessa käyttöönottajille, valtuutetulle edustajalle ja maahantuojille.
  4. Jos kyseessä on 79 artiklan 1 kohdan mukainen riski, tutki asia välittömästi. Tee tarvittaessa yhteistyötä ilmoittaneen käyttöönottajan kanssa.
  5. Ilmoita asiaankuuluville viranomaisille. Ilmoita toimivaltaisille markkinavalvontaviranomaisille ja tarvittaessa 44 artiklan mukaisen sertifikaatin antaneelle ilmoitetulle laitokselle. Anna tiedot vaatimustenvastaisuuden luonteesta ja asiaankuuluvista korjaavista toimista.
  6. Tee yhteistyötä perustellun pyynnön yhteydessä. Anna 21 artiklan mukaisesti tarvittavat tiedot ja asiakirjat, jotka osoittavat jakson 2 vaatimustenmukaisuuden, kielellä, jota viranomainen voi helposti ymmärtää ja jonka asianomainen jäsenvaltio on ilmoittanut unionin virallisten kielten joukosta. Anna tarvittaessa pääsy hallinnassasi oleviin automaattisesti tuotettuihin lokeihin.

Pohdintakehote

Tiimi ehdottaa: "Otamme ensin hiljaisesti käyttöön ohjelmistopaikan ja päätämme sitten, tarvitseeko kenellekään kertoa." Tunnista ongelma. 20 artiklassa ilmoittamista ei aseteta riippuvaiseksi korjauksen valmistumisesta. Siinä edellytetään välittömiä asianmukaisia korjaavia toimia ja määritettyjä tiedonantovelvollisuuksia. Jos järjestelmä aiheuttaa 79 artiklan 1 kohdassa tarkoitetun riskin, siinä edellytetään myös välitöntä tutkintaa ja ilmoittamista.

21 artiklan 3 kohdassa lisätään, että toimivaltaisen viranomaisen kyseisen artiklan nojalla saamiin tietoihin sovelletaan 78 artiklan mukaisia salassapitovelvollisuuksia.

Muistikortit: suuririskisten järjestelmien näyttö ja hallintatoimet

Käännä jokainen kortti ja selitä sääntö sitten ääneen omin sanoin lieventämättä pakollista "on"-vaatimusta.

11 artiklan ajoitussääntö
"Suuririskisen tekoälyjärjestelmän tekniset asiakirjat on laadittava ennen kyseisen järjestelmän markkinoille saattamista tai käyttöönottoa, ja ne on pidettävä ajan tasalla."
12 artiklan keskeinen velvollisuus
Järjestelmän on teknisesti mahdollistettava tapahtumien eli lokien automaattinen tallentaminen koko elinkaarensa ajan.
13 artiklan läpinäkyvyystulos
Käyttöönottajien on voitava tulkita tuotos ja käyttää järjestelmää asianmukaisesti.
14 artiklan automatisointiharha
Mahdollinen taipumus luottaa automaattisesti tai liiallisesti tekoälyn tuotokseen, erityisesti kun se antaa tietoa tai suosituksia ihmisten päätöksiä varten.
15 artiklan elinkaarivaatimus
Asianmukainen tarkkuus, vankkuus ja kyberturvallisuus on saavutettava, ja niiden on toteuduttava johdonmukaisesti koko elinkaaren ajan.
18 artiklan säilytysaika
Määritettyjen asiakirjojen on oltava kansallisten toimivaltaisten viranomaisten saatavilla 10 vuotta markkinoille saattamisen tai käyttöönoton jälkeen.
19 artiklan lokien vähimmäisvaatimus
Hallinnassa olevat lokit on säilytettävä käyttötarkoitukseen soveltuvan ajan, vähintään kuusi kuukautta, jollei sovellettavassa lainsäädännössä säädetä toisin.
20 artiklan vastaus
Toteuta välittömästi tarvittavat korjaavat toimet vaatimustenmukaisuuden saavuttamiseksi, markkinoilta poistamiseksi, käytöstä poistamiseksi tai palautusmenettelyllä keräämiseksi tapauksen mukaan; täytä sen jälkeen tiedonantovelvollisuudet.

Lopputarkistus: palveluntarjoajan hallintatoimet ja säilyttäminen

Valitse paras vastaus perustuen tiukasti 16–21 artiklaan.

Palveluntarjoaja säilyttää teknisiä asiakirjoja kuusi kuukautta, säilyttää hallinnassaan olevia lokeja kymmenen vuotta ja kieltäytyy viranomaisen perustellusta pyynnöstä, ellei viranomainen käytä palveluntarjoajan ensisijaista kieltä. Mikä arvio on täsmällisin?

  1. Palveluntarjoaja noudattaa vaatimuksia, koska pidempi lokien säilytysaika korjaa liian lyhyen dokumentaation säilytysajan.
  2. Palveluntarjoaja ei noudata vaatimuksia: 18 artiklassa edellytetään, että määritetyt asiakirjat ovat saatavilla 10 vuotta markkinoille saattamisen tai käyttöönoton jälkeen, ja 21 artiklassa edellytetään vaaditut tiedot ja asiakirjat asiaankuuluvalla helposti ymmärrettävällä unionin virallisella kielellä.
  3. Palveluntarjoaja noudattaa vaatimuksia, jos se on pk-yritys, koska pk-yritykset on vapautettu 18 ja 21 artiklasta.
  4. Palveluntarjoajan on tehtävä yhteistyötä vasta, kun ilmoitettu laitos on vahvistanut vakavan tapahtuman.
Show Answer

Answer: B) Palveluntarjoaja ei noudata vaatimuksia: 18 artiklassa edellytetään, että määritetyt asiakirjat ovat saatavilla 10 vuotta markkinoille saattamisen tai käyttöönoton jälkeen, ja 21 artiklassa edellytetään vaaditut tiedot ja asiakirjat asiaankuuluvalla helposti ymmärrettävällä unionin virallisella kielellä.

18 artiklassa säädetään dokumentaation kymmenen vuoden saatavuusajasta. 19 artiklassa säädetään erillisestä hallinnassa olevien lokien vähimmäisvaatimuksesta: käyttötarkoitukseen soveltuva vähintään kuuden kuukauden ajanjakso, sovellettavaa lainsäädäntöä rajoittamatta. 21 artiklassa edellytetään yhteistyötä perustellusta pyynnöstä ja täsmennetään kieliedellytys. 11 artiklan mukainen pk-yritysten yksinkertaistus ei luo mainittuja vapautuksia.

Key Terms

deployer
Osapuoli, jolle 13 artiklassa edellytetään käyttökelpoisia käyttöohjeita ja jonka 14 artiklassa katsotaan mahdollisesti toteuttavan palveluntarjoajan yksilöimiä ihmisen suorittaman valvonnan toimenpiteitä.
provider
Osapuoli, jolle 16 artiklassa osoitetaan luetellut velvollisuudet, mukaan lukien jakson 2 vaatimustenmukaisuuden varmistaminen, laadunhallintajärjestelmän ylläpito, määritetyn näytön säilyttäminen ja korjaavien toimien toteuttaminen.
traceability
Lokitusvalmiuksien kyky tallentaa riskiin tai olennaiseen muutokseen, markkinoille saattamisen jälkeiseen seurantaan ja määritettyyn toiminnan seurantaan liittyviä tapahtumia.
automatic logs
Automaattisesti tallennetut tapahtumat, jotka suuririskisten tekoälyjärjestelmien on teknisesti mahdollistettava koko elinkaarensa ajan 12 artiklan mukaisesti.
automation bias
Mahdollinen taipumus luottaa automaattisesti tai liiallisesti suuririskisen tekoälyjärjestelmän tuotokseen.
corrective action
20 artiklan mukainen välitön asianmukainen toimi vaatimustenvastaisen järjestelmän saattamiseksi vaatimustenmukaiseksi, poistamiseksi markkinoilta, käytöstä poistamiseksi tai palautusmenettelyllä keräämiseksi.
high-risk AI system
Toimitetussa tekstissä 11–21 artiklassa käsitelty tekoälyjärjestelmien luokka, johon sovelletaan lueteltuja teknisiä, dokumentaatioon liittyviä, palveluntarjoajaa koskevia ja yhteistyövelvollisuuksia.
conformity assessment
Asiaankuuluva menettely, joka 16 artiklan mukaan on suoritettava ennen suuririskisen tekoälyjärjestelmän markkinoille saattamista tai käyttöönottoa 43 artiklassa tarkoitetulla tavalla.
technical documentation
11 artiklan mukainen näyttöpaketti, joka osoittaa jakson 2 vaatimustenmukaisuuden ja mahdollistaa viranomaisten ja ilmoitettujen laitosten suorittaman arvioinnin; se sisältää vähintään liitteen IV osat.
quality management system
17 artiklassa vaaditut dokumentoidut, järjestelmälliset ja asianmukaiset kirjalliset toimintaperiaatteet, menettelyt ja ohjeet, joilla varmistetaan vaatimustenmukaisuus.

Finished reading?

Test your understanding with a custom practice exam on this chapter.

Test yourself