SkarpChapter 18 of 25
Testiympäristöt ja testaus todellisissa olosuhteissa
Innovointi siirtyy periaatteesta valvottuun menettelyyn luvussa VI. Artikloissa 57–61 vahvistetaan pääsy testiympäristöihin, suojattu henkilötietojen käsittely ja tiukasti valvottu testaus todellisissa olosuhteissa, mukaan lukien suunnitelmat, suostumus, poikkeamiin reagointi ja jatkuva vastuu.
Luku VI: Innovaatiopolku
Kaksi valvottua reittiä
Artikloissa 57–61 vahvistetaan AI-sääntelyhiekkalaatikkoa koskeva reitti sekä erillinen reitti todellisissa olosuhteissa tapahtuvaan testaukseen hiekkalaatikkojen ulkopuolella. Kumpikaan reitti ei poista vastuuta eikä tee kokeilusta sääntelemätöntä toimintaa.
Kansallinen hiekkalaatikkovelvollisuus
Artiklan 57 kohdan 1 mukaan jäsenvaltioiden on varmistettava, että viranomaiset "establish at least one AI regulatory sandbox at national level, which shall be operational by 2 August 2026". Yhteiset tai vastaavan kansallisen kattavuuden tarjoavat järjestelyt ovat sallittuja.
Ajantasaisuutta koskeva huomautus
AI:tä koskeva 8. heinäkuuta 2026 annettu Digital Omnibus, PE-CONS 30/26, on signedpendingpublication ja vaikuttaa artikloihin 56–60a. Se ei ole voimassa, joten tässä moduulissa opetetaan lähdetekstin alkuperäisiä vaatimuksia.
Artikla 57: mitä hiekkalaatikko on ja kuka sitä valvoo
Hallittu, määräaikainen ympäristö
Artiklan 57 kohdan 5 mukaan edellytetään "a controlled environment that fosters innovation and facilitates the development, training, testing and validation of innovative AI systems for a limited time" toimivaltaisen viranomaisen kanssa sovitun hiekkalaatikkosuunnitelman mukaisesti.
Ei pelkkä työtila
Toimivaltaisten viranomaisten on annettava tarvittaessa ohjausta, valvontaa ja tukea. Ne tarkastelevat riskejä, erityisesti perusoikeuksiin, terveyteen ja turvallisuuteen kohdistuvia riskejä, sekä testaus- ja lieventämistoimenpiteitä.
Institutionaalinen koordinointi
Jäsenvaltioiden on tarjottava riittävät resurssit. Viranomaisten on tarvittaessa tehtävä yhteistyötä, myös muiden sääntelyhiekkalaatikkojen valvonnasta vastaavien viranomaisten ja tarvittaessa muiden AI-ekosysteemin toimijoiden kanssa.
Käytännön esimerkki: julkisen palvelun ohjaustyökalu hiekkalaatikossa
Suunnitelma ennen kokeilua
Kunnallinen ohjaustyökalu voi päästä hiekkalaatikkoon vain tarjoajan tai mahdollisen tarjoajan ja toimivaltaisen viranomaisen sopiman erityisen suunnitelman kautta. Suunnitelma rajaa määräaikaisen kehitys-, koulutus-, testaus- ja validointityön.
Ota mukaan oikeat valvojat
Jos kyse on henkilötiedoista tai toisen viranomaisen toimivallasta, artiklan 57 kohdan 10 mukaan asiaankuuluvat tietosuojaviranomaiset ja muut toimivaltaiset viranomaiset on liitettävä valvontaan niiden toimivaltuuksien puitteissa.
Hiekkalaatikko voidaan keskeyttää
Terveyteen ja turvallisuuteen tai perusoikeuksiin kohdistuvia merkittäviä riskejä on lievennettävä asianmukaisesti. Jos tehokas lieventäminen ei ole mahdollista, kansallinen toimivaltainen viranomainen voi keskeyttää testauksen tai osallistumisen ja sen on ilmoitettava asiasta AI Office -toimistolle.
Tietotarkistus: hiekkalaatikon asema
Valitse väite, joka vastaa parhaiten artiklaa 57.
Mikä väite on oikea artiklan 57 mukaan?
- Hiekkalaatikko poistaa tarjoajan vastuun kokeilun aikana aiheutuneista vahingoista.
- Hiekkalaatikko on määräaikainen hallittu ympäristö, joka toimii toimivaltaisen viranomaisen kanssa sovitun erityisen suunnitelman mukaisesti.
- Vain komissio voi perustaa AI-sääntelyhiekkalaatikon.
- Kun osallistuja on hyväksytty, hänen osallistumistaan hiekkalaatikkoon ei voida keskeyttää.
Show Answer
Answer: B) Hiekkalaatikko on määräaikainen hallittu ympäristö, joka toimii toimivaltaisen viranomaisen kanssa sovitun erityisen suunnitelman mukaisesti.
Artiklan 57 kohdassa 5 kuvataan hallittu, määräaikainen ympäristö, joka toimii erityisen sovitun hiekkalaatikkosuunnitelman mukaisesti. Artiklan 57 kohdan 11 nojalla toiminta voidaan keskeyttää, jos tehokas lieventäminen ei ole mahdollista, kun taas artiklan 57 kohdassa 12 vastuusääntely pidetään sovellettavana.
Artiklan 57 kohdat 7–17 ja artikla 58: näyttö, pääsy ja hallinto
Poistumisnäyttöä, ei vapautusta vastuusta
Pyynnöstä onnistuneet hiekkalaatikkotoimet edellyttävät kirjallista todistusta. "The competent authority shall also provide an exit report detailing the activities carried out in the sandbox and the related results and learning outcomes."
Pääsy ja ajoitus
Artiklassa 58 edellytetään avoimia ja oikeudenmukaisia kelpoisuus- ja valintaperusteita. Sen mukaan "national competent authorities inform applicants of their decision within three months of the application".
Pk-yrityksiin keskittyvä suunnittelu
"access to the AI regulatory sandboxes is free of charge for SMEs, including start-ups" edellyttäen, että poikkeukselliset kustannukset voidaan periä oikeudenmukaisesti ja oikeasuhteisesti. Menettelyjen on oltava yksinkertaisia, ymmärrettäviä ja selkeästi viestittyjä.
Muistikortit: hiekkalaatikon hallinto
Käännä kukin kortti ja selitä sitten, miten käsite muuttaa osallistujan käytännön asemaa.
- Hiekkalaatikkosuunnitelma
- Tarjoajan tai mahdollisen tarjoajan ja toimivaltaisen viranomaisen sopima erityinen suunnitelma määräaikaista hiekkalaatikkotoimintaa varten.
- Poistumisraportti
- Raportti, joka toimivaltaisen viranomaisen on annettava ja jossa kuvataan hiekkalaatikkotoimet sekä niihin liittyvät tulokset ja oppimistulokset.
- Kirjallinen todistus
- Toimivaltaisen viranomaisen pyynnöstä antama todistus hiekkalaatikossa onnistuneesti toteutetuista toimista.
- Pk-yritysten pääsy
- Pääsy on maksutonta pk-yrityksille, mukaan lukien start-up-yrityksille, lukuun ottamatta poikkeuksellisten kustannusten oikeudenmukaista ja oikeasuhteista perintää.
- Vuosiraportointi
- Kansalliset toimivaltaiset viranomaiset toimittavat AI Office -toimistolle ja lautakunnalle vuosikertomukset vuoden kuluttua hiekkalaatikon perustamisesta, vuosittain päättymiseen asti, sekä loppuraportin.
Artikla 59: henkilötiedot hiekkalaatikossa
Kumulatiivinen pääsyedellytys
Artiklassa 59 sallitaan jatkokäyttö vain, jos kaikki edellytykset täyttyvät: "personal data lawfully collected for other purposes may be processed solely for the purpose of developing, training and testing certain AI systems in the sandbox".
Yleinen etu ja välttämättömyys
Hankkeella on turvattava merkittävää yleistä etua luetelluilla aloilla. Tietojen on oltava tarpeen luvun III jakson 2 vaatimuksia varten, eikä näitä vaatimuksia voida tehokkaasti täyttää anonymisoiduilla, synteettisillä tai muilla henkilötiedottomilla tiedoilla.
Rajaa tiedot
Tietojen on oltava "a functionally separate, isolated and protected data processing environment under the control of the prospective provider". Vain valtuutetuilla henkilöillä voi olla pääsy niihin, eikä hiekkalaatikossa luotuja tietoja saa siirtää hiekkalaatikon ulkopuolelle.
Käytännön esimerkki: taudintunnistusmalli ja tietojen rajat
Miksi tämä sairaalatapaus voi täyttää edellytykset
Taudintunnistus kuuluu nimenomaisesti artiklan 59 kansanterveyden alaan. Se on kuitenkin vain yksi edellytys: sairaalan on myös osoitettava välttämättömyys ja se, miksi henkilötiedottomat vaihtoehdot eivät voi tehokkaasti täyttää asiaankuuluvia vaatimuksia.
Ei rekisteröityjä koskevia operatiivisia päätöksiä
Hiekkalaatikossa tapahtuva käsittely ei johda rekisteröityihin vaikuttaviin toimenpiteisiin tai päätöksiin eikä vaikuta heidän unionin henkilötietolainsäädännön mukaisiin oikeuksiinsa. Hiekkalaatikko on kehittämistä, koulutusta ja testausta varten, ei potilaita koskevaa toimintaa varten.
Poistaminen ja dokumentointi
Henkilötiedot suojataan ja poistetaan, kun osallistuminen päättyy tai säilytysaika päättyy. Lokit, yksityiskohtaiset perustelut, testaustulokset, tekninen dokumentaatio ja julkinen hankeyhteenveto muodostavat jäljitettävän vastuullisuusketjun.
Artikla 60: todellisissa olosuhteissa tapahtuvan testauksen aloittaminen hiekkalaatikon ulkopuolella
Kuka voi käyttää artiklaa 60?
Artikla 60 koskee liitteessä III lueteltuja suuririskisiä AI-järjestelmiä testaavia tarjoajia ja mahdollisia tarjoajia ennen markkinoille saattamista tai käyttöönottoa. Se ei syrjäytä artiklan 5 kieltoja, asiaankuuluvia tuotetta koskevia oikeussääntöjä eikä lakiin perustuvaa pakollista eettistä arviointia.
Suunnitelma ja hyväksyntä
Todellisissa olosuhteissa tapahtuvaa testausta koskeva suunnitelma on toimitettava testauksen jäsenvaltion markkinavalvontaviranomaiselle. Hyväksyntä vaaditaan, jollei lähdetekstin kansallista lainsäädäntöä koskevasta hiljaista hyväksyntää koskevasta edellytyksestä muuta johdu.
Kolmekymmentä päivää ja rekisteröinti
"where the market surveillance authority has not provided an answer within 30 days, the testing in real world conditions and the real-world testing plan shall be understood to have been approved" silloin, kun kansallinen lainsäädäntö sallii hiljaisen hyväksynnän. Myös rekisteröintisääntöjä sovelletaan.
Käytännön esimerkki: AI-rekrytointityökalun testaaminen
Kumppanuus edellyttää sopimusta
Jos testaus järjestetään käyttöönottajan tai mahdollisen käyttöönottajan kanssa, osapuolten on sovittava rooleistaan ja vastuistaan. Käyttöönottajan on saatava asiaankuuluvat testaustiedot ja artiklan 13 käyttöohjeet.
Tiukka enimmäisaika
Testauksen on oltava kestoltaan tarpeellinen, eikä se saa olla "not longer than six months, which may be extended for an additional period of six months" ennakkoilmoituksella ja tarpeen perustelulla.
Tee tuloksista peruutettavia
Artiklassa 60 edellytetään, että "the predictions, recommendations or decisions of the AI system can be effectively reversed and disregarded". Testattu suositus ei saa johtaa peruuttamattomaan todellisen maailman lopputulokseen.
Artiklat 60–61: suostumus, poikkeamat, peruuttaminen ja vastuu
Merkityksellinen, dokumentoitu suostumus
"freely-given informed consent shall be obtained from the subjects of testing prior to their participation in such testing". Artikla 61 täsmentää annettavat tiedot, ja suostumus on päivättävä, dokumentoitava ja annettava jäljennöksenä testauksen kohteelle.
Peruuttaminen on todellinen oikeus
Testauksen kohde voi "withdraw from the testing at any time by revoking their informed consent and may request the immediate and permanent deletion of their personal data" ilman haittaa tai perustelua.
Jos jokin menee vakavasti pieleen
Vakavista poikkeamista on ilmoitettava. Tarjoajan on lievennettävä ne välittömästi tai keskeytettävä testaus, kunnes lieventäminen toteutuu, tai muutoin lopetettava testaus ja luotava nopea takaisinvetomenettely. Vastuu vahingoista pysyy sovellettavana.
Lopputarkistus: testaus todellisissa olosuhteissa
Sovella artikloja 60 ja 61 valitaksesi parhaan vastauksen.
Tarjoaja ei saa vastausta 30 päivän kuluessa todellisissa olosuhteissa tapahtuvaa testausta koskevan suunnitelmansa toimittamisesta. Mitä artiklan 60 kohdan 4 alakohdassa b todetaan?
- Testaus hyväksytään aina automaattisesti koko unionissa.
- Testaus hylätään automaattisesti.
- Testauksen ja suunnitelman katsotaan olevan hyväksyttyjä, paitsi jos kansallisessa lainsäädännössä ei säädetä hiljaisesta hyväksynnästä; tällöin lupa vaaditaan edelleen.
- Tarjoaja voi testata vain AI-sääntelyhiekkalaatikon sisällä.
Show Answer
Answer: C) Testauksen ja suunnitelman katsotaan olevan hyväksyttyjä, paitsi jos kansallisessa lainsäädännössä ei säädetä hiljaisesta hyväksynnästä; tällöin lupa vaaditaan edelleen.
Artiklan 60 kohdan 4 alakohdassa b säädetään 30 päivän hiljaista hyväksyntää koskevasta säännöstä, mutta siinä säilytetään nimenomaisesti kansallinen lainsäädäntö, jossa ei säädetä hiljaisesta hyväksynnästä. Jos tämä kansallista lainsäädäntöä koskeva edellytys soveltuu, testaukseen vaaditaan edelleen lupa.
Key Terms
- exit report
- Raportti, jossa kuvataan hiekkalaatikkotoimet sekä niihin liittyvät tulokset ja oppimistulokset.
- sandbox plan
- Tarjoajan tai mahdollisen tarjoajan ja toimivaltaisen viranomaisen sopima erityinen suunnitelma hiekkalaatikkoon osallistumista varten.
- reversibility
- Artiklan 60 vaatimus, jonka mukaan AI-järjestelmän ennusteet, suositukset tai päätökset voidaan tehokkaasti peruuttaa ja jättää huomiotta.
- tacit approval
- Artiklan 60 sääntö, jonka mukaan vastauksen puuttuminen 30 päivän kuluessa merkitsee, että testauksen ja sitä koskevan suunnitelman katsotaan olevan hyväksyttyjä, paitsi jos kansallisessa lainsäädännössä ei säädetä tästä mekanismista.
- informed consent
- Vapaaehtoisesti annettu suostumus, joka saadaan ennen osallistumista sen jälkeen, kun määrätyt selkeät ja ymmärrettävät tiedot on annettu.
- competent authority
- Viranomainen, joka vastaa lähdetekstin mukaisista asiaankuuluvista hiekkalaatikkotoiminnoista ja valvonnasta.
- prospective provider
- Taho, joka valmistautuu tarjoamaan AI-järjestelmän ja joka on tarjoajan ohella oikeutettu osallistumaan näissä artikloissa kuvattuihin menettelyihin.
- AI regulatory sandbox
- Hallittu, määräaikainen ympäristö, jossa innovatiivisia AI-järjestelmiä voidaan kehittää, kouluttaa, testata ja validoida toimivaltaisen viranomaisen ohjauksessa ja valvonnassa erityisen hiekkalaatikkosuunnitelman mukaisesti.
- real-world testing plan
- Suunnitelma, joka tarjoajan tai mahdollisen tarjoajan on toimitettava artiklan 60 mukaista hiekkalaatikon ulkopuolista testausta varten.
- market surveillance authority
- Viranomainen, joka hyväksyy, valvoo ja tarkastaa artiklan 60 mukaista todellisissa olosuhteissa tapahtuvaa testausta ja voi vastaanottaa sitä koskevia ilmoituksia.