Innovointituki ja hallintoarkkitehtuuri

Poliittinen tasapaino

Johdanto-osan kappaleessa (138) vastataan nopeasti kehittyvään tekoälyyn sekä sääntelyvalvonnalla että turvallisella, valvotulla kokeilutilalla. Innovoinnin odotetaan etenevän suojatoimien ja riskien lieventämisen avulla.

Vähintään yksi testiympäristö

Johdanto-osan kappaleessa todetaan: "Member States should ensure that their national competent authorities establish at least one AI regulatory sandbox at national level".

Testiympäristö tukee kehittämistä ja testaamista tiukassa valvonnassa ennen kuin tekoälyjärjestelmä saatetaan markkinoille tai otetaan muutoin käyttöön.

Kattavuus, muoto ja resurssit

Valtio voisi liittyä olemassa olevaan tai yhteiseen testiympäristöön vain, jos kansallinen kattavuus on vastaava. Testiympäristöt voisivat olla fyysisiä, digitaalisia tai hybridimuotoisia, ja ne perustavien viranomaisten olisi varmistettava taloudelliset ja henkilöresurssit.

Markkinoita edeltävä ympäristö

Tavoitteena on "to foster AI innovation by establishing a controlled experimentation and testing environment in the development and pre-marketing phase".

Ympäristön tavoitteena on varmistaa tämän asetuksen sekä muun asiaankuuluvan unionin ja kansallisen oikeuden noudattaminen sekä parantaa oikeusvarmuutta ja viranomaisten ymmärrystä mahdollisuuksista, riskeistä ja vaikutuksista.

Mitä valvonta kattaa

Valvonnan olisi katettava kehittäminen, kouluttaminen, testaaminen ja validointi ennen markkinoille saattamista tai käyttöönottoa, mukaan lukien se, voiko merkittävä muutos edellyttää uutta vaatimustenmukaisuuden arviointia.

Riskikynnys

Merkittävien riskien olisi johdettava riittävään lieventämiseen. Jos lieventäminen epäonnistuu, kehittäminen ja testaaminen olisi keskeytettävä. Viranomaisten olisi tarvittaessa tehtävä yhteistyötä, myös perusoikeuksia valvovien tahojen kanssa.

Testaaminen todellisissa olosuhteissa

Kansallisten toimivaltaisten viranomaisten ja testiympäristön osallistujien sopimuksella testaamista todellisissa olosuhteissa voidaan myös toteuttaa ja valvoa testiympäristössä.

Rajattu perusta datan uudelleenkäytölle

Johdanto-osan kappaleessa (140) sallitaan mahdollisuus "use personal data collected for other purposes for developing certain AI systems in the public interest within the AI regulatory sandbox, only under specified conditions".

Muut rekisterinpitäjän velvollisuudet ja rekisteröidyn oikeudet ovat edelleen sovellettavia. Johdanto-osan kappaleessa todetaan myös, että tämän asetuksen ei pitäisi muodostaa GDPR Article 22(2)(b):ssä kuvattua oikeusperustaa.

Suojatoimet testiympäristössä

Palveluntarjoajien ja tulevien palveluntarjoajien olisi käytettävä asianmukaisia suojatoimia, noudatettava viranomaisten ohjeita, tehtävä yhteistyötä ja toimittava viipymättä sekä vilpittömässä mielessä merkittävien turvallisuuteen, terveyteen ja perusoikeuksiin kohdistuvien riskien lieventämiseksi.

Testaaminen todellisissa olosuhteissa

Tiettyjen suuririskisten järjestelmien osalta erityinen todellisissa olosuhteissa tapahtuvan testaamisen järjestely voi olla saatavilla ilman osallistumista testiympäristöön, mutta se edellyttää asianmukaisia ja riittäviä takeita ja ehtoja.

Keskeinen suojatoimi on "requesting informed consent of natural persons to participate in testing in real world conditions, with the exception of law enforcement where the seeking of informed consent would prevent the AI system from being tested."

Hyödylliset tulokset

Jäsenvaltioita kannustetaan tukemaan tekoälytutkimusta ja -kehitystä saavutettavuuden, sosioekonomisen eriarvoisuuden vähentämisen ja ympäristötavoitteiden edistämiseksi käyttämällä riittäviä resursseja ja monitieteistä yhteistyötä.

Etusija, ei yksinoikeus

"Member States should provide SMEs, including start-ups, that have a registered office or a branch in the Union, with priority access to the AI regulatory sandboxes" jos kelpoisuus- ja valintaedellytykset täyttyvät.

Etusija ei sulje pois muita palveluntarjoajia tai tulevia palveluntarjoajia: ne voivat päästä testiympäristöön, jos ne täyttävät samat kelpoisuusedellytykset ja valintaperusteet.

Käytännön rasitteiden vähentäminen

Johdanto-osan kappaleessa käsitellään ohjauskanavia, osallistumista standardointiin, vaatimustenmukaisuuden arviointimaksuja, sertifiointikustannuksia, käännöskustannuksia, mallipohjia, yhtä tietopalvelualustaa ja julkisten hankintojen parhaita käytäntöjä.

Mikroyritykset

Lähteen tavoitteena on "allow microenterprises to fulfil one of the most costly obligations, namely to establish a quality management system, in a simplified manner" alentamatta suojan tasoa tai suuririskisiä järjestelmiä koskevaa vaatimustenmukaisuutta.

Hakija

Espanjalainen startup-yritys kehittää saavutettavuustyökalua ja kohtaa oikeudellista epävarmuutta kehittäessään, kouluttaessaan, testatessaan ja validoidessaan sitä ennen markkinoille saattamista.

Sen olisi saatava etusija testiympäristöön pääsyssä, jos se täyttää kelpoisuusedellytykset ja valintaperusteet. Etusija ei ole taattu paikka eikä se sulje pois muita kelpoisia hakijoita.

Riski ilmenee

Jos testaus paljastaa olennaisesti heikompia tuloksia alueellista kieltä käyttävälle ryhmälle, kyse on merkittävästä riskistä, joka edellyttää riittävää lieventämistä. Jos lieventäminen epäonnistuu, prosessi olisi keskeytettävä.

Oikeasuhteisuus ei ole vapautus

Mikroyritys voi täyttää laadunhallintajärjestelmää koskevan velvoitteen yksinkertaistetulla tavalla, mutta johdanto-osan kappaleessa (146) säilytetään suojan taso ja tarve noudattaa suuririskisiä järjestelmiä koskevia vaatimuksia.

Testausinfrastruktuuri

Komission olisi mahdollisuuksien mukaan helpotettava pääsyä testaus- ja kokeilutiloihin akkreditoiduille elimille, ryhmille ja laboratorioille, jotka suorittavat asiaankuuluvia vaatimustenmukaisuuden arviointitehtäviä.

Kehys

Lähteessä luodaan "a governance framework that both allows to coordinate and support the application of this Regulation at national level, as well as build capabilities at Union level and integrate stakeholders in the field of AI."

Tekoälytoimisto

Sen tehtävänä on "to develop Union expertise and capabilities in the field of AI and to contribute to the implementation of Union law on AI." Jäsenvaltioiden olisi helpotettava sen tehtävien suorittamista.

Lautakunta ja neuvoa-antava foorumi

Lautakunta antaa neuvoja ja ohjausta, ja sillä on pysyvät alaryhmät markkinavalvontaa ja ilmoitettuja laitoksia varten. Neuvoa-antava foorumi tuo sidosryhmäasiantuntemusta kaupallisista ja ei-kaupallisista intresseistä.

Tieteellinen paneeli

Riippumattomilla asiantuntijoilla olisi oltava ajantasainen tieteellinen tai tekninen tekoälyasiantuntemus, heidän olisi toimittava puolueettomasti ja objektiivisesti sekä suojattava luottamuksellisia tietoja ja dataa.

Jäsenvaltioiden olisi voitava pyytää tukea tieteellisen paneelin asiantuntijapoolilta valvontatoimintaansa varten. Unionin tekoälytestauksen tukirakenteet olisi myös asetettava jäsenvaltioiden saataville.

Kaksi viranomaistoimintoa

"each Member State should designate at least one notifying authority and at least one market surveillance authority as national competent authorities".

Yksi julkinen yhteyspiste

Tehokkuuden ja ulkoisen koordinoinnin vuoksi "each Member State should designate a market surveillance authority to act as a single point of contact."

Miten viranomaisten olisi toimittava

Kansallisten toimivaltaisten viranomaisten olisi käytettävä toimivaltaansa riippumattomasti, puolueettomasti ja ilman puolueellisuutta. Niiden jäsenten olisi vältettävä yhteensopimattomia toimia, ja heihin olisi sovellettava salassapitosääntöjä.

Käyttöönoton jälkeinen seuranta

Johdanto-osan kappaleessa (155) todetaan, että "all providers should have a post-market monitoring system in place." Tarvittaessa tähän sisältyy vuorovaikutuksen analysointi muiden tekoälyjärjestelmien, laitteiden ja ohjelmistojen kanssa.

Seurannan ei pitäisi kattaa lainvalvontaviranomaisina toimivien käyttöönottajien arkaluonteisia operatiivisia tietoja. Se auttaa käsittelemään riskejä, jotka aiheutuvat järjestelmistä, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen.

Mitä pidetään vakavana

Ilmoitettaviin vakaviin vaaratilanteisiin kuuluvat kuolema tai vakava terveydellinen haitta, kriittisen infrastruktuurin vakava peruuttamaton häiriö, tietyt perusoikeuksien loukkaukset sekä vakava omaisuus- tai ympäristövahinko.

Täytäntöönpanon ekosysteemi

Regulation (EU) 2019/1020 sovelletaan kokonaisuudessaan. Viranomaiset voivat puuttua kaikkiin riskiä aiheuttaviin tekoälyjärjestelmiin, kun taas perusoikeus-, tasa-arvo- ja tietosuojaviranomaiset säilyttävät toimivaltansa ja riippumattomuutensa.