SkarpChapter 8 of 25
Standardit, vaatimustenmukaisuus ja julkinen avoimuus
Miten toiminnanharjoittaja osoittaa vaatimustenmukaisuuden, ja mitä ihmisille on kerrottava, kun tekoäly muokkaa heidän kokemustaan? Johdanto-osan kappaleissa yhdistetään standardit, vaatimustenmukaisuuden arviointi, CE-merkintä ja rekisteröinti synteettistä sisältöä, syväväärennöksiä ja ihmisen ja tekoälyn vuorovaikutusta koskeviin tiedonantovelvollisuuksiin.
Johdanto-osan 121 kappale: Standardit vaatimustenmukaisuuden väylänä
Tekniset reitit vaatimustenmukaisuuteen
Johdanto-osan 121 kappaleen mukaan standardisoinnin olisi tarjottava teknisiä ratkaisuja, jotka auttavat tarjoajia varmistamaan vaatimustenmukaisuuden tekniikan tason mukaisesti.
Keskeinen sanamuoto
"Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 1025/2012 2 artiklan 1 kohdan c alakohdassa tarkoitettujen yhdenmukaistettujen standardien, joiden voidaan tavallisesti olettaa vastaavan tekniikan tasoa, noudattamisen olisi oltava keino, jolla tarjoajat voivat osoittaa vaatimustenmukaisuuden".
Osallistuminen standardeihin
Sidosryhmien tasapuolista edustusta olisi kannustettava, erityisesti pk-yritysten, kuluttajajärjestöjen sekä ympäristö- ja yhteiskunnallisten sidosryhmien osalta.
Komission menettely
Komission olisi annettava standardointipyynnöt ilman aiheetonta viivytystä, ja sen olisi niiden valmistelussa kuultava neuvoa-antavaa foorumia ja lautakuntaa.
Johdanto-osan 121–122 kappale: Kun standardit puuttuvat tai toimintaympäristöllä on merkitystä
Poikkeuksellinen vararatkaisu
Yhteiset eritelmät voidaan vahvistaa täytäntöönpanosäädöksillä neuvoa-antavaa foorumia kuultuaan. Johdanto-osan 121 kappaleessa niitä kutsutaan poikkeukselliseksi vararatkaisuksi.
Miksi vararatkaisua voidaan tarvita
Esimerkkejä ovat hylätty pyyntö, perusoikeuksien riittämätön huomiointi, vaatimustenvastaiset standardit tai asianmukaisen yhdenmukaistetun standardin hyväksymisen viivästyminen.
Dataa koskeva olettama
Johdanto-osan 122 kappaleen mukaan korkean riskin järjestelmän, joka on koulutettu ja testattu sen suunniteltua toimintaympäristöä vastaavalla datalla, olisi oletettava noudattavan asiaankuuluvaa datahallintatoimenpidettä.
Kyberturvallisuutta koskeva olettama
Asetuksen (EU) 2019/881 mukainen kyberturvallisuussertifikaatti tai -lausunto tukee olettamaa vain siltä osin kuin se kattaa tämän asetuksen kyberturvallisuusvaatimuksen.
Johdanto-osan 123–127 kappale: Vaatimustenmukaisuuden arviointi ja kolmannet osapuolet
Ajoitussääntö
Johdanto-osan 123 kappale: "näille järjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen niiden markkinoille saattamista tai käyttöönottoa."
Päällekkäisen arvioinnin välttäminen
Asianomaisen tuotteeseen liittyvän korkean riskin tekoälyn osalta johdanto-osan 124 kappaleen mukaan tekoälyn vaatimustenmukaisuus olisi arvioitava sovellettavan unionin tuotetta koskevan lainsäädännön mukaisesti jo säädetyssä vaatimustenmukaisuuden arvioinnissa.
Tarjoaja vai ilmoitettu laitos?
Johdanto-osan 125 kappaleessa tarjoajan itsearviointi asetetaan yleissäännöksi muille kuin tuotteeseen liittyville korkean riskin järjestelmille, lukuun ottamatta järjestelmiä, jotka on tarkoitettu biometriikkaan.
Ilmoitetut laitokset ja kansainvälinen tunnustaminen
Ilmoitettujen laitosten olisi täytettävä riippumattomuutta, pätevyyttä, eturistiriitoja ja kyberturvallisuutta koskevat edellytykset. Kolmansien maiden tunnustaminen riippuu vaatimusten noudattamisesta ja unionin sopimuksesta.
Johdanto-osan 128–130 kappale: Muutos, CE-merkintä ja poikkeuksellinen pääsy markkinoille
Olennaiset muutokset
Vaatimustenmukaisuuteen vaikuttava muutos, mukaan lukien muuttunut käyttöjärjestelmä, ohjelmistoarkkitehtuuri tai käyttötarkoitus, voi tehdä järjestelmästä uuden tekoälyjärjestelmän.
Oppiminen käyttöönoton jälkeen
Markkinoille saattamisen jälkeinen oppiminen ei ole olennainen muutos, jos tarjoaja oli määrittänyt muutokset ennalta ja ne arvioitiin vaatimustenmukaisuuden arvioinnissa.
CE-merkintä
"Korkean riskin tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia". Sulautetuissa järjestelmissä käytetään fyysistä merkintää; pelkästään digitaalisissa järjestelmissä käytetään digitaalista merkintää.
Poikkeukselliset tilanteet
Johdanto-osan 130 kappaleessa kuvataan tiukasti rajatut lupareitit järjestelmille, joille ei ole tehty ennakolta vaatimustenmukaisuuden arviointia, kun kyseessä ovat kiireelliset yleiset edut.
Johdanto-osan 131 kappale: Rekisteröinti ja EU:n tietokanta
Kenen on rekisteröidyttävä?
Johdanto-osan 131 kappaleessa yksilöidään tietyt korkean riskin järjestelmien tarjoajat ja poikkeusta käyttävät tarjoajat sekä viranomaiskäyttäjät ennen liitteessä luetellun korkean riskin järjestelmän käyttöä.
Julkinen rakenne
Julkisen osion olisi oltava maksuton, helposti selattava, ymmärrettävä, koneellisesti luettava ja käyttäjäystävällinen, ja siinä olisi oltava hakutoimintoja, kuten avainsanahaku.
Arkaluonteiset alat
Lainvalvontaa, maahanmuuttoa, turvapaikka-asioita ja rajavalvontaa koskevat rekisteröinnit kuuluvat suojattuun ei-julkiseen osioon. Kriittisen infrastruktuurin järjestelmät rekisteröidään vain kansallisesti.
Tietokannan hallinnointi
Komission olisi toimittava rekisterinpitäjänä, otettava huomioon kyberturvallisuusriskit, laadittava toiminnalliset eritelmät, hankittava riippumaton tarkastuskertomus ja täytettävä saavutettavuusvaatimukset.
Tarkistuspiste: Vaatimustenmukaisuus ja rekisteröinti
Valitse vastaus, joka noudattaa lähimmin johdanto-osan 123, 128 ja 131 kappaletta.
Tarjoaja muuttaa korkean riskin tekoälyjärjestelmän ohjelmistoarkkitehtuuria tavalla, joka voi vaikuttaa vaatimustenmukaisuuteen. Mitä lähdetekstin mukaan seuraa?
- Järjestelmää olisi pidettävä uutena tekoälyjärjestelmänä, ja sille olisi tehtävä uusi vaatimustenmukaisuuden arviointi.
- Uusi arviointi ei ole merkityksellinen, jos järjestelmässä on jo CE-merkintä.
- Tarvitaan vain vapaaehtoinen tietokantamerkintä muutoksen luonteesta riippumatta.
- Muutos on automaattisesti vapautettu vaatimuksista, koska ohjelmistomuutokset eivät ole olennaisia.
Show Answer
Answer: A) Järjestelmää olisi pidettävä uutena tekoälyjärjestelmänä, ja sille olisi tehtävä uusi vaatimustenmukaisuuden arviointi.
Johdanto-osan 128 kappaleen mukaan silloin, kun muutos voi vaikuttaa vaatimustenmukaisuuteen, mukaan lukien käyttöjärjestelmän tai ohjelmistoarkkitehtuurin muutos, järjestelmää olisi pidettävä uutena tekoälyjärjestelmänä, ja sille olisi tehtävä uusi vaatimustenmukaisuuden arviointi. Siinä todetaan myös, että kaikki olennaiset muutokset olisi rekisteröitävä EU:n tietokantaan.
Johdanto-osan 132 kappale: Ihmisille ilmoittaminen vuorovaikutuksesta tekoälyn kanssa
Perusilmoitus
"luonnollisille henkilöille olisi ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa", kun järjestelmä kuuluu johdanto-osan soveltamisalaan.
Ilmeisyyttä koskeva poikkeus
Ilmoitusta ei tarvita, jos vuorovaikutus tekoälyn kanssa on olosuhteet ja asiayhteys huomioon ottaen ilmeistä luonnolliselle henkilölle, joka on kohtuullisen hyvin perillä asioista, tarkkaavainen ja huolellinen.
Biometriset käyttötarkoitukset
Ihmisille olisi ilmoitettava, kun he altistuvat järjestelmille, jotka käsittelevät biometrisiä tietoja henkilöllisyyden tunnistamiseksi tai tunteiden tai aikomusten päättelemiseksi tai henkilöiden luokittelemiseksi tiettyihin luokkiin.
Saavutettava viestintä
Täytäntöönpanossa olisi otettava huomioon iän tai vamman vuoksi haavoittuvassa asemassa olevat ryhmät, ja tiedot sekä ilmoitukset olisi annettava vammaisten henkilöiden saavutettavissa olevissa muodoissa.
Johdanto-osan 133 kappale: Synteettisen sisällön koneellisesti luettava merkintä
Tekninen tavoite
Tarjoajien olisi sisällytettävä teknisiä ratkaisuja, jotka mahdollistavat koneellisesti luettavan merkinnän ja sen havaitsemisen, että tuloste on tekoälyn eikä ihmisen tuottama tai muokkaama.
Mahdolliset tekniikat
Johdanto-osan 133 kappaleessa mainitaan vesileimat, metatietoihin sisältyvät tunnisteet, kryptografiset alkuperämenetelmät, lokit, sormenjäljet ja muut asianmukaiset tekniikat.
Tekninen toteutettavuus ja tekniikan taso
Tekniikoiden olisi oltava luotettavia, yhteentoimivia, tehokkaita ja vankkoja siinä määrin kuin se on teknisesti toteutettavissa, ja niiden olisi vastattava sisällön rajoituksia sekä yleisesti tunnustettua tekniikan tasoa.
Suhteelliset rajat
Merkintävelvollisuuden ei pitäisi kattaa järjestelmiä, joiden ensisijainen tehtävä on tavanomainen muokkausavustus, tai järjestelmiä, jotka eivät muuta olennaisesti syöttödataa tai sen semantiikkaa.
Johdanto-osan 134–137 kappale: Syväväärennökset, yleisen edun mukainen teksti ja tiedonantovelvollisuuden rajat
Syväväärennöstä koskeva ilmoitus
Käyttöönottajan, joka käyttää ehdot täyttävää harhaanjohtavaa kuva-, ääni- tai videosisältöä, "olisi myös ilmoitettava selkeästi ja erottuvasti, että sisältö on luotu tai sitä on manipuloitu keinotekoisesti".
Luovat ja vastaavat teokset
Ilmeisen luovien, satiiristen, taiteellisten, fiktiivisten tai vastaavien teosten osalta ilmoittaminen rajoittuu asianmukaiseen muotoon, joka ei haittaa esittämistä, nauttimista tai tavanomaista käyttöä.
Yleisen edun mukainen teksti
Vastaavaa ilmoittamista suunnitellaan tekoälyn tuottamalle tai manipuloimalle yleisen edun mukaiselle tekstille, ellei sisältöä ole tarkastanut ihminen tai siihen ole kohdistettu toimituksellista valvontaa ja toimittajalla ole vastuuta.
Merkintä ei ole laillisuutta koskeva päätelmä
Johdanto-osan 136–137 kappaleen mukaan ilmoittaminen ei ratkaise lainvastaisuutta eikä osoita, että tekoälyjärjestelmä tai sen tuloste on unionin tai jäsenvaltion lainsäädännön mukaisesti laillinen.
Tarkistuspiste: Läpinäkyvyyden rajat
Sovella johdanto-osan 132–137 kappaleiden täsmällisiä erotteluja.
Mikä väite kuvastaa parhaiten johdanto-osan 137 kappaletta?
- Jos syväväärennössisältö on merkitty, sen käyttö on automaattisesti asetuksen mukaan laillista.
- Läpinäkyvyysvelvollisuuksien noudattaminen ei osoita, että tekoälyn käyttö tai tuloste on tämän asetuksen tai muun unionin ja jäsenvaltion lainsäädännön mukaan laillinen.
- Läpinäkyvyysvelvollisuuksia sovelletaan vain korkean riskin järjestelmiksi luokiteltuihin järjestelmiin.
- Koneellisesti luettava vesileima korvaa kaikki muut unionin lainsäädännön mukaiset ilmoittamisvelvollisuudet.
Show Answer
Answer: B) Läpinäkyvyysvelvollisuuksien noudattaminen ei osoita, että tekoälyn käyttö tai tuloste on tämän asetuksen tai muun unionin ja jäsenvaltion lainsäädännön mukaan laillinen.
Johdanto-osan 137 kappaleessa todetaan nimenomaisesti, ettei läpinäkyvyysvelvollisuuksien noudattamista pitäisi tulkita niin, että tekoälyn käyttö tai tuloste on laillinen. Siinä todetaan myös, että nämä velvollisuudet eivät rajoita muita unionin tai kansallisen lainsäädännön mukaisia läpinäkyvyysvelvollisuuksia.
Kertaus: Standardit, arviointi ja läpinäkyvyys
Käännä jokainen kortti. Keskity teknisen vaatimustenmukaisuusväylän, ilmoittamisvelvollisuuden ja laillisuutta koskevan päätelmän täsmälliseen eroon.
- Yhdenmukaistetut standardit
- Johdanto-osan 121 kappale: yhdenmukaistettujen standardien noudattamisen olisi oltava keino, jolla tarjoajat voivat osoittaa asetuksen vaatimusten mukaisuuden.
- Yhteiset eritelmät
- Johdanto-osan 121 kappale: poikkeuksellinen vararatkaisu, jonka komissio vahvistaa täytäntöönpanosäädöksillä neuvoa-antavaa foorumia kuultuaan, kun yksilöityjä standardointiongelmia ilmenee.
- Markkinoille saattamista edeltävä arviointi
- Johdanto-osan 123 kappale: korkean riskin tekoälyjärjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen niiden markkinoille saattamista tai käyttöönottoa.
- Olennaiset muutokset
- Johdanto-osan 128 kappale: vaatimustenmukaisuuteen vaikuttava muutos tai muuttunut käyttötarkoitus voi tarkoittaa, että järjestelmää pidetään uutena tekoälyjärjestelmänä ja sille olisi tehtävä uusi vaatimustenmukaisuuden arviointi.
- CE-merkintä
- Johdanto-osan 129 kappale: korkean riskin tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa asetuksen mukaisuuden.
- Ilmoitus vuorovaikutuksesta tekoälyn kanssa
- Johdanto-osan 132 kappale: luonnollisille henkilöille olisi ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, ellei se ole asiayhteydessä ilmeistä kohtuullisen hyvin perillä asioista olevalle, tarkkaavaiselle ja huolelliselle henkilölle.
- Synteettisen sisällön merkintä
- Johdanto-osan 133 kappale: tarjoajien olisi sisällytettävä teknisiä ratkaisuja, jotka mahdollistavat tekoälyn tuottaman tai manipuloiman tulosteen koneellisesti luettavan merkinnän ja havaitsemisen.
- Syväväärennöstä koskeva ilmoitus
- Johdanto-osan 134 kappale: ehdot täyttävästä syväväärennössisällöstä olisi ilmoitettava selkeästi ja erottuvasti keinotekoisesti luotuna tai manipuloituna.
- Läpinäkyvyys verrattuna laillisuuteen
- Johdanto-osan 136–137 kappale: merkintä ei ratkaise, onko sisältö laitonta, eikä osoita, että tekoälyn käyttö tai tuloste on laillinen.
Key Terms
- deep fake
- Tekoälyn tuottama tai manipuloima kuva-, ääni- tai videosisältö, joka muistuttaa huomattavasti olemassa olevia henkilöitä, esineitä, paikkoja, yhteisöjä tai tapahtumia ja näyttäisi virheellisesti aidolta tai totuudenmukaiselta.
- CE marking
- Merkintä, joka korkean riskin tekoälyjärjestelmissä olisi oltava osoittamaan asetuksen mukaisuus, kuten johdanto-osan 129 kappaleessa kuvataan.
- EU database
- Komission hallinnoima, johdanto-osan 131 kappaleessa kuvattu tietokanta, joka sisältää korkean riskin tekoälyjärjestelmiä ja tiettyjä käyttöönottajia koskevat määritellyt rekisteröinnit.
- notified body
- Elin, josta kansalliset toimivaltaiset viranomaiset ovat ilmoittaneet tekemään vaadittaessa kolmannen osapuolen vaatimustenmukaisuuden arvioinnin edellyttäen, että se täyttää muun muassa riippumattomuutta, pätevyyttä, eturistiriitojen puuttumista ja asianmukaisia kyberturvallisuusvaatimuksia koskevat edellytykset.
- harmonised standards
- Johdanto-osan 121 kappaleessa tarkoitetut standardit, jotka määritellään viittaamalla asetuksen (EU) N:o 1025/2012 2 artiklan 1 kohdan c alakohtaan ja joiden voidaan tavallisesti olettaa vastaavan tekniikan tasoa ja joiden olisi oltava keino osoittaa vaatimustenmukaisuus.
- common specifications
- Poikkeuksellinen vararatkaisu, jonka komissiolla olisi oltava mahdollisuus vahvistaa täytäntöönpanosäädöksillä neuvoa-antavaa foorumia kuultuaan johdanto-osan 121 kappaleessa kuvatuissa olosuhteissa.
- conformity assessment
- Arviointi, joka korkean riskin tekoälyjärjestelmille olisi tehtävä ennen niiden markkinoille saattamista tai käyttöönottoa, kuten johdanto-osan 123 kappaleessa todetaan.
- editorial responsibility
- Luonnollisen henkilön tai oikeushenkilön vastuu yleisen edun mukaisen tekstin julkaisemisesta ihmisen tekemän tarkastuksen tai toimituksellisen valvonnan jälkeen, mikä on merkityksellistä johdanto-osan 134 kappaleessa kuvatun poikkeuksen kannalta.
- machine-readable marking
- Tekninen merkintä, joka mahdollistaa sen havaitsemisen, että tuloste on tekoälyn tuottama tai manipuloima, kuten johdanto-osan 133 kappaleessa kuvataan.
- substantial modification
- Muutos, joka voi vaikuttaa korkean riskin tekoälyjärjestelmän vaatimustenmukaisuuteen, tai käyttötarkoituksen muutos, jonka vuoksi järjestelmää olisi pidettävä uutena ja sille olisi tehtävä uusi vaatimustenmukaisuuden arviointi.