SkarpSkarp

Chapter 11 of 25

Yleiset säännökset ja asetuksessa määritelty sanasto

Säädösteksti alkaa muuntamalla johdanto-osan perustelukappaleiden toimintapoliittisen logiikan sitoviksi säännöksiksi, jotka koskevat asiasisältöä, soveltamisalaa ja määritelmiä. Artiklat 1–3 tarjoavat sanaston, jota tarvitaan kaikkien myöhempien velvoitteiden tulkitsemiseksi toimijoista ja vaatimustenmukaisuudesta biometrisiin tietoihin, vaaratilanteisiin, testaukseen ja yleiskäyttöiseen tekoälyyn.

8 min readfi

1 artikla: mitä asetuksella tavoitellaan

Kaksoistarkoitus

1 artiklan 1 kohdassa yhdistyvät markkinoiden yhdentyminen ja luotettava tekoäly. Tavoitteena on tehokkaat sisämarkkinat sekä terveyden, turvallisuuden, perusoikeuskirjan mukaisten oikeuksien, demokratian, oikeusvaltioperiaatteen ja ympäristön suojeleminen.

Täsmällinen tarkoitus

Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa ja edistää ihmiskeskeisen ja luotettavan tekoälyn (AI) käyttöönottoa.

Seitsemän sääntöryhmää

1 artiklan 2 kohta kattaa markkinoille pääsyn ja käytön, kielletyt käytännöt, suuririskiset järjestelmät, avoimuuden, yleiskäyttöiset tekoälymallit, täytäntöönpanon sekä pk-yritysten ja startup-yritysten innovointituen.

Tulkinnallinen johtopäätös

1 artikla ei ole luettelo valinnaisista tavoitteista. Siinä määritellään sitova sääntelyrakenne, jonka myöhemmät artiklat tekevät toimivaksi velvollisuuksien, määritelmien, menettelyjen ja täytäntöönpanon avulla.

2 artikla: keihin ja mihin soveltamisala ulottuu

Tarjoajat ja käyttöönottajat

2 artiklan 1 kohtaa sovelletaan tarjoajiin, jotka saattavat järjestelmiä tai yleiskäyttöisiä tekoälymalleja unionin markkinoille, sekä unioniin sijoittautuneisiin tai siellä sijaitseviin käyttöönottajiin.

Rajat ylittävää tuotosta koskeva sääntö

Se kattaa myös kolmanteen maahan sijoittautuneet tai siellä sijaitsevat tekoälyjärjestelmien tarjoajat ja käyttöönottajat, kun tekoälyjärjestelmän tuottamaa tulosta käytetään unionissa;

Koko toimitusketju

Soveltamisalaan kuuluvat myös maahantuojat, jakelijat, omalla nimellään tai tavaramerkillään toimivat tuotteen valmistajat sekä sellaisten tarjoajien valtuutetut edustajat, jotka eivät ole sijoittautuneet unioniin.

Henkilöt, joihin vaikutus kohdistuu

2 artiklan 1 kohdan g alakohta kattaa unionissa sijaitsevat henkilöt, joihin vaikutus kohdistuu. Tämä kuvastaa sitä, että kehys koskee myyjien ja käyttäjien lisäksi myös tekoälyn vaikutuksen kohteena olevia ihmisiä.

2 artikla: rajat, poissulkemiset ja muu lainsäädäntö

B jakson tuotejärjestelmät

2 artiklan 2 kohdassa säädetään rajoitetusta soveltamissäännöstä 6 artiklan 1 kohdan suuririskisille järjestelmille, jotka liittyvät liitteessä I olevassa B jaksossa lueteltuun unionin yhdenmukaistamislainsäädännön piiriin kuuluviin tuotteisiin.

Sotilas-, puolustus- ja turvallisuustarkoitukset

Poissulkemista sovelletaan vain silloin, kun järjestelmää käsitellään yksinomaan sotilaallisiin, puolustus- tai kansallisen turvallisuuden tarkoituksiin. Sana "yksinomaan" rajaa poissulkemista.

Tutkimus eroaa tosielämän testauksesta

Tieteelliset T&K-järjestelmät ja markkinoille saattamista edeltävät tutkimustoimet on suljettu pois, mutta 2 artiklan 8 kohdassa todetaan nimenomaisesti, että tosielämän olosuhteissa tapahtuva testaus ei kuulu kyseisen poissulkemisen piiriin.

Avoimen lähdekoodin raja

Vapaa ja avoimen lähdekoodin lisensointi ei automaattisesti lopeta arviointia. Poissulkemista ei sovelleta, jos järjestelmä on suuririskinen tai kuuluu 5 artiklan tai 50 artiklan soveltamisalaan.

Soveltamisalan luokitteluharjoitus

Sovella 2 artiklaa ennen kuin luet eteenpäin

Päätä jokaisen skenaarion osalta, viittaako 2 artikla selvästi soveltamisalaan kuulumiseen, poissulkemiseen vai lisätietojen tarpeeseen. Tarkista sitten perustelut.

  1. Unionin ulkopuolelle sijoittautunut yritys ylläpitää tekoälypohjaista ansioluetteloiden luokittelupalvelua. Yritys lähettää luokitukset Espanjassa sijaitsevalle työnantajalle, joka käyttää niitä rekrytointipäätöksissä.
  • Todennäköisesti soveltamisalaan kuuluva: 2 artiklan 1 kohdan c alakohta kattaa kolmannen maan tarjoajan tai käyttöönottajan, kun tekoälyjärjestelmän tuottamaa tulosta käytetään unionissa.
  1. Yliopisto kehittää mallin yksinomaan laboratoriotutkimusta varten eikä saata sitä markkinoille tai ota sitä käyttöön.
  • Poissuljettu annettujen tietojen perusteella: 2 artiklan 6 kohta kattaa järjestelmät tai mallit, niiden tuotos mukaan lukien, jotka on nimenomaisesti kehitetty ja otettu käyttöön yksinomaan tieteellistä tutkimusta ja kehittämistä varten. 2 artiklan 8 kohta koskee myös markkinoille saattamista edeltävää tutkimusta, testausta ja kehittämistä.
  1. Puolustusalan toimeksisaaja käyttää tekoälyjärjestelmää osittain sotilaslogistiikassa ja osittain siviilien kaupallisessa meriliikenteessä.
  • Lisätietoja tarvitaan: 2 artiklan 3 kohdassa edellytetään yksinomaisia sotilaallisia, puolustus- tai kansallisen turvallisuuden tarkoituksia. Sekakäyttö siviilitarkoituksiin voi merkitä, ettei poissulkeminen kata kaikkea toimintaa.
  1. Harrastaja käyttää kuvageneraattoria vain tehdäkseen syntymäpäiväkutsuja perheelleen.
  • Käyttöönottajan velvollisuudet on suljettu pois annettujen tietojen perusteella: 2 artiklan 10 kohdassa suljetaan pois sellaisten käyttöönottajien velvollisuudet, jotka ovat luonnollisia henkilöitä ja käyttävät tekoälyjärjestelmiä puhtaasti henkilökohtaisessa, ei-ammattimaisessa toiminnassa.
  1. Vapaa avoimen lähdekoodin malli sisällytetään markkinoille saatettavaan suuririskiseen tekoälyjärjestelmään.
  • Ei automaattisesti poissuljettu: 2 artiklan 12 kohdassa nimenomaisesti pidätetään avoimen lähdekoodin poissulkeminen suuririskisiltä tekoälyjärjestelmiltä ja 5 tai 50 artiklan soveltamisalaan kuuluvilta järjestelmiltä.

Toistuva opetus on, että soveltamisala riippuu roolista, sijainnista tai unionissa tapahtuvaa tuotoksen käyttöä koskevasta liittymästä, toiminnasta, tarkoituksesta ja joskus järjestelmän luokituksesta.

3 artikla: roolit ja tekoälymarkkinoiden elinkaari

3 artiklan 1 kohdan testi

Tekoälyjärjestelmä on konepohjainen, toimii vaihtelevalla autonomian tasolla, voi mukautua käyttöönoton jälkeen, päättelee syötteistä, miten tuotoksia muodostetaan, ja voi vaikuttaa fyysisiin tai virtuaalisiin ympäristöihin.

Tarjoaja verrattuna käyttöönottajaan

Tarjoaja kehittää järjestelmän tai teettää sen kehittämisen ja saattaa sen markkinoille tai ottaa sen käyttöön omalla nimellään tai tavaramerkillään. Käyttöönottaja käyttää järjestelmää valtuuksiensa puitteissa.

Markkinatapahtumat ovat erilaisia

Markkinoille saattaminen on ensimmäinen saataville asettaminen unionin markkinoilla. Saataville asettaminen on toimittamista kaupallisessa toiminnassa. Käyttöönotto koskee käyttöönottajan ensimmäistä käyttöä tai omaa käyttöä.

Tarkoitus ja väärinkäyttö

Käyttötarkoitus ilmenee tarjoajan toimittamista tiedoista ja asiakirjoista. Kohtuudella ennakoitavissa oleva väärinkäyttö ei ole tarkoitettua käyttöä, mutta se voi johtua ennakoitavissa olevasta ihmisen käyttäytymisestä tai järjestelmien vuorovaikutuksesta.

3 artikla: vaatimustenmukaisuus, muutokset ja data

Vaatimustenmukaisuuden infrastruktuuri

Vaatimustenmukaisuuden arviointi osoittaa, täyttyvätkö III luvun 2 jakson suuririskisiä järjestelmiä koskevat vaatimukset. Ilmoittavat viranomaiset valvovat arviointilaitoksia; ilmoitetut laitokset ovat virallisesti ilmoitettuja arvioijia.

Merkittävä muutos

Muutoksen on oltava ennakoimaton alkuperäisessä vaatimustenmukaisuuden arvioinnissa, ja sen on vaikutettava III luvun 2 jakson vaatimustenmukaisuuteen tai muutettava arvioitua käyttötarkoitusta.

Julkaisun jälkeinen seuranta

Markkinoille saattamisen jälkeinen seurantajärjestelmä kerää ja arvioi käyttökokemuksia, jotta tarjoaja voi tunnistaa tarpeen toteuttaa tarvittavat korjaavat tai ennaltaehkäisevät toimet välittömästi.

Datan kolme tehtävää

Koulutusdata sovittaa opittavia parametreja. Validointidata arvioi ja hienosäätää oppimisprosessia. Testausdata tarkistaa itsenäisesti odotetun suorituskyvyn ennen markkinoille saattamista tai käyttöönottoa.

3 artikla: biometria, paikat ja vakavat vaaratilanteet

Tunnistaminen ei ole todentamista

Biometrisellä tunnistamisella vahvistetaan henkilöllisyys vertaamalla tietokantaan tallennettuihin henkilöiden tietoihin. Biometrinen todentaminen on yksi yhteen -vahvistus, mukaan lukien autentikointi, aiemmin annettuja tietoja vasten.

Etäbiometrinen tunnistaminen

Määritelmään kuuluu ihmisten tunnistaminen ilman aktiivista osallistumista, yleensä etäältä, vertaamalla viitetietokannan biometrisiin tietoihin.

Julkisesti saatavilla oleva tila voi olla yksityisomistuksessa

Julkisesti saatavilla oleva tila voi olla julkisessa tai yksityisessä omistuksessa, jos määrittelemätön määrä ihmisiä voi päästä siihen, vaikka pääsylle asetettaisiin ehtoja tai kapasiteettirajoituksia.

Vakavan vaaratilanteen neljä seurausta

Vakaviin vaaratilanteisiin kuuluvat kuolema tai vakava terveyshaitta, kriittisen infrastruktuurin vakava ja peruuttamaton häiriö, oikeuksien suojelua koskevat loukkaukset sekä vakava omaisuus- tai ympäristövahinko.

3 artikla: sääntelyn testiympäristöt, lukutaito, syväväärennökset ja yleiskäyttöinen tekoäly

Testiympäristö verrattuna markkinoille julkaisuun

Sääntelyn testiympäristö on valvottu, ohjattu ja määräaikainen kehys, joka toimii testiympäristösuunnitelman mukaisesti. Se voi tukea kehittämistä, kouluttamista, validointia ja testausta, mukaan lukien asianmukaista tosielämän olosuhteissa tapahtuvaa testausta.

Tekoälylukutaito

Tekoälylukutaito koskee taitoja, tietoja ja ymmärrystä, jotka mahdollistavat tietoon perustuvan käyttöönoton sekä tietoisuuden tekoälyn mahdollisuuksista, riskeistä ja mahdollisista haitoista, huomioiden kunkin henkilön oikeudet ja velvollisuudet.

Syväväärennös

Syväväärennös on tekoälyn tuottamaa tai manipuloimaa kuva-, ääni- tai videosisältöä, joka muistuttaa olemassa olevia henkilöitä, kohteita, paikkoja, yhteisöjä tai tapahtumia ja vaikuttaa virheellisesti aidolta tai todenmukaiselta.

Yleiskäyttöinen tekoäly

Yleiskäyttöisellä tekoälymallilla on merkittävää yleisluonteisuutta ja se voi suorittaa monenlaisia erilaisia tehtäviä. Jatkotoimittaja integroi mallin tekoälyjärjestelmään.

Työstetty esimerkki: mallin julkaisusta vakavaan vaaratilanteeseen

Kartoita ketju

Northstar voi olla tarjoaja; sen mallin integroiva yritys voi olla jatkotoimittaja; ja valmisjärjestelmää valtuuksiensa puitteissa käyttävä klinikka voi olla käyttöönottaja.

Kartoita data

Käyttötarkoitus erottaa koulutus-, validointi- ja testausdatan. Sama laaja tietoaineisto ei automaattisesti ole jokaista tyyppiä; määritelmä riippuu datan tehtävästä.

Muutos on ehdollinen

Julkaisun jälkeinen kynnysarvon muutos ei automaattisesti ole merkittävä. Sen on oltava ennakoimaton alkuperäisessä vaatimustenmukaisuuden arvioinnissa, ja sen on vaikutettava vaatimustenmukaisuuteen tai muutettava arvioitua käyttötarkoitusta.

Vaaratilanteen kynnys

Vakava vaaratilanne edellyttää vaaratilannetta tai toimintahäiriötä, joka johtaa suoraan tai välillisesti johonkin 3 artiklan 49 kohdassa luetelluista seurauksista, kuten kuolemaan tai vakavaan terveyshaittaan.

Tietovisa: soveltamisala ja roolit

Tarkista ymmärryksesi

Tarjoaja on sijoittautunut Kanadaan. Sen tekoälyjärjestelmä tuottaa petospisteitä, joita Ranskassa toimiva pankki käyttää. Mikä 2 artiklan säännös selittää suorimmin, miksi asetusta voidaan soveltaa kyseiseen tarjoajaan?

Valitse paras vastaus.

Mitä säännöstä sovelletaan suorimmin?

  1. 2 artiklan 1 kohdan c alakohta, koska kolmannen maan tarjoajan tekoälytuotosta käytetään unionissa.
  2. 2 artiklan 6 kohta, koska kaikki unionin ulkopuolella kehitetyt järjestelmät ovat tutkimusjärjestelmiä.
  3. 2 artiklan 10 kohta, koska tarjoajat ovat aina henkilökohtaisia, ei-ammattimaisia käyttöönottajia.
  4. 2 artiklan 12 kohta, koska kaikki maksutta saataville asetetut tekoälyjärjestelmät ovat avointa lähdekoodia.
Show Answer

Answer: A) 2 artiklan 1 kohdan c alakohta, koska kolmannen maan tarjoajan tekoälytuotosta käytetään unionissa.

2 artiklan 1 kohdan c alakohtaa sovelletaan kolmanteen maahan sijoittautuneisiin tai siellä sijaitseviin tarjoajiin ja käyttöönottajiin, kun tekoälyjärjestelmän tuottamaa tulosta käytetään unionissa. Tosiseikkojen mukaan pisteitä käyttää Ranskassa toimiva pankki.

Muistikortit: keskeinen määritelty sanasto

Kertaa termit

Käännä kukin kortti ja sano määritelmä ääneen ennen kuin tarkistat sen. Keskity toisiinsa läheisesti liittyvien termien eroihin.

Tekoälyjärjestelmä
Konepohjainen järjestelmä, jolla on vaihteleva autonomia, joka voi mukautua käyttöönoton jälkeen ja joka nimenomaisia tai implisiittisiä tavoitteita varten päättelee syötteistä, miten tuotetaan fyysisiin tai virtuaalisiin ympäristöihin vaikuttavia tuotoksia.
Riski
Vahingon todennäköisyyden ja vahingon vakavuuden yhdistelmä.
Tarjoaja
Henkilö tai elin, joka kehittää tai teettää tekoälyjärjestelmän tai yleiskäyttöisen tekoälymallin kehittämisen ja saattaa sen markkinoille tai ottaa sen käyttöön omalla nimellään tai tavaramerkillään maksua vastaan tai maksutta.
Käyttöönottaja
Henkilö tai elin, joka käyttää tekoälyjärjestelmää valtuuksiensa puitteissa, paitsi jos sitä käytetään henkilökohtaisessa, ei-ammattimaisessa toiminnassa.
Merkittävä muutos
Ennakoimaton markkinoille saattamisen tai käyttöönoton jälkeinen muutos, joka vaikuttaa III luvun 2 jakson vaatimustenmukaisuuteen tai muuttaa käyttötarkoitusta, jota varten järjestelmä arvioitiin.
Etäbiometrinen tunnistusjärjestelmä
Tekoälyjärjestelmä, joka tunnistaa luonnollisia henkilöitä ilman heidän aktiivista osallistumistaan, tyypillisesti etäältä, vertaamalla biometrisiä tietoja viitetietokantaan.
Vakava vaaratilanne
Vaaratilanne tai toimintahäiriö, joka johtaa suoraan tai välillisesti kuolemaan tai vakavaan terveyshaittaan, kriittisen infrastruktuurin vakavaan ja peruuttamattomaan häiriöön, perusoikeuksien suojelua koskevaan loukkaukseen tai vakavaan omaisuus- tai ympäristövahinkoon.
Syväväärennös
Tekoälyn tuottama tai manipuloima kuva, ääni tai video, joka muistuttaa olemassa olevia henkilöitä, kohteita, paikkoja, yhteisöjä tai tapahtumia ja vaikuttaa virheellisesti aidolta tai todenmukaiselta.

Tietovisa: muutokset ja poissulkemiset

Lopullinen tietotesti

Vapaalla avoimen lähdekoodin lisenssillä julkaistu tekoälyjärjestelmä saatetaan markkinoille suuririskisenä tekoälyjärjestelmänä. Tiimi väittää, että 2 artiklan 12 kohta sulkee sen automaattisesti pois, koska sen lisenssi on avointa lähdekoodia.

Onko tämä oikein?

Mitä 2 artiklan 12 kohdassa säädetään?

  1. Kyllä. Kaikki vapaat ja avoimen lähdekoodin lisenssit sulkevat tekoälyjärjestelmän aina pois.
  2. Ei. Poissulkemista ei sovelleta, kun järjestelmä saatetaan markkinoille tai otetaan käyttöön suuririskisenä tekoälyjärjestelmänä tai 5 tai 50 artiklan soveltamisalaan kuuluvana järjestelmänä.
  3. Kyllä, mutta vain jos tarjoaja on sijoittautunut kolmanteen maahan.
  4. Ei, koska 2 artiklassa suljetaan kaikki vapaat ohjelmistot pois unionin markkinoilta.
Show Answer

Answer: B) Ei. Poissulkemista ei sovelleta, kun järjestelmä saatetaan markkinoille tai otetaan käyttöön suuririskisenä tekoälyjärjestelmänä tai 5 tai 50 artiklan soveltamisalaan kuuluvana järjestelmänä.

2 artiklan 12 kohdassa todetaan, ettei asetusta sovelleta vapailla ja avoimen lähdekoodin lisensseillä julkaistuihin tekoälyjärjestelmiin, ellei niitä saateta markkinoille tai oteta käyttöön suuririskisinä tekoälyjärjestelminä tai 5 tai 50 artiklan soveltamisalaan kuuluvana tekoälyjärjestelmänä. Ilmoitettu suuririskinen asema käynnistää poissulkemista koskevan poikkeuksen.

Key Terms

risk
Vahingon todennäköisyyden ja vahingon vakavuuden yhdistelmä.
deployer
Henkilö tai elin, joka käyttää tekoälyjärjestelmää valtuuksiensa puitteissa, lukuun ottamatta henkilökohtaista, ei-ammattimaista käyttöä.
operator
Tarjoaja, tuotteen valmistaja, käyttöönottaja, valtuutettu edustaja, maahantuoja tai jakelija.
provider
Henkilö tai elin, joka kehittää tai teettää tekoälyjärjestelmän tai yleiskäyttöisen tekoälymallin kehittämisen ja saattaa sen markkinoille tai ottaa sen käyttöön omalla nimellään tai tavaramerkillään.
AI system
Konepohjainen järjestelmä, joka on suunniteltu toimimaan vaihtelevalla autonomian tasolla, joka voi mukautua käyttöönoton jälkeen ja joka päättelee syötteistä, miten tuotetaan fyysisiin tai virtuaalisiin ympäristöihin vaikuttavia tuotoksia.
deep fake
Tekoälyn tuottama tai manipuloima kuva, ääni tai video, joka muistuttaa olemassa olevia henkilöitä, kohteita, paikkoja, yhteisöjä tai tapahtumia ja vaikuttaa virheellisesti aidolta tai todenmukaiselta.
AI literacy
Taidot, tiedot ja ymmärrys, jotka mahdollistavat tietoon perustuvan käyttöönoton sekä tietoisuuden tekoälyn mahdollisuuksista, riskeistä ja mahdollisista haitoista.
training data
Data, jota käytetään tekoälyjärjestelmän kouluttamiseen sovittamalla sen opittavia parametreja.
intended purpose
Tarjoajan tarkoittama käyttö, mukaan lukien tarjoajan tiedoissa, ohjeissa, markkinointi- tai myyntimateriaaleissa, lausumissa ja teknisissä asiakirjoissa määritetty käyttöyhteys ja käyttöedellytykset.
serious incident
Vaaratilanne tai toimintahäiriö, joka johtaa suoraan tai välillisesti johonkin 3 artiklan 49 kohdassa luetelluista vakavista seurauksista.
downstream provider
Tekoälyjärjestelmän, myös yleiskäyttöisen tekoälyjärjestelmän, tarjoaja, joka integroi tekoälymallin riippumatta siitä, onko malli toimitettu sisäisesti vai toiselta yhteisöltä.
putting into service
Tekoälyjärjestelmän ensimmäinen suora toimittaminen käyttöönottajalle tai omaa käyttöä varten unionissa sen käyttötarkoitusta varten.
AI regulatory sandbox
Valvottu, määräaikainen ja ohjattu kehys, joka mahdollistaa tarjoajille tai mahdollisille tarjoajille innovatiivisen tekoälyjärjestelmän kehittämisen, kouluttamisen, validoinnin ja testaamisen testiympäristösuunnitelman mukaisesti.
placing on the market
Tekoälyjärjestelmän tai yleiskäyttöisen tekoälymallin ensimmäinen saataville asettaminen unionin markkinoilla.
general-purpose AI model
Tekoälymalli, jolla on merkittävää yleisluonteisuutta, joka pystyy suorittamaan pätevästi monenlaisia erilaisia tehtäviä ja joka voidaan integroida erilaisiin jatkokäytön järjestelmiin tai sovelluksiin.
substantial modification
Ennakoimaton markkinoille saattamisen tai käyttöönoton jälkeinen muutos, joka vaikuttaa määriteltyihin suuririskisiä järjestelmiä koskeviin vaatimuksiin tai muuttaa arvioitua käyttötarkoitusta.
publicly accessible space
Julkisessa tai yksityisessä omistuksessa oleva fyysinen paikka, johon ennalta määrittelemätön määrä luonnollisia henkilöitä voi päästä mahdollisista pääsyehdoista tai kapasiteettirajoituksista huolimatta.
remote biometric identification system
Tekoälyjärjestelmä, joka tunnistaa ihmisiä ilman heidän aktiivista osallistumistaan, tyypillisesti etäältä, vertaamalla biometrisiä tietoja viitetietokantaan.

Finished reading?

Test your understanding with a custom practice exam on this chapter.

Test yourself