SkarpChapter 4 of 25
Miten säädös tunnistaa suuririskisen tekoälyn
Suuririskisyys määräytyy sekä yleisen luokittelulogiikan että yksityiskohtaisen arkaluonteisten käyttökohteiden joukon perusteella. Johdanto-osan perustelukappaleet osoittavat, miten tuotekomponentit, itsenäiset järjestelmät, profilointi ja päätöksentekoon vaikuttaminen määrittävät, tulevatko vaativat velvoitteet sovellettaviksi.
1. Korkean riskin perusajatus: haitta, ei hyväksyntämerkintä
Markkinoille saattamisen edellytys
Johdanto-osan kappaleessa (46) todetaan, että korkean riskin järjestelmät tulisi ainoastaan saattaa unionin markkinoille, ottaa käyttöön tai käyttää, jos ne ovat tiettyjen pakollisten vaatimusten mukaisia. Säilytä johdanto-osan kappaleen tulisi; älä kirjoita sitä muotoon on pakko.
Rajattu luokka
Teksti rajaa korkean riskin tunnistamisen järjestelmiin, joilla on merkittävä haitallinen vaikutus unionissa olevien henkilöiden terveyteen, turvallisuuteen ja perusoikeuksiin. Siinä todetaan myös, että rajauksen tulisi minimoida mahdolliset kaupan rajoitukset.
Useita tuotetta koskevia sääntelyjärjestelmiä voi soveltua
Uuden lainsäädäntökehyksen mukaisesti yksi tuote voi kuulua useamman kuin yhden unionin yhdenmukaistamissäädöksen soveltamisalaan. Sen asettaminen saataville tai käyttöönotto voi tapahtua vain, kun se on kaikkien sovellettavien säädösten mukainen.
Mitä haitaksi katsotaan
Johdanto-osan kappaleet (47)–(48) yhdistävät riskin tuoteturvallisuuteen ja perusoikeuskirjan oikeuksiin. Terveyteen, turvallisuuteen, syrjintään, yksityisyyteen, koulutukseen, työntekijöiden oikeuksiin, oikeudenmukaiseen oikeudenkäyntiin, lasten haavoittuvuuksiin ja ympäristönsuojeluun liittyvillä seikoilla on kaikilla merkitystä.
2. Kaksi luokittelureittiä: tuotteet ja itsenäiset järjestelmät
Reitti 1: tuotteeseen liittyvä tekoäly
Lueteltujen tuotteiden tai turvakomponenttien osalta johdanto-osan kappaleessa (50) käytetään luokittelun käynnistävänä tekijänä asianomaisen tuotteen kolmannen osapuolen vaatimustenmukaisuuden arviointimenettelyä. Tämä ei ole yleinen lausuma kaikista tekoälyä hyödyntävistä tuotteista.
Kolmannen osapuolen kriteeri
Johdanto-osan kappaleessa mainitaan nimenomaisesti esimerkkeinä tuotteeseen liittyvästä reitistä koneet, lelut, hissit, lääkinnälliset laitteet, in vitro -diagnostiikkaan tarkoitetut lääkinnälliset laitteet, autoteollisuus, ilmailu ja muut luetellut tuotealat.
Älä sekoita korkean riskin kahta merkitystä
Tekoälysäädöksen mukainen korkean riskin asema ei välttämättä tarkoita, että tuote olisi korkean riskin tuote alakohtaisen tuotetta koskevan lainsäädännön mukaan. Johdanto-osan kappaleessa (51) varoitetaan erityisesti tästä päätelmästä lääkinnällisiä laitteita ja IVD-järjestelmiä koskevissa sääntelyjärjestelmissä.
Reitti 2: itsenäinen tekoäly
Itsenäinen järjestelmä luokitellaan käyttötarkoituksen, suuren haittariskin, mahdollisen haitan vakavuuden ja todennäköisyyden sekä käytön perusteella erityisesti ennalta määritellyillä aloilla. Kaikilla tämän kuvauksen osilla on merkitystä.
3. Poikkeuksellinen muu kuin korkean riskin logiikka ja profilointia koskeva syrjäyttävä sääntö
Mitä ”ei olennaisesti vaikuta” tarkoittaa
Se tarkoittaa, ettei päätöksenteon sisältöön eikä siten lopputulokseen kohdistu vaikutusta, olipa päätöksenteko ihmisen tekemää tai automatisoitua. Pelkkä järjestelmän esiintyminen työnkulussa ei riitä; sen todellisella vaikutuksella on merkitystä.
Neljä mahdollista edellytystä
Johdanto-osan kappaleessa yksilöidään rajatut menettelylliset tehtävät, valmiin ihmistoiminnan parantaminen, jälkikäteinen mallien tai poikkeamien havaitseminen sekä tehtävät, jotka ovat vain arviointia valmistelevia. Nämä ovat mahdollisia poikkeuksellisia edellytyksiä.
Esimerkit eivät ole itse sääntö
Kaksoiskappaleiden havaitseminen, asiakirjojen luokittelu, tyylin parantaminen, arviointipoikkeamien tarkistaminen, haku, indeksointi ja kääntäminen havainnollistavat edellytyksiä. Ratkaiseva kysymys on edelleen, vaikuttaako järjestelmä olennaisesti lopputulokseen.
Profilointi muuttaa arviointia
Liitteessä tarkoitetussa korkean riskin käyttötapauksessa profilointia sisältävää järjestelmää tulisi pitää merkittäviä riskejä aiheuttavana. Poikkeukseen vetoavien tarjoajien tulisi dokumentoida arviointinsa ennen markkinoille saattamista tai käyttöönottoa ja rekisteröidä järjestelmä.
4. Luokitteluharjoitus: hakemusasiakirjojen avustaja
Työkalu A: poimi ja luokittele
Työkalu, joka muuntaa hakemusten PDF-tiedostot jäsennellyiksi kentiksi, voi muistuttaa johdanto-osan kappaleen (53) rajattuja menettelyllisiä esimerkkejä. Tämä päätelmä riippuu siitä, ettei työkalu vaikuta valintapäätöksen sisältöön tai lopputulokseen.
Työkalu B: aseta järjestykseen ja suosittele
Tarjouksia suosittelevalla järjestelytyökalulla voidaan vaikuttaa olennaisesti koulutukseen pääsyyn. Johdanto-osan kappaleessa (56) järjestelmiä, jotka määrittävät pääsyn koulutukseen tai opiskelijavalinnan, pidetään korkean riskin järjestelminä, koska ne voivat muovata koulutus- ja ammatillista elämää.
Työkalu C: tarkista valmis pisteytys
Työkalu, joka merkitsee poikkeamia valmiista ihmisen tekemästä pisteytysmallista, muistuttaa johdanto-osan kappaleen jälkikäteistä mallien havaitsemista koskevaa esimerkkiä. Sen tarkoituksena ei ole korvata arviointia tai vaikuttaa siihen ilman asianmukaista ihmisen suorittamaa tarkastelua.
Profiloinnin tarkistuspiste
Jos luetellussa korkean riskin käyttötapauksessa käytettävään järjestelmään liittyy profilointia, johdanto-osan kappaleessa (53) todetaan, että sitä tulisi pitää merkittäviä riskejä aiheuttavana. Älä jätä tätä edellytystä pois käyttäessäsi olennaista vaikutusta koskevaa analyysia.
5. Arkaluonteiset käyttöalat I: biometria, infrastruktuuri, koulutus ja työ
Biometriset erot
Etäbiometrinen tunnistaminen tulisi luokitella korkean riskin toiminnaksi, koska epätarkkuus voi synnyttää puolueellisia ja syrjiviä tuloksia. Sen sijaan pelkästään henkilöllisyyden pääsyä varten vahvistava todentaminen tai tunnistautuminen jätetään tämän luokittelun ulkopuolelle.
Kriittinen infrastruktuuri
Huolena on laajamittainen vaara hengelle ja terveydelle sekä tavanomaisen yhteiskunnallisen ja taloudellisen toiminnan merkittävä häiriintyminen. Turvakomponentti suojaa suoraan infrastruktuuria tai ihmisiä, mutta sitä ei tarvita järjestelmän toimimiseen.
Koulutus vaikuttaa elämänpolkuihin
Opiskelijavalinta, sijoittaminen oppilaitokseen, oppimisen arviointi, olennaisesti vaikuttava tasoarviointi ja koetilanteen käyttäytymisen seuranta tulisi luokitella korkean riskin toiminnaksi, koska ne voivat vaikuttaa koulutukseen, työnäkymiin ja toimeentuloon.
Työpaikan tekoäly
Rekrytointi, ylentäminen, irtisanominen, työn jakaminen, seuranta ja arviointi voivat vaikuttaa uriin, toimeentuloon, työntekijöiden oikeuksiin, yksityisyyteen ja tietosuojaan. Johdanto-osan kappale kattaa myös alustapalvelusuhteet merkityksellisessä mielessä.
6. Arkaluonteiset käyttöalat II: palvelut, julkinen valta, oikeus ja demokratia
Keskeiset palvelut ja luotto
Etuuksiin oikeuttavia päätöksiä koskevat ratkaisut voivat vaikuttaa toimeentuloon ja oikeuksiin. Luottopisteytys tai luonnollisten henkilöiden luottokelpoisuuden arviointi tulisi luokitella korkean riskin toiminnaksi, koska se voi määrittää pääsyn rahaan, asumiseen, sähköön ja televiestintään.
Lainvalvonta ja muuttoliike
Näissä asiayhteyksissä on vallan epätasapainoa ja haavoittuvassa asemassa olevia ihmisiä. Johdanto-osan kappaleissa korostetaan tarkkuutta, luotettavuutta, avoimuutta, syrjimättömyyttä, vastuuvelvollisuutta, oikeussuojakeinoja, puolustautumisoikeuksia, kansainvälistä suojelua ja palauttamiskiellon periaatetta.
Oikeus: tuki, ei korvaaminen
Tekoäly voi tukea tuomioistuinten päätöksentekoa, mutta lopullisen päätöksenteon on säilyttävä ihmisen ohjaamana toimintana. Liitännäishallinto, joka ei vaikuta yksittäisiin asioihin, kuten anonymisointi, jää tämän ilmoitetun luokittelun ulkopuolelle.
Korkea riski ei ole hyväksyntä lailliselle käytölle
Luokittelu ei osoita, että käyttö olisi lainmukaista tietosuojalainsäädännön tai muun unionin tai yhteensopivan kansallisen lainsäädännön nojalla. Se ei myöskään itsessään tarjoa oikeusperustetta henkilötietojen, mukaan lukien erityisiin henkilötietoryhmiin kuuluvien tietojen, käsittelylle.
7. Päätöskarttatehtävä: lajittele järjestelmät
Ohjeet
Valitse kullekin skenaariolle paras reitti käyttäen vain käsiteltyjä johdanto-osan kappaleita. Kysy nämä kysymykset järjestyksessä:
- Onko kyseessä luetellun tuotteen tekoälyturvakomponentti tai onko se itse tällainen tuote?
- Jos on, tehdäänkö asiaankuuluvalle tuotteelle kolmannen osapuolen vaatimustenmukaisuuden arviointi?
- Jos se on itsenäinen järjestelmä, aiheuttaako sen käyttötarkoitus suuren riskin, kun otetaan huomioon vakavuus ja todennäköisyys, ja kuuluuko se ennalta määritellylle alalle?
- Voisiko johdanto-osan kappaleen (53) olennaisen vaikutuksen puuttumista koskevaa logiikkaa soveltaa?
- Liittyykö järjestelmään profilointia luetellussa korkean riskin käyttötapauksessa?
Skenaario A: pilvipalvelinkeskuksen palohälytyksen ohjaus
Järjestelmä ohjaa palohälytyksiä pilvipalvelinkeskuksessa. Se suojaa suoraan ihmisiä ja omaisuutta. Tämä vastaa läheisesti johdanto-osan kappaleen (55) esimerkkiä kriittisen infrastruktuurin turvakomponentista.
Skenaario B: salasana-avauksen kasvojen täsmäytys
Puhelin käyttää kasvojen täsmäytystä vain varmistaakseen, että sen avaava henkilö on rekisteröity käyttäjä. Tämä vastaa johdanto-osan kappaleessa (54) kuvattua biometrisen todentamisen tai tunnistautumisen poissulkemista, jos ainoana tarkoituksena on vahvistaa henkilöllisyys pääsyä varten.
Skenaario C: työnhakijoiden järjestäminen
Työnantaja asettaa ehdokkaat järjestykseen ennustetun työsuoriutumisen perusteella ennen kuin se päättää, ketkä kutsutaan haastatteluun. Tämä kuuluu rekrytointiin ja valintaan, johdanto-osan kappaleessa (57) kuvattuun työllisyysasiayhteyteen, ja voi vaikuttaa uranäkymiin ja toimeentuloon.
Skenaario D: tuomioistuinasiakirjojen anonymisoija
Tuomioistuimen työkalu poistaa nimet jo annetuista ratkaisuista ennen niiden julkaisemista. Johdanto-osan kappaleessa (61) kuvataan oikeudellisten ratkaisujen, asiakirjojen tai tietojen anonymisointi tai pseudonymisointi puhtaasti liitännäiseksi hallinnolliseksi toiminnaksi, joka ei vaikuta yksittäistapausten tosiasialliseen oikeudenkäyttöön.
Skenaario E: etuuksien kaksoiskappaleiden havaitsemisjärjestelmä, joka profiloi hakijoita
Julkisen viranomaisen työkalu havaitsee päällekkäisiä etuushakemuksia, mutta se myös profiloi hakijoita. Rajattu menettelyllinen työ voi aluksi muistuttaa johdanto-osan kappaletta (53). Koska se kuitenkin toimii luetellussa korkean riskin käyttötapauksessa ja siihen liittyy profilointia, johdanto-osan kappaleen (53) profilointia koskeva toteamus nousee keskeiseksi.
Kirjoita kustakin skenaariosta yhden virkkeen johtopäätös ja yksilöi sitä tukeva johdanto-osan kappaleen numero.
8. Tietovisa: olennainen vaikutus ja profilointi
Valitse paras vastaus
Yliopisto käyttää tekoälytyökalua vain alkuperäisten hakemusasiakirjojen kääntämiseen. Se ei pisteytä, järjestä eikä suosittele lopputuloksia. Työkalu kuitenkin profiloi hakijoita liitteessä luetellussa korkean riskin käyttötapauksessa. Mikä vastaus kuvastaa parhaiten johdanto-osan kappaletta (53)?
Mikä johtopäätös seuraa parhaiten johdanto-osan kappaleesta (53)?
- Se ei automaattisesti ole korkean riskin järjestelmä, koska kääntäminen on valmisteleva tehtävä.
- Sitä tulisi pitää merkittäviä riskejä aiheuttavana, koska siihen liittyy profilointia luetellussa korkean riskin käyttötapauksessa.
- Se ei ole korkean riskin järjestelmä, jos yliopisto antaa hakijoille suullisen selityksen.
- Se on korkean riskin järjestelmä vain, jos se tekee lopullisen valintapäätöksen ilman ihmistä.
Show Answer
Answer: B) Sitä tulisi pitää merkittäviä riskejä aiheuttavana, koska siihen liittyy profilointia luetellussa korkean riskin käyttötapauksessa.
Alkuperäisten asiakirjojen kääntäminen on esimerkki valmistelevasta tehtävästä, mutta johdanto-osan kappaleessa (53) todetaan erikseen, että liitteessä luetelluissa korkean riskin käyttötapauksissa käytettäviä tekoälyjärjestelmiä tulisi pitää merkittäviä riskejä aiheuttavina, jos järjestelmään liittyy profilointia. Profilointia koskevaa täsmennystä ei voi jättää huomiotta.
9. Muistikortit: korkean riskin luokittelun sanasto
Käännä jokainen kortti ja selitä ero ääneen ennen vastauksen tarkistamista.
- Tuotteeseen liittyvän korkean riskin kriteeri
- Johdanto-osan kappaleen (50) mukaan luokittelu on aiheellinen, kun asianomaiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely kolmannen osapuolen vaatimustenmukaisuuden arviointilaitoksen kanssa asiaankuuluvan unionin yhdenmukaistamislainsäädännön nojalla.
- Itsenäisen tekoälyn reitti
- Johdanto-osan kappaleen (52) mukaan käyttötarkoituksen on aiheutettava suuri haittariski terveydelle ja turvallisuudelle tai perusoikeuksille, kun otetaan huomioon vakavuus ja todennäköisyys, ja järjestelmää on käytettävä erityisesti ennalta määritellyillä aloilla.
- Olennainen vaikutus
- Tekoälyjärjestelmä ei vaikuta päätökseen olennaisesti, kun se ei vaikuta ihmisen tekemän tai automatisoidun päätöksenteon sisältöön eikä siten lopputulokseen.
- Profilointia koskeva täsmennys
- Liitteessä luetelluissa korkean riskin käyttötapauksissa johdanto-osan kappaleessa (53) todetaan, että järjestelmää tulisi pitää merkittäviä riskejä aiheuttavana, jos siihen liittyy profilointia viitatuissa tietosuojamääritelmissä tarkoitetulla tavalla.
- Biometrisen todentamisen poissulkeminen
- Biometrinen todentaminen, mukaan lukien tunnistautuminen, suljetaan pois, kun sen ainoana tarkoituksena on vahvistaa, että tietty henkilö on se, joka hän väittää olevansa, ja vahvistaa henkilöllisyys yksinomaan palveluun, laitteeseen tai tiloihin pääsyä varten.
- Kriittisen infrastruktuurin turvakomponentti
- Komponentti, jota käytetään suoraan kriittisen infrastruktuurin fyysisen koskemattomuuden tai henkilöiden ja omaisuuden terveyden ja turvallisuuden suojaamiseen, mutta joka ei ole välttämätön järjestelmän toimimiseksi. Pelkästään kyberturvallisuuteen tarkoitetut komponentit eivät täytä määritelmää.
- Oikeudenkäytön raja
- Tekoäly voi tukea tuomareita tai oikeuslaitoksen riippumattomuutta, mutta lopullisen päätöksenteon on säilyttävä ihmisen ohjaamana toimintana. Puhtaasti liitännäinen hallinto ei kuulu ilmoitettuun luokitteluun.
- Ei oletusta lainmukaisuudesta
- Korkean riskin luokittelu ei tarkoita, että käyttö olisi lainmukaista muun unionin lainsäädännön tai yhteensopivan kansallisen lainsäädännön nojalla, eikä se itsessään tarjoa oikeusperustetta henkilötietojen käsittelylle, ellei nimenomaisesti toisin säädetä.
10. Lopputarkistus: korkea riski ei tarkoita lainmukaisuutta
Valitse täsmällisin väite
Myyjä väittää: "Järjestelmämme on luokiteltu asetuksen mukaisesti korkean riskin järjestelmäksi, joten saamme lain mukaan käyttää sitä mihin tahansa tarkoitukseen, myös erityisiin henkilötietoryhmiin kuuluvien tietojen käsittelyyn." Arvioi tätä väitettä johdanto-osan kappaleen (63) perusteella.
Mikä on paras vastaus?
- Oikein: korkean riskin luokittelu on täydellinen lupa järjestelmän käytölle.
- Oikein vain lainvalvonta- ja muuttoliikejärjestelmille.
- Väärin: korkean riskin luokittelu ei osoita, että käyttö olisi lainmukaista muun sovellettavan unionin tai kansallisen lainsäädännön nojalla, eikä asetus itsessään tarjoa henkilötietojen käsittelylle oikeusperustetta, ellei nimenomaisesti toisin säädetä.
- Väärin vain silloin, kun järjestelmää käytetään koulutuksessa tai työllisyydessä.
Show Answer
Answer: C) Väärin: korkean riskin luokittelu ei osoita, että käyttö olisi lainmukaista muun sovellettavan unionin tai kansallisen lainsäädännön nojalla, eikä asetus itsessään tarjoa henkilötietojen käsittelylle oikeusperustetta, ellei nimenomaisesti toisin säädetä.
Johdanto-osan kappaleessa (63) torjutaan nimenomaisesti ajatus siitä, että korkean riskin asema vahvistaisi käytön laillisuuden. Sovellettavat perusoikeuskirjan oikeudet, unionin johdettu oikeus ja yhteensopiva kansallinen lainsäädäntö ovat edelleen määrääviä. Johdanto-osan kappaleessa todetaan myös, ettei asetusta tulisi ymmärtää henkilötietojen, mukaan lukien erityisiin henkilötietoryhmiin kuuluvien tietojen, käsittelyn oikeusperustaksi, ellei nimenomaisesti toisin säädetä.
Key Terms
- profiling
- Johdanto-osan kappaleessa (53) EU:n tietosuojavälineisiin viittaamalla tarkoitettu termi; liitteessä luetellussa korkean riskin käyttötapauksessa sen esiintyminen tarkoittaa, että järjestelmää tulisi pitää merkittäviä riskejä aiheuttavana.
- Union market
- Johdanto-osan kappaleessa (46) tarkoitettu markkinayhteys, jossa korkean riskin tekoälyjärjestelmät tulisi ainoastaan saattaa markkinoille, ottaa käyttöön tai käyttää, jos ne ovat tiettyjen pakollisten vaatimusten mukaisia.
- non-refoulement
- Periaate, jota johdanto-osan kappaleen (60) mukaan muuttoliikkeen, turvapaikan ja rajavalvonnan hallinnassa käytettävä tekoäly ei saa loukata.
- intended purpose
- Käyttöön suuntautunut perusta, jonka nojalla johdanto-osan kappaleessa (52) arvioidaan, aiheuttaako itsenäinen tekoälyjärjestelmä suuren haittariskin.
- safety component
- Johdanto-osan kappaleessa (55) kriittisen infrastruktuurin osalta järjestelmä, joka suojaa suoraan infrastruktuurin fyysistä koskemattomuutta tai henkilöiden ja omaisuuden terveyttä ja turvallisuutta, olematta kuitenkaan välttämätön järjestelmän toimimiseksi.
- material influence
- Vaikutus ihmisen tekemän tai automatisoidun päätöksenteon sisältöön ja siten lopputulokseen; sen puuttuminen on keskeistä johdanto-osan kappaleen (53) poikkeuslogiikassa.
- high-risk AI system
- Näissä johdanto-osan kappaleissa luokka, joka rajataan tekoälyjärjestelmiin, joilla on merkittävä haitallinen vaikutus unionissa olevien henkilöiden terveyteen, turvallisuuteen tai perusoikeuksiin ja jota arvioidaan tuotteeseen liittyvän tai itsenäisen luokittelulogiikan kautta.
- stand-alone AI system
- Korkean riskin tekoälyjärjestelmä, joka ei ole tuotteen turvakomponentti eikä itse tuote, kuten johdanto-osan kappaleessa (52) kuvataan.
- biometric verification
- Biometrinen käyttö, mukaan lukien tunnistautuminen, yksinomaan sen vahvistamiseksi, että tietty henkilö on se, joka hän väittää olevansa, ja palveluun, laitteeseen tai tiloihin pääsyä varten; johdanto-osan kappaleessa (54) se suljetaan ilmoitetun korkean riskin luokittelun ulkopuolelle.
- third-party conformity assessment body
- Ulkoinen elin, joka osallistuu asiaankuuluvaan tuotteen vaatimustenmukaisuuden arviointimenettelyyn; johdanto-osan kappaleessa (50) tätä menettelyä käytetään tuotteeseen liittyvän korkean riskin luokittelun kriteerinä.