SkarpChapter 6 of 25
Vastuu tekoälyn arvoketjussa
Tekoälyn vaatimustenmukaisuus on harvoin yhden organisaation vastuulla. Tässä moduulissa seurataan vastuuta tarjoajista ja komponenttitoimittajista maahantuojiin, jakelijoihin, tuotteiden valmistajiin ja käyttöönottajiin, mukaan lukien olosuhteet, joissa tarjoajan asema siirtyy.
1. Aloita tarjoajasta: vastuu ei ole sama asia kuin kehittäminen
Yksi vastuutaho
Johdanto-osan kappaleessa (79) todetaan, että "tietty luonnollinen henkilö tai oikeushenkilö, joka määritellään tarjoajaksi, ottaa vastuun suuririskisen tekoälyjärjestelmän markkinoille saattamisesta tai käyttöönotosta".
Tarjoaja ei välttämättä ole kehittäjä
Vastuussa oleva tarjoaja voi olla eri taho kuin henkilö, joka suunnitteli tai kehitti suuririskisen tekoälyjärjestelmän. Pelkkä kehitystoiminta ei ratkaise tätä vastuunjakoa.
Lue oikeudellista kieltä huolellisesti
Kyseessä on johdanto-osan kappale: se selittää asetuksen lähestymistapaa. Älä muuta sen selittävää sanamuotoa artiklatason velvoittavaksi määräykseksi, jota tekstissä ei tässä esitetä.
2. Tarjoajan suunnitteluvelvollisuudet, laatujärjestelmät ja saavutettavuus
Saavutettavuus suunnittelun lähtökohtana
Johdanto-osan kappaleessa (80) todetaan, että tarjoajien olisi varmistettava saavutettavuusvaatimusten noudattaminen jo suunnittelussa sisällyttämällä tarvittavat toimenpiteet mahdollisimman laajasti suuririskisen tekoälyjärjestelmän suunnitteluun.
Universaalin suunnittelun asiayhteys
Universaalin suunnittelun periaatteiden olisi tuettava täysimääräistä ja yhdenvertaista pääsyä tekoälyteknologioiden piiriin henkilöille, joihin ne voivat vaikuttaa tai jotka niitä käyttävät, mukaan lukien vammaiset henkilöt.
Vaatimustenmukaisuuden infrastruktuuri
Johdanto-osan kappaleen (81) mukaan tarjoajan olisi perustettava laadunhallintajärjestelmä, saatettava vaatimustenmukaisuuden arviointi päätökseen, laadittava dokumentaatio ja perustettava tehokas markkinoille saattamisen jälkeinen seurantajärjestelmä.
Nykyiset alakohtaiset järjestelmät
Tarjoajalla, jota koskevat merkitykselliset alakohtaisen unionin oikeuden laatujärjestelmävelvollisuudet, olisi oltava mahdollisuus sisällyttää asetuksen osat nykyiseen järjestelmäänsä.
3. Esimerkki: kuka vastaa saavutettavasta rekrytointijärjestelmästä?
Tilanne
Mallikehittäjä, käyttöliittymän rakentaja ja markkinointiyritys osallistuvat kaikki rekrytointialustan toteuttamiseen. Markkinointiyritys saattaa yhdistetyn järjestelmän markkinoille omalla nimellään.
Tarjoajan kohdentaminen
Johdanto-osan kappale (79) mahdollistaa vastuun kohdentamisen järjestelmän markkinoille saattavaan tai käyttöön ottavaan tarjoajaan, vaikka tämä tarjoaja ei olisi suunnitellut tai kehittänyt jokaista osaa.
Saavutettavuus suunnitellaan sisään
Rekrytointialustassa saavutettavuuskysymyksiä voivat olla näppäimistön käyttö, yhteensopivuus avustavan teknologian kanssa ja se, sulkevatko ohjeet joitakin käyttäjiä ulkopuolelle. Toimenpiteet olisi sisällytettävä mahdollisimman laajasti suunnitteluun.
Dokumentoi elinkaari
Laatujärjestelmä, vaatimustenmukaisuuden arviointi, dokumentaatio ja markkinoille saattamisen jälkeinen seuranta muodostavat johdanto-osan kappaleessa (81) kuvatun vaatimustenmukaisuuden infrastruktuurin.
4. Unionin yhteyspisteet ja päällekkäiset toimijaroolit
Kolmansissa maissa sijoittautuneet tarjoajat
Johdanto-osan kappale (82): "kolmansiin maihin sijoittautuneiden tarjoajien olisi kirjallisella toimeksiannolla nimettävä unioniin sijoittautunut valtuutettu edustaja."
Miksi edustaja on tärkeä
Valtuutettu edustaja tukee asiaankuuluvien suuririskisten järjestelmien vaatimustenmukaisuutta ja toimii tarjoajan unioniin sijoittautuneena yhteyshenkilönä.
Roolit voivat olla päällekkäisiä
Toimija voi olla sekä maahantuoja että jakelija. Tällöin sen olisi siksi täytettävä kumulatiivisesti kaikki näihin rooleihin liittyvät asiaankuuluvat velvoitteet.
5. Roolikartoitustehtävä: etsi vastuuketju
Kartoita toimijat ennen kuin päätät, kuka tekee mitä
Tarkastele seuraavaa ketjua:
- Kanadalainen yritys kehittää mallin.
- Ranskalainen yritys pakkaa sen suuririskiseksi tekoälyjärjestelmäksi ja saattaa järjestelmän unionin markkinoille.
- Espanjalainen yritys tuo varastoa maahan ja myy sitä myös asiakkaille.
- Kunnallinen viranomainen ottaa järjestelmän käyttöön omassa julkisen palvelun prosessissaan.
Pysähdy ja kartoita johdanto-osan kappaleissa kuvatut roolit.
- Kuka toimija on markkinoille saatetun järjestelmän yksilöitävissä oleva tarjoaja?
- Mikä toimija on sijoittautunut kolmanteen maahan, ja mitä johdanto-osan kappaleessa (82) todetaan, että sen olisi tehtävä ennen tekoälyjärjestelmien asettamista saataville unionissa?
- Millä yrityksellä on samanaikaisesti kaksi roolia?
- Mikä toimija on käyttöönotosta vastaava toimija konkreettisessa käyttötilanteessa?
Ehdotettu päättely: ranskalainen yritys on tässä tilanteessa todennäköinen tarjoaja, koska se pakkaa ja saattaa suuririskisen järjestelmän unionin markkinoille. Kanadalainen kehittäjä voi myös tarvita valtuutetun edustajan, jos se itse asettaa tekoälyjärjestelmiä saataville unionissa; johdanto-osan kappaleen käynnistävä edellytys on, että kyseessä on kolmanteen maahan sijoittautunut tarjoaja. Espanjalainen yritys on sekä maahantuoja että jakelija, joten johdanto-osan kappaleessa (83) todetaan, että asiaankuuluvat velvoitteet olisi täytettävä kumulatiivisesti. Kunnallinen viranomainen on käyttöönotosta vastaava toimija, koska se ottaa järjestelmän käyttöön.
Älä oleta, että yksi nimike poistaa toisen. Lähteessä ennakoidaan nimenomaisesti päällekkäiset roolit.
Yritys tuo suuririskisen tekoälyjärjestelmän unioniin ja myy sitä edelleen asiakkaille. Mikä väite vastaa johdanto-osan kappaleen (83) tekstiä parhaiten?
- Se voi valita, toimiiko se vain maahantuojana vai vain jakelijana.
- Sen olisi täytettävä kumulatiivisesti molempiin rooleihin liittyvät asiaankuuluvat velvoitteet.
- Siitä tulee automaattisesti tarjoaja kaikissa tapauksissa.
- Sillä ei ole mitään roolia, koska alkuperäinen tarjoaja pysyy vastuussa.
Show Answer
Answer: B) Sen olisi täytettävä kumulatiivisesti molempiin rooleihin liittyvät asiaankuuluvat velvoitteet.
Johdanto-osan kappaleessa (83) todetaan, että useammassa kuin yhdessä roolissa toimivan toimijan olisi täytettävä kumulatiivisesti kaikki näihin rooleihin liittyvät asiaankuuluvat velvoitteet. Esimerkkinä annetaan toimija, joka toimii samanaikaisesti jakelijana ja maahantuojana.
6. Milloin tarjoajan asema voi muuttua
Ehdollinen sääntö
Johdanto-osan kappale (84): "jakelijaa, maahantuojaa, käyttöönottajaa tai muuta kolmatta osapuolta olisi pidettävä suuririskisen tekoälyjärjestelmän tarjoajana ja sen olisi näin ollen vastattava kaikista asiaankuuluvista velvoitteista."
Käynnistävä edellytys 1: oma nimi tai tavaramerkki
Tarjoaja-aseman uudelleenkohdentaminen voi syntyä, jos taho kiinnittää oman nimensä tai tavaramerkkinsä jo markkinoille saatettuun tai käyttöönotettuun suuririskiseen tekoälyjärjestelmään.
Käynnistävät edellytykset 2 ja 3: järjestelmän muuttaminen
Se voi syntyä myös olennaisen muutoksen jälkeen, jos järjestelmä pysyy suuririskisenä, tai käyttötarkoituksen muuttamisen jälkeen, jos aiemmin ei-suuririskisestä järjestelmästä tulee suuririskinen.
Ulkoinen ajantasaisuutta koskeva huomautus
PE-CONS 30/26, päivätty 8. heinäkuuta 2026, vaikuttaa 25 artiklaan, mutta se on allekirjoitettu ja odottaa julkaisemista. Se ei ole vielä voimassa; toimitettu lähdeteksti on edelleen tänään sovellettava kanta.
7. Esimerkki: uudelleenbrändäys, muutos ja sulautetut turvallisuuskomponentit
Uudelleenbrändäys
Jakelijan oman tavaramerkin kiinnittäminen jo markkinoilla olevaan suuririskiseen järjestelmään on yksi johdanto-osan kappaleen (84) edellytyksistä, joiden perusteella kyseistä tahoa pidetään tarjoajana.
Uusi käyttötarkoitus
Jo markkinoilla olevan ei-suuririskisen järjestelmän käyttötarkoituksen muuttaminen siten, että siitä tulee suuririskinen, on toinen ilmoitettu edellytys. Jokainen tämän edellytyksen osa on tärkeä.
Entinen tarjoaja avustaa edelleen
Johdanto-osan kappaleessa (86) esitetyin edellytyksin entisen tarjoajan olisi tehtävä yhteistyötä ja annettava tietoja, kohtuudella odotettavissa oleva tekninen pääsy sekä muuta apua.
Sulautettu turvallisuuskomponentti
Jos tekoälyn turvallisuuskomponenttia ei saateta markkinoille tai oteta käyttöön itsenäisesti, tuotteen valmistajan olisi täytettävä sulautettua tekoälyä koskevat tarjoajan velvoitteet.
8. Yhteistyö, komponentit, avoin lähdekoodi ja sopimustuki
Yleiskäyttöistä tekoälyä koskeva yhteistyö
Johdanto-osan kappale (85): yleiskäyttöisten tekoälyjärjestelmien tarjoajien olisi tehtävä tiivistä yhteistyötä asiaankuuluvien suuririskisten järjestelmien tarjoajien ja toimivaltaisten viranomaisten kanssa, ellei asetuksessa toisin säädetä.
Kirjalliseen sopimukseen perustuva apu
Toimittajien olisi kirjallisella sopimuksella annettava tälle tarjoajalle tarvittavat tiedot, valmiudet, tekninen pääsy ja muu apu, joita vaatimustenmukaisuus edellyttää.
Immateriaalioikeuksien ja liikesalaisuuksien raja
Tämä apu perustuu yleisesti tunnustettuun tekniikan tasoon, mutta sen ei pitäisi vaarantaa toimittajan immateriaalioikeuksia tai liikesalaisuuksia.
Avoimen lähdekoodin rajoitus
Julkisesti saatavilla olevia maksuttomia ja avoimen lähdekoodin työkaluja, palveluja, prosesseja ja komponentteja, jotka eivät ole yleiskäyttöisiä tekoälymalleja, ei pitäisi velvoittaa täyttämään näitä arvoketjuun liittyviä vastuita.
9. Käyttöönottajan vastuut: käyttö, valvonta, työntekijät ja tiedottaminen
Käyttö ohjeiden mukaisesti
Johdanto-osan kappale (91): "käyttöönottajien olisi erityisesti toteutettava asianmukaiset tekniset ja organisatoriset toimenpiteet varmistaakseen, että ne käyttävät suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti".
Pätevä ihmisen suorittama valvonta
Käyttöohjeita toimeenpanevilla henkilöillä ja ihmisen suorittamaa valvontaa harjoittavilla henkilöillä olisi oltava riittävä tekoälylukutaito, koulutus ja toimivalta tehtäviensä asianmukaiseen suorittamiseen.
Työpaikkaa koskeva tiedottaminen
Johdanto-osan kappaleessa (92) säilytetään voimassa olevat työntekijöiden tiedottamista ja kuulemista koskevat velvollisuudet sekä kuvataan lisätiedotusvaatimus tilanteissa, joissa muiden välineiden edellytykset eivät täyty.
Ilmoita asianomaisille henkilöille soveltuvin osin
Johdanto-osan kappaleen (93) mukaan asiaankuuluvien käyttöönottajien olisi soveltuvin osin kerrottava luonnollisille henkilöille, että heihin sovelletaan järjestelmää, mikä on sen käyttötarkoitus, millaisia päätöksiä se tekee ja että heillä on oikeus selitykseen.
10. Perusoikeusvaikutusten arviointi ennen käyttöä
Biometriset suojatoimet
Johdanto-osan kappaleessa (95) todetaan, että jälkikäteen tehtävän etäbiometrisen tunnistamisen olisi oltava oikeasuhteista, oikeutettua, ehdottoman välttämätöntä ja kohdennettua, eikä se saisi johtaa lainvalvonnan summittaiseen valvontaan.
Kenen olisi arvioitava?
Johdanto-osan kappale (96): julkisoikeudellisten laitosten, julkisia palveluja tarjoavien yksityisten tahojen ja tiettyjen lueteltujen järjestelmien käyttöönottajien, kuten pankki- tai vakuutusyhteisöjen, olisi tehtävä perusoikeusvaikutusten arviointi ennen sen käyttöönottoa.
Mitä arviointi kattaa
Sen olisi yksilöitävä käyttöprosessit, käyttötarkoitus, käytön kesto ja tiheys, asianomaiset henkilöt ja ryhmät sekä erityiset perusoikeuksiin kohdistuvat haitat ja määritettävä toimenpiteet riskien toteutuessa.
Päivitä, ilmoita, osallista
Arviointi olisi päivitettävä, kun merkitykselliset tekijät muuttuvat; arvioinnin tekemisen jälkeen käyttöönottajan olisi ilmoitettava asiasta asiaankuuluvalle markkinavalvontaviranomaiselle. Sidosryhmien osallistaminen voisi olla asianmukaista.
11. Tietovisa: säilytä edellytykset ja oikeudellinen velvoittavuus
Valitse täsmällisin väite
Tässä kysymyksessä testataan kahta ydintaitoa: tarjoaja-aseman uudelleenkohdentamisen käynnistävien edellytysten säilyttämistä sekä lähdetekstin sanojen olisi, voi ja voisi käytön säilyttämistä.
Mikä väite vastaa johdanto-osan kappaletta (84) täsmällisimmin?
- Jokaisesta käyttöönottajasta tulee automaattisesti tarjoaja heti, kun se käyttää suuririskistä tekoälyjärjestelmää.
- Kolmatta osapuolta olisi pidettävä tarjoajana, jos se tekee suuririskiseen tekoälyjärjestelmään minkä tahansa muutoksen.
- Kolmatta osapuolta olisi pidettävä tarjoajana ilmoitettujen edellytysten täyttyessä, mukaan lukien silloin, kun se kiinnittää oman nimensä tai tavaramerkkinsä jo markkinoilla olevaan suuririskiseen järjestelmään, tekee olennaisen muutoksen järjestelmän pysyessä suuririskisenä tai muuttaa käyttötarkoitusta siten, että aiemmin ei-suuririskisestä järjestelmästä tulee suuririskinen.
- Sopimusjärjestely estää aina tarjoajan aseman muuttumisen.
Show Answer
Answer: C) Kolmatta osapuolta olisi pidettävä tarjoajana ilmoitettujen edellytysten täyttyessä, mukaan lukien silloin, kun se kiinnittää oman nimensä tai tavaramerkkinsä jo markkinoilla olevaan suuririskiseen järjestelmään, tekee olennaisen muutoksen järjestelmän pysyessä suuririskisenä tai muuttaa käyttötarkoitusta siten, että aiemmin ei-suuririskisestä järjestelmästä tulee suuririskinen.
Johdanto-osan kappale (84) on ehdollinen. Siinä luetellaan erityiset käynnistävät perusteet, mukaan lukien oma brändäys, olennainen muutos ilmoitetulla suuririskisellä lopputuloksella sekä käyttötarkoituksen muutos, jonka vuoksi aiemmin ei-suuririskisestä järjestelmästä tulee suuririskinen. Siinä ei todeta, että jokaisesta käyttöönottajasta tulee automaattisesti tarjoaja tai että mikä tahansa muutos riittäisi.
12. Muistikortit: arvoketjun kertaus
Käännä jokainen kortti ja muotoile sääntö omin sanoin
Kiinnitä erityistä huomiota edellytyksiin ja lähteen oikeudelliseen velvoittavuuteen: olisi ei ole sama kuin on; voi ja voisi ilmaisevat mahdollisuutta.
- Tarjoajan vastuu
- Johdanto-osan kappale (79): "tietty luonnollinen henkilö tai oikeushenkilö, joka määritellään tarjoajaksi, ottaa vastuun suuririskisen tekoälyjärjestelmän markkinoille saattamisesta tai käyttöönotosta" riippumatta siitä, suunnitteliko tai kehittikö kyseinen henkilö järjestelmän.
- Kolmanteen maahan sijoittautuneen tarjoajan edustaja
- Johdanto-osan kappale (82): "kolmansiin maihin sijoittautuneiden tarjoajien olisi kirjallisella toimeksiannolla nimettävä unioniin sijoittautunut valtuutettu edustaja."
- Päällekkäiset toimijaroolit
- Useammassa kuin yhdessä roolissa toimivan toimijan olisi täytettävä kumulatiivisesti kaikki näihin rooleihin liittyvät asiaankuuluvat velvoitteet; johdanto-osan kappaleessa (83) esimerkkeinä ovat maahantuoja ja jakelija.
- Tarjoaja-aseman uudelleenkohdentaminen
- Johdanto-osan kappale (84): "jakelijaa, maahantuojaa, käyttöönottajaa tai muuta kolmatta osapuolta olisi pidettävä suuririskisen tekoälyjärjestelmän tarjoajana ja sen olisi näin ollen vastattava kaikista asiaankuuluvista velvoitteista" siinä ilmoitettujen edellytysten täyttyessä.
- Toimittajan apu
- Johdanto-osan kappale (88): toimittajien "olisi kirjallisella sopimuksella annettava tälle tarjoajalle tarvittavat tiedot, valmiudet, tekninen pääsy ja muu apu" vaarantamatta immateriaalioikeuksia tai liikesalaisuuksia.
- Käyttöönottajan käyttötoimenpiteet
- Johdanto-osan kappale (91): "käyttöönottajien olisi erityisesti toteutettava asianmukaiset tekniset ja organisatoriset toimenpiteet varmistaakseen, että ne käyttävät suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti".
- Perusoikeusvaikutusten arviointi
- Johdanto-osan kappale (96): tiettyjen käyttöönottajien "olisi tehtävä perusoikeusvaikutusten arviointi ennen sen käyttöönottoa." Se olisi päivitettävä, kun käyttöönottaja katsoo merkityksellisten tekijöiden muuttuneen.
Key Terms
- deployer
- Toimija, joka käyttää suuririskistä tekoälyjärjestelmää konkreettisessa toimintaympäristössä. Johdanto-osan kappaleissa (91)–(96) kuvataan käyttöön, valvontaan, seurantaan, tiedottamiseen ja tietyissä tilanteissa perusoikeusvaikutusten arviointiin liittyviä vastuita.
- importer
- Tekoälyn arvoketjussa toimiva asiaankuuluva toimija. Johdanto-osan kappaleessa (83) todetaan, että maahantuoja voi toimia myös jakelijana ja että sen olisi tällöin täytettävä kumulatiivisesti molempiin rooleihin liittyvät velvoitteet.
- provider
- Johdanto-osan kappaleessa (79) yksilöity tietty luonnollinen henkilö tai oikeushenkilö, joka ottaa vastuun suuririskisen tekoälyjärjestelmän markkinoille saattamisesta tai käyttöönotosta riippumatta siitä, suunnitteliko tai kehittikö kyseinen henkilö järjestelmän.
- distributor
- Tekoälyn arvoketjussa toimiva asiaankuuluva toimija. Johdanto-osan kappaleessa (84) esitetyin edellytyksin jakelijaa voidaan pitää tarjoajana.
- intended purpose
- Tekoälyjärjestelmän käyttötarkoitus. Johdanto-osan kappaleen (84) mukaan käyttötarkoituksen muuttaminen voi käynnistää tarjoaja-aseman uudelleenkohdentamisen, jos aiemmin ei-suuririskisestä tekoälyjärjestelmästä tulee tämän vuoksi asetuksen mukaisesti suuririskinen.
- post-market monitoring
- Tehokas seurantajärjestelmä, joka johdanto-osan kappaleen (81) mukaan tarjoajan olisi perustettava järjestelmän markkinoille saattamisen tai käyttöönoton jälkeen.
- substantial modification
- Yksi johdanto-osan kappaleessa (84) ilmoitetuista edellytyksistä, jonka vuoksi kolmatta osapuolta voidaan pitää tarjoajana, kun se muuttaa jo markkinoille saatettua tai käyttöönotettua suuririskistä järjestelmää ja järjestelmä pysyy suuririskisenä.
- authorised representative
- Unioniin sijoittautunut edustaja, jonka kolmanteen maahan sijoittautuneen tarjoajan olisi johdanto-osan kappaleen (82) mukaan nimettävä kirjallisella toimeksiannolla ennen tekoälyjärjestelmien asettamista saataville unionissa.
- quality management system
- Toimiva järjestelmä, joka johdanto-osan kappaleen (81) mukaan tarjoajan olisi perustettava yhdessä vaatimustenmukaisuuden arvioinnin, dokumentaation ja tehokkaan markkinoille saattamisen jälkeisen seurannan kanssa.
- fundamental rights impact assessment
- Arviointi, joka tiettyjen käyttöönottajien olisi tehtävä ennen suuririskisen tekoälyjärjestelmän käyttöönottoa asianomaisiin henkilöihin tai ryhmiin kohdistuvien riskien ja näiden riskien toteutuessa toteutettavien toimenpiteiden yksilöimiseksi.