SkarpSkarp

Chapter 7 of 25

Yleiskäyttöiset tekoälymallit ja systeeminen riski

Johdanto-osan kappaleissa otetaan käyttöön sääntelykerros malleille, jotka kykenevät palvelemaan monia myöhempiä käyttötarkoituksia, mukaan lukien tehokkaimmat ja laajimmin käyttöönotetut mallit. Dokumentaatio, tekijänoikeudet, arvioinnit, vaaratilanteista ilmoittaminen ja käytännesäännöt muodostavat oikeasuhteisen järjestelmän, joka muuttuu systeemisen riskin ilmetessä.

8 min readfi

Johdanto-osan kappaleet (97)–(100): Mikä on yleiskäyttöinen tekoälymalli?

Malli verrattuna järjestelmään

Johdanto-osan kappaleessa (97) erotetaan yleiskäyttöinen tekoäly-malli tekoäly-järjestelmästä. Malli tarvitsee lisäkomponentteja, kuten käyttöliittymän, ennen kuin siitä tulee tekoälyjärjestelmä.

Keskeiset ominaisuudet

Määritelmä perustuu "yleisyyteen ja kykyyn suorittaa pätevästi laaja joukko erilaisia tehtäviä". Tämä on johdanto-osan kappaleen keskeinen toiminnallinen testi.

Milloin velvoitteita olisi sovellettava

Velvoitteita olisi sovellettava, kun malli saatetaan markkinoille, myös silloin, kun sen tarjoaja sisällyttää oman mallinsa markkinoilla saataville asetettavaan tai käyttöön otettavaan tekoälyjärjestelmään.

Tutkimus ja sisäinen käyttö

Määritelmän ei pitäisi kattaa markkinoita edeltävää tutkimusta, kehittämistä tai prototypointia. Pelkästään sisäinen käyttö voi myös jäädä mallia koskevien velvoitteiden ulkopuolelle, jos se ei ole olennaista kolmannen osapuolen tuotteelle tai palvelulle eikä oikeuksiin vaikuteta.

Mittakaavan indikaattori

Johdanto-osan kappale (98): "malleilla, joissa on vähintään miljardi parametria ja jotka on koulutettu suurella tietomäärällä käyttäen itseohjautuvaa oppimista laajassa mittakaavassa, olisi katsottava olevan huomattavaa yleisyyttä".

Tyypillinen esimerkki

Suuret generatiiviset mallit ovat tyypillisiä yleiskäyttöisiä malleja, koska ne voivat tuottaa tekstiä, ääntä, kuvia ja videota monia erilaisia tehtäviä varten. Sellaisen sisältävästä järjestelmästä voi itsestään tulla yleiskäyttöinen.

Johdanto-osan kappale (101): Dokumentointi tekoälyn arvoketjussa

Arvoketjuun liittyvä vastuu

Johdanto-osan kappaleessa (101) mallin tarjoajaa pidetään ratkaisevana arvoketjun toimijana, koska myöhemmät tarjoajat voivat rakentaa monia myöhempiä järjestelmiä tarjoajan mallin pohjalta.

Oikeasuhteinen avoimuus

Johdanto-osan kappaleen mukaan oikeasuhteisiin avoimuustoimenpiteisiin olisi kuuluttava dokumentaation laatiminen ja ajan tasalla pitäminen sekä mallia koskevien tietojen antaminen myöhemmille tarjoajille.

Kaksi kohderyhmää

Tiedot auttavat myöhempiä tarjoajia integroinnissa ja vaatimusten noudattamisessa. Teknisten asiakirjojen olisi oltava pyynnöstä AI Office:n ja kansallisten toimivaltaisten viranomaisten saatavilla.

Mitä johdanto-osan kappaleessa ei luetella

Johdanto-osan kappaleessa todetaan, että liitteissä olisi täsmennettävä dokumentaation vähimmäisosat. Se ei itse sisällä kattavaa tarkistusluetteloa näistä osista.

Johdanto-osan kappaleet (102)–(104): Avoin lähdekoodi ei tarkoita, ettei sääntöjä ole

Avoimen lähdekoodin lisenssi

Johdanto-osan kappaleessa (102) käytetään muotoilua "sallii käyttäjien käyttää, kopioida, levittää, tutkia, muuttaa ja parantaa ohjelmistoja ja dataa, mukaan lukien malleja".

Avoimuus ja saatavuus

Johdanto-osan kappaleen kannalta parametrien, mukaan lukien painojen, arkkitehtuuritietojen ja mallin käyttötietojen julkinen saatavuus tukee korkeaa avoimuutta ja saatavuutta.

Poikkeusten raja

Maksullisten tai muulla tavoin rahaksi muutettujen komponenttien ei yleensä pitäisi saada vapaan ja avoimen lähdekoodin poikkeuksia. Pelkkä saatavuus avoimessa tietovarastossa ei ole rahaksi muuttamista.

Systeemiriskipoikkeus

Avoimen lähdekoodin avoimuuspoikkeuksia sovelletaan "ellei niiden voida katsoa aiheuttavan systeemiriskiä". Avoimet painot eivät poista systeemiriskiä koskevia velvoitteita.

Edelleen vaadittavat

Vaikka avoimen lähdekoodin poikkeusta sovellettaisiin, sen ei pitäisi kattaa tekijänoikeuspolitiikkaa eikä koulutuksessa käytetyn sisällön julkista yhteenvetoa.

Johdanto-osan kappaleet (105)–(109): Tekijänoikeuspolitiikka, koulutusyhteenveto ja oikeasuhteinen noudattaminen

Koulutus ja suojatut teokset

Johdanto-osan kappaleessa (105) todetaan, että koulutuksessa voidaan käyttää teksti- ja tiedonlouhintaa suojattuun sisältöön. Lupa tarvitaan, ellei sovellettavaa tekijänoikeuspoikkeusta tai rajoitusta sovelleta.

Oikeuksien pidättäminen

Jos oikeudenhaltija on asianmukaisesti ja nimenomaisesti pidättänyt oikeudet Directive (EU) 2019/790:n Article 4(3) mukaisesti, tarjoaja tarvitsee luvan näiden teosten louhintaan.

Tekijänoikeuspolitiikka

Johdanto-osan kappale (106): "yleiskäyttöisten tekoälymallien tarjoajien olisi otettava käyttöön politiikka unionin tekijänoikeutta ja lähioikeuksia koskevan lainsäädännön noudattamiseksi".

Julkinen koulutusyhteenveto

Johdanto-osan kappale (107): tarjoajien olisi "laadittava ja asetettava julkisesti saataville riittävän yksityiskohtainen yhteenveto yleiskäyttöisen tekoälymallin koulutuksessa käytetystä sisällöstä."

Kattava, ei lähdekooditason yksityiskohtainen

Yhteenvedon olisi oltava yleisesti kattava, mutta ei teknisesti yksityiskohtainen, ja sen olisi suojattava liikesalaisuuksia sekä luottamuksellisia liiketoimintatietoja.

Valvonta ja oikeasuhteisuus

AI Office:n olisi valvottava velvoitteiden täyttämistä tekemättä teoskohtaista tekijänoikeusarviointia. Noudattamisen olisi oltava oikeasuhteista, ja pk-yrityksille sekä startup-yrityksille olisi oltava yksinkertaistettuja reittejä.

Tietovisa 1: Avoin lähdekoodi ja tekijänoikeus

Valitse vastaus, joka vastaa parhaiten johdanto-osan kappaleita (102)–(108).

Yleiskäyttöinen malli julkaisee painonsa, arkkitehtuuritietonsa ja käyttötietonsa vaatimukset täyttävällä vapaalla ja avoimen lähdekoodin lisenssillä. Mikä väite on tarkin johdanto-osan kappaleen (104) mukaan?

  1. Se on automaattisesti vapautettu kaikista yleiskäyttöisiin tekoälymalleihin sovellettavista velvoitteista.
  2. Se voi saada poikkeuksia avoimuuteen liittyvistä vaatimuksista, mutta ei koulutussisällön yhteenvetoa tai tekijänoikeuspolitiikkaa koskevista velvoitteista; systeemiriski myös estää poikkeukseen vetoamisen.
  3. Se on vapautettu vain, jos sen kehittäjä on mikroyritys.
  4. Se on vapautettu aina, kun sen malli on isännöity avoimessa tietovarastossa.
Show Answer

Answer: B) Se voi saada poikkeuksia avoimuuteen liittyvistä vaatimuksista, mutta ei koulutussisällön yhteenvetoa tai tekijänoikeuspolitiikkaa koskevista velvoitteista; systeemiriski myös estää poikkeukseen vetoamisen.

Johdanto-osan kappaleessa (104) rajoitetaan avoimuuteen liittyvää poikkeusta. Siinä todetaan, ettei poikkeus kata julkista koulutussisällön yhteenvetoa tai tekijänoikeuksien noudattamista koskevaa politiikkaa ja ettei sitä sovelleta, jos mallin voidaan katsoa aiheuttavan systeemiriskin. Johdanto-osan kappaleessa (103) todetaan myös, ettei tietovaraston saatavuus yksin ole rahaksi muuttamista.

Johdanto-osan kappale (110): Systeemiriskien ymmärtäminen

Ohjaava ajatus

Johdanto-osan kappale (110): "Systeemiriskien olisi ymmärrettävä kasvavan mallin kyvykkyyksien ja mallin ulottuvuuden myötä". Molemmilla ulottuvuuksilla on merkitystä.

Elinkaaren olosuhteet

Riski voi syntyä koko elinkaaren ajan ja voi riippua väärinkäytöstä, luotettavuudesta, oikeudenmukaisuudesta, turvallisuudesta, autonomiasta, työkalujen käytöstä, julkaisemisstrategiasta ja poistettavissa olevista suojakaiteista.

Havainnollistavat haitat

Esimerkkejä ovat suuret onnettomuudet, kriittisten alojen häiriöt, vakavat vaikutukset kansanterveyteen ja turvallisuuteen, uhat demokraattisille prosesseille sekä laiton, väärä tai syrjivä sisältö.

Erityiset huolenaiheet

Johdanto-osan kappaleessa korostetaan CBRN-riskejä, hyökkäävää kyberkyvykkyyttä, kriittiseen infrastruktuuriin puuttumista, itsereplikaatiota, haitallista vinoumaa, disinformaatiota, yksityisyyshaittoja ja ketjutapahtumia.

Yhdistä tekijät

Systeemiriskin arvioinnissa ei pitäisi eristää yhtä ominaisuutta. Kyvykkyys, ulottuvuus, autonomia, työkalujen käyttö, suojatoimet, turvallisuus ja ennakoitavissa oleva väärinkäyttö voivat vaikuttaa yhdessä.

Johdanto-osan kappale (111): Systeemiriskin sisältävien mallien luokittelu

Luokittelulogiikka

Johdanto-osan kappaleessa (111) kuvataan systeemiriskiluokittelua suurivaikutteisten kyvykkyyksien tai mallin ulottuvuudesta johtuvan merkittävän sisämarkkinavaikutuksen perusteella.

Suurivaikutteiset kyvykkyydet

"Yleiskäyttöisten tekoälymallien suurivaikutteisilla kyvykkyyksillä tarkoitetaan kyvykkyyksiä, jotka vastaavat kehittyneimmissä yleiskäyttöisissä tekoälymalleissa todettuja kyvykkyyksiä tai ylittävät ne."

Laskenta on likiarvo

Liukulukutoimintoina mitattua kumulatiivista koulutuslaskentaa kuvataan merkitykselliseksi likiarvoksi. Se sisältää esikoulutuksen, synteettisen datan tuottamisen ja hienosäädön.

Tässä ei pysyvää numeerista sääntöä

Johdanto-osan kappaleessa todetaan, että alustavan FLOP-kynnyksen olisi luotava olettama, mutta tässä lähdekatkelmassa ei anneta sen lukuarvoa. Kynnyksiä olisi ajan mittaan mukautettava ja täydennettävä.

Yksilöllinen nimeäminen

Komissiolla olisi oltava mahdollisuus nimetä vastaava malli yksilöllisesti ottaen huomioon esimerkiksi data, käyttäjät, modaliteetit, autonomia, skaalautuvuus ja työkalujen käyttö.

Johdanto-osan kappaleet (112)–(113): Ilmoitus, kumoaminen ja pätevät hälytykset

Olettama

Mallin, joka täyttää sovellettavan suurivaikutteisten kyvykkyyksien kynnyksen, olisi oletettava olevan systeemiriskin sisältävä yleiskäyttöinen tekoälymalli.

Täsmällinen ilmoitusaika

"Tarjoajan olisi ilmoitettava AI Office:lle viimeistään kahden viikon kuluttua siitä, kun vaatimukset täyttyvät" tai kun tulee tiedoksi, että ne täyttyvät.

Olettaman kumoaminen

Tarjoajalla olisi oltava mahdollisuus osoittaa, että sen mallin erityispiirteet merkitsevät poikkeuksellisesti sitä, ettei se aiheuta systeemiriskejä.

Miksi varhaisella ilmoituksella on merkitystä

Lähteessä korostetaan suunniteltuja avoimen lähdekoodin julkaisuja: julkaisemisen jälkeen noudattamiseen tarvittavia toimenpiteitä voi olla vaikeampi toteuttaa.

Hälytykset ja nimeäminen

Jos tarjoaja ei ilmoittanut tai seikat olivat tuntemattomia, komissiolla olisi oltava valta nimetä malli. Tieteellisen paneelin pätevät hälytykset tukevat AI Office:n valvontaa.

Tietovisa 2: Systeemiriskiluokittelu

Testaa johdanto-osan kappaleissa (111)–(113) kuvattua luokittelumenettelyä.

Milloin tarjoajan olisi johdanto-osan kappaleen (112) mukaan ilmoitettava AI Office:lle mallista, joka täyttää sovellettavan suurivaikutteisten kyvykkyyksien kynnyksen tai jonka tiedetään täyttävän sen?

  1. Vasta sen jälkeen, kun malli on julkaistu julkisesti.
  2. Viimeistään kahden viikon kuluttua siitä, kun vaatimukset täyttyvät tai tulee tiedoksi, että ne täyttyvät.
  3. Kuuden kuukauden kuluessa ensimmäisestä myöhemmästä käyttöönotosta.
  4. Vain, jos AI Office lähettää ensin virallisen pyynnön.
Show Answer

Answer: B) Viimeistään kahden viikon kuluttua siitä, kun vaatimukset täyttyvät tai tulee tiedoksi, että ne täyttyvät.

Johdanto-osan kappaleessa (112) annetaan nimenomaisesti kahden viikon enimmäismääräaika. Se kattaa myös hetken, jolloin tulee tiedoksi, että malli täyttää vaatimukset, mikä heijastaa laajamittaiseen koulutukseen liittyvää ennakkosuunnittelua.

Johdanto-osan kappaleet (114)–(115): Arviointi, vaaratilanneilmoittaminen ja kyberturvallisuus

Enemmän kuin perusvelvoitteet

Johdanto-osan kappaleessa (114) lisätään systeemiriskivelvoitteita yleisiin tarjoajavelvoitteisiin: riskien tunnistaminen ja lieventäminen sekä riittävän kyberturvallisuuden ylläpitäminen erillisille tai sulautetuille malleille.

Arviointi ennen ensimmäistä markkinoille saattamista

Tarvittavat arvioinnit olisi tehtävä erityisesti ennen ensimmäistä markkinoille saattamista, "mukaan lukien mallien vastustajatestauksen suorittaminen ja dokumentointi".

Jatkuva lieventäminen

Esimerkkejä ovat hallinto- ja vastuuvelvollisuusprosessit, markkinoille saattamisen jälkeinen seuranta, elinkaaritoimenpiteet ja yhteistyö tekoälyn arvoketjussa.

Vakavat vaaratilanteet

Vakavan vaaratilanteen osalta "yleiskäyttöisen tekoälymallin tarjoajan olisi ilman aiheetonta viivytystä seurattava vaaratilannetta ja ilmoitettava kaikista merkityksellisistä tiedoista ja mahdollisista korjaavista toimenpiteistä".

Kyberturvallisuuden soveltamisala

Suojauksen olisi katettava vuoto, luvaton julkaisu, turvatoimien kiertäminen, kyberhyökkäykset, luvaton pääsy ja mallien varkaus.

Suojattavat varat

Johdanto-osan kappaleessa annetaan esimerkkejä: mallipainot, algoritmit, palvelimet ja data-aineistot, joita tuetaan operatiivisella tietoturvalla, kyberturvallisuuspolitiikoilla, teknisillä toimenpiteillä ja pääsynhallinnalla.

Johdanto-osan kappaleet (116)–(120): Käytännesäännöt ja digitaalisten palvelujen asiayhteys

Kuka kehittää käytännesäännöt?

Johdanto-osan kappaleessa (116) todetaan, että AI Office:n olisi kannustettava käytännesääntöjen laatimiseen, tarkistamiseen ja mukauttamiseen sekä helpotettava niitä yhteistyössä kansallisten viranomaisten kanssa ja tarvittaessa kuullen kansalaisyhteiskuntaa, asiantuntijoita ja Scientific Panel -paneelia.

Mitä käytännesääntöjen olisi katettava

Käytännesääntöjen olisi katettava yleiskäyttöisten mallien ja systeemiriskimallien tarjoajia koskevat velvoitteet. Systeemiriskin osalta niiden olisi autettava luomaan unionin tason riskiluokitus ja kohdennettuja lieventämistoimenpiteitä.

Keskeinen noudattamistyökalu

"Käytännesääntöjen olisi oltava keskeinen väline tämän asetuksen mukaisten yleiskäyttöisten tekoälymallien tarjoajia koskevien velvoitteiden asianmukaiseen noudattamiseen."

Muut noudattamisreitit

Komissio voi hyväksyä käytännesääntöjä tai antaa yhteisiä sääntöjä. Soveltuvien yhdenmukaistettujen standardien olisi annettava vaatimustenmukaisuusolettama, mutta vaihtoehtoiset riittävät keinot ovat edelleen mahdollisia.

Digital Services Act -asiayhteys

Nimettyjen erittäin suurten verkkoalustojen ja hakukoneiden osalta vastaavien velvoitteiden olisi oletettava täyttyvän, ellei malleissa ilmene merkittäviä paljastumattomia systeemiriskejä.

Haku-chatbot-esimerkki

Johdanto-osan kappaleessa (119) kuvataan chatbot, joka hakee periaatteessa kaikilta verkkosivustoilta, sisällyttää tulokset tietopohjaansa ja tuottaa yhden eri lähteistä saatua tietoa yhdistävän tuotoksen.

Ulkoista ajantasaisuutta koskeva huomautus

PE-CONS 30/26 allekirjoitettiin 8. heinäkuuta 2026, mutta se odottaa julkaisemista eikä ole voimassa 22. heinäkuuta 2026. Sen Article 56-60a -muutokset eivät vielä muuta tämän oppitunnin lähdesääntöjä.

Muistikortit: Keskeinen kertaus

Käännä jokainen kortti ja nimeä siihen liittyvä johdanto-osan kappale ennen vastauksen tarkistamista.

Yleiskäyttöisen mallin ominaisuudet
Johdanto-osan kappale (97): "yleisyys ja kyky suorittaa pätevästi laaja joukko erilaisia tehtäviä".
Miljardin parametrin indikaattori
Johdanto-osan kappale (98): "malleilla, joissa on vähintään miljardi parametria ja jotka on koulutettu suurella tietomäärällä käyttäen itseohjautuvaa oppimista laajassa mittakaavassa, olisi katsottava olevan huomattavaa yleisyyttä".
Avoimen lähdekoodin lisenssimuotoilu
Johdanto-osan kappale (102): "sallii käyttäjien käyttää, kopioida, levittää, tutkia, muuttaa ja parantaa ohjelmistoja ja dataa, mukaan lukien malleja".
Avoimen lähdekoodin systeemiriskiraja
Johdanto-osan kappale (104): avoimuuteen liittyviä poikkeuksia sovelletaan "ellei niiden voida katsoa aiheuttavan systeemiriskiä".
Tekijänoikeuspolitiikka
Johdanto-osan kappale (106): "yleiskäyttöisten tekoälymallien tarjoajien olisi otettava käyttöön politiikka unionin tekijänoikeutta ja lähioikeuksia koskevan lainsäädännön noudattamiseksi".
Julkinen koulutussisällön yhteenveto
Johdanto-osan kappale (107): tarjoajien olisi "laadittava ja asetettava julkisesti saataville riittävän yksityiskohtainen yhteenveto yleiskäyttöisen tekoälymallin koulutuksessa käytetystä sisällöstä."
Systeemiriskit
Johdanto-osan kappale (110): "Systeemiriskien olisi ymmärrettävä kasvavan mallin kyvykkyyksien ja mallin ulottuvuuden myötä".
Suurivaikutteiset kyvykkyydet
Johdanto-osan kappale (111): "Yleiskäyttöisten tekoälymallien suurivaikutteisilla kyvykkyyksillä tarkoitetaan kyvykkyyksiä, jotka vastaavat kehittyneimmissä yleiskäyttöisissä tekoälymalleissa todettuja kyvykkyyksiä tai ylittävät ne."
Ilmoituksen määräaika
Johdanto-osan kappale (112): "Tarjoajan olisi ilmoitettava AI Office:lle viimeistään kahden viikon kuluttua siitä, kun vaatimukset täyttyvät" tai kun tulee tiedoksi, että ne täyttyvät.
Mallin arviointi
Johdanto-osan kappale (114) edellyttää tarvittavia arviointeja erityisesti ennen ensimmäistä markkinoille saattamista, "mukaan lukien mallien vastustajatestauksen suorittaminen ja dokumentointi".
Vakavaan vaaratilanteeseen reagointi
Johdanto-osan kappale (115): "yleiskäyttöisen tekoälymallin tarjoajan olisi ilman aiheetonta viivytystä seurattava vaaratilannetta ja ilmoitettava kaikista merkityksellisistä tiedoista ja mahdollisista korjaavista toimenpiteistä".
Käytännesäännöt
Johdanto-osan kappale (117): "Käytännesääntöjen olisi oltava keskeinen väline tämän asetuksen mukaisten yleiskäyttöisten tekoälymallien tarjoajia koskevien velvoitteiden asianmukaiseen noudattamiseen."

Key Terms

AI model
Komponentti, joka voi suorittaa mallitoimintoja mutta joka ei yksinään muodosta tekoälyjärjestelmää; tarvitaan lisäkomponentteja, kuten käyttöliittymä.
AI system
Järjestelmä, joka voi sisältää tekoälymallin yhdessä lisäkomponenttien kanssa. Johdanto-osan kappaleen (100) mukaan yleiskäyttöisen mallin integroivaa järjestelmää olisi pidettävä yleiskäyttöisenä, jos integrointi antaa sille useita käyttötarkoituksia.
systemic risk
Todelliset tai kohtuudella ennakoitavissa olevat haitalliset vaikutukset, jotka voivat lisääntyä mallin kyvykkyyksien ja ulottuvuuden myötä ja joita voi syntyä koko sen elinkaaren ajan.
qualified alert
Mekanismi, jonka kautta tieteellisen paneelin olisi saatettava AI Office:n tietoon mallit, jotka voivat edellyttää systeemiriskiluokittelua.
adversarial testing
Testaus, jonka tarkoituksena on selvittää mallin heikkouksia tai haitallista käyttäytymistä; johdanto-osan kappaleessa (114) todetaan, että se olisi suoritettava ja dokumentoitava osana tarvittavia arviointeja.
downstream provider
Tekoälyn arvoketjussa myöhemmin toimiva tarjoaja, joka voi integroida yleiskäyttöisen mallin tuotteeseen tai järjestelmään.
general-purpose AI model
Malli, jolle ovat ominaisia yleisyys ja kyky suorittaa pätevästi laaja joukko erilaisia tehtäviä.
high-impact capabilities
Kyvykkyydet, jotka vastaavat kehittyneimmissä yleiskäyttöisissä tekoälymalleissa todettuja kyvykkyyksiä tai ylittävät ne.
presumption of conformity
Asema, joka soveltuvien julkaistujen eurooppalaisten yhdenmukaistettujen standardien olisi myönnettävä tarjoajille asiaankuuluvien velvoitteiden osalta johdanto-osan kappaleessa (117) kuvatulla tavalla.
free and open-source licence
Näiden johdanto-osan kappaleiden osalta lisenssi, joka sallii käyttäjien käyttää, kopioida, levittää, tutkia, muuttaa ja parantaa ohjelmistoja ja dataa, mukaan lukien malleja, mahdollisesti edellyttäen lähteen mainitsemista ja vertailukelpoisia levitysehtoja.

Finished reading?

Test your understanding with a custom practice exam on this chapter.

Test yourself