Hyväksymättömän tekoälyn raja

Johdanto-osan kappaleet määrittävät perustelut

Tämä oppitunti käsittelee johdanto-osan kappaleita (28)–(45). Ne selittävät, miksi jotkin tekoälykäytännöt ylittävät hyväksymättömän rajan, mutta niissä käytetään yleensä sanaa pitäisi, ei 5 artiklan velvoittavaa sanamuotoa on.

Kyseessä olevat arvot

Johdanto-osan kappale (28) perustaa rajan ihmisarvoon, vapauteen, yhdenvertaisuuteen, demokratiaan, oikeusvaltioon ja perusoikeuskirjan oikeuksiin, mukaan lukien syrjimättömyys, tietosuoja, yksityisyys ja lapsen oikeudet.

Ajantasaisuutta koskeva huomautus

1. heinäkuuta 2026 annettu Digital Omnibus -muutos on allekirjoitettu, mutta odottaa julkaisemista eikä ole voimassa. Se lisää muita 5 artiklan kieltoja, mutta ei muuta tässä tänään opetettavaa lähdetekstiä.

Kaikki vaikuttaminen ei ole manipulointia

Johdanto-osan kappale (29) keskittyy käyttäytymisen olennaisen vääristämisen tavoitteeseen tai vaikutukseen yhdessä merkittävän haitan tai sen kohtuullisen todennäköisyyden kanssa. Pelkkä suostuttelu ei tämän perusteella riitä.

Miten vääristymistä voi tapahtua

Johdanto-osan kappaleessa mainitaan havaitsemiskynnyksen alittavat ärsykkeet sekä manipuloivat tai harhaanjohtavat tekniikat, joita ihmiset eivät voi tunnistaa, hallita tai vastustaa. Virtuaalitodellisuus ja kone–aivorajapinnat voivat tehostaa ärsykkeiden hallintaa.

Haavoittuvuus ja kasautuva haitta

Hyväksikäyttö voi koskea ikää, vammaisuutta tai tiettyä sosiaalista tai taloudellista tilannetta. Haitta voi kohdistua kohdennettuun henkilöön, toiseen henkilöön tai ryhmiin, ja se voi kasautua ajan myötä.

Tahallisuutta ei aina vaadita

Ulkoiset, ennalta arvaamattomat tekijät, joita ei voida lieventää, voivat estää tarkoituksen olettamisen käyttäytymisen vääristämiseksi. Tarkoitusta aiheuttaa merkittävää haittaa ei kuitenkaan tarvita, jos haitta johtuu manipuloivista tai hyväksikäyttävistä tekoälyavusteisista käytännöistä.

Skenaario A: haitallinen VR-paine

Huomaamattomat vihjeet ja rajoitetut valinnat voivat kuulua johdanto-osan kappaleeseen (29), jos ne huomattavasti heikentävät itsenäistä päätöksentekoa ja aiheuttavat tai niiden voidaan kohtuudella odottaa aiheuttavan merkittävää taloudellista haittaa.

Skenaario B: hyväksikäyttö on ehdollista

Haavoittuva ryhmä ei yksinään täytä koko testiä. Yhdistä haavoittuvuus, hyväksikäyttö, käyttäytymisen olennainen vääristäminen sekä merkittävä haitta tai haitan kohtuullinen todennäköisyys.

Skenaario C: lääketieteellinen hoito

Sovellettavan lainsäädännön ja lääketieteellisten standardien mukaisesti toteutettuun lailliseen psykologiseen hoitoon tai fyysiseen kuntoutukseen, esimerkiksi nimenomaisella suostumuksella, ei pitäisi vaikuttaa tämän johdanto-osan kappaleen kiellon perustelujen.

Skenaario D: mainonta

Vaatimustenmukaista tavanomaista mainontaa ei pitäisi sellaisenaan pitää haitallisena manipulointina. Tekoälysäädöksen perustelut täydentävät myös kuluttajaoikeuden sääntöjä sopimattomista käytännöistä riippumatta siitä, käytetäänkö tekoälyä vai ei.

Arkaluonteinen päättely biometrisistä tiedoista

Johdanto-osan kappale (30) koskee kasvojen, sormenjälkien tai muiden biometristen tietojen käyttöä lueteltujen poliittisten, uskonnollisten, ammattiliittoon liittyvien, rodullisten, sukupuolielämää tai seksuaalista suuntautumista koskevien ominaisuuksien johtamiseksi tai päättelemiseksi.

Mikä jää tämän kuvauksen ulkopuolelle

Laillisesti hankittujen biometristen tietoaineistojen laillista lajittelua itse biometristen ominaisuuksien, kuten hiusten tai silmien värin, mukaan ei pitäisi kattaa. Ero on lajittelun ja arkaluonteisten ominaisuuksien päättelyn välillä.

Sosiaalisen pisteytyksen rakenne

Sosiaalinen pisteytys voi yhdistää eri tilanteissa ilmenevää käyttäytymistä ajan mittaan tunnettuihin, pääteltyihin tai ennustettuihin henkilökohtaisiin tai persoonallisuuden ominaisuuksiin ja tuottaa henkilöitä tai ryhmiä koskevan pisteytyksen.

Moitittava lopputulos

Johdanto-osan kappale (31) keskittyy haitalliseen kohteluun asiaankuulumattomassa sosiaalisessa yhteydessä tai kohteluun, joka on suhteetonta tai perusteetonta käyttäytymisen vakavuuteen nähden. Tietyt lailliset arvioinnit säilyvät erillisinä.

Miksi reaaliaikainen käyttö on erityisen tunkeilevaa

Julkisissa tiloissa reaaliaikainen etätunnistaminen voi vaikuttaa suureen osaan väestöstä, normalisoida valvonnan, estää kokoontumista ja voimistaa vinoumia. Sen välittömyys jättää vain vähän aikaa virheiden tarkistamiseen tai korjaamiseen.

Ei yleinen poliisityökalu

Johdanto-osan kappale kuvaa kiellon lukuun ottamatta tyhjentävästi lueteltuja, suppeasti määriteltyjä tilanteita. Käytön on oltava ehdottoman välttämätöntä merkittävän yleisen edun vuoksi, jonka merkitys on riskejä suurempi.

Neljän vuoden vakavuuskynnys

Liitteessä lueteltujen rikosten osalta jäsenvaltion lainsäädännössä on säädettävä "vapausrangaistuksesta tai säilöönottomääräyksestä, jonka enimmäiskesto on vähintään neljä vuotta".

Kohdentaminen ja valmistelu

Käytöllä pitäisi vahvistaa nimenomaisesti kohdennetun henkilön henkilöllisyys, ja sen pitäisi olla rajattu ajan, maantieteellisen alueen ja henkilöiden osalta. Perusoikeusvaikutusten arviointi ja tietokantaan rekisteröinti vaaditaan yleensä ensin.

Ennakkolupa on periaate

Jokaisella käytöllä pitäisi olla oikeusviranomaisen tai riippumattoman hallintoviranomaisen, jonka päätös on sitova, nimenomainen ja yksilöity lupa. Tavanomainen järjestys on lupa ennen käyttöä.

Kiireellisyydellä on tiukat edellytykset

Kiireellisyys edellyttää asianmukaisesti perusteltua tapausta, jossa ennakkoluvan saaminen on tosiasiallisesti ja objektiivisesti mahdotonta. Käytön pitäisi olla ehdottoman välttämätöntä vähäisempää, ja siihen pitäisi soveltaa kansallisessa lainsäädännössä ja tapauksessa asetettuja suojatoimia.

24 tunnin vaatimus

Kiireellisessä tilanteessa viranomaisen pitäisi pyytää perusteltua lupaa "ilman aiheetonta viivytystä ja viimeistään 24 tunnin kuluessa." Hylkäys tarkoittaa käytön välitöntä lopettamista ja siihen liittyvien tietojen poistamista.

Kansallinen valinta ja ilmoittaminen

Jäsenvaltiot voivat päättää olla luomatta mitään lupamenettelyä. Kun ne hyväksyvät sitä koskevat yksityiskohtaiset säännöt, "Tällaisista kansallisista säännöistä pitäisi ilmoittaa komissiolle 30 päivän kuluessa niiden hyväksymisestä."

Ennuste ei ole todiste

Johdanto-osan kappale (42) torjuu yksinomaan profilointiin tai persoonallisuuden piirteisiin perustuvan rikosriskin arvioinnin. Se ei koske analyyseja, jotka eivät perustu yksilölliseen profilointiin, kuten yritysten epäilyttävien liiketoimien analysointia.

Kohdentamaton kasvonkuvien haravointi

"Tekoälyjärjestelmät, jotka luovat tai laajentavat kasvojentunnistustietokantoja haravoimalla kohdentamattomasti kasvonkuvia internetistä tai CCTV-materiaalista, pitäisi kieltää".

Tunteiden havaitseminen epätasa-arvoisissa tilanteissa

Rajallinen luotettavuus ja kulttuurinen vaihtelu yhdistyvät työpaikan ja koulutuksen valtaepätasapainoon. Johdanto-osan kappale erottaa järjestelmät, jotka saatetaan markkinoille tiukasti lääketieteellisistä tai turvallisuussyistä, kuten terapeuttiset järjestelmät.

Muu unionin oikeus on edelleen merkityksellinen

Johdanto-osan kappaleessa (45) todetaan, ettei tämä asetus saisi vaikuttaa unionin tietosuoja-, syrjimättömyys-, kuluttajansuoja- tai kilpailulainsäädännössä kiellettyihin käytäntöihin.