SkarpChapter 3 of 3
Julkaisu ei ole maaliviiva: mitä tehdään, kun botti alkaa keksiä sääntöjä?
Kuuntelijat osaavat muodostaa vastuullisen käyttöönoton vähimmäissilmukan, jossa tuloksia seurataan, haittailmoitukset käsitellään, vastuut nimetään ja vaarallisesti käyttäytyvä järjestelmä voidaan korjata tai pysäyttää.
1. Ensimmäinen kysymys: muuttuiko botti vai maailma sen ympärillä?
Julkaisun jälkeen alkaa todellinen testi
Botti lupaa palautusehdon, jota organisaatio ei ole koskaan hyväksynyt. Testaus ei ennakoinut tätä käyttötilannetta.
Vähimmäissilmukka on: havaitaan, kirjataan, arvioidaan, päätetään, korjataan ja varmistetaan.
Seuranta kohdistuu ennalta sovittuihin merkkeihin, ei epämääräiseen tunteeseen siitä, että botti vaikuttaa oudolta.
2. Tee seurannasta mittaritaulu, ei arvailua
Kolme näkymää
Seuraa yhtä aikaa vastauslaatua, ihmisen tekemiä korjauksia ja haittasignaaleja.
Teknisesti onnistunut suoritus ei vielä tarkoita, että palvelu ohjasi ihmisen oikein tai turvallisesti.
Mittarin pitää johtaa kysymykseen: mitä tapahtui, kenelle ja mitä seuraavaksi tehdään?
3. Ajatuskoe: mikä oikeastaan muuttui?
Etsi muutoksen lähde
Kuvitelkaa, että henkilöstöbotti alkaa yhtäkkiä ehdottaa vanhentunutta etätyökäytäntöä. Ennen korjausta erotellaan kolme mahdollista muutosta:
- Malli muuttui: palveluntarjoaja päivitti malliversion tai turvallisuussuodattimen.
- Tietolähde muuttui: botti hakee intranetistä vanhan ohjeen, koska uusi ohje on tallennettu eri paikkaan tai epäselvällä otsikolla.
- Käyttöympäristö muuttui: käyttäjät ovat alkaneet kysyä kysymyksiä uudella sanastolla, jota testit eivät kattaneet.
Sama virhe voi siis vaatia täysin eri korjauksen. Malliversion muutos voi edellyttää regressiotestiä. Vanhentunut lähde vaatii tiedonhallinnan korjauksen. Uusi kysymystapa voi vaatia käyttöliittymän ohjausta tai uusia testitapauksia.
Kirjatkaa jokaisesta merkittävästä muutoksesta vähintään päivämäärä, muutos, oletettu vaikutus, vastuuhenkilö ja hyväksynnän peruste. Näin myöhempi poikkeama voidaan yhdistää muutokseen eikä sitä tarvitse selvittää muistin varassa.
4. Poikkeamailmoitus on tutkintalippu, ei häpeäraportti
Poikkeama talteen
Poikkeama voi olla vahinko tai läheltä piti -tilanne. Ilmoittamisen pitää olla nopeaa, näkyvää ja syyllistämätöntä.
Tallenna tapahtuma, käyttötilanne, versio, tietolähde, haitta, välitoimi, omistaja ja määräaika.
Ilmoitus säilyttää tutkittavan havaintoketjun. Se ei ole vielä lopullinen selitys virheen syystä.
5. Pysäytysehto vastaa kysymykseen: kuka saa sanoa stop?
Stop ei saa olla epäselvä
Pysäytysehto kertoo ennalta, mikä havainto katkaisee automaation ja siirtää työn turvalliseen tilaan.
Tarvitaan raja, päätösvalta, turvatila ja testattu menettely käyttöön palaamiselle.
Käytöstäpoisto tarkistaa myös integraatiot, välimuistit ja automaattiset viestit.
6. Neljä korttia käyttöaikaiseen hallintaan
Käännä kortit ja tarkista, mitä kukin osa tekee.
- Käytönaikainen seuranta
- Ennalta sovittujen laatu-, korjaus- ja haittasignaalien jatkuvaa tarkastelua oikeassa käytössä.
- Poikkeama
- Havaittu vaarallinen, virheellinen tai sovitusta toiminnasta poikkeava tapahtuma, joka kirjataan ja tutkitaan.
- Pysäytysehto
- Ennalta määritelty raja ja toimintamalli, joka keskeyttää automaation tai rajaa sen käyttöä.
- Turvallinen käytöstäpoisto
- Hallittu alasajo, jossa käyttäjät, työnkulut, integraatiot ja tietojen säilytys käsitellään niin, ettei riski kasva.
7. Mitä EU:n tekoälysäädöksen aikataulu tarkoittaa juuri nyt?
Tämänhetkinen tilanne
Asetus tuli voimaan 1. elokuuta 2024 ja on 22. syyskuuta 2026 jo pääosin sovellettava.
Liitteen III suuririskisääntöjä sovelletaan 2. joulukuuta 2027 ja liitteen I tuoteturvallisuuteen kytkeytyviä sääntöjä 2. elokuuta 2028.
Vastuullista seurantaa ei kannata lykätä määräpäivään: se on käyttökelpoinen toimintatapa jo nyt.
8. Sovella vähimmäissilmukkaa
Botti alkaa uuden malliversion jälkeen antaa väärää ohjetta kasvavalle joukolle käyttäjiä. Mikä on paras ensimmäinen toimintaketju?
Mikä vaihtoehto rakentaa vastuullisen käyttöönoton vähimmäissilmukan?
- Kirjataan poikkeamat ja versiotiedot, verrataan havaintoja pysäytysehtoon, rajataan käyttö tarvittaessa, korjataan ja testataan ennen palautusta.
- Odotetaan viikon ajan, vähenevätkö valitukset itsestään, koska uusi malli voi oppia käytöstä.
- Poistetaan yksittäiset virheelliset vastaukset ja pidetään järjestelmä muuten ennallaan ilman tutkintaa.
Show Answer
Answer: A) Kirjataan poikkeamat ja versiotiedot, verrataan havaintoja pysäytysehtoon, rajataan käyttö tarvittaessa, korjataan ja testataan ennen palautusta.
Oikea ketju yhdistää havainnon dokumentointiin, ennalta sovittuun päätösrajaan, turvalliseen rajaamiseen sekä korjauksen jälkeiseen varmistukseen. Se ei oleta, että ongelma korjaantuu itsestään.
Key Terms
- pysäytysehto
- Ennalta päätetty raja, jonka ylittyessä automaatio keskeytetään, rajataan tai siirretään ihmisen tarkastettavaksi.
- käytönaikainen seuranta
- Järjestelmän toiminnan, vaikutusten ja uusien riskien säännöllinen tarkastelu sen ollessa käytössä.
- poikkeamien dokumentointi
- Haitan, virheen tai läheltä piti -tilanteen kirjaaminen niin, että se voidaan tutkia, korjata ja jäljittää.
- turvallinen käytöstäpoisto
- Järjestelmän hallittu alasajo siten, että käyttäjät, työnkulut ja tekniset kytkennät eivät synnytä uusia riskejä.
- markkinoille saattamisen jälkeinen seuranta
- EU:n tekoälysäädöksen suuririskisille järjestelmille edellyttämä dokumentoitu seuranta niiden käyttöönoton jälkeen.