Tulevan EU:n tekoälyasetuksen yksityiskohdat ovat vielä epäselviä, mutta perjantaina saavutettu neuvottelutulos oli iso edistysaskel, sanoo europarlamentaarikko Miapetra Kumpula-Natri (sd.) Vaikka samantyyppisiä aloitteita on tehty myös muualla maailmassa, toteutuessaan asetus on ensimmäinen selkeästi tekoälyä säätelevä laki.
– Iso asia on se, että tekoälyä ylipäätään säädellään, Kumpula-Natri kertoi STT:lle lauantaina.
Hänen mukaansa asetus tähtää siihen, että tekoälyä käytetään turvallisesti ja säännellään sen mukaan, miten suuria riskejä kuhunkin käyttötarkoitukseen sisältyy. Tarkkoja yksityiskohtia tarkistetaan vielä, eikä Kumpula-Natrilla ollut lauantaina niitä tiedossaan. Jopa tekoälyn määritelmästä keskusteltiin hänen mukaansa vielä loppumetreillä.
– Sitä on väännetty siellä loppuun saakka, hän kertoo neuvottelijoilta saamiensa tietojen perusteella.
Kumpula-Natri ei itse ollut mukana neuvotteluissa, mutta on muun muassa osallistunut aiemmin asetuksen käsittelyyn Euroopan parlamentin teollisuus-, tutkimus- ja energiavaliokunnassa.
"Monelta ehti mennä vähän usko"
Julkisoikeuden professori Susanna Lindroos-Hovinheimo pitää merkittävimpänä sitä, että tekoälyasetuksesta on nyt löytynyt sopu. EU-komissio antoi alkuperäisen ehdotuksensa asiasta jo keväällä 2021.
– Tässähän ehti monelta mennä vähän uskokin siihen, tuleeko se vai ei, kun sitä on tosi kauan neuvoteltu. On vaikuttanut siltä, että siinä on ollut aika vaikeitakin neuvottelukysymyksiä, sanoo Helsingin yliopistossa työskentelevä Lindroos-Hovinheimo.
Hänen mukaansa asetuksen käytännön vaikutuksia on hankala arvioida, koska yksityiskohdat ovat vielä epämääräisiä ja lain tulkinta muotoutuu vasta tulevien oikeusistuimien päätösten myötä. Myöskään kaikkien asetuksen termien tarkka merkitys ei ole vielä selvillä.
– Tämä on hankala lainsäädännön ala, koska teknologia on niin monimuotoista. On vaikea löytää lainsäädäntömallia, joka sopisi kaikelle tekoälylle, Lindroos-Hovinheimo sanoo.
Positiivisena yksityiskohtana hän nostaa esiin sen, että asetukseen on tulossa velvollisuus arvioida tekoälyjärjestelmien vaikutukset perusoikeuksiin jo etukäteen.
– Se tuo tietynlaista turvaa.
Kasvojentunnistus sallitaan poikkeustapauksissa
Uudessa asetuksessa tekoälyjärjestelmiä luokitellaan eri riskitasoille ja riskialtteimmiksi arvioidut kielletään kokonaan.
Kiellettyjä olisivat muun muassa sosiaalinen pisteyttäminen käytöksen tai luonteenpiirteiden mukaan sekä järjestelmät, jotka "manipuloivat ihmisten käytöstä kiertääkseen heidän vapaata tahtoaan", parlamentti kertoi tiedotteessa.
Kokonaan kiellettäisiin myös ihmisten arkaluontoisia tietoja hyödyntävä biometrinen kategorisointi sekä tiettyjen haavoittuvuuksien, kuten ihmisen iän, taloudellisen tilanteen tai vamman, hyväksikäyttö tekoälysovelluksissa. Samoin kiellettäisiin tunteiden tunnistamisteknologia työpaikoilla ja oppilaitoksissa, kohdistamaton kasvokuvien tallentaminen internetistä tai valvontakamerakuvista sekä tietyt etukäteisprofiloinnin muodot.
Biometrisistä tunnistamisjärjestelmistä, kuten kasvojentunnistuksesta, väännettiin Kumpula-Natrin mukaan loppuun asti.
– Parlamentti olisi halunnut kieltää kasvojentunnistusjärjestelmät täysin.
Asetuksen mukaan esimerkiksi kasvojentunnistus on lähtökohtaisesti kiellettyä, mutta lainvalvonnassa voidaan tehdä tiettyjä poikkeuksia. Niitä olisivat yksilöidyn ja välittömän terrorismiuhan estäminen sekä tietyistä rikoksista epäiltyjen tai niiden uhrien etsiminen.
Päätöksistä on voitava valittaa
Korkeariskisiksi luokitellaan esimerkiksi äänestyskäyttäytymiseen vaikuttavat tai muutoin merkittäviä riskejä sisältävät tekoälyjärjestelmät. Niiden kohdalla ihmisten on esimerkiksi saatava tietää, millä perusteella heihin liittyviä päätöksiä on tehty.
– Korkean riskin päätöksiin täytyy olla niin sanottu valitusmahdollisuus. Myös korkean riskin järjestelmistä täytyy raportoida esimerkiksi, kuinka ne on testattu, Kumpula-Natri lisää.
Matalamman riskin järjestelmissä vaatimuksia asetetaan muun muassa läpinäkyvyydelle. Käyttäjän on muun muassa saatava tietää, mitä tekoäly tekee.
– Jos kirjaudut pankin sivulle ja sieltä pompsahtaa esiin ruutu "Hei tässä Sylvi, voinko palvella sinua", käyttäjän pitää tietää, että Sylvi ei ole henkilö vaan tekoäly.
EU:n neuvosto kertoo tiedotteessaan, että asetuksen ulkopuolelle rajautuvat esimerkiksi sellaiset tekoälyjärjestelmät, joita käytetään pelkästään puolustus- tai sotilaallisiin tarkoituksiin tai tutkimus- ja innovaatiokäyttöön. Sääntely ei myöskään saisi vaikuttaa jäsenmaiden kyvykkyyteen ylläpitää kansallista turvallisuutta.
– Siinä voi tulla kiinnostavia rajanvetoja, kun tulkitaan, mikä on rikosten selvittämistä ja torjuntaa. Monesti ne asiat voivat olla käytännössä aika lähellä kansallista turvallisuutta, professori Lindroos-Hovinheimo sanoo.
ChatGPT mukaan viime metreillä
Sääntelyä suunnitellessa on jouduttu käymään kilpajuoksua jatkuvasti kehittyvän teknologian kanssa. Kuluttajille suunnatut tekoälysovellukset alkoivat vyöryä markkinoille vasta komission ehdotuksen jälkeen, eikä esimerkiksi ChatGPT:n kaltaisten kielimallien pitänyt alun perin sisältyä lakiin lainkaan.
– Loppuun saakka väännettiin aika paljon, että otetaanko perustamallit mukaan, eli juurikin nämä ChatGPT:t ja tällaiset, Kumpula-Natri kertoo.
ChatGPT on viime vuoden lopulla lanseerattu kielimalli, joka jäljittelee inhimillistä keskustelukumppania ja tuottaa tekstiä vastauksena käyttäjän kysymyksiin tai viesteihin.
Tekoälyasetus vaatii vielä sekä parlamentin että neuvoston hyväksynnän. Kumpula-Natrin mukaan nyt on tärkeää, että asetus saadaan valmiiksi ja hyväksyttyä nykyisen parlamentin kaudella.
Yritysmaailmassa on ollut myös huolia siitä, kuinka sääntely vaikuttaa eurooppalaisiin tekoäly-yrityksiin. Uutistoimisto AFP:n mukaan esimerkiksi kansainvälinen tietotekniikka-alan edunvalvoja CCIA kritisoi kompromissia tuoreeltaan.
Suomessa työ- ja elinkeinoministeriö julkaisi tällä viikolla selvityksen, jonka mukaan suomalaisyritykset kokevat asetuksen epäselvyyden ja vaikeasti ennakoitavat vaikutukset kuormittaviksi. Yleisesti asetuksen vaatimusten nähtiin silti olevan linjassa yleisten hyvien toimintamallien kanssa, eikä "kriittisen raskaita" velvoitteita tunnistettu, ministeriö kertoi.
Lindroos-Hovinheimo huomauttaa, että asetus vaikuttaa myös julkisiin palveluihin, kuten kouluihin, sairaaloihin ja erilaisiin viranomaisiin.
– Niissä voi myös olla ihan kiinnostavia tilanteita, löytyykö resursseja, ymmärrystä ja osaamista, hän pohtii.
– Se ainakin on varmaa, että juristeille ja konsulttiyhtiöille tulee lisää töitä.