Presidentti Alexander Stubbin ja Norjan pääministerin Jonas Gahr Støren aloite kehittyneimpien tekoälymallien pakollisesta testauksesta on tervetullut avaus.
Tekoälyjärjestelmien kyvyt kehittyvät nopeasti, ja niiden turvallisuudesta käytävä keskustelu on välttämätöntä. Aloitteessa esitetään muun muassa pakollisia turvallisuustestejä, riippumatonta arviointia sekä kansainvälisten standardien kehittämistä. Nämä ovat oikeansuuntaisia toimenpiteitä.
Samalla on kuitenkin syytä tunnustaa yksi perustavanlaatuinen ongelma: Tekoäly ei ole valmis tuote samalla tavoin kuin silta, auto tai lääke. Sen koko idea perustuu jatkuvaan kehitykseen, uusiin versioihin, uusiin datalähteisiin ja uusiin käyttötapoihin.
Tämän vuoksi ennen käyttöönottoa tehtävä turvallisuustesti voi kertoa vain rajallisesti siitä, miten järjestelmä toimii kuukausien tai vuosien kuluttua.
Turvallisuuskeskustelussa pitäisikin siirtyä kertaluonteisesta hyväksynnästä jatkuvaan valvontaan. Kehittyneitä tekoälyjärjestelmiä tulisi seurata koko niiden elinkaaren ajan.
On tiedettävä, millaisia päätöksiä ne tekevät, mitä tietolähteitä ne käyttävät, ja pyrkivätkö ne ohittamaan niille asetettuja rajoituksia.
Erityisen tärkeää on huolehtia siitä, ettei yksikään tekoälyjärjestelmä saa hallitsematonta pääsyä kriittisiin tietojärjestelmiin.
Pankkeihin, sähköverkkoihin, viranomaisjärjestelmiin tai terveydenhuoltoon liittyvien toimintojen tulisi aina perustua useisiin turvakerroksiin ja ihmisen lopulliseen hyväksyntään. Tekoäly voi antaa suosituksia, mutta vastuun on säilyttävä ihmisellä.
Tarvitsemme myös riippumatonta valvontaa. Tekoäly-yhtiöiden ei pitäisi yksin päättää siitä, ovatko niiden tuotteet turvallisia.
Sama periaate pätee ydinvoimaan, ilmailuun ja lääketeollisuuteen. Ulkopuolinen auditointi lisää luottamusta ja auttaa havaitsemaan ongelmia, joita kehittäjät eivät itse näe. Auditointi tulee suorittaa oman, eristetyn tekoälyn ja ihmisten avulla.
Kansainvälinen yhteistyö on välttämätöntä, mutta siihen liittyy myös haaste. Liiallinen sääntely demokraattisissa maissa voi johtaa siihen, että teknologinen etumatka siirtyy diktatuurivaltioille, jotka eivät noudata samoja sääntöjä.
Toisaalta täydellinen sääntelyn puute voisi käynnistää kilpailun, jossa turvallisuus jää kehitysnopeuden jalkoihin. Tasapainon löytäminen on vaikeaa mutta välttämätöntä.
Tekoälyä opetetaan ihmisten ajatusmaailman perusteella, siksi mukaan tulee myös diktatuurien ideologia, jossa vastustajat eliminoidaan tavalla tai toisella. Tekoälylle voi tulla mieleen ihmisten eliminointi, koska ne haittaavat tekoälyn toimintaa.
Monta muutakin tieteiselokuvista tuttua katastrofia voi syntyä ilman jatkuvaa valvontaa.
Todennäköisemmät uhat ovat kuitenkin lähempänä arkea: disinformaatio, kyberrikollisuuden automatisointi, petokset sekä päätöksenteon keskittyminen harvojen toimijoiden käsiin. Näiden ongelmien torjuminen vaatii käytännöllisiä ratkaisuja, ei pelkästään julistuksia.