Tekoälyn sekä tietokoneiden ongelma on siinä, että ne eivät paljon sovella saamiaan käskyjä
Oletteko koskaan kuulleet “mustasta joutsenesta”. Ilmiöstä joka on äärimmäisen epätodennäköinen mutta samalla kuitenkin mahdollisuuksien rajoissa. Eli pitäisikö tekoälyn puolustaa esimerkiksi auton ajajaa sekä matkustajia silloin jos auto kohtaa äärimmäisen väkivaltaisen tilanteen, missä tekijänä on ihminen? Jos ajatellaan tilannetta että ryöstäjä ryntää ulos kaupasta ase kädessään, niin pitäisikö tekoälyn ajaa tuon ryöstäjän yli. Tai oikeastaan tämä esimerkki on vähän huono, koska tietenkin tekoälyn pitää tuolloin myös kyetä erottamaan ryöstäjä siitä tavallisesta ihmisestä.
Tekoäly on väline mikä herättää sekä uteliaisuutta että pelkoa, ja yksi syy tähän on se, että tekoäly ei juurikaan sovella saamiaan käskyjä. Jos ajatellaan tilannetta, että robottiauton pitäisi suojella sen matkustajana olevaa ihmistä, niin tällainen tekoäly on melko vaikeaa toteuttaa. Esimerkiksi miten tekoäly toimii silloin jos autoa yritetään pysäyttää? Jos ajatellaan että tekoäly sitten näkee pysäytysmerkin, niin pitäisikö sen pysäyttää auto, vaikka pysäyttävällä henkilöllä ei ole poliisin merkkiä? Tuolloin auto saattaa kiihdyttää suoraan keskelle tietyötä tai onnettomuuspaikan läpi.
Toisaalta taas sitten esimerkiksi ryöstäjä saattaa näyttää pysähtymismerkkiä, mikä pitää tekoälyä kehittävän ohjelmoijan ottaa huomioon. Jos tekoäly suojelee ihmistä toisen ihmisen aiheuttamaa uhkaa vastaan, niin silloin sen ohjelmoiminen on vaikeampaa kuin ihmiset yleensä luulevat. Eli kuten tiedämme, niin inhimillinen tekijä tekee kaikista asioista hieman vaikeampia kuin mitä ne muuten ovat, ja kysymys on siitä, että mitä tekoälyn ohjaama taksi tekee tai mitä sen pitäisi tehdä silloin, kun joku pyrkii sen sisään liikennevaloissa matkustajan ollessa kyydissä?
Mutta jos tekoälyn tehtävä on suojella matkustajana olevaa presidenttiä esimerkiksi terroristeja vastaan niin silloin kyseessä on tilanne, missä robotti saattaa esimerkiksi ajaa ihmisten ylitse, koska sen tekoäly käsittää saavansa tehtävän, missä sen ainoa tehtävä on suojella matkustajaa, ja jos auto joutuu pysähtymään, niin terroristit saattavat hyökätä matkustajan päälle. Tuolloin tietenkin voimme sanoa että tekoäly ei saisi missään nimessä hoitaa tällaisia tilanteita, tai että ihmisiä jotka ovat suojateillä pitäisi aina väistää.
Suurin osa ihmisistä ei koskaan joudu elämässään ryöstöjen kohteeksi. Aivan kuten suurin osa ihmisistä ei koskaan kohtaa tilannetta, missä lentokone törmää taloon. Eikä suurin osa ihmisistä tuolloin vuonna 2001 ollut varautunut siihen, että lentokoneet ohjataan tahallaan talon seinään. Tällaista ilmiötä kutsutaan nimellä “Musta joutsen”. Eli äärimmäisen epätodennäköinen ilmiö muuttuu todelliseksi ihmisen kohdalla.
Tässä herää kysymys, että mitä jos vaikka auto joutuu suojatien edessä vihamielisen jengin piirittämäksi? Mitä sen silloin pitäisi tehdä? Tietenkin tekoäly voi lähettää tilannekuvan poliisille, joka sitten tulee apuun, mutta mitä jos joku hakkaa esimerkiksi auton ikkunaa sisään? Eli viranomaisten hälyttäminen on varmasti hyvä asia. Mutta tässä tilanteessa pitäisi ehkä kuitenkin jotain myös auton itsensä tehdä. Ihmisten väliset suhteet ovat melko mutkikkaita asioita, ja aina voi tulla eteen tilanne, missä esimerkiksi joku joukko kohdistaa kuolettavaa väkivaltaa ihmiseen. Samoin pitäisikö tekoälyn ohjaaman auton pysähtyä paikalle silloin, kun joku on esimerkiksi väkivallan kohteena. Vai yksinkertaisesti kaasuttaa ohi, ja lähettää paikkatieto asiasta poliisille. Jos auto sitten pysähtyy, niin miten sen on tämän jälkeen toimittava.
Ja miten tekoäly sitten toteaa sen, että joukon aikomus yksilöä kohtaan on todella sellainen, missä se aikoo käyttää kuolettavaa väkivaltaa. Riittääkö se että toinen riitaan osallistuvista on aseistettu että tekoälyn ohjaama auto kaasuttelee suoraan jonkun ihmisen yli? Ja mitä jos esimerkiksi tämä aseistettu henkilö on sitten poliisi? Tai onko tekoälyn sitten toteltava jokaista, joka on kirjoittanut takin selkään sanna “poliisi”. Samoin voidaan kysyä että miten tekoälyä käyttävän auton pitäisi kyetä toimimaan silloin jos se näkee nakkikioskilla tapahtuvaa nahistelua?
Voidaan tietenkin olettaa että tekoälyä käyttävä auto varustetaan infrapunakameralla sekä ohjelmistolla, mikä havaitsee veitsen tai ampuma-aseen vaatteiden alta tai päältä. Sitten saattaa vastaan tulla tilanne, missä esimerkiksi työmies joutuu metelin takia korottamaan ääntään puukko roikkuen haalareissa, ja silloin tekoäly voi tulkita myös tämän tilanteen uhkaavaksi, ja syöksyä kioskin ikkunasta sisään.
Silloin tulemme siihen vaiheeseen, että tällainen asia missä ihmisen henki on uhattuna toisen ihmisen taholta tapahtuu vain hyvin harvoin, joten voimme jättää nämä asiat sitten pois ohjelmistosta, ja sitten lukea tästä asiasta jostain lehdestä. Toki saattaa käydä niin, että juuri me olemme tuossa taksissa mikä piiritetään vihamielisen joukon toimesta, ja silloin mieleen tulee se, että tätä asiaa missä tekoäly joutuu varautumaan toisen ihmisen aiheuttamaa uhkaa vastaan olisi pitänyt varautua.
Eli voimme joko ummistaa silmiämme joltain asialta, ja vain toivoa että mitään ei tapahdu. Tai sitten miettiä muutaman kahvikupillisen verran sitä, miten tekoälyn pitäisi näissä äärimmäisen harvinaisissa tapauksissa toimia. Tällaiset asiat ovat sellaisia, mitä pitää pohtia kun automatiikkaa lisätään.
Ei kommentteja:
Lähetä kommentti
Huomaa: vain tämän blogin jäsen voi lisätä kommentin.