Miksi tekoäly tekee virheitä – ja miten niitä voidaan välttää

Tekijä: Oluwole Akinwale, Johtaja, Professional Services

Muutama vuosi sitten hyvä ystäväni lähti matkalle noudattaen uskollisesti navigaattorinsa jokaista ohjetta. Useiden käännösten ja uudelleenlaskentojen jälkeen laite ilmoitti iloisesti: "Olet saapunut määränpäähäsi." Ongelma? Hän tuijotti valtavaa vesialuetta – aivan kuin navigaattori olisi sanonut: "Mene, syöksy veteen!" Hänen todellinen määränpäänsä oli kilometrien päässä. Lopulta hän hylkäsi tekniikan ja löysi tiensä vanhan kunnon paperikartan avulla.

Tekoäly on hyvin samanlainen, kun se on väärässä. Se ei epäröi. Se ei sano "Hmm, en ole varma tästä." Se antaa vastauksen täysin varmasti, aivan kuin se olisi ehdottoman varma, vaikka se ei olisikaan.

Siinä piilee hankala osuus: sävy, sanamuoto, ulkoasu... kaikki tuntuu luotettavalta. Mutta vain koska jokin äänet oikea ei tarkoita sitä is oikein. Luottamus ei ole sama asia kuin oikeellisuus – ja tekoälyn kanssa meidän on muistettava se.

Miksi tekoäly sitten kaikella laskentatehollaan tekee asioita silti väärin?

Yleensä syyllisiä on yksi kolmesta. Ajattele heitä "tavallisina epäiltyinä" missä tahansa tekoälyn mokassa.

1. Tiedon vinouma

Tekoälyä koulutetaan käyttämään suuria tietomääriä, mikä auttaa sitä havaitsemaan kaavoja, tekemään ennusteita ja antamaan vastauksia "oppimansa" perusteella. Datan laatu, monimuotoisuus ja tasapaino muokkaavat linssiä, jonka läpi tekoäly näkee maailman. Se on kuin vanha sanonta heimoltani: "Lapsi luulee aina, että ennen kuin hän vierailee ystävänsä isän maatilalla, hänen isällään on kaupungin suurin maatila."

Samoin, jos tekoälyä ei kouluteta monipuolisen ja tasapainoisen datan kanssa, se päätyy näkemään maailman rajoitetusti tai jopa vääristyneesti. Se saattaa kuulostaa älykkäältä ja itsevarmalta, mutta se voi ohittaa kokonaiskuvan, ja se voi johtaa epäreiluihin tai epätarkkoihin vastauksiin.

Kuvittele tekoäly, joka on koulutettu seulomaan työnhakijoita, ja joka näkee enimmäkseen aiemmin palkattuja miehiä. On olemassa riski, että se tietämättään suosii miespuolisia ehdokkaita.

Ymmärsitkö idean? Siirrytäänpä toiseen asiaan.

2. Virheelliset tai puutteelliset tiedot

Tekoäly on vain niin älykäs kuin sille syötetty data. Jos data on vanhentunutta, virheellistä tai puutteellista, myös tulokset ovat epätarkkoja. Kyseessä on klassinen "roskaa sisään, roskaa ulos" -ongelma.

Muutama kuukausi sitten rakensin tekoälypohjaisen globaalin hälytysjärjestelmän, joka lähettää päivityksiä Telegram-kanavalle. Aluksi malli kutsui Donald Trumpia "entiseksi Yhdysvaltain presidentiksi". Se olisi pitänyt paikkansa jonkin aikaa sitten, mutta ei enää. Malli oli joko koulutettu aiemmin tarkalla datalla, joka on sittemmin vanhentunut, tai mallin vasteen parantamiseen käytetty tietokanta oli vanhentunut. Kun vaihdoin toiseen malliin, joka oli koulutettu päivitetyllä datalla tai päivitetyllä tietokannalla, ongelma ratkesi.

Sama asia tapahtuu muillakin alueilla. Matkailu-chatbot saattaa ehdottaa pientä kahvilaa – vain saadaksesi selville, että se suljettiin kolme vuotta sitten. Jälleen kerran, se ei ole tekoälyn vika. Se vain työskentelee vanhan tiedon kanssa.

3. Väärintulkinta (tai ”hallusinaatio”)

Kun tekoälyllä ei ole oikeaa tietoa, se ei sano "en tiedä" – se vain keksii jotakin ja sanoo sen itsevarmasti.

Kerran olin valmistautumassa puheeseen ja pyysin ChatGPT:ltä inspiroivia, tunnettuja lainauksia aiheesta. Sain niitä kourallisen… ja ne kuulostivat upeilta. Ainoa ongelma? Pari niistä oli kokonaan keksittyjä.

Onneksi olen oppinut aina tarkistamaan asian kahteen kertaan. Mutta kuvittele, jos en olisi tehnyt niin – olisin seissyt lavalla siteeraamassa jotakuta, joka ei koskaan sanonut noita sanoja. Sellaisista lipsahduksista tekoäly ei varoita.

Vuonna 2023 lakimies käytti ChatGPT:tä oikeudelliseen tutkimukseen. Se keksi väärennettyjä oikeusjuttuviittauksia, ja uskon niiden olleen asianajajan mielestä riittävän vakuuttavia ja luotettavia sisällyttääkseen ne oikeuteen. Olen varma, että tiedät jo, miten se päättyi.

Miksi on tärkeää, että ihmiset ymmärtävät tekoälyn tekevän virheitä:

Tekoäly ei ole taikuutta, se on matematiikkaa. Kun emme ymmärrä, miten ja miksi tekoäly tekee asioita väärin, annamme sille enemmän valtaa kuin se ansaitsee ja lakkaamme kyseenalaistamasta sitä. Se on riskialtista.

Kuvittele, kuinka ihmiset voivat hyödyntää tekoälyä tutkimuksessa ja silti saada virheellisiä tietoja.

Mieti vaikutusta, joka syntyy, kun algoritmi hylkää työhakemuksen harjoitusdatan vääristymisen vuoksi.

Kuvittele seuraukset, kun potilaat kysyvät chatbotilta lääketieteellisiä näkemyksiä ja saavat väärennettyjä neuvoja.

Tekoälyllä ei ole aavistustakaan, kertooko se meille totuuden. Kun luotamme siihen sokeasti, se alkaa hiljaa muokata valintojamme, uskomuksiamme ja jopa oikeuksiamme. Mutta kun ymmärrät, miksi se tekee asioita väärin, sinä pysyt ohjaksissa – et algoritmilla.

Näin suojelet itseäsi:

• Pyydä lähteitä:
  Kun hyödynnät tekoälyä tiettyjen tehtävien, erityisesti tutkimukseen perustuvien, suorittamiseen, pyydä lähteitä.
• Tarkista tulos ristiin:
  Vertaa luotettavaan, ihmisen varmentamaan lähteeseen tai pyydä toisen silmän tarkastusta ja vahvistusta.
• Varo liiallista itseluottamusta:
  Kiillotettu ei tarkoita samaa kuin oikea.
• Käytä tekoälyä suunnitteluun, älä päätöksentekoon:
  Anna sen ehdottaa; sinä vahvistat.

Millainen ajattelutapamme sitten tulisi olla, kun otamme tekoälyn yhä enemmän käyttöön? No, se on yksinkertaista: ”Tekoäly ei ole täällä korvaamassa ihmisen älykkyyttä; se on täällä…” täydentää Vastuu valvonnasta ja todentamisesta on edelleen meillä, ja toivon, että se pysyy sellaisena.