Miksi tekoäly tekee virheitä — ja miten ne voi välttää

Tekijä: Oluwole Akinwale, Johtaja, Professional Services

Muutama vuosi sitten hyvä ystäväni lähti matkaan noudattaen uskollisten uskollisesti navigaattorinsa jokaista ohjetta. lukuisten käännösten ja uudelleenreititysten jälkeen laite ilmoitti iloisesti: “Olet perillä.” Ongelma? Hän tuijotti valtavaa vesialuetta – aivan kuin navigaattori olisi sanottanut: “Siitä vaan, sukella veteen!” Hänen todellinen määränpäänsä oli kilometrien päässä. Lopulta hän hylkäsi tekniikan ja löysi perille hyvän vanhan paperikartan avulla.

Tekoäly on pitkälti samanlainen silloin, kun se on väärässä. Se ei epäröi. Se ei sano: “Hmm, en ole tästä varma.” Se antaa vastauksen täydellä itsevarmuudella, ikään kuin se olisi aivan varma, vaikka ei olekaan.

Siinä on se hankala puoli: sävy, sanavalinnat, viimeistely… kaikki tuntuu luotettavalta. Mutta pelkästään se, että jokin ääniä oikein ei tarkoita sitä on Aivan. Itsevarmuus ei ole sama asia kuin oikeellisuus – ja tekoälyn kanssa meidän on muistettava se.

Miksi tekoäly kaikesta laskentatehostaan huolimatta tekee silti virheitä?

Se johtuu yleensä jostakin kolmesta syyllisestä. Ajattele niitä tekoälyn ‘tavallisina epäiltyinä’ minkä tahansa virheen taustalla.

1. Vinouma datassa

Tekoälyä koulutetaan suurilla tietomäärillä, mikä auttaa sitä havaitsemaan kaavoja, tekemään ennusteita ja antamaan vastauksia sen perusteella, mitä se on “oppinut”. Näiden tietojen laatu, monimuotoisuus ja tasapaino muokkaavat sitä linssiä, jonka läpi tekoäly näkee maailman. Se on kuin vanha sanonta heimostani – “Ennen kuin lapsi käy ystävänsä isän pellolla, hän luulee aina oman isänsä peltoa kaupungin suurimmaksi.”

Samoin, jos tekoälyä ei kouluteta monipuolisella ja tasapainoisella datalla, se päätyy näkemään maailman rajallisella tai jopa vääristyneellä tavalla. Se saattaa kuulostaa älykkäältä ja itsevarmalta, mutta se saattaa missata suuremman kuvan, ja se voi johtaa epäreiluihin tai virheellisiin vastauksiin.

Kuvittele tekoäly, joka on koulutettu seulomaan työnhakijoita ja joka näkee enimmäkseen aikaisempia palkattuja, jotka olivat miehiä. On olemassa riski, että se tulee tietämättään suosimaan miespuolisia ehdokaita.

Onko idea selvillä? Siirrytään toiseen asiaan.

2. Huonot tai puutteelliset tiedot

Tekoäly on vain niin älykäs kuin data, jolla sitä on ruokittu. Jos data on vanhentunutta, virheellistä tai puutteellista, myös tulokset ovat epätarkkoja. Kyseessä on klassinen ‘roskaa sisään, roskaa ulos’ -ongelma.

Muutama kuukausi sitten rakensin tekoälypohjaisen globaalin hälytysjärjestelmän, joka lähettää päivityksiä Telegram-kanavalle. Aluksi malli viittasi Donald Trumpiin “Yhdysvaltain entisenä presidenttinä”. Se olisi ollut tarkkaa tietoa jokin aika sitten, mutta ei enää. Malli oli joko koulutettu datalla, joka oli kerran tarkkaa mutta sittemmin vanhentunut ajan myötä, tai mallin vastauksien parantamiseen käytetty tietokanta oli vanhentunut. Kun vaihdoin toiseen malliin, joka oli koulutettu päivitetyllä datalla tai jolla oli päivitetty tietokanta, ongelma ratkesi.

Sama asia toistuu muillakin aloilla. Matkailuun tarkoitettu botti saattaa suositella mukavaa pientä kahvilaa – vain huomataksesi, että se on mennyt kiinni kolme vuotta sitten. Tämäkään ei ole tekoälyn vika. Se vain toimii vanhojen tietojen varassa.

3. Väärintulkinta (tai “hallusinaatio”)

Kun tekoälyllä ei ole oikeaa tietoa, se ei sano “en tiedä” – se vain keksii asian ja sanoo sen itsevarmasti.

Valmistautuessani kerran puheeseen pyysin ChatGPT:ltä joitakin inspiroivia, tunnettuja sitaatteja aiheesta. Se antoi minulle muutaman… ja ne kuulostivat upeilta. Ainoa ongelma? Pari niistä oli täysin keksittyjä.

Onneksi olen oppinut aina tarkistamaan asian uudelleen. Mutta kuvittele, jos en olisi tehnyt niin – olisin seissyt lavalla lainaten jotakuta, joka ei koskaan sanonut niitä sanooja. Sellaisesta kömmähdyksestä tekoäly ei sinua varoita.

Vuonna 2023 asianajaja käytti ChatGPT:tä oikeudelliseen tutkimustyöhön. Se keksi vääriä oikeustapausten viittauksia, ja kuvittelen niiden olleen riittävän itsevarmoja ja vakuuttavia, jotta asianajaja sisälsi ne oikeudelle esittämäänsä aineistoon. Olen varma, että tiedät jo, miten siinä kävi.

Miksi sillä on väliä, että ihmiset ymmärtävät tekoälyn tekevän virheitä:

Tekoäly ei ole taikaa, se on matematiikkaa. Kun emme ymmärrä, miten ja miksi tekoäly tekee virheitä, annamme sille enemmän valtaa kuin se ansaisua eikä sitä enää kyseenalaisteta. Se on riski.

Kuvittele, kuinka ihmiset voivat hyödyntää tekoälyä tutkimuksessa ja päätyä vääriin tosiasioihin.

Mieti, millainen vaikutus sillä on, kun työnhakija hylätään algoritmilla, koska koulutusaineisto oli puolueellista.

Kuvittele seuraukset, kun potilaat pyytävät chatbotilta lääketieteellistä tietoa ja saavat mukaansa vääriä neuvoja.

Tekoälyllä ei ole aavistustakaan siitä, puhuuko se totta. Kun luotamme siihen sokeasti, se alkaa hiljaa muokata valintojamme, uskomuksiamme ja jopa oikeuksiamme. Mutta kun ymmärrät, miksi se tekee virheitä, pysyt ohjuksissa – et algoritmi.

Miten suojautua:

• Pyydä lähteitä:
  Kun hyödynnät tekoälyä tiettyjen tehtävien, erityisesti tutkimuspohjaisten, suorittamiseen, pyydä lähteitä.
• Ristiintarkista tulos:
  Vertaa luotettavaan, ihmisen varmentamaan lähteeseen tai pyydä toista mielipidettä ja vahvistusta.
• Varo ylioptimistisuutta:
  Viimeistelty ei ole sama asia kuin oikea.
• Käytä tekoälyä luonnosteluun, älä päätöksentekoon:
  Anna sen ehdottaa; sinä vahvistat.

Mikä sitten pitäisi olla asenteemme, kun otamme yhä enemmän käyttöön tekoälyä? No, se on yksinkertaista: “Tekoäly ei ole täällä korvatakseen ihmisen älykkyyttä; se on täällä täydennys sitä.” Vastuu valvonnasta ja varmentamisesta on edelleen meillä, ja toivon sen säilyvänkin niin.