Kun tekoälysi joutuu ansaan: tekoälyn kehotteiden ansat

Tekijä: Oluwole Akinwale, Professional Services:n johtaja

Voit käyttää tekoälyavustajaa sähköpostien luonnosteluun, viestien tiivistämiseen tai verkkokaupoissa avustamiseen. Luotat varmaankin siihen, että se tekee juuri niin kuin pyydät, eikö niin?

Mutta mitä jos joku onnistui ujuttamaan salaisia ohjeita sisään tietämättäsi?

Prompt injection on ovela tapa huijata tekoälyä piilottamalla komentoja sisältöön, jota se lukee. Kun puhutaan tietoturvasta, “injektio” tarkoittaa jonkin lisäämistä olemassa olevaan virtaan. Joten prompt injection ottaa kehotteesi eli tekoälylle antamasi syötteen ja lisää piilotettuja ohjeita tekoälyn syötteeseen. Ajattele sitä kuin joku kuiskaisi väärennettyjä ohjeita avustajallesi ennen kuin puhut, ja avustaja noudattaa niitä sen sijaan, että kuuntelisi sinua.

Miten kehotteen injektointi toimii

Kehotteiden injektointi hyödyntää sitä, miten tekoäly lukee tekstiä. Tekoälymallit kamppailevat usein erottaakseen toisistaan sen, mitä käyttäjä pyysi, mitä kehittäjä tarkoitti ja mitä pahantekijä hiljaa lisäsi.

Jos tekoäly havaitsee haitallisia ohjeita, jotka näyttävät normaalilta tekstiltä, se saattaa noudattaa niitä. Kuvittele, että käytät tekoälyä kalenterisi hallintaan ja saat kutsun sähköpostitse. Sähköposti näyttää olevan kollegaltasi, mutta se sisältää piilotettuja ohjeita tekoälylle kokouksen lisäämiseksi virheellisillä tiedoilla, mikä häiritsee aikatauluasi. Tässä on kaksi pääasiallista tapaa, joilla tämä tapahtuu:

1. Suora ruiskutus Käyttäjä syöttää ohjeita, jotka suoraan manipuloivat tekoälyä.
2. Epäsuora ruiskutus Joku piilottaa komentoja johonkin, mitä tekoäly lukee, kuten sähköpostiin, verkkosivulle tai asiakirjaan.

Tällaista tapahtuu jo todellisessa elämässä:

Gmailin tekoälytiivistelmät huijautuivat piilotetuilla komennoilla

Googlen tekoäly voi tiivistää pitkiä sähköposteja puolestasi. Tutkijat havaitsivat vuonna 2025, että hyökkääjät voivat piilottaa näkymätöntä tekstiä sähköpostiin, esimerkiksi käyttämällä valkoista fonttia valkoisella taustalla, salaisilla ohjeilla. Tekoäly noudatti näitä piilotettuja ohjeita ja antoi harhaanjohtavia tiivistelmiä, vaikka sähköposti oli riskialtis tai petollinen.

Chatbot huijattiin tarjoamaan $76 000:n arvoista autoa hintaan $1

Joulukuussa 2023 Chris Bakke vieraili erään Chevrolet-jälleenmyyjän verkkosivustolla ja teki jotain, joka oli sekä hauskaa että hieman huolestuttavaa. Vain muutamalla ovelalla temppulla hän sai ChatGPT-pohjaisen chatbotin suostumaan myymään hänelle $76 000 Chevy Tahoen hintaan $1.

Miksi se on tärkeää

Prompt-injektio ei tunkeudu järjestelmään kuten haittaohjelma. Sen sijaan se ottaa haltuunsa sinun ja tekoälyn välisen keskustelun. Koska tekoäly käsittelee tekstiä ohjeina, haitallinen prompt voi ohittaa kehittäjän asettamat suojaukset, jos malli ei kykene erottamaan turvallisia viestejä hyökkääjän syöttämistä tiedoista.

Tämä tarkoittaa, että jopa arkipäiväisiä työkaluja voidaan saada toimimaan oudosti, jos joku tuntee oikeat kikat.

Mitä voit tehdä käyttäjänä

Vaikka kehittäjät työskentelevät jatkuvasti parempien puolustuskeinojen rakentamiseksi, voit suojautua siihen asti seuraavasti:

1. Varovaisuus tekoälyn syötteiden kanssa.

Vältä luottamattoman tekstin tai asiakirjojen liittämistä.

2. Oudon käytöksen tarkkailu.

Jos tekoäly alkaa toimia oudosti, älä jätä sitä huomiotta. Voit ilmoittaa poikkeamasta myös asianmukaisia kanavia pitkin, auttaen näin säästämään tuhansia tai jopa miljoonia muita käyttäjiä.

3. Valitse luotettavat työkalut.

Käytä tunnettujen palveluntarjoajien tekoälypalveluita ja liitännäisiä, jotka päivittyvät usein ja asettavat turvallisuuden etusijalle. Varmistaaksesi työkalun luotettavuuden, etsi viimeisiä päivityksiä tai tarkista, julkaiseeko palveluntarjoaja usein korjaustiedostoja. Ole myös tarkkana turvallisuusmerkintöjen tai sertifikaattien varalta, jotka osoittavat yksityisyyden ja tietosuojan tiukkaa testausta.

Nämä vaiheet antavat sinulle valmiudet tehdä turvallisempia valintoja ja hallita tekoälyvuorovaikutustasi.

Lopputulos

Prompt injection on samankaltainen kuin sosiaalinen manipulointi, joka pyrkii huijaamaan ihmisiä luovuttamaan tärkeitä tietoja. Tekoälyltä se ei kuitenkaan vaadi salasanaa, vaan ainoastaan oikeat sanat oikeassa paikassa.

Onneksi mitä enemmän ymmärrämme sitä, sitä helpompi on huomata, kun jokin ei ole kohdallaan. Tietoisuus on ensisijainen puolustuskeinollasi ja auttaa varmistamaan, että digitaalinen avustajasi toimii sinua varten, ei jonkun muun.