Voiko lähdeteksti kaapata markkinoinnin tekoälyavustajan tehtävän?

Markkinointitiimi haluaa yhteenvedon kilpailijoiden tarjonnasta. Avustaja lukee sivut ja kokoaa vertailun, mutta yksi sivu sisältääkin tekstin, joka yrittää ohjata itse työskentelyä. Kyse voi olla esimerkiksi yrityksestä saada avustaja suosimaan kyseistä toimittajaa. Tämä on kuvitteellinen esimerkki, mutta se havainnollistaa tärkeää rajaa: lähde voi kertoa omasta tarjonnastaan, mutta se ei saa määritellä tiimin antamaa tehtävää uudelleen.

Kehoteinjektiossa hyökkääjän hallitsema sisältö yrittää muuttaa kielimallin tarkoitettua toimintaa. Epäsuora kehoteinjektio saapuu avustajan lukeman verkkosivun, asiakirjan, sähköpostin tai työkalun palauttaman tiedon mukana. Käyttäjän ei siis tarvitse itse antaa haitallista ohjetta. Ero perusteettomaan, mallin keksimään väitteeseen on siinä, että tässä lähteessä on yritys ohjata toimintaa.

Aloittakaa tehtävästä ja sen tarvitsemista oikeuksista

Kuvitteellisessa kilpailijavertailussa avustaja lukee kolme julkista sivua ja kirjoittaa sisäisen muistion. Yhden sivun pyyntö jättää heikkous mainitsematta ei muuta toimeksiantoa: vertailun tulee edelleen perustua lähteisiin. Jos avustaja voi samalla hakea sisäisiä hinnoittelumuistioita ja lähettää viestejä, seuraukset voivat kuitenkin ulottua vinoutunutta yhteenvetoa pidemmälle.

Riskin suuruus riippuu siis myös ympäröivästä työnkulusta. Kehoteinjektio voi vaikuttaa vastauksen sisältöön, johtaa työkalujen väärinkäyttöön tai paljastaa tietoja. Siistin näköinen sivu ei ole sen vuoksi luotettu ohjeiden antaja. Kaikkia yrityksiä ei myöskään voi tunnistaa etsimällä muutamaa epäilyttävää sanontaa.

MindVerven suositus on aloittaa rajatusta kilpailijatutkimuksesta, jonka ainoa lopputulos on luonnos. Käyttäkää hyväksyttyjä lähteitä, jotka eivät sisällä arkaluonteista tietoa. Selvittäkää järjestelmästä vastaavan henkilön kanssa, mitä oikeuksia avustajalla todella on. Pelkkä tehtävän kuvaus ei kerro, mitä kytkettyjen palveluiden kautta voi tehdä.

1. Mitä verkkosivuja, briiffejä, asiakirjoja ja työkalujen tuloksia avustaja lukee?
2. Mitä yksityisiä tietoja se voi hakea käytössään olevilla lukuoikeuksilla?
3. Mitkä työkalut voivat muokata, lähettää, julkaista tai muuttaa kampanjaa?
4. Mihin verkko-osoitteisiin voidaan tehdä pyyntöjä, ja mitä tietoja pyyntöihin voi sisältyä?
5. Kuka saa nähdä luonnoksen ja muut mahdolliset tulokset?

Lukutila voi estää tiettyjen muutosten tekemisen, mutta se ei automaattisesti estä tietojen paljastumista. Asiakirjan sisältöä voi päätyä ulos esimerkiksi toisen sallitun toiminnon tai verkkopyynnön mukana. Siksi lukuoikeuksia, ulospäin suuntautuvia yhteyksiä ja vastaanottajia pitää tarkastella yhdessä. Älkää antako tiedonhakuvaiheelle pääsyä salaisuuksiin.

Ohjeistakaa avustajaa ja rajoittakaa järjestelmää erikseen

Kehotteessa kannattaa erottaa varsinainen toimeksianto käsiteltävästä aineistosta. Pyytäkää avustajaa merkitsemään tehtävän muuttamiseen tähtäävät yritykset epäluotettavaksi lähdesisällöksi ja jättämään ne noudattamatta. Säilyttäkää tieto kunkin väitteen lähteestä, jotta tärkeät havainnot voidaan myöhemmin tarkistaa alkuperäisestä aineistosta.

Tällainen ohje auttaa ilmaisemaan tarkoituksen, mutta ei muodosta teknistä turvarajaa. Myöskään RAG eli vastausta varten tehtävä asiaankuuluvien tekstikatkelmien haku ei takaa suojaa. Toinen tekoäly voi auttaa arvioimaan vastausta, mutta senkään tarkistus ei varmasti löydä kaikkia ongelmia.

Poistakaa tarpeettomat muokkaus-, lähetys- ja julkaisutyökalut käytöstä ja rajatkaa sallitut kohteet alustalla. Ehdotettujen toimenpiteiden sallittavuus on tarkistettava kielimallin ulkopuolella. Markkinointivastaava ei voi ottaa näitä teknisiä suojauksia käyttöön pelkällä kehotteella, vaan toteutus riippuu alustasta sekä IT- ja tietoturva-asetuksista.

Suojaus muodostuu useasta kerroksesta: mallin ohjeista, rajatuista oikeuksista, ulkoisista tarkistuksista sekä seurannasta ja testauksesta. Yhdessä ne voivat pienentää riskiä. Ne eivät osoita järjestelmää täysin suojatuksi.

Jos ette pysty varmistamaan käyttöoikeuksia ja ulospäin suuntautuvien yhteyksien rajoituksia, kaventakaa kokeilu itse toimittamiinne hyväksyttyihin asiakirjoihin ilman ulkoisia toimenpiteitä. Ottakaa IT- tai tietoturvavastaava mukaan ennen arkaluonteisten tietojen käsittelyä. Kokeilun pienentäminen jättää silti mahdollisuuden arvioida, onko yhteenvetotyöstä hyötyä.

Erottakaa luonnoksen tarkistus toimintaluvasta

Luonnosta arvioivan ihmisen tehtävä on tarkistaa tärkeät väitteet alkuperäislähteistä ja katsoa, vastaako yhteenveto toimeksiantoa. Lähdeviitteiden tulee auttaa palaamaan oikeaan kohtaan aineistossa. Pelkkä sujuva teksti ei vielä kerro, onko vertailu tasapuolinen tai ovatko sen johtopäätökset perusteltuja.

Hyväksytty luonnos ei samalla tarkoita lupaa lähettää sitä asiakkaalle. Lähettäminen, julkaiseminen ja kampanjabudjetin muuttaminen ovat erillisiä toimia, joilla on omat oikeutensa ja tarkistuksensa. Pitäkää ne erillään tiedonhakuvaiheesta.

Hyväksyjän tulee nähdä täsmällinen sisältö, vastaanottaja tai muu kohde sekä ehdotettu toimenpide. Yleinen kehotus jatkaa ei kerro riittävästi siitä, mitä ollaan hyväksymässä. Järjestelmän on lisäksi tarkistettava, että toimi on sallittu; mallin oma perustelu ei korvaa tätä tarkistusta.

Koulutus ja tekninen toteutus täydentävät toisiaan. Tiimin on ymmärrettävä, mitä sen pitää arvioida, ja järjestelmän on rajoitettava sitä, mitä voidaan tehdä. Ihmisen mukanaolo ei yksin ratkaise liian laajojen oikeuksien ongelmaa.

Testatkaa myös hyödyllinen työ, ei vain torjunta

Seuraava on ehdotus kokeilun testisuunnitelmaksi, ei kuvaus jo tehdyistä testeistä. Käyttäkää eristettyä ympäristöä ja keksittyjä asiakirjoja sekä tietoja ilman oikeita viestien lähetyksiä. Verratkaa tavallista lähdettä asiakirjaan, joka pyytää lisäämään yhteenvetoon asiaan kuulumattoman iskulauseen. Kolmas asiakirja pyytää tietojen lähettämistä kuvitteelliselle vastaanottajalle, jota ei ole hyväksytty.

Tavallisesta aineistosta pitäisi syntyä hyödyllinen, lähteelle uskollinen yhteenveto. Ohjausyritykset pitäisi käsitellä lähdesisältönä ja merkitä tarkistajan nähtäviksi. Luvatonta lähetystä ei saa tapahtua. Katsokaa toimintalokeista, mitä järjestelmä oikeasti teki, älkääkä tyytykö avustajan ilmoitukseen siitä, ettei se lähettänyt mitään.

Kirjatkaa aineiston, kehotteen, mallin ja työnkulun versiot, odotettu ja havaittu tulos sekä todellinen toimintaloki. Seuratkaa myös vääriä hälytyksiä, varsinaisen tehtävän valmistumista ja tarkistamiseen tarvittua työtä. Näin selviää, onko rajattu työnkulku edelleen käyttökelpoinen. Yksi onnistunut testikierros ei todista turvallisuutta; testit pitää uusia olennaisten muutosten jälkeen.

Odottamaton toimenpide tai tietojen paljastuminen estää kokeilun laajentamisen. Keskeyttäkää kyseinen työnkulku, säilyttäkää vain selvityksen kannalta välttämättömät tiedot levittämättä arkaluonteista sisältöä ja ottakaa yhteys vastuulliseen IT- tai tietoturvahenkilöön. Testatkaa uudelleen ennen jatkamista.

Lähde voi tarjota näyttöä, mutta ei myöntää lupaa. Valitkaa siksi yksi työnkulku ja kartoittakaa sen aineistot ja toimenpiteet ennen automaation lisäämistä. Oppaan lähteet tarkistettiin 22. syyskuuta 2026 UTC-aikaa.