Tekoälyn kehotehyökkäykset yleistyvät. Uusi raportti paljastaa niiden korkean onnistumistodennäköisyyden.Tietoturvayhtiö Palo Alto Networksin uuden raportin mukaan tekoälyn suuret kielimallit ovat erityisen alttiita niin sanotuille kehotehyökkäyksille (prompt attacks).

Generatiivinen tekoäly ja suuret kielimallit ovat tulleet osaksi arkipäiväistä käyttöä lukemattomissa yrityksissä. Niiden on todettu parantavan tuottavuutta, lisäävän kilpailukykyä ja vaikuttavan myönteisesti kustannustehokkuuteen. Samalla tekoäly on integroitunut osaksi monia kriittisiä toimia ja päätöksentekoprosesseja, mikä on avannut uusia mahdollisuuksia myös haitallisille toimijoille.

Kehotehyökkäykset tarkoittavat manipuloivien ohjeiden piilottamista tekoälymallin syötteeseen. Näin hyökkääjä voi saada tekoälyn toimimaan tavalla, jota ei alun perin ollut tarkoitettu. Hyökkäykset voivat johtaa kiellettyjen toimintojen aktivoitumiseen tai arkaluonteisen tiedon paljastumiseen. Palo Alto Networksin mukaan kehotehyökkäyksillä on jopa 88 prosentin onnistumistodennäköisyys, mikä tekee niistä merkittävän uhkatekijän yrityksille ja tekoälysovelluksille.

Neljä päätyyppiä kehotehyökkäyksiä:

1. Johdattelevat kehotteet – Manipuloidaan järjestelmää suorittamaan asioita, joihin sen ei pitäisi pystyä. Suojaus perustuu selkeisiin rajoihin ja ”suojakaiteisiin”, jotka estävät johdattelun.

2. Suojausten ohitus – Hyökkääjä pyrkii kiertämään järjestelmän suojausmekanismit ja murtautumaan sisälle. Tähän tarvitaan jatkuvasti päivitettyjä suojauksia.

3. Tietojen vuotaminen – Hyökkäykset voivat paljastaa arkaluontoisia tietoja, kuten järjestelmäkehotteita tai koulutusmateriaalia. Tietoturva vaatii suodatusta tiedonsiirron molempiin suuntiin.

4. Infrastruktuurihyökkäys – Kehotuksia käytetään hyödyntämään järjestelmäresursseja tai suorittamaan luvattomia koodeja. Tämä voi kuluttaa laskentatehoa tai johtaa etäkoodin suorittamiseen.

Tietoturvan varmistamiseksi organisaatioiden on kehitettävä generatiivisen tekoälyn kokonaisvaltainen turvallisuusstrategia, joka kattaa eri hyökkäystyypit ja suojaa kriittisiä järjestelmiä tehokkaasti.

Lisätietoja löydät Palo Alto Networksin raportista täältä.

Tämä artikkeli on laadittu yhteistyössä tekoälyn kanssa ja tarkistettu.