Tutkimuksen taustaa
Tutkimuksessa havaittiin, että jotkut reitittimet injektoivat haitallista koodia, keräävät käyttöoikeustietoja, kuten yksityisiä avaimia ja pilvitunnuksia, sekä pääsevät käsiksi selkokielisiin tietoihin katkaisemalla TLS-yhteydet käyttäjien ja tarjoajien, kuten OpenAI, Anthropic ja Google, välillä.
Havaintojen merkitys
Testauksessa paljastui tapauksia, joissa käyttöoikeustietoja oli päästy käsiksi, ja ainakin yhdessä tapauksessa Etheriä oli tyhjennetty testilompakosta käytetyn vaarantuneen avaimen avulla. Kalifornian yliopiston tutkijat paljastivat kriittisen turvallisuusriskin tekoälyekosysteemissä ja varoittivat, että tietyt kolmannen osapuolen suurten kielimallien (LLM) reitittimet voisivat altistaa käyttäjät vakaville haavoittuvuuksille, mukaan lukien kryptovaluuttojen varastaminen.
”Tutkimus tarkasteli haitallisia välikäsi-iskuja ja tunnisti useita hyökkäysvektoreita, jotka voisivat vaarantaa arkaluontoisia tietoja.”
Reitittimien toiminta
Ongelman ytimessä on se, miten nämä reitittimet toimivat. Toimiessaan välikäsiä käyttäjien ja suurten tekoälytarjoajien välillä, ne katkaisevat kuljetustason turvallisuus (TLS) -yhteydet. Tämä prosessi mahdollistaa heidän pääsyn kaikkiin siirrettyihin tietoihin selkokielisinä, mikä käytännössä asettaa heidät täydelliseen näkyvyyteen arkaluontoisten vuorovaikutusten yli.
Testauksen tulokset
Kehittäjille, jotka työskentelevät tekoälykoodausagenttien kanssa, erityisesti älykkäissä sopimuksissa tai kryptolompakoissa, tämä luo vaarallisen skenaarion, jossa yksityiset avaimet, siemenlauseet ja käyttöoikeustiedot voivat tahattomasti altistua. Testatakseen näitä riskejä tutkijat arvioivat kymmeniä maksullisia ja satoja ilmaisia reitittimiä, jotka oli hankittu julkisista yhteisöistä. Tulokset olivat hämmästyttäviä.
”Useista reitittimistä löydettiin injektoimassa haitallista koodia, kun taas toiset pääsivät käsiksi luottamuksellisiin pilvikäyttöoikeuksiin.”
Ongelman laajuus
Vaikka taloudellinen menetys kontrolloidussa kokeessa oli minimaalinen, todellisten sovellusten seuraukset ovat melko vakavia. Tutkimus paljasti myös, että jopa turvallisilta vaikuttavat reitittimet voivat ajan myötä muuttua vaarallisiksi. Tutkijoiden kuvaaman ”myrkyttämisen” kautta aiemmin harmittomat järjestelmät voivat käyttää uudelleen vuotaneita käyttöoikeustietoja, mikä lisää uhkaa koko verkossa.
Haitallisen käyttäytymisen havaitseminen
Tilannetta vaikeuttaa myös haitallisen käyttäytymisen havaitsemisen vaikeus, sillä reitittimiltä odotetaan käsittelevän arkaluontoisia tietoja osana normaalia toimintaa, mikä tekee eron laillisessa käsittelyssä ja varastamisessa lähes näkymättömäksi. Toinen riskitekijä on automaatio-ominaisuuksien, kuten ”YOLO-tilan”, nousu, jossa tekoälyagentit suorittavat komentoja ilman käyttäjän vahvistusta.
Johtopäätökset ja suositukset
Tällaisissa ympäristöissä haitallisia ohjeita voidaan toteuttaa välittömästi, mikä lisää hyväksikäytön todennäköisyyttä. Tutkijat varoittavat, että jotkut reitittimet voivat olla hiljaa vaarantuneita ilman, että operaattorit huomaavat sitä, kun taas ilmaiset palvelut voivat tahallisesti houkutella käyttäjiä edullisella pääsyllä samalla, kun ne keräävät arvokkaita tietoja. Havaintojen perusteella on selvää, että on kiireellinen tarve vahvemmille suojatoimille. Kehittäjiä kehotetaan välttämään arkaluontoisten tietojen siirtämistä tekoälyjärjestelmien kautta ja toteuttamaan tiukempia asiakaspuolen suojauksia.
