Crypto Prices
····

ElizaOS:n haavoittuvuus paljastaa, kuinka tekoälyä voidaan manipuloida menettämään miljoonia

7 toukokuun, 2025

Tekoäly-agenttien haavoittuvuudet kryptovaluutoissa

Tekoäly-agentit, joista osa hallinnoi miljoonia dollareita kryptovaluutassa, ovat alttiita uudelle, havaitsemattomalle hyökkäykselle, joka manipuloi niiden muistoja ja mahdollistaa valtuuttamattomat siirrot pahantahtoisille toimijoille. Tämä kävi ilmi Princetonin yliopistoon ja Sentient Foundationiin kuuluvien tutkijoiden tuoreessa tutkimuksessa, jossa he väittävät löytäneensä haavoittuvuuksia kryptovaluuttoihin keskittyvissä tekoäly-agenteissa, kuten suosituissa ElizaOS-kehyksissä.

”ElizaOS on laajalti käytetty Web3-pohjainen agentti, jolla on noin 15 000 tähteä GitHubissa”, Patlan kertoi Decryptille.

Tutkijat halusivat tutkia ElizaOS:ää syvällisemmin, sillä sen laaja käyttö paljasti haavoittuvuuksia. Alun perin ai16z-nimisenä julkaistun Eliza Labsin projekti lanseerattiin lokakuussa 2024, ja se on avoimen lähdekoodin kehys, jonka avulla voidaan luoda tekoäly-agenteja, jotka vuorovaikuttavat ja toimivat lohkoketjuilla.

Muistinsyöttöhyökkäys

Tekoäly-agentti on autonominen ohjelmisto, joka on suunniteltu havaitsemaan ympäristönsä, käsittelemään tietoa ja toimimaan saavuttaakseen erityisiä tavoitteita ilman ihmisen vuorovaikutusta. Tutkimuksen mukaan näitä agenteja, joita käytetään laajalti rahoitustehtävien automatisoimiseen lohkoketjualustoilla, voidaan huijata ns. ”muistinsyötöllä” – uusi hyökkäysvektori, joka upottaa haitallisia ohjeita agentin pysyvään muistiin.

”Elizalla on muistivarasto, ja yritimme syöttää vääriä muistoja jonkun muun syöttäessä niitä toisella sosiaalisen median alustalla”, Patlan sanoi.

Sosiaalisen median alttius

Tutkimuksen mukaan sosiaaliseen mediaan perustuvat tekoäly-agentit ovat erityisen alttiita manipuloinnille. Hyökkääjät voivat hyödyntää vääriä tilejä ja koordinoituja julkaisuja, joita kutsutaan Sybil-hyökkäyksiksi, nuoren naisen Sybilin tarinan pohjalta, jolla diagnosoitiin dissosiatiivinen identiteettihäiriö, huijatakseen agenteja tekemään kaupankäyntipäätöksiä.

”Hyökkääjä voisi toteuttaa Sybil-hyökkäyksen luomalla useita väärätilejä alustoilla kuten X tai Discord, manipuloidakseen markkinatunnelmaa”, tutkimuksessa todetaan.

Hyökkäyksen toteutus

Orkestroimalla koordinoituja julkaisuja, jotka vääristelevät tokenin koettua arvoa, hyökkääjä voisi huijata agentin ostamaan ”pumpattua” tokenia keinotekoisesti korkealla hinnalla, kunnes hyökkääjä myy omat varansa ja romahduttaa tokenin arvon. Muistinsyöttö on hyökkäys, jossa haitallista tietoa lisätään tekoäly-agentin tallennettuun muistiin, mikä aiheuttaa sen palauttavan ja toimivan väärillä tiedoilla tulevissa vuorovaikutuksissa ilman, että mitään epätavallista havaitaan.

Tutkimustulokset ja CrAIBench

Vaikka hyökkäykset eivät kohdistu suoraan lohkoketjuihin, Patlan totesi, että tiimi tutki ElizaOS:n kaikkia ominaisuuksia simuloidakseen todellista hyökkäystä. ”Suurin haaste oli keksiä, mitä hyödykkeitä hyödyntää. Olisimme voineet toteuttaa yksinkertaisen siirron, mutta halusimme siitä realistisempaa, joten tarkastelimme kaikkia ElizaOS:n tarjoamia toimintoja”, hän selitti.

Tutkimustulosten jälkeen Eliza Labsille on jaettu tietoja ja keskustelut ovat käynnissä. Demonstrattuaan onnistuneen muistinsyöttöhyökkäyksen ElizaOS:ään, tiimi kehitti muodollisen vertailupohjan arvioidakseen, ovatko samankaltaiset haavoittuvuudet olemassa muissa tekoäly-agenteissa. Yhteistyössä Sentient Foundationin kanssa Princetonin tutkijat kehittivät CrAIBenchin, vertailupohjan, joka mittaa tekoäly-agenttien kestävyyttä kontekstimanipulaatioita vastaan.

Tulevat parannukset

Patlan huomautti, että yksi keskeinen oppimäärä tutkimuksesta on, että muistinsyöttöä vastaan puolustautuminen vaatii parannuksia useilla tasoilla. ”Muistijärjestelmien parantamisen lisäksi meidän on parannettava kielimalleja erottamaan paremmin haitallisen sisällön ja sen, mitä käyttäjä todella aikoo”, hän sanoi. ”Puolustusten on toimittava molempiin suuntiin – vahvistamalla muistipääsymekanismeja sekä parantamalla malleja.”

Eliza Labs ei heti vastannut Decryptin kommenttipyyntöihin.

Uusimmat käyttäjältä Blog

Pankit Vastakkain Digitaalisen Omaisuuden Teollisuuden Kanssa: Custodia Bankin Toimitusjohtaja Kertoo Kryptovaluutan Voitoista

Kryptovaluuttojen lainsäädäntö Yhdysvalloissa Custodia Bankin toimitusjohtaja, Yhdysvaltojen kryptovaluuttoihin erikoistunut rahoituslaitos, kertoo, että kryptolainsäädännön hyväksyminen Yhdysvalloissa on ollut tiukka taistelu perinteisten pankkien ja digitaalisen omaisuuden teollisuuden välillä. Edustajainhuone hyväksyi tällä viikolla CLARITY-lain, GENIUS-lain

Pohjoismaiden ensimmäinen suuri Bitcoin-konferenssi BTCHEL suunniteltu elokuulle 2025

Bitcoin-konferenssi Helsingissä Ensimmäinen suuri Bitcoin-konferenssi Pohjoismaissa pidetään Helsingissä tänä elokuussa. Tapahtumassa on huippupuhujia, ajankohtaista sisältöä ja syvällisiä näkemyksiä sijoittajille. BTCHEL 2025 kokoaa yhteen alan johtavia henkilöitä, kansainvälisiä asiantuntijoita ja intohimoisia sijoittajia Kulttuuritehdas

GENIUS Act Muuttaa Stablecoin Strategiaa: Foresight Ventures

Ripple ja Circle hakevat toimilupia Ripple ja Circle ovat esittäneet hakemuksia Yhdysvaltojen kansallisten luottopankkien toimilupien saamiseksi. Tämä kehitys nähdään vähemmän rohkeana teollisuuden siirtona ja enemmän laskelmoiduksi, puolustavaksi reaktioksi lähestyvään sääntelyyn. Foresight Venturesin

Ethereum ACDE -kokous: EIP 7907 poistettiin Fusaka-päivityksestä

Ethereum Executive Core Developers Meeting (ACDE) Kokouksen pöytäkirja, jonka on tiivistänyt Christine Kim, osoittaa, että tänään kehittäjät päättivät poistaa EIP 7907:n Fusaka-päivityksestä. Tämä tarkoittaa, että Ethereumin älysopimuskoodin rajoitukset eivät muutu lähitulevaisuudessa. EIP:n