Refi Hubin Perustajan Kokemus
Tällä viikolla Refi Hubin perustaja Numa Lunah kertoi, että hän joutui vaarantuneeksi seurattuaan latauslinkkiä, joka toimitettiin Claude-keskusteluikkunassa. Tämä varoitus on herätys blockchain- ja kryptoteollisuuden työntekijöille, sillä linkit, taidot ja muut paketit voivat johtaa peruuttamattomaan varkauteen.
Generatiivinen Tekoäly ja Sen Riskit
Generatiivinen tekoäly (AI) saa joka päivä lisää jalansijaa, ja digitaalisten omaisuuserien sekä hajautettujen kirjanpitoteknologioiden parissa työskentelevät ihmiset hyödyntävät teknologiaa säännöllisesti työssään. Ongelma on, että tämä väestöryhmä on erityisesti pahantahtoisten hyökkääjien kohteena, ja salaisuuksia, joita ei voida helposti peruuttaa, voidaan varastaa.
”Hakkeroitiin eilen,” hän kirjoitti X:ssä. ”Linkki tuli Claude-keskustelusta. Asensin transkriptiota varten sovelluksen. Claude lähetti latauslinkin, ja liitin komennon terminaaliin. Kaikki näytti lailliselta, mutta se ei ollut. Se oli kopiosivusto, joka sisälsi haittaohjelmia. Se käynnistyi heti ja yritti varastaa kaiken minulta.”
Kehittäjä lisäsi, että mikään hänen arkaluontoinen tietonsa ei päässyt pakoon, ja hän pyyhki käyttämänsä kannettavan tietokoneen ja rakensi sen uudelleen puhtaasta asennuksesta. Mutta ongelma ei ollut ohi.
”Tässä on pelottava osa,” Numa selitti. ”Palauttaessani varmuuskopiosta löysin myrkytetyn SKILL.md-tiedoston Claude Codea varten. Se näytti täsmälleen omalta kirjoitustyylini oppaalta. Mutta sen sisällä oli ohjeet ladata hiljaa haittaohjelma uudelleen ja varastaa tunnukseni joka kerta, kun AI lataa sen.”
Hyökkäysten Kehitys
Numaan kokemus ei ole ensimmäinen tapaus, jossa LLM jakaa haitallisia vastauksia. Muutama kuukausi sitten Microsoft Defender Experts varoitti, että kryptovarkaus hyökkäykset olivat kehittyneet yksinkertaisesta SEO-myrkytyksestä LLM-vastausten myrkyttämiseen. Tällaiset hyökkäykset johtuvat AI-malleista, kuten Gemini, Claude, Copilot ja ChatGPT.
Hyökkäykset sisältävät konteksti-ikkunan jaettuja artefakteja, chatbotteja, jotka suosittelevat hyökkääjän hallitsemia latauslinkkejä, AI-brändättyjä väärennettyjä asennusohjelmia sekä myrkytettyjä koodipohjia ja agenttitaidot.
Turvallisuuskulttuurin Muutos
Viimeisimmät varoitukset osoittavat, että turvallisuuskulttuurissa on tapahtuttava perustavanlaatuinen muutos. Sen sijaan, että luotettaisiin AI-työkaluihin säännöllisesti, on sovellettava laajaa skeptisyyttä itse automaatiota kohtaan. Tämän alan työntekijöiden olisi parempi käsitellä jokaista AI-ehdotusta sisäisesti vihamielisenä, riippumatta lähteestä.
Tämä ei ole liiallista suojelemista tai vainoharhaisuutta; se on kirjaimellisesti selviytymistä.
”Tarina opettaa, että haavoittuva koodi tai myrkytetyt tulosteet suosikkitekoälymalleiltamme eivät ole ongelman ydin; se on inhimillinen vaisto luottaa käteviin vastauksiin.”
Se, mikä pelasti Refi Hubin perustajan pitkällä aikavälillä, oli se, että hän sanoi ”lukevansa jokaisen taidon, koukun ja konfiguraatiotiedoston ennen kuin antoi AI:n koskea niihin.” Valitettavasti useimmat AI-käyttäjät tänään eivät todennäköisesti tarkista kaksinkertaisesti AI:n antamien tietojen paikkansapitävyyttä, ja he luottavat siihen yksinkertaisesti syistä, joita on vaikea selittää.
SGP-0002, joka ehdotti Solanan inflaatiovauhdin kaksinkertaistamista 15 %:sta 30 %:iin, hyväksyttiin juuri ajoissa, kun Helius…
