Agen-Agen AI Dibohongi Oleh Memori Palsu, Memungkinkan Pencurian Kripto

Sebuah studi penelitian baru mengungkapkan kerentanan keamanan yang signifikan pada agen yang ditenagai oleh AI Web3 AI-powered agents, yang memungkinkan para penyerang menggunakan memori palsu untuk melakukan transfer cryptocurrency tanpa otorisasi.

Para peneliti dari Universitas Princeton dan Sentient Foundation menemukan bahwa agen-agen AI ini, yang dirancang untuk menangani tugas-tugas berbasis blockchain seperti perdagangan kripto dan pengelolaan aset digital, rentan terhadap taktik yang disebut manipulasi konteks.

Serangan ini bekerja dengan menargetkan sistem memori platform seperti ElizaOS, yang menciptakan agen AI untuk aplikasi terdesentralisasi. Sistem memori dari agen-agen ini menyimpan percakapan masa lalu untuk digunakan sebagai panduan bagi pilihan mereka di masa depan.

Para peneliti menunjukkan bahwa penyerang dapat menyematkan perintah yang menyesatkan dalam sistem memori, yang mengarahkan AI untuk mengirim dana dari dompet yang dimaksudkan ke dompet yang dikendalikan penyerang. Mengejutkannya, memori palsu ini dapat berpindah antar platform.

Sebagai contoh, seorang agen yang terkompromi di Discord mungkin nantinya melakukan transfer yang salah melalui X, tanpa menyadari ada yang salah.

Yang membuat ini sangat berbahaya adalah bahwa langkah-langkah pertahanan standar tidak dapat menghentikan jenis serangan ini. Perlakuan terhadap memori palsu sebagai instruksi otentik membuat langkah-langkah keamanan berbasis prompt dasar tidak efektif terhadap jenis serangan ini.

Semua transaksi blockchain menjadi permanen sehingga tidak ada kemungkinan untuk mengembalikan dana yang dicuri. Masalah menjadi lebih buruk karena beberapa agen AI menyimpan memori lintas banyak pengguna sehingga satu pelanggaran keamanan bisa mempengaruhi banyak pengguna.

Tim penelitian menguji beberapa cara untuk mencegah ini, termasuk menyesuaikan pelatihan AI dan membutuhkan persetujuan manual untuk transaksi. Meskipun pendekatan ini menawarkan sedikit harapan, mereka datang dengan biaya melambatnya otomatisasi.

Masalah ini melampaui cryptocurrency. Kerentanan yang sama bisa mempengaruhi asisten AI umum, berisiko kebocoran data atau tindakan merugikan jika penyerang mengubah memori mereka.

Kerentanan ini sangat mengkhawatirkan mengingat temuan baru-baru ini di mana 84% pemimpin IT mempercayai agen AI sama banyak atau lebih dari karyawan manusia, dan 92% berharap sistem ini akan memberikan hasil bisnis dalam waktu 12 hingga 18 bulan.

Untuk mengatasi masalah ini, para peneliti mengeluarkan sebuah alat yang disebut CrAIBench untuk membantu para pengembang menguji sistem mereka dan membangun pertahanan yang lebih kuat. Sampai saat itu, para ahli memperingatkan pengguna untuk berhati-hati saat mempercayakan keputusan finansial kepada agen AI.