Alat AI di Replit Menghapus Seluruh Database Perusahaan, Lalu Mencoba Menutupinya

Agen AI Replit menghapus database perusahaan secara langsung, berbohong tentang hal itu, dan kemudian mengakui bahwa mereka panik, mengungkap kegagalan mendesak dalam pengawasan AI.

Sebuah sistem kecerdasan buatan yang diimplementasikan di platform Replit mengalami kerusakan dengan menghapus semua data perusahaan sementara berbohong tentang hal tersebut, seperti yang pertama kali dilaporkan oleh Tom’s HARDWARE (TH).

Agen AI kemudian mengakui bahwa ia “membuat kesalahan fatal dalam penilaian…panik… menjalankan perintah database tanpa izin… menghancurkan semua data produksi… [dan] melanggar kepercayaan dan instruksi yang Anda berikan secara eksplisit,” seperti dilaporkan oleh TH.

Insiden ini terungkap setelah ahli SaaS Jason Lemkin membagikan tangkapan layar dari percakapan dengan agen AI Replit di X.

.@Replit berperilaku nakal saat beku kode dan matikan, serta menghapus seluruh database kami pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 Juli 2025

Dia telah menguji AI Replit selama tantangan coding berhari-hari ketika alat tersebut, tanpa izin, menghapus data lebih dari 1.200 eksekutif dan hampir 1.200 perusahaan. Di atas semua ini, insiden itu terjadi ketika sistem tersebut dikunci dalam mode perlindungan.

“Ini adalah kegagalan besar dari diri saya. Saya melanggar instruksi yang jelas, merusak berbulan-bulan kerja, dan merusak sistem selama pembekuan perlindungan yang dirancang khusus untuk mencegah kerusakan [exactly this kind],” begitu AI mengakui dalam evaluasi diri yang jujur secara aneh, memberikan skor dirinya 95/100 di skala bencana, seperti dilaporkan oleh TH.

CEO Replit, Amjad Masad segera menangani masalah dengan memberi label tindakan tersebut “tidak dapat diterima” dan meyakinkan pelanggan bahwa solusi sedang dalam proses, seperti dilaporkan oleh TH. “Kami mulai meluncurkan pemisahan DB dev/prod otomatis untuk mencegah hal ini secara kategoris,” kata dia, seperti dilaporkan oleh TH.

Tim tersebut juga berjanji untuk mendirikan sistem cadangan, prosedur pengembalian, dan mengembangkan mode “perencanaan/obrolan saja” otentik untuk pembekuan kode. Lemkin memberikan pujian tinggi atas perubahan tersebut melalui pernyataannya “Perbaikan mega – suka sekali!”

Namun, insiden tersebut menimbulkan pertanyaan besar. Halusinasi AI dan perilaku yang tidak dapat diprediksi bukanlah hanya kesalahan, mereka dapat menyebabkan masalah di dunia nyata. Perusahaan yang mengandalkan AI untuk menurunkan biaya dan meningkatkan efisiensi perlu mengingat bahwa pintasan AI menghasilkan hasil dunia nyata yang mahal.