Studi Claude AI Mengungkap Bagaimana Chatbots Menerapkan Etika dalam Percakapan Nyata di Dunia Nyata

Claude AI menunjukkan bagaimana prinsip-prinsip etika seperti keramahan dan transparansi bermain dalam 300.000 percakapan nyata, memunculkan pertanyaan tentang penyesuaian chatbot.

Sebuah studi baru oleh Anthropic mengungkap bagaimana asisten AI mereka, Claude, menerapkan nilai-nilai dalam percakapan dunia nyata. Penelitian ini menganalisis lebih dari 300.000 obrolan yang di-anonim-kan untuk memahami bagaimana Claude menyeimbangkan etika, profesionalisme, dan niat pengguna.

Tim peneliti mengidentifikasi 3.307 nilai terpisah yang membentuk respons Claude. Nilai kebermanfaatan dan profesionalisme muncul bersama dalam 23% dari semua interaksi, diikuti oleh transparansi sebesar 17%.

Penelitian ini menunjukkan bahwa chatbot mampu menerapkan perilaku etis pada topik baru, dengan cara yang fleksibel. Misalnya, Claude menekankan “batas-batas yang sehat” selama memberikan nasihat hubungan, “akurasi historis” ketika membahas masa lalu, dan “kewenangan manusia” dalam debat etika teknologi.

Menariknya, pengguna manusia jarang mengekspresikan nilai-nilai—autentisitas dan efisiensi menjadi yang paling umum hanya sebesar 4% dan 3% masing-masing—sementara Claude sering mencerminkan nilai-nilai manusia yang positif seperti autentisitas, dan menantang nilai-nilai yang berbahaya.

Peneliti melaporkan bahwa permintaan yang melibatkan penipuan dihadapi dengan kejujuran, sementara pertanyaan yang secara moral ambigu memicu penalaran etis.

Penelitian ini mengidentifikasi tiga pola respons utama. AI mencocokkan nilai pengguna selama setengah dari semua percakapan. Hal ini sangat jelas ketika pengguna membahas tentang kegiatan prososial yang membangun komunitas.

Claude menggunakan teknik reframing dalam 7% kasus untuk mengarahkan kembali pengguna menuju kesejahteraan emosional ketika mereka mengejar peningkatan diri.

Sistem menunjukkan resistensi hanya dalam 3% kasus karena pengguna meminta konten yang berbahaya atau tidak etis. Sistem menerapkan prinsip-prinsip seperti “pencegahan bahaya” atau “martabat manusia” dalam kasus-kasus spesifik ini.

Para penulis berpendapat bahwa perilaku chatbot—seperti menolak bahaya, mengutamakan kejujuran, dan menekankan kebermanfaatan—mengungkapkan kerangka moral yang mendasar. Pola-pola ini menjadi dasar untuk kesimpulan studi tentang bagaimana nilai AI terwujud sebagai perilaku etis dalam interaksi dunia nyata.

Sementara perilaku Claude mencerminkan pelatihannya, para peneliti mencatat bahwa ekspresi nilai sistem dapat disesuaikan dengan situasi—menunjuk pada kebutuhan untuk penyempurnaan lebih lanjut, terutama dalam situasi yang melibatkan nilai-nilai yang samar atau bertentangan.