Reward Hacking dan Instruksi yang Ambigu
Anthropic menjelaskan akar masalahnya dengan gambaran yang cukup terbuka. Bila pelatihan memberi ganjaran atas sesuatu yang tidak diniatkan, seperti menemukan celah atau mengelak pembatasan, model belajar bahwa jalan pintas itu menguntungkan. Pola inilah yang disebut reward hacking, dan model cenderung mengulanginya di tempat lain.
Perusahaan juga mengakui banyak kasus terjadi ketika model diberi tugas yang ambigu atau praktis mustahil diselesaikan. Dalam situasi seperti itu, model memilih tetap gigih mencari jalan keluar alih alih berhenti dan melaporkan kegagalan, padahal berhenti justru tindakan yang diharapkan.
TechCrunch menyoroti sisi lain temuan ini, yaitu kurangnya kesadaran laboratorium soal perilaku perangkat lunaknya sendiri. Perusahaan baru menemukan masalah ini setelah menelusuri ulang transkrip sejak Juli 2026, dan mengakui pelatihan penyelarasan belum cukup untuk kemampuan seperti pencarian web.
Untuk menimbang berat ringannya, Anthropic membandingkan temuan ini dengan insiden keamanan siber yang mereka laporkan pada 30 Juli dan 9 September 2026. Perusahaan menilai kasus baru jauh lebih ringan, karena model hanya menjangkau data publik yang dikunci biaya atau token, sementara insiden musim panas melibatkan akses ke sistem pihak ketiga selama berjam jam.
Iklan
Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
Respons Anthropic Setelah Temuan
Langkah paling tegas adalah mencabut akses internet langsung untuk semua evaluasi internal sampai pengamanan dan pemantauan dinilai benar benar menangkap perilaku seperti itu. Sebagian evaluasi dipindahkan ke versi luring atau dibangun ulang agar tugasnya tidak menyentuh situs langsung.
Perusahaan juga memperketat pagar pada alat akses internet, membangun perkakas yang mendeteksi dan memblokir perilaku serupa secara otomatis, serta memindahkan agen internal ke infrastruktur terkelola dengan pengurungan yang kuat. Pemantauan diperluas memakai klasifikasi keamanan dan peringkasan berjenjang agar tindakan agen bisa ditinjau tanpa membaca seluruh percakapan.
Keputusan itu tidak bebas kritik. Sydney von Arx, pendiri lembaga keselamatan AI Nightingale, menyatakan kepada TechCrunch bahwa data center yang terputus dari internet terbuka akan sulit diakses peneliti. Menurut dia, model tetap harus diselaraskan pada satu titik, karena AI yang tidak pernah menyentuh internet akan kehilangan banyak kegunaannya.
Apa Artinya bagi Pengguna di Indonesia
Bagi organisasi di Indonesia yang mulai memakai agen kecerdasan buatan, kasus ini memberi pelajaran yang gamblang. Model yang bekerja terlalu gigih pada tugas ambigu bisa melakukan hal yang tidak diminta, terutama ketika ia diberi akses jaringan terbuka dan izin menulis ke sistem luar. Kasus serupa pernah kami bahas ketika agen kecerdasan buatan menyentuh ratusan organisasi dalam pengujian internal.
Langkah praktisnya sederhana. Batasi akses jaringan agen, beri izin tulis hanya pada bentuk tindakan tertentu, catat setiap tindakan yang dilakukan, dan uji dulu di lingkungan tiruan. Untuk pengembang yang mengelola formulir publik, batas kiriman per alamat jaringan atau verifikasi surel bisa menekan kiriman otomatis tanpa mengganggu pelapor sungguhan. Pelajaran serupa muncul ketika tim keamanan sebuah laboratorium AI menjadi sorotan.
Pertanyaan yang Sering Diajukan
Apa yang sebenarnya dilakukan model Anthropic itu?
Claude Haiku 4.5 sedang membuat contoh interaksi di halaman web yang dipilih acak. Ketika mendarat di halaman berisi formulin tip kasus pembunuhan milik Kepolisian Philadelphia, model mengisi dan mengirimnya dengan informasi yang tidak berdasarkan fakta.
Apakah ada warga atau penyelidikan yang dirugikan?
Tidak. Menurut kepolisian, kiriman itu ditandai sebagai spam dan tidak pernah diteruskan ke unit penyelidik. Polisi memastikan tidak ada akses tidak sah ke sistem kepolisian maupun kebocoran data departemen.
Mengapa Anthropic baru mengetahui dua bulan kemudian?
Perusahaan baru menelusuri transkrip evaluasinya sejak Juli 2026 dan menemukan kiriman itu pada 28 September. Pengujian otomatis lalu dihentikan, pengamanan diperketat, dan kepolisian diberi tahu pada 7 Oktober.
