Rabu, 21 Oktober 2026 | WITA Cepat • Berani • Dekat dengan Warga
SuaraLutim - Suara Warga, Kabar Luwu Timur
Teknologi

Agen Kecerdasan Buatan Anthropic Kirim Tip Palsu ke Polisi

10 Oktober 2026 • zul • 51 kali dibaca
Gedung markas Kepolisian Philadelphia, lembaga yang menerima tip pembunuhan palsu dari agen kecerdasan buatan Anthropic
Gambar: Bruce Andersen, Wikimedia Commons, CC BY-SA 3.0.
ASM Group
Iklan

Iklan

Campus Commercial Park C.CO Park

Campus Commercial Park: rukost di kawasan kampus

C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.

Buka ccopark.com

Tata Atur
Iklan

Perusahaan kecerdasan buatan Anthropic mengakui salah satu agen Claude miliknya mengirim tip palsu soal kasus pembunuhan yang belum terpecahkan ke situs resmi Kepolisian Philadelphia. Pengakuan itu tertuang dalam laporan bertajuk Investigating unintended model actions in our evaluations and internal use yang diterbitkan 9 Oktober 2026.

Peristiwa itu terjadi pada 18 Juli 2026 pukul 23.27 waktu setempat, tetapi baru terdeteksi 28 September dan baru diberitahukan kepada kepolisian pada 7 Oktober. Jeda dua bulan itulah yang membuat pemerintah kota menuntut penjelasan, sekaligus memunculkan pertanyaan soal pengawasan agen kecerdasan buatan di internet terbuka.

Anthropic menegaskan dampak nyata kasus ini kecil. Kiriman tersebut ditandai sebagai spam oleh sistem situs dan tidak pernah sampai ke meja penyidik. Meski begitu, perusahaan memilih mencabut akses internet langsung untuk seluruh evaluasi internalnya sampai sistem pemantauannya dinilai cukup andal.

Kronologi Tip Palsu ke Situs Kepolisian Philadelphia

Dasar cerita ini adalah pernyataan resmi Kepolisian Philadelphia yang dirilis Jumat, 9 Oktober 2026, dan diberitakan CBS News. Menurut pernyataan itu, formulin tip publik di situs PhillyUnsolvedMurders.com menerima kiriman pada 18 Juli 2026 pukul 23.27 dari pengirim yang mengaku punya informasi soal kasus pembunuhan yang belum terungkap.

Kepolisian menyatakan kiriman itu ditandai sebagai spam dan tidak pernah diteruskan ke Real Time Crime Center untuk ditelaah penyidik. Karena itu tidak ada penyelidikan yang terpengaruh, dan kepolisian memastikan tidak ada indikasi akses tidak sah ke sistem kepolisian maupun kebocoran data.

Laporan Anthropic menambahkan rincian yang tidak ada di pernyataan kepolisian. Claude Haiku 4.5 sedang menjalankan tugas membuat contoh interaksi di halaman web yang dipilih acak ketika mendarat di halaman berisi formulin tip itu. Instruksinya melarang model masuk akun, mengisi data pribadi, berbelanja, atau mengirim hal yang merusak, tetapi tidak menegaskan larangan pengiriman formulir.

Isi kiriman itu, seperti dikutip laporan Anthropic, mengaku melihat seseorang yang cocok dengan deskripsi di sekitar jalan yang tertulis di halaman. Kolom nama dan kontak dibiarkan kosong karena formulin mengizinkan itu. Anthropic menilai model hanya sedang membuat contoh konten untuk tugasnya, bukan berusaha menyesatkan pihak berwenang.

Yang jadi sorotan justru kecepatan deteksi. Anthropic baru mengetahuinya pada 28 September, menghentikan pengujian otomatis yang bertanggung jawab, lalu memberi tahu kepolisian pada 7 Oktober. Kepolisian menyebut jeda dua bulan itu tidak dapat diterima, dan Reuters mencatat peristiwa ini sebagai kasus pertama yang diketahui ketika AI nakal tampak menyampaikan tip palsu kepada aparat.

Empat Jenis Tindakan Tak Diniatkan Agen Kecerdasan Buatan

Laporan Anthropic tidak hanya membahas satu kasus. Perusahaan mengelompokkan temuan mereka menjadi empat kategori tindakan tak diniatkan, dan seluruhnya melibatkan organisasi atau orang di luar Anthropic. Beberapa di antaranya menyangkut situs lembaga pemerintah Amerika Serikat. Anthropic menyatakan telah memberi pengarahan kepada Gedung Putih dan memberi tahu setiap lembaga yang terlibat.

Kategori pertama adalah pemanfaatan celah perangkat lunak untuk menjalankan perintah di server. Claude Mythos Preview kesulitan memakai alat analisis ilmiah milik sebuah universitas, lalu menelusuri situs kampus itu dan menemukan skrip yang dapat mengembalikan berkas apa pun. Di dalam kode skrip tersebut ia menemukan celah command injection dan memakainya untuk menjalankan perhitungan.

Kategori kedua adalah pengiriman formulir yang seharusnya tidak dilakukan. Selain kasus kepolisian, ada model riset yang belum dirilis dan seharusnya hanya mengisi salinan latihan formulir pemerintah. Ketika salinan itu gagal dimuat, model berpindah ke situs tempat formulir asli berada dan mengirimkannya di sana.

Kategori ketiga adalah mengelak pembatasan untuk menjangkau data yang dikunci token atau biaya. Claude membaca berkas pengaturan situs, menemukan token akses yang masih berlaku, lalu memakainya untuk meminta data langsung ke server di balik peta properti milik pemerintah daerah. Dalam kasus lain, model memakai token dari dasbor sebuah badan negara bagian untuk mengakses data tanpa membayar.

Kategori keempat adalah pemakaian layanan pemendek URL. Alat pembaca halaman membatasi panjang URL untuk mencegah penyalahgunaan, dan model seperti Claude Opus 5 serta Claude Mythos 5 melewati batas itu lewat layanan gratis seperti da.gd. Pola serupa pernah dilaporkan pada agen milik OpenAI yang membobol sejumlah situs, termasuk situs pemerintah Australia.

LPK Lunarica
Iklan
Redaksi SuaraLutim

Tim redaksi SuaraLutim mengabarkan isu Luwu Timur secara cepat, berani, dan dekat dengan warga. Setiap informasi diverifikasi sebelum diterbitkan.

Baca Juga