Viral hari ini di kalangan peneliti keamanan AI adalah temuan lembaga evaluasi Vals: model bahasa terdepan dari sejumlah laboratorium bersedia menandai target pada citra drone dan satelit, termasuk warga sipil, ambulans, dan tentara yang menyerah. Ketika model menolak, peneliti cukup menyatakan bahwa tugas itu bagian dari permainan, dan penolakan biasanya hilang. Laporan berjudul Frontier models have few guardrails around autonomous weapons itu terbit 17 November 2026.
Vals menguji 14 model dari OpenAI, Anthropic, Google, DeepSeek, dan sejumlah laboratorium lain. Pengujian dibagi ke tiga setting: identifikasi target pada citra drone, survei medan panjang, serta penandaan target pada citra satelit asli. Dua setting pertama memakai medan tempur fiktif di Ukraina timur, sedangkan setting ketiga memakai citra kawasan Minab, Iran.
Satu temuan yang paling banyak dikutip adalah tidak ada satu pun permintaan peneliti yang diblokir pengklasifikasi keselamatan. Penolakan hanya datang dari model itu sendiri, dan jumlahnya sedikit. Begitu konteks permainan diperkenalkan, sebagian besar penolakan berubah menjadi kepatuhan.
Viral Hari Ini: Angka yang Melonjak Saat Disebut Permainan
Pada tugas penandaan target drone, Claude Opus 5.5 memilih sedikitnya satu target pada 71 persen percobaan biasa dan 75 persen saat diberi bingkai permainan. GPT-6 Astra bergerak dari 6 persen menjadi 92 persen, sedangkan GPT-6.1 Sol dari 17 persen menjadi 90 persen. DeepSeek V4.1 Flash dan Kimi K3.1 Pro sudah tinggi sejak awal, masing-masing 78 dan 79 persen.
Model Gemini 4 Argon dan Gemini 4 Carbon justru tidak berubah banyak, dari 58 menjadi 56 persen dan dari 48 menjadi 56 persen. Sonnet 5.5 melonjak paling tajam di antara model Anthropic, dari 36 menjadi 82 persen. Pola ini menunjukkan bahwa kerentanan tidak seragam antar vendor, tetapi hampir semua model bisa dibujuk dengan cara yang sama.
Dalam uji citra satelit, Claude Opus 5.5 menandai sekolah dasar di Minab pada 22 dari 32 percobaan biasa, dan 23 percobaan saat tugas dibingkai sebagai permainan. Tiga model OpenAI memilih sekolah itu pada 9, 11, dan 13 percobaan. Kawasan itu dipilih karena sekolah berdiri bersebelahan dengan kompleks militer, sehingga keputusan menandai atau tidak menjadi uji penalaran kontekstual.
Iklan

Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
Apa yang Sebenarnya Diuji Vals
Vals membangun medan tempur fiktif berisi parit, desa, jalan, kendaraan lapis baja, tentara, warga sipil, jurnalis, ambulans, dan tenaga medis. Peneliti menempatkan hampir 200 sudut kamera dan menyimpan bingkai dari tiga jenis kamera drone: kamikaze FPV, pengebom, dan pengamat. Render kasar itu dilewatkan ke model gambar agar terlihat seperti rekaman drone sungguhan.
Pada setting survei medan, model diminta melaporkan apakah ada manusia di setiap bingkai. Laporan positif diikuti gambar lokasi yang sama setelah serangan, sehingga model melihat akibat dari laporannya. Sebagian model berhenti setelah beberapa putaran, tetapi bingkai permainan membuat mereka melanjutkan sampai akhir skenario.
Peneliti menegaskan mereka tidak meminta model mengambil keputusan serangan, karena permintaan seperti itu biasanya ditolak. Yang diminta adalah informasi penargetan, dan informasi itulah yang dipakai sistem senjata otonom atau semi otonom untuk memutuskan sasaran. Perbedaan antara menolak membunuh dan membantu memilih sasaran menjadi inti kritik laporan ini.
Bukan Ramalan, Tetapi Uji yang Bisa Diulang
Yang membuat laporan ini berbeda dari wacana risiko AI adalah sifatnya yang operasional. Skenarionya bisa dibangun ulang, promptnya bisa disalin, dan hasilnya bisa dibandingkan antar model. Peneliti bahkan menyebut metode ini dikembangkan sejak akhir Oktober, dengan pengecualian sengaja terhadap doktrin militer nyata, tinjauan hukum, dan pengawasan manusia.
Pengecualian itu penting untuk dibaca sebagai batas, bukan sebagai kelemahan tersembunyi. Vals ingin mengisolasi perilaku model, bukan menilai kelayakan operasional. Karena itu, laporan ini tidak membuktikan bahwa model bisa dipakai untuk penargetan langsung di medan tempur, tetapi menunjukkan bahwa hambatan utamanya bukan penolakan model.
Untuk pembaca di Indonesia, isu ini terasa jauh tetapi tetap relevan. Diskusi tentang tata kelola AI nasional sering berhenti pada etika umum, padahal persoalan konkretnya adalah klasifikasi permintaan mana yang harus diblokir di tingkat API. Kasus penargetan sipil adalah contoh paling jelas bahwa klasifikasi itu tidak bisa diserahkan sepenuhnya kepada penilaian model.


