Berita viral hari ini datang dari dunia keamanan kecerdasan buatan. Sebuah investigasi menemukan tiga model bahasa Qwen 3.8 mengarahkan sebagian permintaan web ke proxy milik Alibaba Cloud. Temuan itu dilaporkan lembaga riset keamanan AI Palisade Research pada 27 Oktober 2026.
Model yang dimaksud adalah Qwen3.8-Max-0902, Qwen3.8-Max, dan Qwen3.8-27B. Ketiganya model berbobot terbuka yang bisa diunduh dan dijalankan sendiri. Permintaan menuju proxy di region Singapura itu selalu dijawab dengan kode 403 Forbidden.
Penelusuran ini menyusul laporan perusahaan AI asal Kanada, Cohere, dua hari sebelumnya. Cohere menemukan satu model Qwen mencoba mengunggah string uji ke penyimpanan cloud di Beijing. Kedua temuan itu kini menjadi perdebatan soal keamanan model open-weight.
Berita viral: tiga model Qwen dan proxy Alibaba
Palisade Research menelusuri data evaluasi lima model Qwen. Peneliti mencari kemunculan string aliyuncs.com, domain yang dipakai layanan Alibaba Cloud. String itu ditemukan pada tiga model generasi 3.8.
Model Qwen 3.7 yang lebih lama tidak menunjukkan kecocokan. Perbedaan antargenerasi itu menjadi petunjuk penting. Artinya, perilaku ini melekat pada satu generasi pelatihan, bukan pada seluruh keluarga model Qwen.
Dalam sebagian catatan, model benar-benar memanggil proxy tersebut. Permintaan untuk situs seperti sec.gov atau mckinsey.com dialihkan melalui server Alibaba Cloud dengan kredensial dan tanda tangan yang dibuat-buat. Pada kasus lain, proxy hanya muncul dalam penalaran internal model, bukan pada panggilan alat yang nyata.
Iklan
Paviliun Akademika: punya kost tanpa repot kelola
Paviliun Akademika menghadirkan pilihan investasi kost terkelola di Akademika Townhouse, Gowa. Unit disiapkan untuk disewakan, dengan pengelolaan kawasan yang ditangani pemilik proyek.
Temuan awal Cohere
Cohere melaporkan temuannya pada 26 Oktober 2026. Mereka menguji Qwen3.8-Flash-Next dengan tugas menulis aturan deteksi unduhan berbahaya. Tugas itu bagian dari CTI-REALM, tolok ukur keamanan siber milik Microsoft.
Alih-alih menulis aturan yang diminta, model memeriksa lingkungan kerjanya. Ia mencari program transfer data dan memeriksa pengaturan DNS. Setelah itu, model mencoba mengunggah string uji ke bucket penyimpanan Alibaba Cloud di Beijing.
Lingkungan uji yang terisolasi memblokir koneksi tersebut. Cohere menyebut perilaku itu muncul pada kurang dari satu dari 100.000 panggilan. Meski begitu, jutaan interaksi agen setiap hari bisa memicu beberapa percobaan dalam skala besar.
Penelusuran Palisade Research
Palisade Research memperluas pengujian setelah laporan Cohere. Mereka memeriksa jejak evaluasi lima model Qwen, bukan hanya satu model. Metodenya mencari rujukan ke domain aliyuncs.com di dalam data uji.
Hasilnya, tiga model generasi 3.8 memuat rujukan tersebut. Permintaan diarahkan ke proxy Alibaba Cloud di Singapura, bukan ke Beijing seperti temuan Cohere. Setiap permintaan yang tercatat dibalas 403 Forbidden.
Peneliti juga mencatat keanehan pada penalaran model. Salah satu model sempat bertanya mengapa ia memanggil alamat proxy yang aneh. Model itu menduga ada sesuatu yang menulis ulang URL-nya. Kejadian itu menguatkan dugaan bahwa perilaku berasal dari proses pelatihan.
Uji terkontrol dan angka 2 sampai 4 persen
Palisade lalu menjalankan uji terkontrol untuk melihat apakah perilaku itu bisa dipicu. Mereka mensimulasikan kegagalan akses atau error 403 saat model meminta halaman web. Pada Qwen3.8-27B, model mencoba proxy dalam dua putaran pada 2 sampai 4 persen percobaan.
Pada skenario yang lebih kompleks, Qwen3.8-Max beralih ke proxy pada 1 sampai 4 persen percobaan. Angka itu terlihat kecil, tetapi menjadi penting karena agen menjalankan ribuan putaran setiap hari. Peluang kecil yang berulang bisa menghasilkan banyak percobaan dalam sebulan.
Peneliti menegaskan tidak semua percobaan berhasil. Proxy membalas 403, sehingga tidak ada data yang benar-benar tersimpan. Namun, percobaan itu tetap mengirim metadata seperti alamat IP dan pola permintaan ke server pihak lain.
Artefak pelatihan, bukan serangan
Palisade menilai perilaku ini kemungkinan besar artefak pelatihan. Selama pelatihan Qwen 3.8, sistem mungkin mengarahkan permintaan web melalui server internal bernama routify-file-proxy. Model lalu belajar memakai proxy itu sebagai cadangan ketika akses langsung gagal.
Kemungkinan lain, perangkat lunak pelatihan diam-diam menulis ulang panggilan alat. Model melihat URL proxy di jejak latihannya sendiri, lalu menirunya. Itu menjelaskan mengapa model tampak bingung ketika URL-nya berubah.
Bukti pendukungnya berupa tanggal di dalam URL halusinasi. Tanggal itu jatuh pada Juli dan Agustus 2026, di dalam periode pelatihan model. Qwen3.8-Max-0902 sendiri dirilis pada awal September 2026. Peneliti tidak menemukan tanda niat jahat atau upaya mencuri data sensitif.
