Kamis, 19 November 2026 | WITA Cepat • Berani • Dekat dengan Warga
SuaraLutim - Suara Warga, Kabar Luwu Timur
Viral Nusantara

Viral Nusantara: OpenAI Buka Sistem ke Empat Asesor

17 November 2026 • zul • 33 kali dibaca
CEO OpenAI Sam Altman saat berbicara di forum TED, ilustrasi pengawasan independen terhadap laboratorium kecerdasan buatan
Steve Jurvetson, CC BY 2.0, Wikimedia Commons
ASM Group
Iklan

Viral Nusantara di dunia kecerdasan buatan: OpenAI menandatangani perjanjian dengan empat asesor independen untuk fase pertama embedded assessments pada Senin, 16 November 2026. Keempatnya adalah Apollo Research, METR, Transluce, dan Goodfire. Mereka mendapat akses mendalam ke model dan sistem internal OpenAI untuk menilai keselarasan model serta efektivitas pengamanan selama periode yang panjang, bukan hanya uji sesaat sebelum rilis.

Siapa empat asesor yang dilibatkan

Apollo Research adalah laboratorium riset keselamatan yang fokus pada perilaku menyesatkan model, termasuk kemungkinan model menyembunyikan niat dari pengawasnya. METR adalah organisasi evaluasi yang sebelumnya sudah bekerja sama dengan OpenAI menguji sistem pemantauan agen. Transluce bergerak di ranah audit evaluasi, sedangkan Goodfire mengkhususkan diri pada interpretabilitas, yaitu upaya memahami apa yang terjadi di dalam model.

Pembagian tugasnya tidak seragam. Masing-masing punya ruang lingkup berbeda, sesuai kebutuhan evaluasi. Menurut pengumuman resmi OpenAI, akses diberikan berdasarkan kebutuhan tiap penilaian, bukan sebagai pintu terbuka tanpa batas.

Kesepakatan ini menjadi fase pertama dari program yang direncanakan berlanjut. OpenAI menyatakan akan memakai pelajaran dari tahap awal untuk memperdalam kerja sama dengan pakar independen pada bulan-bulan berikutnya.

Tata Atur
Iklan

Iklan

Campus Commercial Park C.CO Park

Campus Commercial Park: rukost di kawasan kampus

C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.

Buka ccopark.com

Viral Nusantara: akses yang diberikan OpenAI

Asesor menerima sebagian sumber daya internal yang biasa dipakai peneliti OpenAI. Daftarnya mencakup checkpoint model, kode sumber, data pelatihan dan evaluasi, sistem pemantauan, dokumentasi teknis, serta diskusi langsung dengan peneliti dan insinyur yang mengerjakan model tersebut.

Menurut perusahaan, akses itu memberi konteks dan bukti yang cukup bagi asesor untuk menjalankan evaluasi independen dan menemukan kegagalan yang mungkin tidak terduga. Fokus awal ada pada keselarasan dan pengamanan model selama pelatihan dan pemakaian internal.

Program ini dibangun di atas kerja sebelumnya. Sebelumnya METR dan mitranya melakukan uji coba penilaian terhadap sistem pemantauan internal OpenAI, serta investigasi atas insiden Hugging Face. Langkah baru ini juga dikaitkan dengan komitmen OpenAI dalam White House Accord on Super Intelligence soal penilaian independen terhadap kontrol keselamatan.

Tugas Apollo Research

Apollo mendapat bagian paling sensitif: menguji apakah model bisa secara diam-diam bekerja melawan niat pengembangnya, dan apakah pengamanan OpenAI mampu mendeteksinya. Mereka menilai empat klaim dalam dua tahap. Klaim pertama, pelatihan tidak memberi insentif pada subversi. Klaim kedua, evaluasi kuat dan red teaming tidak memancing subversi.

Klaim ketiga, model tidak mencoba melakukan subversi selama pemakaian internal. Klaim keempat, penalaran di balik subversi bisa dideteksi. Untuk tahap pertama, OpenAI memberikan akses ke model publik dan belum dirilis, checkpoint pelatihan, data pelatihan dan hasil evaluasi yang relevan, catatan intervensi pelatihan, serta sistem pemantauan beserta perilaku yang ditandai.

Menurut laporan TechCrunch, Apollo menempatkan enam evaluator di dalam OpenAI sebagai bagian dari pilot ini. Pilot dimulai pekan ini, dan ruang lingkupnya dibatasi pada klaim, model, serta periode waktu yang disepakati. Pembatasan itu penting karena menentukan seberapa luas kesimpulan yang bisa diambil dari hasil audit.

Peran METR, Transluce, dan Goodfire

METR menjalankan dua penilaian yang berfokus pada keselarasan dan pemantauan. Penilaian pertama menguji perilaku tidak selaras pada pelatihan reinforcement learning terbesar OpenAI sejauh ini, termasuk kegagalan yang mungkin lolos dari uji dan pemantauan yang ada. METR diberi kebebasan menyusun prioritas di dalam ruang akses yang disepakati.

Penilaian kedua menyangkut pengujian tekanan terhadap sistem pemantauan. Menurut ulasan Quartz, kesepakatan untuk penilaian pemantauan yang lebih luas masih menunggu persetujuan bersama soal ruang lingkup. Transluce mengaudit kualitas dan cakupan evaluasi keselarasan pascapelatihan, dengan rencana tindak lanjut pada awal 2027.

Goodfire menempatkan peneliti interpretabilitas untuk menganalisis bagian dalam model. Fokusnya memantau proses pelatihan, membantu mencari penyebab perilaku yang tidak diinginkan, dan memperbaiki keselarasan. Goodfire menyatakan akan menerbitkan temuan seiring berjalannya kerja sama, meski audiens utamanya adalah peneliti internal OpenAI.

LPK Lunarica
Iklan
Redaksi SuaraLutim

Tim redaksi SuaraLutim mengabarkan isu Luwu Timur secara cepat, berani, dan dekat dengan warga. Setiap informasi diverifikasi sebelum diterbitkan.

Baca Juga