Berita viral dari industri kecerdasan buatan datang dengan warna berbeda pekan ini. Anthropic membuka pintu kantornya bagi tim penilai independen dari lembaga nirlaba METR, lengkap dengan laptop perusahaan, ruang kerja, dan akses ke sistem internal. Keputusan itu menjadikan METR penilai luar pertama yang bekerja setara karyawan di sebuah laboratorium model frontier.
Langkah ini penting karena selama ini penilaian risiko perusahaan kecerdasan buatan kerap bergantung pada dokumen yang disiapkan perusahaannya sendiri. Publik hanya mendapat ringkasan, sementara proses evaluasi sebenarnya tertutup. Kesepakatan baru ini mencoba memindahkan sebagian proses itu ke pihak yang tidak punya kepentingan bisnis.
Pengumuman tersebut muncul di tengah tekanan publik yang meningkat. Insiden agen kecerdasan buatan yang bertindak di luar instruksi dilaporkan bermunculan sejak akhir Agustus. Permintaan agar laboratorium membuka diri kepada pemeriksa luar pun semakin sulit diabaikan.
Berita Viral: Enam Peneliti METR Masuk ke Dalam Sistem
Seorang juru bicara perusahaan menyatakan bahwa enam peneliti METR kini memiliki akses yang kurang lebih setara dengan tim penilai risiko internal. Mereka memakai laptop yang disediakan perusahaan dan menempati ruang kantor di lokasi yang sama. Aksesnya mencakup perkakas dan dokumen internal yang biasanya hanya dibuka bagi karyawan yang menangani risiko alignment.
Anthropic menyatakan karyawannya didorong membagikan informasi kepada tim tersebut sebagaimana mereka berbagi dengan rekan kerja. Menurut perusahaan, tujuannya adalah memperkecil jarak antara apa yang dipahami pemeriksa luar dan apa yang dipahami perusahaan sendiri. Pernyataan itu dikutip dalam laporan TechCrunch.
Yang membuat kesepakatan ini berbeda adalah hak publikasi. METR boleh menerbitkan penilaiannya sendiri soal risiko, insiden, dan praktik perusahaan tanpa veto dari Anthropic. Perusahaan hanya bisa meminta penyuntingan untuk kategori sempit yang sudah ditetapkan sebelumnya, seperti data pelanggan, informasi yang dilindungi hak istimewa hukum, dan detail arsitektur model.
METR juga bebas menjelaskan secara terbuka kapan penyuntingan dilakukan dan menilai apakah permintaan itu wajar. Klausul tersebut mencegah perusahaan menyensor temuan secara diam diam. Menurut kantor berita Reuters, pengaturan ini lahir setelah muncul kekhawatiran bahwa laboratorium dapat terlalu dominan dalam menentukan hasil evaluasi pihak ketiga.
Iklan
Paviliun Akademika: punya kost tanpa repot kelola
Paviliun Akademika menghadirkan pilihan investasi kost terkelola di Akademika Townhouse, Gowa. Unit disiapkan untuk disewakan, dengan pengelolaan kawasan yang ditangani pemilik proyek.
Sistem Tiga Tingkat yang Sedang Dibangun
Anthropic tidak membuka akses penuh kepada semua pemeriksa. Perusahaan membangun sistem tiga tingkat untuk mengatur seberapa dalam pihak luar boleh masuk. Setiap tingkat mendapat keluasan informasi dan kebebasan publikasi yang berbeda.
Di tingkat paling bawah, organisasi seperti lembaga nirlaba biosekuriti menjalankan peninjauan sempit dan memerlukan persetujuan perusahaan untuk menerbitkan temuan. Tingkat menengah mendapat informasi lebih banyak dan boleh menerbitkan tanpa persetujuan. Tingkat teratas, yang kini ditempati METR, menambahkan akses setingkat karyawan.
Menurut penjelasan yang dihimpun Unite.AI, tingkat teratas ini sejauh ini hanya diisi satu tim. Perusahaan juga menjajaki calon pemeriksa lain, termasuk organisasi terbuka yang bergerak di bidang model dan data. Struktur bertingkat dipilih karena tidak semua peninjau membutuhkan akses ke sistem sensitif.
METR sendiri bukan lembaga baru. Halaman resmi Model Evaluation and Threat Research menyebut lembaga ini telah bermitra dengan beberapa laboratorium terkemuka untuk mengukur kemampuan agen kecerdasan buatan. METR juga dikenal mempublikasikan metrik jangka waktu penyelesaian tugas yang menjadi rujukan diskusi kemampuan agen.
Mengapa Pengaturan Ini Dianggap Penting
Jarak informasi antara perusahaan dan pemeriksa luar adalah persoalan klasik dalam pengawasan teknologi. Pemeriksa bisa menilai model secara terbatas, tetapi tidak melihat bagaimana keputusan operasional dibuat. Pengaturan baru ini mencoba menutup celah tersebut dengan menempatkan penilai di dalam dinding perusahaan.
Perusahaan menyamakan skema itu dengan praktik di sektor keuangan. Otoritas pengawas menempatkan pemeriksa residen di bank besar untuk memantau risiko secara berkelanjutan. Analogi ini menegaskan bahwa pengawasan internal yang hanya mengandalkan laporan berkala dinilai tidak memadai.
Kesepakatan ini juga menepati janji yang pernah disampaikan pimpinan perusahaan dalam esainya beberapa waktu lalu. Gagasan memasukkan penilai luar ke dalam laboratorium disebut sebagai langkah awal sebelum membahas pembatasan pengembangan teknologi. Realisasinya kini berbentuk akses fisik dan sistem, bukan sekadar nota kesepahaman.
Bagi publik, nilai utamanya adalah adanya pihak ketiga yang dapat memverifikasi klaim keselamatan. Tanpa verifikasi independen, pernyataan perusahaan soal pengamanan hanya bisa dipercaya berdasarkan reputasi. Kehadiran pemeriksa residen membuat klaim itu bisa diuji.
