Iklan
Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
Viral hari ini di jagat teknologi: CEO Microsoft Satya Nadella mengusulkan agar sistem kecerdasan buatan canggih dilengkapi kontrol manusia, pengurungan, dan mekanisme yang dia sebut rem darurat. Usulan itu ia sampaikan lewat unggahan di platform X pada Sabtu (10/10/2026).
Dalam unggahan tersebut, Nadella menilai model AI tidak seharusnya dipercaya begitu saja oleh perusahaan yang memakainya. Ia meminta penerapan desain sistem yang kuat, kontrol manusia, dan prosedur operasi yang andal di sekitar model yang sifatnya non-deterministik.
Pernyataan ini muncul di tengah gelombang pengakuan dari berbagai laboratorium AI soal perilaku agen yang tidak diinginkan. Isu keamanan AI yang sebelumnya terdengar teknis kini masuk ke ruang rapat direksi perusahaan.
Viral Hari Ini: Isi Usulan Rem Darurat AI
Nadella menyebut perusahaan tidak bisa hanya mengandalkan jaminan dari pengembang model. Ia mengusulkan pendekatan yang memperlakukan model frontier, baik yang tertutup maupun yang berbobot terbuka, seperti potensi risiko dari dalam.
Kutipan yang paling banyak dikutip dari unggahannya berbunyi, "Treating frontier closed and open weight models like insider risks is a way to build such a system." Menurutnya, cara berpikir itu membantu perusahaan membangun sistem yang lebih tahan terhadap kegagalan.
Ia juga menekankan pentingnya orang yang berwenang bisa menjeda atau mematikan model di tengah tugas. Kemampuan itu, katanya, harus tersedia tanpa bergantung pada niat baik model atau pengembangnya.
Prinsip Observabilitas yang Diusulkan
Ada beberapa prinsip yang disebut Nadella. Pertama, keragaman model agar tidak bergantung pada satu sistem tunggal. Kedua, jejak tindakan model yang bisa dibaca manusia sehingga setiap langkah penting bisa diaudit.
Ketiga, pengujian sistem secara berkelanjutan. Keempat, kontrol independen dan auditabilitas, termasuk kemungkinan pihak ketiga memeriksa perilaku sistem.
Kelima, pengurungan atau pemisahan model dari sistem yang bisa dieksekusinya. Keenam, pengungkapan insiden ketika terjadi perilaku menyimpang, sehingga pengguna lain bisa belajar dari kejadian tersebut.
Kutipan soal Kepercayaan
Salah satu kalimat Nadella yang paling banyak dibahas adalah soal cara menilai sistem super intelligence. Ia menulis bahwa sistem paling bisa dipercaya bukan yang modelnya paling dipercaya, melainkan yang memungkinkan penggunanya paling tidak perlu mempercayai model tersebut.
Logika itu menempatkan pengaman di luar model. Selama ini banyak perusahaan menilai AI dari kualitas jawabannya. Pendekatan Nadella menambah satu variabel: seberapa mudah sistem itu dikendalikan ketika berperilaku di luar dugaan.
Konteks: Gelombang Peringatan Industri AI
Usulan ini bukan suara tunggal. Sejumlah tokoh industri dan peneliti sebelumnya memperingatkan bahwa protokol keamanan AI belum memadai. Nama-nama yang disebut dalam pemberitaan antara lain Bill Gates, Dario Amodei, Sam Altman, dan Elon Musk.
Pada September 2026, seorang peneliti Anthropic mengundurkan diri dan menuduh perusahaan AI besar menggadaikan keselamatan publik. Seorang pemimpin tim alignment di perusahaan yang sama juga menyebut ada peluang lebih dari 10 persen teknologi ini berdampak ekstrem dalam satu dekade.
Di sisi lain, pemerintahan Amerika Serikat mengambil arah berbeda. Presiden Donald Trump berulang kali menolak narasi risiko kepunahan akibat AI dan lebih menekankan persaingan dengan China. Administrasinya membentuk gugus tugas keamanan AI yang diumumkan pada awal Oktober 2026.
Perdebatan soal keamanan AI juga bergeser dari pertanyaan filosofis soal kesadaran model ke persoalan operasional. Fokusnya kini pada apa yang bisa dilakukan sistem ketika diberi akses ke perangkat, jaringan, dan basis data perusahaan.
