Mengapa Catastrophic Forgetting Jadi Masalah Besar
Catastrophic forgetting adalah kondisi ketika model belajar hal baru lalu merusak pengetahuannya yang lama. Fenomena ini sudah lama dikenal di riset jaringan saraf. Pada model bahasa, dampaknya terasa saat perusahaan ingin memperbarui model dengan data internal terbaru.
Cara yang biasa dipakai adalah pelatihan ulang pada kumpulan data yang diperluas. Cara ini efektif, tetapi mahal dan tidak praktis untuk pembaruan rutin. Alternatifnya, fine-tuning dengan data kecil, tetapi pembaruan berulang justru mempercepat hilangnya kemampuan lama.
Di sisi lain, in-context learning hanya menahan informasi selama sesi berlangsung. Begitu konteks dihapus, model melupakan semuanya. Kondisi ini digambarkan peneliti seperti amnesia anterograd, ketika seseorang bisa memakai ingatan jangka pendek tetapi tidak mampu mengubahnya menjadi pengetahuan permanen.
Iklan
Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
Batas Klaim: Masih Riset, Bukan Fitur Produk
Penting dicatat, ini masih penelitian. Google belum mengumumkan produk atau model komersial yang memakai kerangka sleep. Blog resmi menyebutnya sebagai arah menuju sistem yang belajar mandiri, bukan fitur yang bisa dipakai pengguna hari ini.
Pengujian juga dilakukan pada model dan tolok ukur tertentu. Hasil di AIME dan HMMT tidak otomatis berlaku pada tugas terbuka seperti menulis, meringkas dokumen, atau menjawab pertanyaan pelanggan. Setiap penerapan butuh validasi sendiri.
Ada pula konsekuensi biaya. Fase tidur tetap memerlukan komputasi untuk distilasi dan latihan mandiri. Menariknya, biaya itu tidak lagi dipakai untuk pelatihan ulang penuh, tetapi untuk siklus pemeliharaan yang berjalan berkala.
Apa Dampaknya bagi Pengguna AI di Indonesia
Bagi pengguna awam, hasil riset ini menjelaskan pengalaman sehari-hari. Asisten AI sering lupa detail percakapan sebelumnya, atau menjawab dengan pengetahuan yang berhenti pada satu tanggal. Kerangka sleep adalah jawaban teknis atas keluhan itu.
Bagi perusahaan yang memakai AI, arahnya lebih strategis. Model yang bisa menyerap data baru tanpa kehilangan kemampuan lama akan mengurangi kebutuhan mengganti model setiap kali ada pembaruan. Biaya operasional jangka panjang ikut turun.
Perkembangan ini juga melengkapi tren lain. Rilis model seperti Gemini 4 Carbon menunjukkan persaingan pada kemampuan mentah. Sementara pendekatan seperti Copilot Fusion menunjukkan persaingan pada orkestrasi beberapa model. Kerangka sleep menambah dimensi ketiga, yaitu kemampuan model memelihara pengetahuannya sendiri.
Apa yang Diketahui dan Apa yang Belum
Yang diketahui, Google Research menerbitkan kerangka sleep pada 27 Oktober 2026 sebagai pendekatan continual learning. Kerangka ini memakai dua fase, konsolidasi memori dan dreaming, serta mengklaim retensi konteks hingga 10 juta token.
Yang diketahui pula, hasil uji mencakup continual translation, penalaran matematika, dan pemahaman konteks panjang. Peneliti melaporkan keunggulan dibanding supervised fine-tuning, in-context learning, dan beberapa metode continual learning lain.
Yang belum terkonfirmasi, belum ada jadwal penerapan pada produk Google. Belum ada pula informasi tentang biaya komputasi riil di skala produksi, jumlah parameter yang dibutuhkan, atau apakah metode ini bekerja pada model campuran multimodal.
FAQ Seputar Kerangka Sleep untuk AI
Apa itu kerangka sleep pada model bahasa?
Kerangka sleep adalah pendekatan yang membagi siklus model menjadi fase bangun untuk menerima input dan fase tidur untuk mengonsolidasikan memori. Tujuannya agar model bisa belajar fakta baru tanpa melupakan kemampuan lama.
Apakah model dengan kerangka sleep bisa mengingat 10 juta token?
Google Research mengklaim retensi konteks hingga 10 juta token pada pengujian mereka. Angka itu berasal dari eksperimen internal dan belum diuji independen pada model produksi skala luas.
Apakah fitur ini sudah tersedia untuk pengguna?
Belum. Kerangka sleep masih berupa hasil riset yang diterbitkan di blog Google Research dan arXiv. Tidak ada produk atau model komersial yang diumumkan memakai pendekatan ini.
Baca juga
- Tambang Nasional: Laba Vale Indonesia Melonjak 180 Persen
- Berita Viral: Agen AI OpenAI Masuk Alur Kerja ServiceNow
- Politik Nasional: Prabowo Bahas UU Satu Data di Istana
Kumpulan berita terbaru seputar berita Luwu Timur ada di kanal berita Luwu Timur.
