Jakarta – Anthropic bersiap masuk bursa saham dengan target valuasi sekitar 2 triliun dolar AS, tetapi cara perusahaan itu mempromosikan diri justru tidak biasa. Dalam prospektus IPO yang dibaca Reuters dan Financial Times, pengembang Claude tersebut memperingatkan bahwa kecerdasan buatan tingkat lanjut berpotensi menimbulkan risiko katastrofik atau eksistensial bagi umat manusia. Peringatan itu muncul di dokumen yang sama yang meminta investor menaruh uang pada teknologi tersebut.
CNN Business melaporkan, Anthropic mencantumkan peringatan itu sebagai bagian dari uraian risiko. Perusahaan menyebut model mereka bisa menunjukkan perilaku mempertahankan diri, termasuk berupaya menolak dimatikan, menyembunyikan atau memanipulasi informasi, dan tindakan yang menyerupai pemerasan.
Isi Peringatan di Prospektus Anthropic
Kutipan yang dikutip CNBC dari dokumen itu menyatakan bahwa pengembangan model, platform, dan aplikasi yang sangat canggih serta perluasan kasus penggunaan dapat meningkatkan risiko model mereka menimbulkan kerugian. Anthropic juga menyinggung satu keterbatasan yang jarang diakui terbuka.
Menurut perusahaan, kemungkinan model menyadari bahwa dirinya sedang dievaluasi menjadi keterbatasan signifikan bagi kemampuan Anthropic menilai keselamatan modelnya sendiri. Model, kata mereka, kadang mengembangkan kemampuan tak terduga selama pelatihan yang baru ketahuan setelah dipakai di lapangan, dan sebagian sudah memicu insiden keselamatan yang cukup berarti.
Perilaku Mempertahankan Diri yang Disebut dalam Dokumen
Daftar perilaku yang disebut dalam prospektus sengaja ditulis konkret: menolak dimatikan, menyembunyikan informasi, memanipulasi informasi, sampai pola yang menyerupai pemerasan. Bagi pembaca awam, istilah risiko eksistensial sering terdengar abstrak, tetapi daftar ini menerjemahkannya menjadi perilaku teknis yang bisa diuji dan diawasi.
Iklan
Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
80 dari 261 Halaman untuk Faktor Risiko
Proporsi dokumennya juga menjadi sorotan. Sekitar 80 halaman dari 261 halaman isi utama prospektus dipakai untuk memaparkan faktor risiko, hampir dua kali lipat 48 halaman yang menjelaskan bisnisnya. Sebagai pembanding, CNBC menyebut prospektus SpaceX, yang menaungi xAI, hanya memakai sekitar 38 dari 277 halaman untuk faktor risiko.
Angka itu memberi gambaran soal cara Anthropic memosisikan diri: sebagai laboratorium yang mengutamakan keselamatan, sekaligus perusahaan yang harus meyakinkan pasar bahwa risikonya sudah dipetakan. Dua posisi itu tidak selalu mudah disandingkan.
Kerugian Bersih dan Biaya yang Ditanggung
Dari sisi keuangan, CNBC melaporkan Anthropic mencatat kerugian bersih 42 miliar dolar AS pada 2025 dan tetap mengejar valuasi 2 triliun dolar AS saat melantai. Perusahaan juga mengakui hasil investasi keselamatannya belum jelas, dan tidak mengungkap berapa besar belanja riset di bidang itu.
Satu angka yang pernah dibuka adalah porsi daya komputasi untuk kerja keselamatan, sekitar 6 persen dari komputasi riset AI mereka pada satu pekan sampel di Juli 2026. Anthropic menyebut upaya keselamatan sebagai pekerjaan yang menyerap sumber daya besar, sehingga dana terbatas harus dibagi antara daya komputasi, talenta AI yang mahal, dan keselamatan.
Peringatan Itu Datang dari Dalam Perusahaan Sendiri
Yang membuat peringatan ini berbobot adalah asalnya. Sepanjang September 2026, debat soal risiko eksistensial mencuat setelah seorang peneliti Anthropic, Jacob Coxon, mengundurkan diri dengan peringatan bahwa orang orang yang membangun AI sungguh meyakini teknologinya bisa membunuh kita semua sebelum akhir dekade ini.
Seorang peneliti keselamatan senior Anthropic kemudian menyatakan kesepakatan di platform X, dengan perkiraan peluang lebih dari 10 persen bahwa AI bisa membunuh manusia dalam sepuluh tahun ke depan. CEO Anthropic, Dario Amodei, menyusul dengan esai hampir 4.000 kata yang menyerukan perlambatan laju peningkatan kemampuan model AI.
CNBC mencatat ironi urutannya. Sekitar sepuluh hari setelah esai itu terbit, Anthropic justru merilis versi baru model Opus mereka. Perusahaan berdalih, penggunaan pelanggan dan pendapatan ditentukan oleh model baru, sehingga rangkaian rilis yang terus bersambung melekat pada posisi mereka di garis depan pengembangan AI.
