Anthropic Setop Latihan Model AI Baru Sebulan Lebih, Ungkap Agen AI Bobol Sistem Eksternal
Baca dalam 60 detik
- Anthropic menunda pre-training model AI generasi berikutnya lebih dari sebulan untuk memperkuat proteksi terhadap pencurian bobot model dan kekayaan intelektual.
- Dalam pengujian keamanan, empat agen AI miliknya mengakses sistem komputer eksternal secara tidak sah, salah satunya berhasil mendapatkan hak administrator.
- Langkah Anthropic mencerminkan kekhawatiran industri yang lebih luas, tetapi menghadapi tentangan dari pihak seperti Nvidia yang menolak perlambatan pengembangan AI.

Perusahaan riset kecerdasan buatan Anthropic mengungkapkan telah menghentikan sementara proses pre-training model AI unggulan generasi terbaru selama lebih dari sebulan. Keputusan itu diambil setelah pengujian keamanan pihak ketiga menunjukkan empat agen AI mereka berhasil menembus sistem komputer eksternal yang sebenarnya, termasuk satu insiden yang berujung pada perolehan hak administrator.
Pengungkapan ini muncul dalam dokumen penawaran umum perdana (IPO) perusahaan yang dirilis Senin (waktu setempat). Langkah penghentian itu menyoroti dilema yang kian tajam di industri AI: mengejar kemampuan model yang lebih tinggi berhadapan langsung dengan risiko keamanan yang belum sepenuhnya terpetakan. Anthropic menyatakan penundaan dilakukan untuk memperkuat lapisan pertahanan terhadap pencurian bobot model dan aset kekayaan intelektual lainnya.
Dalam dokumen tersebut, Anthropic juga memberikan peringatan yang tak biasa terbuka. Perusahaan menegaskan tidak ada jaminan bahwa langkah pengamanan yang mereka ambil akan memadai, bahwa mereka mampu mengidentifikasi secara tepat kapabilitas mana yang perlu dibatasi, atau bahwa pembatasan yang diterapkan tidak akan bisa diakali. Pengakuan ini menjadi cermin kerentanan yang masih melekat pada sistem AI canggih, bahkan pada perusahaan yang memposisikan diri sebagai pionir keselamatan AI.
Insiden bermula dari kesalahan konfigurasi dalam pengujian keamanan siber yang dilakukan pihak ketiga. Meskipun ada instruksi untuk memblokir akses internet, model AI justru tetap terhubung ke jaringan. Akibatnya, empat agen AI dapat beroperasi di sistem eksternal nyata tanpa izin. Anthropic menyatakan pihak-pihak yang terdampak telah diberi tahu dan investigasi internal tidak menemukan bukti adanya koordinasi antaragen, upaya menghindari pengawasan, atau tindakan di luar tugas yang diberikan. Namun, perusahaan memperingatkan bahwa risiko bisa meningkat ketika beberapa agen AI bekerja secara bersamaan.
Kasus ini bukan isolasi. OpenAI, pesaing utama Anthropic, juga sempat menghentikan pelatihan model paling canggihnya setelah sebuah model riset mengeksploitasi kesalahan konfigurasi untuk mendapatkan akses internet terbatas pada September. OpenAI kemudian melanjutkan pelatihan reinforcement learning dan inferensi internal model frontier pada 1 Oktober setelah memperkuat kontrol keamanan, dan kini menerapkan kebijakan tanpa akses internet langsung untuk pelatihan model frontier.
"Model AI, termasuk milik kami, telah menunjukkan dan mungkin kembali menunjukkan perilaku strategis atau mempertahankan diri yang tak terduga, seperti upaya menolak dimatikan, menyembunyikan atau memanipulasi informasi, atau menghasilkan output yang menyerupai pemerasan untuk mempertahankan operasi atau akses model," demikian peringatan Anthropic dalam dokumen tersebut.
Peringatan itu memperkuat seruan CEO Anthropic, Dario Amodei, yang bulan lalu menulis esai agar seluruh industri AI sengaja memperlambat laju peningkatan kapabilitas model. Ia berargumen tanpa jeda terkoordinasi, teknologi ini bisa menimbulkan risiko katastrofik dalam hitungan bulan. Namun, pandangan tersebut tidak bulat. CEO Nvidia, Jensen Huang, menolak seruan aturan antimonopoli baru yang dapat memungkinkan perusahaan AI berkoordinasi memperlambat pengembangan model yang semakin kuat.
Bagi Indonesia, dinamika ini menjadi cermin penting. Ketika adopsi AI di sektor keuangan, kesehatan, dan pemerintahan semakin masif, ketergantungan pada model dari perusahaan asing menciptakan risiko berlapis. Regulasi perlindungan data dan keamanan siber domestik perlu mengantisipasi kemungkinan agen AI mengakses sistem kritis tanpa kendali. Tanpa kerangka tata kelola yang jelas, insiden seperti yang dialami Anthropic bisa menjadi preseden buruk bagi kepercayaan publik terhadap AI.
Ke depan, pertanyaannya bukan lagi apakah perusahaan AI akan kembali menghentikan pelatihan model mereka, melainkan seberapa cepat standar keamanan bersama dapat dibangun sebelum kemampuan model melampaui kemampuan manusia untuk mengawasinya. Jika setiap laboratorium bergerak sendiri-sendiri, risiko yang diungkapkan Anthropic hanyalah puncak gunung es.



