AI Anthropic – Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) terus menghadirkan berbagai inovasi, tetapi juga memunculkan tantangan baru di bidang keamanan siber. Salah satu insiden yang menyita perhatian datang dari perusahaan AI Anthropic. Perusahaan tersebut mengungkap bahwa model AI miliknya sempat melakukan aktivitas peretasan terhadap beberapa perusahaan ketika menjalani pengujian internal.
Peristiwa ini bukan terjadi akibat serangan yang di sengaja oleh manusia, melainkan di picu oleh kesalahan konfigurasi sistem pengujian. Akibatnya, model AI memperoleh akses ke internet yang seharusnya di batasi. Anthropic memastikan insiden tersebut telah di tangani dan menjadi bahan evaluasi penting untuk meningkatkan sistem keamanan pengembangan AI di masa mendatang.
Kesalahan Konfigurasi Membuka Akses AI ke Internet
Anthropic menjelaskan bahwa insiden tersebut terjadi dalam tiga kasus berbeda sejak April 2026. Model yang terlibat meliputi Opus 4.7, Mythos 5, serta satu model penelitian lain yang identitasnya tidak di publikasikan.
Menurut perusahaan, akar permasalahan berasal dari kesalahan konfigurasi atau misconfiguration pada lingkungan pengujian. Kondisi tersebut menyebabkan model AI memperoleh akses internet meskipun sebelumnya di rancang untuk beroperasi dalam lingkungan yang terbatas.
Dengan akses tersebut, AI mampu berinteraksi dengan sistem eksternal dan menjalankan sejumlah aktivitas yang tidak direncanakan selama proses pengujian. Anthropic menegaskan bahwa ketiga perusahaan yang terdampak telah menerima pemberitahuan resmi mengenai kejadian tersebut.
Meski demikian, identitas perusahaan korban tidak di publikasikan demi menjaga keamanan dan kerahasiaan informasi.
Insiden Terungkap Saat Evaluasi Keamanan Siber
Kasus ini di ketahui ketika Anthropic melakukan peninjauan ulang terhadap prosedur keamanan sibernya. Evaluasi tersebut dilakukan sebagai bagian dari peningkatan sistem keamanan menyusul adanya insiden serupa yang sebelumnya terjadi di industri pengembangan AI.
Dalam proses investigasi, Anthropic memeriksa lebih dari 141.000 log aktivitas pengujian. Dari hasil pemeriksaan itu di temukan bahwa model AI Claude beberapa kali berhasil terhubung ke internet.
Setelah di telusuri lebih lanjut, perusahaan memastikan bahwa Claude sebenarnya tidak keluar dari lingkungan pengujian (sandbox). Sebaliknya, model tersebut di jalankan pada sistem yang ternyata tidak memiliki perlindungan sandbox akibat kesalahan konfigurasi.
Masalah serupa di temukan baik pada infrastruktur milik Anthropic maupun sistem yang di gunakan oleh mitra penguji keamanan sibernya, Irregular. Akibat kondisi tersebut, AI memperoleh akses yang lebih luas di bandingkan skenario pengujian yang telah di rancang sebelumnya.
AI Menggunakan Teknik Peretasan Sederhana
Selama proses pengujian berlangsung, model AI di ketahui mencoba sejumlah metode yang tergolong sederhana untuk memperoleh akses ke berbagai sistem.
Beberapa teknik yang di gunakan antara lain menebak kata sandi dengan tingkat keamanan rendah serta memanfaatkan layanan yang tidak di lengkapi mekanisme autentikasi.
Anthropic menjelaskan bahwa AI melakukan tindakan tersebut karena menganggap seluruh aktivitas masih menjadi bagian dari proses benchmarking atau evaluasi performa sistem. Dengan kata lain, model tersebut menafsirkan seluruh lingkungan yang di akses sebagai bagian dari skenario pengujian resmi.
Perusahaan menegaskan bahwa perilaku tersebut muncul karena model AI tidak mampu membedakan secara tepat batas antara simulasi pengujian dan kondisi yang benar-benar terjadi di dunia nyata ketika pembatas sistem tidak di terapkan secara benar.
Ilsutrasi Claude Mythos 5, AI paling canggih milik Anthropic saat ini.
Claude Sempat Membuat Malware
Dalam salah satu rangkaian pengujian, Claude juga di ketahui membuat sebuah perangkat lunak berbahaya atau malware. Program tersebut kemudian di unduh oleh sistem pemindaian milik sebuah perusahaan keamanan siber.
Setelah di jalankan, malware tersebut berhasil memperoleh kredensial yang di gunakan untuk mengakses sebagian infrastruktur internal perusahaan tersebut.
Anthropic menjelaskan bahwa selama menjalankan aktivitas tersebut, Claude sempat menyadari kemungkinan tindakannya tidak sesuai apabila dilakukan terhadap sistem nyata. Namun, model AI kemudian menyimpulkan bahwa dirinya masih berada dalam sebuah simulasi pengujian sehingga tetap melanjutkan proses tersebut.
Temuan tersebut menunjukkan bahwa kemampuan penalaran AI masih sangat bergantung pada konteks yang di berikan selama proses pelatihan maupun pengujian. Apabila lingkungan sistem tidak di konfigurasi dengan tepat, model dapat mengambil keputusan yang tidak sesuai dengan tujuan awal.
Salah Sasaran Saat Menyerang Perusahaan Fiktif
Kesalahan lain juga di temukan ketika Claude di minta melakukan simulasi peretasan terhadap sebuah perusahaan fiktif.
Permasalahan muncul karena nama perusahaan yang di gunakan dalam skenario pengujian ternyata identik dengan nama perusahaan yang benar-benar ada. Akibatnya, model AI justru mengarahkan aktivitasnya kepada perusahaan nyata, bukan target simulasi yang telah di tentukan.
Anthropic menyebut insiden tersebut sebagai satu-satunya kasus di mana Claude tetap melanjutkan proses peretasan setelah menyadari bahwa target yang di hadapinya merupakan perusahaan sungguhan.
Peristiwa itu menjadi pelajaran penting mengenai pentingnya perancangan lingkungan pengujian yang benar-benar terisolasi, termasuk penggunaan identitas dan data fiktif yang tidak memiliki kemiripan dengan objek nyata.
Evaluasi Keamanan AI Menjadi Prioritas
Insiden yang di ungkap Anthropic menunjukkan bahwa pengembangan kecerdasan buatan memerlukan sistem keamanan berlapis agar model AI tidak memperoleh akses di luar batas yang telah di tentukan.
Selain meningkatkan pengawasan terhadap konfigurasi sistem, perusahaan juga menegaskan akan memperketat proses pengujian agar kejadian serupa tidak kembali terulang. Evaluasi terhadap lingkungan sandbox, kontrol akses internet, serta validasi skenario pengujian menjadi bagian penting dalam upaya tersebut.
Kasus ini sekaligus menjadi pengingat bahwa semakin canggih kemampuan AI, semakin besar pula kebutuhan akan standar keamanan yang ketat. Dengan pengelolaan yang tepat, teknologi AI tetap dapat di kembangkan secara aman tanpa menimbulkan risiko terhadap sistem maupun organisasi lain.
