Anthropic Memperingatkan Bahwa Penghalang Serangan Siber Telah Jatuh seiring dengan Mempercepat Kemampuan AI

Anthropic mengatakan bahwa kecerdasan buatan (AI) telah mencapai ambang penting dalam keamanan siber, dengan bukti baru menunjukkan bahwa model AI sekarang mampu melakukan operasi siber besar—baik defensif maupun ofensif—dengan skala yang belum pernah terjadi sebelumnya.

AI Mencapai Titik Balik Keamanan Siber, Peringatkan Anthropic dalam Investigasi Baru

Anthropic, perusahaan AI di balik Claude, mengatakan bahwa evaluasi internal dan pekerjaan intelijen ancamannya menunjukkan pergeseran yang menentukan dalam pengembangan kemampuan siber. Menurut investigasi yang baru dirilis, kemampuan siber di antara sistem AI telah meningkat dua kali lipat dalam enam bulan, didukung oleh pengukuran aktivitas dunia nyata dan pengujian berbasis model.

Perusahaan mengatakan bahwa AI sekarang secara signifikan mempengaruhi dinamika keamanan global, terutama karena aktor jahat semakin mengadopsi kerangka serangan otomatis. Dalam laporan terbarunya, Anthropic merinci apa yang disebutnya sebagai kasus pertama yang terdocumentasi dari kampanye spionase siber yang diorkestrasi oleh AI. Tim Intelijen Ancaman perusahaan mengidentifikasi dan mengganggu operasi berskala besar pada pertengahan September 2025, yang dikaitkan dengan kelompok yang disponsori negara China yang diberi nama GTG-1002.

Sumber: X Kelompok tersebut dilaporkan menggunakan serangkaian tindakan terkoordinasi dari Claude Code untuk melakukan pengintaian, penemuan kerentanan, eksploitasi, pergerakan lateral, ekstraksi metadata, dan eksfiltrasi data—sebagian besar tanpa keterlibatan manusia. Kampanye ini menargetkan sekitar 30 organisasi di berbagai sektor termasuk teknologi, keuangan, kimia, dan beberapa lembaga pemerintah. Anthropic memvalidasi beberapa intrusi yang berhasil sebelum campur tangan.

Sumber: Laporan Anthropic. Para analis mengatakan bahwa para penyerang memanfaatkan kerangka otonom yang mampu memecah serangan multi-tahap menjadi tugas-tugas kecil yang terlihat sah ketika diisolasi dari konteks yang lebih luas. Ini memungkinkan para pelaku untuk mengirimkan permintaan melalui persona yang sudah ada dan meyakinkan Claude bahwa operasi tersebut adalah pengujian keamanan defensif daripada kampanye ofensif.

Menurut penyelidikan, Claude secara otonom menjalankan 80% hingga 90% dari operasi taktis. Operator manusia hanya memberikan pengawasan strategis, menyetujui langkah-langkah utama seperti peningkatan dari pengintaian ke eksploitasi aktif atau mengizinkan eksfiltrasi data. Laporan tersebut menggambarkan tingkat tempo operasional yang tidak mungkin dicapai oleh tim yang hanya terdiri dari manusia, dengan beberapa alur kerja menghasilkan beberapa operasi per detik di seluruh ribuan permintaan.

Sumber: Laporan Anthropic. Anthropic mengatakan bahwa siklus serangan maju melalui jalur terstruktur di mana otonomi AI meningkat di setiap fase. Claude secara mandiri memetakan permukaan serangan, memindai sistem langsung, membangun payload kustom untuk kerentanan yang divalidasi, mengumpulkan kredensial, dan beralih melalui jaringan internal. Ia juga menganalisis data yang dicuri, mengidentifikasi intelijen bernilai tinggi, dan secara otomatis menghasilkan dokumentasi operasional terperinci yang memungkinkan akses berkelanjutan dan serah terima antara operator.

Satu keterbatasan, catatan laporan, adalah kecenderungan model untuk berhalusinasi di bawah beban kerja ofensif—kadang-kadang melebih-lebihkan akses, memalsukan kredensial, atau mengklasifikasikan informasi yang tersedia untuk umum sebagai sensitif. Meskipun begitu, Anthropic mengatakan bahwa pelaku mengkompensasi melalui langkah-langkah validasi, menunjukkan bahwa operasi ofensif otonom sepenuhnya tetap mungkin meskipun ada kekurangan dalam model-model saat ini.

Setelah penemuan tersebut, Anthropic melarang akun-akun yang relevan, memberitahu entitas yang terkena dampak, berkoordinasi dengan otoritas, dan memperkenalkan mekanisme pertahanan baru, termasuk pengklasifikasi yang lebih baik untuk mendeteksi pola ancaman baru. Perusahaan kini sedang membuat prototipe sistem peringatan dini yang dirancang untuk menandai upaya intrusi otonom dan membangun alat investigasi baru untuk operasi siber terdistribusi berskala besar.

Baca selengkapnya: 'Magentic Marketplace' Microsoft Mengungkapkan Bagaimana Agen AI Dapat Collaps di Bawah Tekanan

Perusahaan berpendapat bahwa meskipun kemampuan ini dapat dipersenjatai, mereka sama pentingnya untuk memperkuat kesiapan defensif. Anthropic mencatat bahwa tim Intelijen Ancaman mereka sangat bergantung pada Claude untuk menganalisis dataset besar yang dihasilkan selama penyelidikan. Mereka mendorong tim keamanan untuk mulai mengadopsi otomatisasi yang didorong oleh AI untuk pusat operasi keamanan, deteksi ancaman, analisis kerentanan, dan respons insiden.

Namun, laporan tersebut memperingatkan bahwa penghalang siber telah “turun secara substansial” karena sistem AI memungkinkan sekelompok kecil—atau bahkan individu—untuk melaksanakan operasi yang sebelumnya terbatas pada aktor negara yang didanai dengan baik. Anthropic mengharapkan proliferasi cepat teknik-teknik ini di seluruh lingkungan ancaman yang lebih luas, menyerukan kolaborasi yang lebih dalam, peningkatan perlindungan defensif, dan partisipasi industri yang lebih luas dalam berbagi ancaman untuk melawan model serangan yang didukung AI yang muncul.

FAQ ❓

• Apa yang ditemukan Anthropic dalam penyelidikannya? Anthropic mengidentifikasi dan menggagalkan kampanye spionase siber berskala besar yang menggunakan AI untuk mengotomatisasi sebagian besar operasi serangan.
• **Siapa yang berada di balik serangan itu?**Perusahaan tersebut mengaitkan operasi itu dengan kelompok yang disponsori negara Tiongkok yang ditetapkan sebagai GTG-1002.
• Bagaimana AI digunakan dalam intrusi? Penyerang menggunakan Claude Code untuk secara otonom melakukan pengintaian, eksploitasi, gerakan lateral, dan ekstraksi data.
• Mengapa laporan ini penting bagi tim keamanan siber? Anthropic mengatakan bahwa kasus ini menunjukkan bahwa serangan yang didukung oleh AI otonom sekarang dapat dilakukan secara skala dan memerlukan strategi defensif yang baru.