Perseteruan Anthropic–OpenAI dan sengketa mereka dengan Pentagon mengungkap masalah yang lebih dalam terkait keamanan AI

Selamat datang di Eye on AI, bersama reporter AI Sharon Goldman. Dalam edisi ini: Trump menghadapi masalah pusat data AI menjelang pemilu tengah…Jangan percaya AI untuk mengurus pajak Anda…Alat AI Anthropic, Claude, menjadi pusat kampanye AS di Iran, di tengah perseteruan sengit.

Rekomendasi Video

Perdebatan tentang keamanan AI sering kali berfokus pada teknologi itu sendiri—seberapa kuat model-model tersebut bisa menjadi, atau risiko apa yang mungkin mereka timbulkan. Tetapi konflik minggu ini yang melibatkan Anthropic, OpenAI, dan Pentagon menunjukkan masalah yang lebih dalam: seberapa banyak kekuasaan atas masa depan AI terkonsentrasi di tangan segelintir pemimpin perusahaan dan pejabat pemerintah yang memutuskan bagaimana sistem ini dibangun, digunakan, dan diterapkan.

Selama bertahun-tahun, para kritikus industri memperingatkan tentang risiko “penangkapan industri”—masa depan di mana pengembangan sistem AI yang kuat terkonsentrasi di antara beberapa perusahaan yang bekerja sama dengan pemerintah, sehingga keamanan sistem tersebut bergantung pada insentif dan rivalitas orang-orang yang mengelolanya. Pada tahun 2023, misalnya, peneliti Yoshua Bengio mengatakan potensi sektor AI untuk dikendalikan oleh beberapa perusahaan adalah “masalah nomor dua” di balik risiko eksistensial yang ditimbulkan teknologi ini.

Jadi, tidak terlalu meyakinkan membaca kemarin tentang rasa tidak hormat CEO Anthropic, Dario Amodei, terhadap CEO OpenAI, Sam Altman, dalam memo bocoran yang ditulis Amodei kepada karyawannya hari Jumat. Surat Amodei yang marah, yang tampaknya dikirim melalui Slack Anthropic kepada semua karyawannya, muncul setelah OpenAI mengumumkan kesepakatan untuk menyediakan AI kepada Pentagon dan Menteri Perang Pete Hegseth menyatakan bahwa dia mendeklarasikan Anthropic sebagai “risiko rantai pasokan” karena gagal mencapai kesepakatan serupa.

Amodei menyebut pesan OpenAI “bohong,” “panggung keamanan,” dan “contoh dari siapa mereka sebenarnya,” sambil menggambarkan banyak komentar Altman sebagai “bohong mentah” dan “gaslighting.”

Altman juga pernah menargetkan Anthropic secara terbuka. Ia baru-baru ini menyebut salah satu kampanye Super Bowl perusahaan itu “jelas tidak jujur” dan menuduhnya melakukan “doublespeak.” Persaingan ini juga menjadi lebih simbolis: dalam sebuah konferensi baru-baru ini, Altman dan Amodei menjadi viral karena menolak untuk berpegangan tangan saat foto bersama Perdana Menteri Narendra Modi.

Dengan pemerintah AS yang sedikit mengambil tindakan untuk mengatur AI—dan upaya internasional untuk keamanan AI yang sebagian besar terhenti—dunia secara efektif bergantung pada regulasi diri oleh industri. Baik OpenAI maupun Anthropic secara terbuka mendukung paradigma tersebut dan menandatangani komitmen keselamatan sukarela. Mereka juga pernah bekerja sama untuk melakukan evaluasi keamanan independen terhadap model satu sama lain sebelum dirilis.

Namun, ketika para pemimpin dari dua laboratorium AI paling berpengaruh ini tampaknya tidak bisa akur, dan persaingan di antara mereka begitu sengit, muncul pertanyaan yang tidak nyaman: seberapa banyak kerjasama tentang keamanan yang bisa kita harapkan secara realistis?

Tekanan dari persaingan sudah mempengaruhi kedua perusahaan dalam hal keamanan AI. Anthropic baru-baru ini merevisi Kebijakan Skala Bertanggung Jawab mereka untuk menyatakan bahwa mereka tidak akan lagi secara sepihak menahan pengembangan model baru hanya karena mereka belum tahu cara membuat model tersebut aman. Dan OpenAI juga melakukan penyesuaian, menghapus larangan eksplisit terhadap penggunaan militer dan perang dari kebijakannya di tahun 2024, serta mengalihkan fokus dari penelitian keamanan ke pengembangan produk, sehingga mantan pemimpin superalignment, Jan Leike (yang pindah ke Anthropic pada pertengahan 2024), menulis di X bahwa “budaya dan proses keamanan di OpenAI telah tersisih demi produk yang bersinar.”

Pendekatan keamanan saat ini mengasumsikan bahwa perusahaan dan pemerintah akan bertindak dengan pembatasan. Tetapi masa depan keamanan AI mungkin sangat bergantung pada bagaimana sekelompok kecil pemain kuat menavigasi tekanan dari persaingan, geopolitik, dan drama Silicon Valley sesekali.

Dengan itu, berikut berita AI lainnya.

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

FORTUNE TENTANG AI

Mengapa dana lindung nilai AI Leopold Aschenbrenner bertaruh besar pada perusahaan energi dan penambang bitcoin untuk mendukung perlombaan ‘superintelligence’ – oleh Sharon Goldman

OpenAI melihat lonjakan pengguna Codex hingga 1,6 juta, menempatkan alat pengkodean sebagai gerbang ke agen AI untuk bisnis – oleh Jeremy Kahn

Startup Korea wrtn sedang dalam jalur melewati $100 juta pendapatan berulang tahunan, didorong oleh ledakan epidemi kesepian dalam hiburan AI – oleh Nicolas Gordon

BERITA AI

Trump menghadapi masalah pusat data AI menjelang pemilu tengah. CNBC dan media lain melaporkan bahwa Presiden Trump menghadapi dilema politik yang semakin besar saat AS berlomba membangun pusat data AI yang boros energi menjelang pemilu tengah 2026. Infrastruktur yang dibutuhkan untuk mendukung ledakan AI ini memicu kekhawatiran tentang kenaikan harga listrik dan tekanan pada jaringan listrik, memicu reaksi keras dari pemilih dan komunitas lokal. Sebagai tanggapan, perusahaan teknologi besar—termasuk OpenAI, Microsoft, Google, Amazon, Meta, dan Oracle—berjanji menanggung biaya energi dan infrastruktur terkait pusat data AI mereka agar konsumen tidak membayar tagihan utilitas yang lebih tinggi. Kesepakatan sukarela ini, yang dipromosikan Gedung Putih sebagai cara mengurangi kekhawatiran pemilih, mencerminkan ketegangan yang lebih luas: pembuat kebijakan menginginkan keuntungan ekonomi dan geopolitik dari ekspansi AI yang cepat, tetapi permintaan listrik yang besar dari teknologi ini menciptakan tekanan politik dan lingkungan yang semakin sulit diabaikan.

Jangan percaya AI untuk mengurus pajak Anda. Dalam hasil yang seharusnya tidak mengejutkan siapa pun, sebuah uji coba oleh The New York Times menemukan bahwa AI tidak sebanding dengan kode pajak AS, menyoroti keterbatasan penting dari chatbot AI saat ini: mereka masih kesulitan dengan tugas yang membutuhkan penalaran multi-langkah yang tepat. Untuk menilai kemampuan teknologi dalam mengajukan pengembalian pajak penghasilan federal, surat kabar ini menguji empat chatbot AI—Gemini dari Google, ChatGPT dari OpenAI, Claude dari Anthropic, dan Grok dari xAI—untuk melihat seberapa baik mereka menangani delapan situasi pajak fiktif. Mereka mengalami kesulitan besar, salah menghitung pengembalian atau jumlah yang harus dibayar ke IRS dengan rata-rata lebih dari $2.000. Bahkan saat diberikan semua bahan yang diperlukan, termasuk formulir yang harus diisi, chatbot gagal dalam beberapa perhitungan. Masalah ini mencerminkan keterbatasan mendasar dari model bahasa besar: mereka dirancang untuk memprediksi kata yang kemungkinan besar muncul, bukan untuk melacak informasi yang kompleks dan saling terkait secara tepat, sehingga mereka kuat dalam menulis dan merangkum tetapi lemah dalam tugas prosedural seperti pengisian pajak. Para ahli mengatakan sistem ini mungkin akan membaik dengan alat penalaran tambahan dan lapisan verifikasi, tetapi untuk saat ini mereka paling cocok sebagai asisten, bukan pengganti—pengingat lain bahwa meskipun AI mengubah industri dari pengkodean hingga kedokteran, beberapa tugas yang tampaknya lebih sederhana tetap sangat sulit.

Alat AI Claude dari Anthropic menjadi pusat kampanye AS di Iran, di tengah perseteruan sengit. Sebuah laporan baru dari The Washington Post menyoroti bagaimana AI dengan cepat beralih dari eksperimen ke medan perang. Menurut surat kabar tersebut, militer AS menggunakan sistem penargetan berbasis AI bernama Maven Smart System—dibangun oleh Palantir dan menggabungkan model Claude dari Anthropic—untuk membantu mengidentifikasi dan memprioritaskan target selama operasi AS baru-baru ini di Iran, mempercepat proses pengambilan keputusan yang sebelumnya memakan waktu berminggu-minggu menjadi hampir waktu nyata. Namun, penggunaan ini terjadi di tengah sengketa sengit antara Anthropic dan Pentagon mengenai batasan penggunaan teknologi ini dalam peperangan, termasuk kekhawatiran tentang senjata otonom dan pengawasan massal. Episode ini menegaskan pentingnya strategis dari sistem AI frontier dan ketegangan antara permintaan pemerintah untuk penerapan cepat dan upaya perusahaan untuk menetapkan batas keamanan.

ANGKA-ANGKA EYE ON AI

$25 miliar

Itulah pendapatan tahunan yang dihasilkan OpenAI hingga akhir bulan lalu, menurut laporan dari The Information—lonjakan 17% dari angka $21,4 miliar yang dicapai pada akhir tahun, menurut dua sumber yang akrab dengan angka tersebut.

OpenAI masih menghasilkan pendapatan lebih besar daripada pesaing terdekatnya, Anthropic, meskipun jaraknya semakin dekat. Pendapatan tahunan Anthropic baru-baru ini menembus $19 miliar, hampir tiga kali lipat dari akhir tahun lalu dan naik 36% dalam dua minggu terakhir.

OpenAI menghitung pendapatan tahunan dengan mengalikan pendapatan empat minggu terakhir dengan 12. Salah satu sumber mengatakan bahwa jika perusahaan memperkirakan dari lonjakan pendapatan minggu terakhir saja, angka tahunan akan mendekati $30 miliar.

Pertumbuhan pesat Anthropic sebagian didorong oleh permintaan kuat terhadap model AI yang berfokus pada pengkodean, yang membantu perusahaan menutup jarak pendapatan dengan OpenAI dengan cepat. Pada tahun 2025, OpenAI menghasilkan sekitar tiga kali lipat pendapatan Anthropic.

KALENDER AI

2-5 Maret: Mobile World Congress, Barcelona, Spanyol.

12-18 Maret: South by Southwest, Austin, Texas.

16-19 Maret: Nvidia GTC, San Jose, California.

6-9 April: HumanX, San Francisco.

Bergabunglah dengan kami di Fortune Workplace Innovation Summit 19–20 Mei 2026, di Atlanta. Era baru inovasi tempat kerja telah tiba—dan buku panduan lama sedang ditulis ulang. Dalam acara eksklusif dan penuh energi ini, para pemimpin paling inovatif di dunia akan berkumpul untuk mengeksplorasi bagaimana AI, manusia, dan strategi bersatu kembali untuk mendefinisikan masa depan kerja. Daftar sekarang.