Menurut para pejabat pertahanan AS, perkembangan AI kini bergerak jauh lebih cepat dibanding kemampuan pemerintah menyusun aturan pengamanannya. Setiap model baru yang dirilis membawa kemampuan yang lebih kuat dibanding generasi sebelumnya. Masalahnya, tidak semua kemampuan itu mudah dikendalikan setelah teknologi dilepas ke publik.
Karena itu, pemerintah AS mulai mengambil langkah pencegahan. Melalui kebijakan baru Gedung Putih, perusahaan AI diberikan opsi untuk menyerahkan model mereka kepada pemerintah sebelum dirilis. Selama sekitar 30 hari, Pentagon dapat menguji sistem tersebut guna mencari kerentanan, potensi penyalahgunaan, dan risiko keamanan nasional yang mungkin muncul.
Emil Michael, Wakil Menteri Pertahanan AS untuk Penelitian dan Rekayasa menyampaikan perlombaan AI saat ini tampaknya bukan lagi sekadar tentang siapa yang paling cerdas. Melainkan siapa yang lebih dulu mengendalikan teknologi yang suatu hari bisa menjadi senjata paling kuat di era digital. Salah satu kasus terbaru yang menjadi sorotan adalah Mythos, model AI terbaru milik Anthropic. Perusahaan tersebut mengakui model itu mampu mengidentifikasi dan mengeksploitasi kelemahan dalam perangkat lunak. Bagi para pendukung teknologi, kemampuan tersebut berguna untuk memperkuat keamanan digital. Namun bagi para kritikus, kemampuan yang sama dapat berubah menjadi alat serangan yang berbahaya.