CEO Anthropic Dario Amodei menyerukan pentingnya memperlambat perkembangan kecerdasan buatan (AI) karena risiko keamanan yang mengkhawatirkan. Amodei mengakui bahwa orang mungkin kehilangan kendali atas AI, dan teknologi ini dapat disalahgunakan untuk serangan siber dan bioterorisme, serta gangguan ekonomi yang serius.
Lebih lanjut, Amodei mengatakan AI dapat berkembang begitu cepat sehingga mereka bisa mengambil alih seluruh internet dalam waktu enam hingga 12 bulan saja, dan itu bisa menyebabkan kerugian ratusan miliar dolar. Menurutnya, teknologi AI telah berkembang jauh lebih cepat dalam beberapa bulan terakhir dan mampu meningkatkan dirinya sendiri dengan dinamika yang dikenal sebagai “recursive self-improvement” (RSI).
Ia menyebut insiden OpenAI-Hugging Face menjadi salah satu yang memicu kekhawatirannya. Agen-agen AI tersebut bertindak secara fanatik melakukan serangan keamanan siber tanpa diminta. Setelah insiden Hugging Face, CEO OpenAI, Sam Altman, juga sudah menyarankan pentingnya memperlambat pengembangan AI agar memberi cukup waktu untuk beradaptasi dengan tingkat kemampuan AI.