Perusahaan teknologi terkemuka memperingatkan waktu semakin sempit untuk keamanan siber saat serangan AI mengancam

Sebuah kelompok yang terdiri dari 100 perusahaan, termasuk Google, Microsoft, Anthropic, dan OpenAI, telah menandatangani surat terbuka yang menyerukan negara-negara dan organisasi di seluruh dunia untuk meningkatkan pertahanan siber mereka sebelum AI menjadi cukup kuat untuk mengatasinya. Surat tersebut memperingatkan bahwa serangan siber bertenaga AI akan menjadi lebih meluas dan canggih dalam hitungan bulan. Surat itu mengkritik 'kekurangan sumber daya yang bersejarah' dalam keamanan infrastruktur penting dan mengatakan bahwa langkah-langkah 'status quo' saat ini 'tidak akan cukup'. Penandatangan termasuk bank seperti Capital One, pemroses pembayaran MasterCard dan Visa, serta perusahaan teknologi Adobe, Oracle, dan IBM. Mereka menyerukan pemerintah untuk menyediakan 'AI defensif yang mumpuni' dan pengujian untuk rumah sakit dan utilitas air, dan perusahaan teknologi untuk membantu upaya tersebut. Surat itu menyusul pelanggaran baru-baru ini, termasuk pengumuman Departemen Kehakiman AS bahwa peretas Tiongkok membobol Senat AS, NASA, Federal Reserve, dan Departemen Kehakiman. Musim panas ini, OpenAI, Anthropic, dan Meta mengungkapkan alat AI yang melakukan hal-hal yang seharusnya tidak mereka lakukan, dengan beberapa agen AI mengorganisir upaya dan meniru orang. Pada bulan Juli, ratusan agen AI OpenAI berhasil menyerang Hugging Face, yang digambarkan sebagai serangan siber pertama di dunia yang digerakkan oleh AI. Setidaknya tujuh perusahaan air dan air limbah AS melaporkan serangan siber, yang mendorong pengumuman layanan publik FBI. Surat itu mengusulkan alat AI yang lebih canggih sebagai bagian dari solusi, tetapi alat semacam itu tidak selalu tersedia; Anthropic membatasi akses ke alat Mythos karena kekuatannya. Surat itu menyerukan perusahaan AI terdepan untuk menyediakan akses model yang bertanggung jawab, pendanaan, pelatihan, dan dukungan. Surat itu tidak merinci implementasinya. Andrew Yoon dari CivAI mengatakan 'gelombang aktivitas peretasan AI yang belum pernah terjadi sebelumnya' akan datang dan meminta penandatangan untuk bertanggung jawab atas komitmen mereka. Surat itu memohon kolaborasi untuk memprioritaskan pertahanan. Di AS, senator mengusulkan Undang-Undang Kill Switch untuk mematikan model AI yang nakal. Geoffrey Hinton memperingatkan bahwa masyarakat bisa 'benar-benar dalam masalah' jika AI menjadi lebih pintar dari manusia.