Pemerintah Inggris dan AS telah memperingatkan bank-bank besar tentang ancaman baru yang disebabkan oleh model AI terbaru bernama ‘Mythos’ dari Anthropic. Khawatir bahwa teknologi canggih ini dapat dimanfaatkan untuk eksploitasi kerentanan sistem dan penipuan yang meningkat, Anthropic memutuskan untuk menunda perilisan Mythos. Institut Keamanan AI (AISI) telah melakukan evaluasi menyeluruh terhadap Mythos dan menemukan peningkatan signifikan dalam kemampuannya dibandingkan dengan model-model sebelumnya. AISI telah mengembangkan berbagai metode evaluasi yang kompleks, mulai dari uji coba sampai simulasi serangan siber multi-tahap untuk mengukur kemampuan AI. Mythos dianggap mampu mengeksploitasi kerentanan secara otonom dan telah menunjukkan kinerja yang mengagumkan dalam uji coba sejauh ini.
Dalam tantangan ‘Capture-the-Flag’ (CTF), Mythos berhasil menunjukkan kemampuannya dalam mengidentifikasi dan mengeksploitasi kelemahan sistem target. Grafik yang dibuat AISI menunjukkan bahwa Mythos mampu menyelesaikan tugas-tugas tingkat profesional dengan tingkat keberhasilan 73%, sesuatu yang sebelumnya tidak mungkin dilakukan oleh model AI sebelumnya. Selain itu, Mythos juga mampu menyelesaikan simulasi serangan siber yang rumit dengan baik, menunjukkan bahwa kemampuannya dalam lingkungan simulasi keamanan siber.
Namun, AISI juga menemukan beberapa kelemahan dalam kemampuan Mythos, terutama dalam uji coba siber yang fokus pada teknologi operasional. Walaupun demikian, AISI memperkirakan bahwa dengan lebih banyak komputasi dan pengembangan, Mythos memiliki potensi untuk terus meningkat. Keberhasilan Mythos dalam lingkungan simulasi juga menyoroti pentingnya keamanan siber yang kuat dan perlunya perhatian ekstra dalam melindungi sistem dari ancaman cyber.
AISI menegaskan bahwa investasi dalam pertahanan siber sangat penting mengingat kemungkinan adanya model AI yang lebih mumpuni di masa depan. Dalam upaya untuk membantu organisasi melindungi diri dari ancaman online, mereka menyarankan penerapan skema Cyber Essentials. Kemampuan AI dalam siber tidak hanya menjadi tantangan, tetapi juga dapat menjadi alat yang kuat dalam meningkatkan pertahanan cybersecurity secara keseluruhan.
