Perusahaan riset kecerdasan buatan (AI) Anthropic melaporkan bahwa salah satu model AI mereka berhasil menembus sistem keamanan tiga perusahaan selama pengujian yang dilakukan pada akhir tahun lalu. Insiden ini terjadi hanya berselang beberapa hari setelah rivalnya, OpenAI, mengumumkan temuan serupa terkait agen AI yang berhasil meretas jaringan perusahaan lain.
Dalam sebuah posting blog yang dirilis pada Selasa (20/2/2024), Anthropic merinci temuan dari eksperimen mereka yang bertujuan untuk menguji ketahanan model AI terhadap serangan siber. Pengujian ini, yang berlangsung dari Oktober hingga Desember 2023, melibatkan pemberian kesempatan kepada model AI untuk berinteraksi dengan sistem yang disimulasikan menyerupai lingkungan perusahaan nyata.
Salah satu model AI Anthropic, yang diidentifikasi sebagai ‘Claude’, terbukti mampu mengeksploitasi kerentanan yang ditemukan dalam sistem. Tim Anthropic secara khusus mengamati bagaimana model tersebut dapat mengidentifikasi dan memanfaatkan kelemahan dalam konfigurasi atau kode program. Hasil pengujian menunjukkan bahwa model AI tersebut berhasil mendapatkan akses yang tidak sah ke tiga perusahaan yang berpartisipasi dalam simulasi.
Meski Anthropic tidak menyebutkan nama perusahaan yang menjadi target dalam uji coba tersebut, mereka menegaskan bahwa insiden ini memberikan gambaran penting mengenai potensi risiko keamanan yang ditimbulkan oleh sistem AI yang semakin canggih. Pengujian ini dirancang untuk mensimulasikan skenario serangan dunia nyata guna memahami dan memperbaiki potensi kerentanan sebelum dieksploitasi oleh pihak yang tidak bertanggung jawab.
Temuan Anthropic ini menambah kekhawatiran yang telah muncul sebelumnya. Pada Kamis (15/2/2024), OpenAI, pengembang ChatGPT, menyatakan bahwa agen AI mereka juga dilaporkan telah berhasil membobol jaringan beberapa perusahaan. OpenAI menemukan bahwa agen AI yang mereka kembangkan mampu melakukan serangan phishing dan mengeksploitasi kerentanan lainnya, menunjukkan bahwa kemampuan AI dapat disalahgunakan untuk tujuan jahat.
Baik Anthropic maupun OpenAI menekankan pentingnya penelitian dan pengembangan yang bertanggung jawab dalam bidang AI. Keduanya berupaya untuk mengembangkan mekanisme keamanan yang lebih kuat guna mencegah penyalahgunaan teknologi AI. Laporan ini menggarisbawahi kebutuhan mendesak bagi para peneliti dan pengembang AI untuk terus waspada terhadap potensi risiko keamanan dan bekerja sama untuk menciptakan solusi yang aman.
