Perkembangan pesat kecerdasan buatan (AI) saat ini ternyata belum diimbangi dengan kesiapan sistem keamanan yang memadai. Menurut F5, perusahaan penyedia solusi keamanan siber global, keamanan AI yang ada saat ini masih bersifat permukaan, sebatas ‘pelapis’ pada aplikasi chatbot, dan belum menyentuh akar masalah keamanan AI yang sesungguhnya.
Dalam sebuah diskusi virtual yang diadakan pada Selasa (16/1/2024), para pakar F5 menyoroti kesenjangan antara kemajuan AI dan kesiapan infrastruktur keamanannya. Mereka menekankan bahwa meskipun AI telah terintegrasi dalam berbagai aplikasi, termasuk chatbot, perlindungan yang diterapkan masih sangat terbatas.
“Saat ini, keamanan AI masih sebatas pelapis, hanya melindungi chatbot dari serangan yang kasat mata saja. Padahal, ancaman terhadap AI itu sendiri jauh lebih kompleks dan mengkhawatirkan,” ujar Sri Pangestu, Direktur Penjualan F5 Indonesia, dalam diskusi tersebut. Ia menambahkan bahwa kekhawatiran utama adalah bagaimana AI dapat dimanipulasi untuk tujuan jahat, yang berpotensi menimbulkan dampak luas.
Sri Pangestu menjelaskan bahwa kerentanan AI tidak hanya terletak pada bagaimana ia berinteraksi dengan pengguna, tetapi juga pada data yang digunakan untuk melatihnya. Serangan seperti peracunan data (data poisoning) atau pergeseran model (model drift) dapat mengakibatkan AI memberikan respons yang salah, bias, atau bahkan berbahaya. Hal ini tentu sangat mengkhawatirkan mengingat AI semakin banyak digunakan dalam pengambilan keputusan penting.
“AI bisa saja dimanipulasi untuk memberikan informasi yang salah, atau bahkan digunakan untuk memanipulasi audiens,” ungkap Sri Pangestu. Ia memberikan ilustrasi bahwa AI dapat diatur untuk menghasilkan konten yang menyesatkan atau mendorong narasi tertentu, yang berpotensi merusak reputasi dan kepercayaan publik terhadap suatu entitas atau informasi yang disajikan.
Lebih lanjut, F5 menyoroti potensi risiko yang lebih besar jika AI digunakan dalam sistem yang lebih krusial, seperti infrastruktur kritis atau sistem keuangan. Jika AI dalam sistem tersebut berhasil dimanipulasi, dampaknya bisa sangat merusak dan sulit dipulihkan. Oleh karena itu, F5 mendorong agar pengembangan keamanan AI dilakukan secara komprehensif, mulai dari perlindungan data, validasi model, hingga pemantauan berkelanjutan.
“Kita perlu membangun fondasi keamanan yang kuat untuk AI, bukan hanya sekadar menambahkan lapisan pelindung di luar. Ini mencakup pengamanan data pelatihan, validasi integritas model AI, dan pemantauan terus-menerus terhadap perilaku AI,” pungkas Sri Pangestu. Ia menekankan pentingnya pendekatan proaktif dalam menghadapi ancaman keamanan AI yang terus berkembang seiring dengan kemajuan teknologi itu sendiri.
