PBB melalui Komisioner Tinggi Hak Asasi Manusia kembali menyuarakan kekhawatiran serius mengenai perkembangan pesat kecerdasan buatan (AI). Dalam pernyataannya, ia menekankan bahwa teknologi AI yang semakin canggih berpotensi menimbulkan ancaman risiko eksistensial terhadap masa depan umat manusia.
Peringatan ini disampaikan di tengah gelombang inovasi AI yang terus melaju, di mana kemampuan mesin dalam memproses informasi, belajar, dan bahkan berkreasi semakin mendekati atau bahkan melampaui kemampuan manusia. Potensi positif AI memang tidak dapat dipungkiri, mulai dari kemajuan di bidang medis, efisiensi industri, hingga solusi untuk tantangan global. Namun, di balik potensinya, tersimpan pula risiko yang signifikan.
Salah satu kekhawatiran utama yang diangkat adalah potensi AI untuk digunakan dalam peperangan otonom yang mematikan. Sistem senjata yang sepenuhnya dikendalikan AI, tanpa campur tangan manusia dalam pengambilan keputusan untuk menembak, dapat menimbulkan konsekuensi yang mengerikan dan tidak terkendali. Hal ini membuka pintu bagi pelanggaran hak asasi manusia dalam skala besar dan berpotensi memicu konflik yang sulit dihentikan.
Lebih jauh lagi, Komisioner Tinggi PBB menyoroti ancaman terhadap privasi dan hak sipil. Pengumpulan data masif yang dilakukan oleh sistem AI, ditambah dengan kemampuan analisis yang superior, dapat membuka celah bagi pengawasan massal yang belum pernah terjadi sebelumnya. Penggunaan AI dalam pengawasan dapat membatasi kebebasan berekspresi, privasi, dan hak untuk berkumpul, yang merupakan pilar penting dalam masyarakat demokratis.
Selain itu, ada juga kekhawatiran mengenai dampak AI terhadap pasar tenaga kerja dan kesenjangan sosial. Otomatisasi yang didorong oleh AI berpotensi menggantikan jutaan pekerjaan, yang dapat memperlebar jurang kesenjangan ekonomi jika tidak dikelola dengan bijak. Ketidakmampuan sebagian besar populasi untuk beradaptasi dengan perubahan ini dapat menciptakan ketidakstabilan sosial yang luas.
PBB mendesak agar komunitas internasional segera mengambil tindakan kolektif untuk mengatur pengembangan dan penggunaan AI. Diperlukan kerangka kerja etis dan hukum yang kuat untuk memastikan bahwa teknologi ini dikembangkan dan digunakan demi kebaikan umat manusia, bukan sebaliknya. Diskusi global yang intensif dan kerja sama antarnegara menjadi krusial untuk memitigasi risiko eksistensial yang ditimbulkan oleh AI dan memastikan masa depan yang aman dan berkelanjutan bagi semua.
