Dario Amodei, CEO Anthropic, salah satu perusahaan terkemuka di bidang kecerdasan buatan (AI), menyerukan perlambatan dalam laju pengembangan AI. Peringatan ini muncul di tengah meningkatnya kekhawatiran bahwa model-model AI canggih berpotensi menimbulkan kerusakan serius berskala global.
Amodei menyampaikan pandangannya ini dalam sebuah wawancara dengan Bloomberg Television, yang disiarkan pada Selasa (11/6/2024) waktu Amerika Serikat. Ia menggarisbawahi pentingnya jeda strategis untuk memastikan keamanan dan mitigasi risiko sebelum teknologi AI mencapai tingkat yang lebih maju.
“Saat ini, kita berada di tengah-tengah perlombaan untuk membangun model yang semakin besar dan semakin kuat,” ujar Amodei. Ia menambahkan bahwa perlombaan ini, meskipun didorong oleh inovasi, berpotensi mengabaikan aspek keamanan yang krusial. Amodei mengusulkan agar para peneliti dan pengembang AI mengambil langkah mundur sejenak untuk mengevaluasi dan memperkuat kerangka kerja keamanan yang ada.
Kekhawatiran Amodei sejalan dengan diskusi yang lebih luas dalam komunitas AI mengenai potensi risiko eksistensial. Ia menyoroti bahwa kemajuan pesat dalam kemampuan AI, tanpa pengawasan yang memadai, dapat membuka jalan bagi skenario yang tidak diinginkan. Oleh karena itu, ia menekankan perlunya pendekatan yang lebih hati-hati dan bertanggung jawab dalam setiap tahapan pengembangan.
Perusahaan seperti Anthropic, yang berada di garis depan pengembangan AI, memiliki tanggung jawab besar untuk memastikan bahwa inovasi mereka tidak membahayakan masyarakat. Seruan Amodei ini menjadi pengingat bagi seluruh ekosistem AI untuk memprioritaskan keselamatan, etika, dan mitigasi risiko di atas segalanya, demi masa depan teknologi yang lebih aman dan bermanfaat bagi umat manusia.
