OpenAI dilaporkan telah mengambil langkah mundur dalam pengembangan model kecerdasan buatan terbarunya, Astra. Keputusan ini diambil menyusul kekhawatiran internal bahwa kemampuan Astra dalam bidang coding dan keamanan siber telah mencapai tingkat yang dinilai berpotensi “Critical”.
Sumber internal yang enggan disebutkan namanya mengungkapkan bahwa tim pengembang mendeteksi potensi Astra untuk melampaui batasan yang aman, terutama dalam hal kemampuannya untuk melakukan peretasan atau mengakses sistem secara tidak sah. Hal ini memicu peninjauan ulang terhadap arah pengembangan model tersebut.
Meskipun rincian spesifik mengenai sejauh mana kemampuan Astra tersebut belum diungkapkan secara publik, kekhawatiran ini berpusat pada potensi penyalahgunaan teknologi AI yang sangat kuat. Keterbatasan pengembangan ini merupakan respons proaktif OpenAI untuk memastikan keamanan dan etika dalam penerapan teknologi mereka.
Seorang juru bicara OpenAI, dilansir dari The Information pada Selasa, 11 Juni 2024, mengonfirmasi bahwa perusahaan memang telah melakukan penyesuaian pada pengembangan Astra. “Kami telah mengerem beberapa pekerjaan pada Astra, terutama terkait dengan kemampuan pengodean dan keamanan siber,” ujarnya. Pernyataan ini menegaskan adanya pembatasan yang disengaja terhadap fitur-fitur tertentu dari model AI tersebut.
Lebih lanjut, juru bicara tersebut menjelaskan bahwa penyesuaian ini dilakukan karena tim merasa “tidak nyaman” dengan potensi yang ditunjukkan oleh Astra. Kekhawatiran ini bukan tanpa alasan, mengingat pesatnya kemajuan AI dan potensi dampaknya jika disalahgunakan. OpenAI berkomitmen untuk mengembangkan teknologi AI yang aman dan bermanfaat bagi masyarakat luas.
Keputusan untuk mengerem pengembangan Astra ini mencerminkan pendekatan hati-hati OpenAI dalam menghadapi kemajuan AI yang semakin canggih. Perusahaan teknologi raksasa ini menyadari pentingnya keseimbangan antara inovasi dan tanggung jawab, terutama ketika melibatkan teknologi yang memiliki potensi besar baik untuk kebaikan maupun risiko.
