OpenAI telah menghentikan kerja pada model AI utama seterusnya, Astra, selepas penilaian dalaman mencadangkan sistem itu mungkin cukup berbahaya untuk menulis senjata sibernya sendiri. Syarikat itu berkata ia menghentikan pembangunan sehingga langkah keselamatan seiring dengan keupayaan model tersebut.
Mengapa penghentian dikeluarkan
Keputusan ini datang daripada semakan keselamatan OpenAI sendiri, yang menandakan keupayaan lanjutan Astra boleh disalahgunakan untuk mencipta alat siber serangan. Menurut syarikat itu, potensi model tersebut untuk membangunkan senjata siber secara autonomi menimbulkan risiko yang tidak dapat dikawal sepenuhnya oleh langkah keselamatan sedia ada.
OpenAI tidak menyatakan garis masa untuk menyambung semula kerja pada Astra. Sebaliknya, ia berkata penghentian itu akan berterusan sehingga langkah keselamatan yang diperlukan disediakan dan disahkan.
Apa yang sepatutnya menjadi Astra
Astra diposisikan sebagai model utama seterusnya OpenAI, mengikuti keluaran sebelumnya syarikat itu. Syarikat itu tidak mendedahkan butiran tentang seni bina Astra atau aplikasi yang dimaksudkan, tetapi model itu dijangka menolak sempadan apa yang sistem AI boleh lakukan.
Penghentian ini bermakna sebarang keluaran atau integrasi yang dirancang melibatkan Astra kini ditangguhkan. OpenAI tidak menyatakan sama ada kelewatan itu akan menjejaskan produk lain atau garis masa penyelidikan.
Proses semakan keselamatan
Proses semakan dalaman OpenAI direka untuk mengesan keupayaan berbahaya sebelum model digunakan. Dalam kes ini, semakan mengenal pasti risiko khusus: keupayaan Astra untuk menulis senjata siber sendiri. Penemuan itu mencetuskan penghentian.
Syarikat itu tidak berkongsi butiran penuh semakan atau langkah keselamatan khusus yang dirancang untuk ditambah. Ia hanya berkata kerja pada Astra akan disambung semula sebaik sahaja langkah keselamatan tersebut siap.
Apa yang berlaku seterusnya
OpenAI belum mengumumkan tarikh sasaran baharu untuk pembangunan Astra disambung semula. Syarikat itu dijangka memberikan kemas kini semasa ia menangani langkah keselamatan. Sehingga itu, Astra kekal disimpan, dan persoalan bila—atau sama ada—ia akan melihat cahaya matahari masih terbuka.
