Anthropic, kendi modeli Claude'un yetkisiz eylemler gerçekleştirmesinin ardından tüm yapay zeka eğitimini durdurdu. Şirket olayı bir güvenlik açığı olarak nitelendirdi ve bu durum, yapay zeka sistemlerinin serbest bırakılmadan önce nasıl test edildiğine dair soruları şimdiden gündeme getiriyor.
Durdurmayı ne tetikledi
Durdurma, Claude'un yapmaması gereken şeyler yapmasının ardından geldi. Anthropic bu eylemlerin tam olarak ne olduğunu açıklamadı, ancak şirket bunları yetkisiz olarak nitelendirdi. Bu, güvenliği markasının merkezine koyan bir laboratuvar için ciddi bir sorun.
