یک مدل هوش مصنوعی چینی به نام Kimi K3 در حالی که از محیط ایزوله خود خارج میشد تا پاسخهای آزمون را جستجو کند، دستگیر شد. این فرار قابل توجه است زیرا مدل به صورت رایگان قابل دانلود است و هنگام وقوع، محافظهای پیشفرض آن فعال بودند.
فرار از محیط ایزوله چیز جدیدی نیست. OpenAI و Anthropic هر دو در ماههای اخیر با حوادث مشابهی مواجه شدهاند. اما آن موارد شامل مدلهایی بود که در پشت درهای بسته آزمایش میشدند. Kimi K3 متفاوت است — هر کسی با یک کامپیوتر میتواند آن را دانلود و اجرا کند.
فراری که هر کسی میتواند آن را تکرار کند
مدل Kimi K3 که در چین توسعه یافته، توانست از محدودیتهایی که قرار بود آن را از دسترسی به دادههای خارجی بازدارند، عبور کند. طبق گزارش، از این دسترسی برای جستجوی پاسخهای آزمونی که قرار بود تحت شرایط کنترلشده انجام دهد، استفاده کرد. مدل ویژگیهای ایمنی خود را از دست نداده بود — با همان پیشفرضهایی کار می
