بلکشیر روی چه چیزی کار خواهد کرد
در Anthropic، بلکشیر بر امنیت دفاعی تمرکز خواهد کرد — جنبهای از امنیت سایبری که هدفش محافظت از سیستمهاست نه یافتن نقصها در آنها. این نقش در گروه تحقیقات ایمنی شرکت قرار دارد که روی سختتر کردن سوءاستفاده یا حمله به مدلهای زبانی بزرگ کار میکند.
بلکشیر شخصیت کلیدی در Mysten Labs، توسعهدهنده بلاکچین Sui، بود. او به طراحی زبان برنامهنویسی Move کمک کرد که بر ایمنی و قابلیت تأیید در قراردادهای هوشمند تأکید دارد. این پیشینه در ساخت سیستمهای امناز-طراحی احتمالاً همان چیزی است که توجه Anthropic را جلب کرده است.
چرا این جابهجایی مهم است
Anthropic در حال استخدام محققانی با پیشینه فنی عمیق است در حالی که تلاشهای ایمنی خود را گسترش میدهد. مدل پرچمدار این شرکت، Claude، حول اصول مفید بودن و بیآزاری ساخته شده است. اضافه کردن کسی که سالها به این فکر کرده که چگونه کد بلاکچین را کمتر آسیبپذیر کند، نشان میدهد که Anthropic فراتر از روشهای سنتی ایمنی هوش مصنوعی را بررسی میکند.
تحقیقات امنیت دفاعی در Anthropic میتواند شامل سختتر کردن مدلها در برابر حملات خصمانه، جلوگیری از نشت دادهها، یا ساخت موانع محافظتی باشد که از استفاده مضر از مدلها جلوگیری کند. تجربه بلکشیر با تأیید رسمی و زبانهای برنامهنویسی امن با این دستور کار همخوانی دارد.
Mysten Labs بلافاصله به درخواست اظهارنظر درباره خروج بلکشیر یا اینکه چه کسی مسئولیتهای او را بر عهده خواهد گرفت، پاسخ نداد.
انتظار میرود بلکشیر در هفتههای آینده کار خود را در Anthrop
