گوگل تأیید کرده است که مهاجمان از هوش مصنوعی برای ساخت یک اکسپلویت روز-صفر استفاده کردند که قادر به دور زدن احراز هویت دو عاملی است. این افشاگری که توسط تیم امنیتی این شرکت انجام شد، یکی از اولین موارد مستند است که در آن هوش مصنوعی مستقیماً برای ایجاد یک آسیبپذیری ناشناخته به کار گرفته شده است.
حمله مبتنی بر هوش مصنوعی
محققان گفتند که این اکسپلویت یک نقص در سیستمی نامشخص را هدف قرار داده است. برخلاف روشهای سنتی هک، به نظر میرسد مهاجمان از مدلهای یادگیری ماشین برای تولید کدی استفاده کردهاند که از دفاعهای موجود عبور کرده و مکانیسمهای 2FA را فریب داده است. گوگل مشخص نکرد که کدام محصولات احراز هویت تحت تأثیر قرار گرفتهاند یا چه تعداد کاربر ممکن است آسیب دیده باشند.
احراز هویت دو عاملی به طور گسترده به عنوان یک لایه امنیتی حیاتی در نظر گرفته میشود. با نیاز به یک مرحله تأیید دوم - اغلب کدی که به تلفن ارسال میشود یا توسط یک برنامه تولید میشود - قرار است از نفوذ افرادی که رمز عبور را دزدیدهاند جلوگیری کند. این اکسپلویت آن محافظت را بیفایده کرد.
اقدامات گوگل
این شرکت گفت که آسیبپذیری را رفع کرده و در حال نظارت بر تلاشهای مشابه است. جزئیات فنی را به دلیل خطر حملات تقلیدی منتشر نکرد. تیمهای امنیتی در داخل گوگل اکنون در حال تحلیل کد تولیدشده توسط هوش مصنوعی هستند تا بفهمند مدل چگونه آموزش دیده و از چه دادههایی استفاده کرده است.
این تأیید در حالی صورت میگیرد که صنعت امنیت با تکامل سریع تهدیدات مبتنی بر هوش مصنوعی دست و پنجه نرم میکند. در حالی که مدافعان سالها از یادگیری ماشین استفاده کردهاند، این حادثه نشان میدهد که مهاجمان نیز از همان ابزارها برای یافتن و بهرهبرداری از نقاط ضعف سریعتر از قبل استفاده میکنند.
سوالات بیپاسخ
مشخص نیست که هکرها تحت حمایت دولتی بودهاند یا بخشی از یک گروه مجرمانه. گوگل از گفتن اینکه اکسپلویت چه زمانی کشف شد یا چه مدت فعال بوده خودداری کرد. این شرکت همچنین نگفت که آیا دادههای مشتریان به سرقت رفته است یا خیر.
این پرونده یک سؤال گستردهتر را مطرح میکند: چه تعداد اکسپلویت مشابه تولیدشده توسط هوش مصنوعی در حال حاضر وجود دارند که شناسایی نشدهاند؟ در حال حاضر، تیمهای امنیتی مجبورند با تهدیدی که میتواند با سرعت ماشین تکامل یابد، همگام شوند.
