یک نویسنده از هوش مصنوعی جمینای گوگل برای ایجاد ویدیوهای دیپفیک یک گوزن عروسکی کودک به نام بادی استفاده کرد که صحنههایی از تبلیغات گوگل برای این ابزار را تقلید میکرد. ورژ این هفته تصویری از گوزن تولیدشده توسط هوش مصنوعی منتشر کرد و نشان داد که چگونه با تلاش بسیار کم نتایج واقعگرایانهای حاصل میشود.
آنچه نویسنده امتحان کرد
\nنویسنده پرامپتهایی را به جمینا وارد کرد تا ویدیوهای تفریحی از عروسک پُرزدار شبیهسازی کند. این کار سخت نبود. آنها تنها از سبک تبلیغات گوگل تقلید کردند. هیچ مهارت فنی لازم نبود. این آزمایش خصوصی ماند و هرگز ویدیوها را به فرزند چهارسالهشان نشان ندادند.
\n\n📊 نمای کلی بازار
\nورژ اثبات را منتشر کرد
\nاین رسانه تنها یک تصویر از گوزن ساختهشده توسط هوش مصنوعی را منتشر کرد. این تصویر واقعی به نظر میرسید. فقط همین. هیچ ادعای بیشتری مطرح نشد. این پست چهارشنبه منتشر شد و با تلاشهای اخیر گوگل برای تبلیغ قابلیتهای ویدیویی جمینا همخوانی دارد.
چرا این موضوع تنها یک شوخی نیست
\nاستفاده از یک عروسک پُرزدار از تشخیص معمولی هوش مصنوعی جلوگیری کرد. محدودیتهای فعلی بیشتر بر چهرههای انسانی تمرکز دارند. این یک نقطه کور است. این موضوع برای اعتماد دیجیتال نگرانکننده است. پروژههای رمزنگاری که با NFTها یا داراییهای غیرانسانی سروکار دارند ممکن است با کلاهبرداریهای مشابه مواجه شوند. این فناوری موجود است و هزینهاش کم است.
آنچه نمایش داده نشد
\nنویسنده انتخاب کرد ویدیوهای دیپفیک را به فرزندش نشان ندهد. این تصمیم هوشمندانه بود. این امر نشان میدهد که چگونه این فناوری میتواند پروژههای خانوادگی را دستخوش تغییر کند. یک ویدیوی جعلی از یک عروسک شاید بیضرر به نظر برسد، اما اعتماد به آنچه واقعی است را کمکم از بین میبرد. این خطر آرام اما واقعی است.
این تکنیک تنها به جمینا و یک گوزن عروسکی نیاز داشت. گوگل هنوز به سوالات مربوط به احتمال ایجاد محدودیتهای جدید برای اشیاء غیرانسانی پاسخ نداده است. با گسترش ابزارهای مشابه، نحوه پاسخگویی پلتفرمها به این شکافها اهمیت بیشتری از هر آزمایش واحدی خواهد داشت.
