סופר השתמש ב-Gemini AI של גוגל כדי ליצור סרטוני דיפפייק של צבי ממולא של ילד, באדי, תוך שחזור סצנות מפרסומת של גוגל לכלי. ורג' פרסמה השבוע תמונה של הצבי שנוצר ב-AI, והראתה כיצד מאמץ מינימלי מניב תוצאות מציאותיות.
מה הסופר ניסה
\nהמחבר הזין הנחיות ל-Gemini כדי לדמות קטעי וידאו מחופשה של הצעצוע הממולא. זה לא היה קשה. הוא פשוט העתיק את הסגנון של הפרסומת של גוגל. לא נדרשו כישורים טכניים. הניסוי נשאר פרטי – הוא מעולם לא הראה את הקליפים לילדו בן הארבע.
\n\n📊 תמונת מצב שוק
\nורג' פרסמה את ההוכחה
\nהאתר פרסם תמונה אחת של הצבי שנוצר ב-AI. היא נראתה אמיתית. זה הכל. בלי טענות נוספות. הפוסט עלה ביום רביעי, בהתאמה לדחיפה האחרונה של גוגל לקדם את תכונות הווידאו של Gemini.
למה זה לא סתם בדיחה
\nהשימוש בחיה ממולאת עקף את זיהוי ה-AI הסטנדרטי. אמצעי ההגנה הנוכחיים מתמקדים בפנים אנושיות. זו נקודה עיוורת. זה מטריד לאמון הדיגיטלי. פרויקטי קריפטו העוסקים ב-NFTs או נכסים לא-אנושיים עלולים להתמודד עם הונאות דומות. הטכנולוגיה כאן והיא זולה.
מה שנותר בלתי נראה
\nהסופר בחר שלא להראות את הדיפפייק לילדו. צעד חכם. זה מדגיש כמה קל זה יכול לעוות פרויקטים משפחתיים. סרטון מזויף של צעצוע אולי נראה לא מזיק. אבל הוא שוחק את האמון במה שאמיתי. זו הסכנה השקטה.
הטכניקה דרשה רק Gemini וצבי ממולא. גוגל לא הגיבה לשאלות על אמצעי הגנה פוטנציאליים לנושאים לא-אנושיים. עם כלים דומים שמתפשטים, האופן שבו פלטפורמות יתייחסו לפערים הללו יהיה חשוב יותר מכל ניסוי בודד.
