한 작가가 구글의 제미니(Gemini) AI를 사용해 어린이의 인형 사슴 '버디(Buddy)'를 딥페이크한 영상을 만들었으며, 해당 영상은 구글 광고 장면을 재현한 것이다. 더 버지(The Verge)는 이번 주 AI로 생성된 사슴 이미지를 게재하며, 최소한의 노력으로 현실적인 결과물을 얻을 수 있음을 보여주었다.
작가의 시도
작가는 제미니에 프롬프트를 입력해 봉제 인형의 휴가 영상을 시뮬레이션했다. 어렵지 않았다. 구글 광고 스타일을 그대로 따라했을 뿐이다. 기술적 능력은 필요하지 않았다. 이 실험은 비공개로 유지되었으며, 네 살배기 아이에게 영상을 보여주지 않았다.
📊 시장 데이터 요약
더 버지, 증거 게재
해당 매체는 AI로 제작된 사슴 이미지 한 장을 게재했다. 실제처럼 보였다. 그게 전부였다. 추가 주장은 없었다. 이 게시물은 수요일에 올라왔으며, 구글이 최근 제미니의 영상 기능을 홍보하려는 움직임과 일치한다.
단순한 장난이 아닌 이유
봉제 인형을 사용함으로써 표준 AI 탐지를 우회했다. 현재 보호 장치는 인간 얼굴에 초점을 맞추고 있다. 이는 사각지대다. 디지털 신뢰에 문제가 될 수 있다. NFT나 비인간 자산을 다루는 암호화폐 프로젝트도 유사한 사기 피해를 입을 수 있다. 기술은 이미 존재하며 저렴하다.
공개되지 않은 부분
작가는 아이에게 딥페이크 영상을 보여주지 않기로 했다. 현명한 선택이다. 이것이 가족 중심 프로젝트를 얼마나 쉽게 왜곡할 수 있는지 보여준다. 가짜 장난감 영상은 무해해 보일 수 있다. 그러나 실제가 무엇인지에 대한 신뢰를 무너뜨린다. 이것이 조용한 위험이다.
이 기술에는 제미니와 인형 사슴만 필요했다. 구글은 비인간 피사체에 대한 잠재적 보호 장치에 관한 질문에 아직 응답하지 않았다. 유사한 도구가 확산됨에 따라 플랫폼이 이러한 공백을 어떻게 해결하느냐가 단일 실험보다 더 중요해질 것이다.
