Một nhà văn đã sử dụng Gemini AI của Google để tạo video deepfake về con nai nhồi bông Buddy của một đứa trẻ, tái hiện các cảnh trong quảng cáo của Google về công cụ này. The Verge đã đăng tải một hình ảnh về con nai do AI tạo ra trong tuần này, cho thấy chỉ cần nỗ lực tối thiểu cũng có thể tạo ra kết quả chân thực.
Nhà văn đã thử những gì
Tác giả đã nhập các lệnh vào Gemini để mô phỏng cảnh quay kỳ nghỉ của món đồ chơi nhồi bông. Việc này không hề khó. Họ chỉ sao chép phong cách của quảng cáo Google. Không cần kỹ năng kỹ thuật. Thí nghiệm được giữ kín—họ chưa bao giờ cho đứa con bốn tuổi của mình xem các clip.
📊 Tổng quan dữ liệu thị trường
The Verge đăng tải bằng chứng
Tờ báo đã đăng một hình ảnh duy nhất về con nai do AI tạo ra. Nó trông rất thật. Chỉ vậy thôi. Không có tuyên bố thêm nào. Bài viết được đăng vào thứ Tư, trùng với nỗ lực gần đây của Google nhằm quảng bá các tính năng video của Gemini.
Tại sao đây không chỉ là trò đùa
Việc sử dụng thú nhồi bông đã vượt qua các biện pháp phát hiện AI tiêu chuẩn. Các biện pháp bảo vệ hiện tại tập trung vào khuôn mặt người. Đó là một điểm mù. Điều này gây lo ngại cho niềm tin kỹ thuật số. Các dự án crypto liên quan đến NFT hoặc tài sản phi nhân loại có thể đối mặt với các vụ lừa đảo tương tự. Công nghệ đã có ở đây và nó rẻ.
Những gì không được tiết lộ
Nhà văn đã chọn không cho đứa trẻ xem các deepfake. Đó là một động thái thông minh. Nó cho thấy việc này có thể dễ dàng làm hỏng các dự án hướng đến gia đình. Một video đồ chơi giả có vẻ vô hại. Nhưng nó làm xói mòn niềm tin vào những gì là thật. Đó là mối nguy hiểm thầm lặng.
Kỹ thuật này chỉ yêu cầu Gemini và một con nai nhồi bông. Google chưa phản hồi các câu hỏi về các biện pháp bảo vệ tiềm năng cho các đối tượng phi nhân loại. Với các công cụ tương tự đang lan rộng, cách các nền tảng giải quyết những khoảng trống này sẽ quan trọng hơn bất kỳ thí nghiệm đơn lẻ nào.
