Hơn một tuần sau khi deepfake về Taylor Swift tràn ngập mạng xã hội, nguyên nhân của sự việc dần được hé lộ. Theo công ty phân tích mạng xã hội Graphika, tình trạng này bắt nguồn từ 4chan, diễn đàn lâu đời nổi tiếng với các thuyết âm mưu, nội dung độc hại.

Các thành viên trong một cộng đồng của 4chan đã tham gia một cuộc thử thách với mục tiêu tìm ra những từ, cụm từ có thể giúp họ vượt qua bộ lọc trên các công cụ tạo ảnh Microsoft Designer và OpenAI Dall-E, Bing Image Creator. Trong đó, các thành viên tạo ảnh khiêu dâm hoặc bạo lực về các nhân vật nổi tiếng, sau đó chia sẻ mẹo và thủ thuật cho những người còn lại.

Theo Graphika, cuộc thi diễn ra hàng ngày trong nhiều tuần liền. Taylor Swift không phải nạn nhân duy nhất. Một số diễn viên, ca sĩ, chính trị gia được nhắc tên trên diễn đàn thậm chí nhiều hơn nữ ca sĩ này.

Hình ảnh AI khiêu dâm đầu tiên của Swift trên 4chan xuất hiện ngày 6/1, sau đó dần lan truyền trong các cộng đồng trên những nền tảng khác như Telegram, X sau khoảng 10 ngày. Trước khi mạng xã hội X chặn tìm kiếm với từ khóa Taylor Swift, hàng loạt ảnh đã được đăng, trong đó có bức ảnh đã tồn tại trong 17 giờ và có hơn 45 triệu lượt xem trên X.

"Cô ấy không phải nhân vật của công chúng duy nhất bị nhắm đến. Điều này cho thấy ai cũng có thể trở thành mục tiêu, từ người nổi tiếng cho tới học sinh", Cristina Lopez, nhà phân tích cấp cao của Graphika nhận xét.

New York Tmes dẫn lời Microsoft cho biết họ đang "tiếp tục điều tra" và khẳng định "đã củng cố hệ thống an toàn hiện có để ngăn chặn việc các dịch vụ bị lạm dụng để tạo ra hình ảnh như vậy". Theo CBSnews, OpenAI cũng khẳng định ảnh AI về Taylor Swift không được tạo bằng ChatGPT hoặc giao diện lập trình ứng dụng của nó.

Nội dung giả mạo về một người nào đó không phải vấn đề mới, nhưng được đánh giá ngày càng nghiêm trọng khi AI tạo sinh ra đời. Chúng giúp kẻ xấu có thể tạo nội dung deepfake ngày càng chân thực.

Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí gồm cả hình ảnh và tiếng nói. Các nhà nghiên cứu hiện lo ngại deepfake dần trở thành nguồn tin sai lệch bị lan truyền mạnh mẽ. Nó cho phép bất cứ ai cũng tạo được ảnh khỏa thân, chân dung đáng xấu hổ về các ứng cử viên chính trị, người nổi tiếng. AI thậm chí được dùng trong các cuộc gọi tự động, giả giọng Tổng thống Mỹ Joe Biden trước cuộc bầu cử sơ bộ ở New Hampshire tháng trước.

Lưu Quý