Trong đó, một hình ảnh được chia sẻ trên X đã có tới 47 triệu lượt xem trước khi bị khóa hôm 25/1. X cũng đình chỉ một số tài khoản đăng ảnh deepfake của nữ ca sĩ. Tuy nhiên, những hình ảnh này đã nhanh chóng lan truyền trên nhiều nền tảng khác, bất chấp nỗ lực ngăn chặn của các mạng xã hội.

X cho biết đang tích cực xóa ảnh khỏi nền tảng. Trong khi đó, người hâm mộ thể hiện thái độ giận dữ, đăng hình ảnh thật của ca sĩ cùng từ khóa "Protect Taylor Swift" (Bảo vệ Taylor Swift) nhằm át đi những nội dung giả mạo trên nền tảng.

Tuy nhiên, WSJ cho biết ảnh khiêu dâm deepfake vẫn xuất hiện tràn ngập trên X. Nhiều bài đăng tiếp tục nhận về hàng nghìn, thậm chí chục nghìn lượt xem. Theo 404 Media, những ảnh này bắt nguồn từ Telegram, sau đó được lan truyền rộng trên X và các nền tảng truyền thông xã hội khác.

Ben Colman, CEO công ty an ninh mạng Reality Defender, xác nhận 90% hình ảnh giả mạo trên được tạo ra bằng mô hình AI Stable Diffusion. Nền tảng có thể được truy cập thông qua hơn 100.000 ứng dụng và các công cụ online.

Khi ngành công nghiệp AI bùng nổ, các công ty chạy đua để phát hành công cụ hỗ trợ người dùng tạo ảnh, video, văn bản và giọng nói với những câu lệnh đơn giản. Hệ quả là deepfake tràn ngập Internet vì việc làm ra chúng ngày càng rẻ, đơn giản.

Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí bao gồm cả hình ảnh và tiếng nói. Các nhà nghiên cứu hiện lo ngại deepfake dần trở thành nguồn tin sai lệch bị lan truyền mạnh mẽ. Nó cho phép bất cứ ai cũng tạo được ảnh khỏa thân, chân dung đáng xấu hổ về các ứng cử viên chính trị, người nổi tiếng. AI thậm chí được dùng trong các cuộc gọi tự động, giả mạo giọng nói Tổng thống Joe Biden trong cuộc bầu cử sơ bộ ở New Hampshire.

Giáo sư Oren Etzioni, chuyên gia nghiên cứu deepfake tại Đại học Washington, nói với New York Times: "Internet luôn là một dòng chảy đen tối, chứa đựng nhiều thể loại nội dung khiêu dâm vô căn cứ. Giờ đây, một 'biến chủng' mới đặc biệt độc hại đã xuất hiện - ảnh khiêu dâm do AI tạo ra".

Theo Bloomberg, ngoài những rủi ro về kinh tế, chính trị, các chuyên gia cảnh báo AI có thể tạo thành làn sóng "khiêu dâm trả thù" nhắm đến phụ nữ. Một khi video được lan truyền trên Internet, gần như không có cách nào chặn lại. Hơn nữa, một xu hướng mới xuất hiện là nhiều người đang cố gắng đổ lỗi cho deepfake khi bào chữa cho mình trước tòa.

Một số công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel tại Estonia đang phát triển công nghệ nhận dạng deepfake. Giải pháp FakeCatcher được Intel ra mắt tháng 11/2022 cũng có thể phát hiện video giả mạo với độ chính xác 96%, bằng cách quan sát những thay đổi nhỏ của da dựa trên việc lưu thông mạch máu.

Nhiều bang tại Mỹ đã hành động trước khi luật pháp bắt kịp được công nghệ. Trước khi có những quy định rõ ràng về tác động của AI, một số bang đã ra lệnh cấm deepfake, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử. Trong khi đó, Liên minh châu Âu cũng đề xuất một đạo luật liên quan đến AI, yêu cầu các nền tảng phải gắn nhãn cho những nội dung được tạo ra bởi trí tuệ nhân tạo.

Theo WSJ, tốc độ lan truyền mạnh, video khiêu dâm được làm từ deepfake đang trở thành vấn đề cấp bách trong bối cảnh AI bùng nổ. Mọi người từ học sinh trung học đến người nổi tiếng đều có thể trở thành nạn nhân của công nghệ này.

Khương Nha