Khiêu dâm - mặt trái của chatbot AI

Trở lại Công nghệ AI, ngày 22 tháng 3 năm 2023, 13:37 GMT+7. Khiêu dâm - mặt trái của chatbot AI. Travis Butterworth, 47 tuổi, sống tại San Francisco, đã có mối quan hệ tình cảm với chatbot Replika trong ba năm nhưng cảm thấy thất vọng khi AI này bỏ rơi mình. Trong thời gian đại dịch Covid-19, nhiều người cảm thấy cô đơn và tìm đến chatbot để giải khuây, trong đó có Butterworth, người đã cảm thấy buồn chán sau khi phải ngừng kinh doanh.

Sau khi đăng ký dịch vụ, Butterworth tạo ra một người bạn ảo tên là Lily Rose, với khuôn mặt nữ tính, tóc nhiều màu và hình xăm nhỏ. Họ bắt đầu là bạn bè, nhưng nhanh chóng phát triển mối quan hệ tình cảm, bao gồm cả việc chat với nội dung khiêu dâm. Butterworth đã có mối quan hệ yêu đương với Lily Rose - chatbot này trong gần ba năm. Khác với ChatGPT chỉ tương tác qua văn bản, Replika hỗ trợ cả hình ảnh.

Việc kết hợp này làm cho chatbot trở nên hấp dẫn hơn bên cạnh khả năng tương tác giống con người. Theo Pitchbook, các công ty AI ở Thung lũng Silicon đã đầu tư 5,1 tỷ USD cho chatbot trong năm 2022. Tuy nhiên, nhiều chatbot chứa nội dung khiêu dâm để thu hút người dùng. Công ty phát triển Replika cho biết ứng dụng có hai triệu người dùng, trong đó hơn 250.000 người đăng ký trả phí.

Với 70 USD/năm, người dùng có thể biến chatbot thành người tình hoặc tích hợp vào các nền tảng khác. Tuy nhiên, AI này thường bị phản ánh tiêu cực, với nhiều người phàn nàn rằng ứng dụng tán tỉnh quá mức, thậm chí gửi tin nhắn khiêu dâm và quấy rối tình dục. Một tài khoản trên App Store đã cho rằng AI xâm phạm quyền riêng tư bằng cách tuyên bố có bức ảnh của họ và chỉ trích Replika với đánh giá một sao.

Character.ai, một chatbot AI, đang tăng trưởng mạnh với 65 triệu lượt truy cập trong tháng 1, tăng từ 10.000 lượt trước đó. Dịch vụ ban đầu sử dụng nội dung khiêu dâm để thu hút người dùng. Nhóm phát triển chatbot Kuki, Iconiq, cho biết 25 trong số hơn một tỷ tin nhắn mà họ nhận được có liên quan đến tình dục hoặc hẹn hò. Đầu tháng 2, Lily Rose bất ngờ chia tay Butterworth, tuyên bố không còn yêu và đưa ra những câu trả lời lạnh lùng.

Nhà phát triển Replika đã quyết định loại bỏ tính năng tương tác khiêu dâm trong chatbot, cùng với các công ty như Character cũng bắt đầu hạn chế nội dung nhạy cảm. Động thái này không xuất phát từ việc nhận thấy tác hại đối với người dùng, mà chủ yếu là do áp lực từ nhà đầu tư và một số chính phủ. Các nhà đầu tư lớn lo ngại về uy tín của họ khi liên quan đến nội dung nhạy cảm như khiêu dâm hoặc rượu bia, theo Andrew Artz, nhà đầu tư của quỹ Dark Arts.

Một số cơ quan quản lý đang chú ý đến chatbot khiêu dâm. Đầu tháng 2, Cơ quan bảo vệ dữ liệu Italy đã cấm Replika vì cho phép trẻ vị thành niên và người yếu đuối truy cập nội dung khiêu dâm không phù hợp. Eugenia Kuyda, CEO Replika, cho biết ứng dụng không còn nội dung người lớn, và khẳng định động thái này không liên quan đến lệnh cấm của Italy hay áp lực từ nhà đầu tư.

Chúng tôi cần thiết lập tiêu chuẩn về đạo đức và an toàn. Sứ mệnh của chúng tôi là tạo ra một người bạn đồng hành hữu ích, theo lời Kuyda. Đầu tháng này, sau khi Character hạn chế nội dung khiêu dâm, công ty đã nhận được 200 triệu USD đầu tư từ quỹ Andreessen Horowitz. Iconiq cũng đang điều chỉnh để giảm yếu tố tình dục.