Ký tự.AI đã đệ trình một kiến ​​nghị bác bỏ vụ kiện pháp lý chống lại nó liên quan đến việc đi qua sai của một cậu bé

Sự phát triển của AI đang dấy lên lo ngại về việc sử dụng công nghệ này và liệu có đủ biện pháp bảo vệ để tránh tác động tiêu cực đến người dùng, đặc biệt là trẻ em. Mặc dù các công ty đang nỗ lực đảm bảo công cụ được sử dụng một cách có trách nhiệm, nhưng một số người dùng lại dễ dàng bị ảnh hưởng hoặc phụ thuộc vào chúng. Một trường hợp thương tâm xảy ra khi mẹ của một cậu bé 14 tuổi tự sát đã khởi kiện công ty Character.

Character.AI đã nộp đơn yêu cầu bác bỏ vụ kiện về cái chết bất hợp pháp liên quan đến cái chết của một cậu bé 14 tuổi, được cho là đã quá gắn bó với nền tảng này. Vụ kiện được đệ trình bởi Megan Garcia. Character.AI là một nền tảng cho phép người dùng tham gia vào các trò chơi nhập vai và trò chuyện giống như con người. Vụ kiện đã gây nhiều tranh cãi cho công ty này.

Cậu bé liên tục trò chuyện với chatbot, thậm chí trước khi qua đời. Công ty đã phản hồi ngay lập tức về vụ kiện, cam kết sẽ cải thiện các biện pháp bảo vệ, bao gồm phản ứng và can thiệp tốt hơn khi có dấu hiệu vi phạm điều khoản dịch vụ. Tuy nhiên, mẹ của cậu bé không ngừng nỗ lực yêu cầu các biện pháp bảo vệ nghiêm ngặt hơn và các tính năng nhằm giảm thiểu tương tác có hại và sự gắn bó cảm xúc.

Đội ngũ pháp lý của Character.AI đã phản hồi các cáo buộc bằng cách nộp đơn xin bác bỏ vụ kiện thông qua TechCrunch. Luật sư của công ty lập luận rằng nền tảng này được bảo vệ bởi Tu chính án thứ nhất, bảo vệ quyền tự do ngôn luận tại Mỹ, và việc buộc công ty chịu trách nhiệm cho các tương tác của người dùng vi phạm quyền hiến định của họ. Tuy nhiên, vẫn chưa rõ tòa án có công nhận rằng sự bảo vệ ngôn luận bao gồm cả trường hợp hậu quả có hại từ các tương tác của hệ thống AI hay không.

Điều quan trọng là đội ngũ pháp lý của Character.AI đang biện hộ cho vụ kiện bằng cách khẳng định rằng quyền sửa đổi thứ nhất của người dùng bị vi phạm, chứ không phải quyền của công ty. Phòng thủ tập trung vào khả năng của người dùng trong việc tương tác tự do và tham gia vào các cuộc trò chuyện biểu đạt trên nền tảng. Đơn xin này cũng gợi ý rằng nếu vụ kiện thắng, nó có thể ảnh hưởng lớn không chỉ đến Character.

AI nhưng trên toàn bộ ngành công nghiệp AI sinh tạo. Mặc dù kết quả vụ kiện chống lại Character.AI vẫn chưa rõ ràng, nhưng nó nhấn mạnh những lo ngại về đạo đức ngày càng tăng liên quan đến trách nhiệm của các nền tảng AI và tác động của chúng đối với người dùng.

Nguồn: wccftech.com/character-ai-has-filed-a-motion-to-dismiss-the-legal-case-against-it-concerning-the-wrongful-death-of-a-young-boy/