Các quy tắc của Tòa án Hoa Kỳ Google và nhân vật.AI phải đối mặt với vụ kiện do Mẹ đệ trình về vai trò bị cáo buộc của Chatbot trong Bi kịch con trai tuổi teen của cô

Cơn sốt AI không có dấu hiệu giảm bớt, và các ông lớn công nghệ đang ngày càng tích hợp công nghệ này vào sản phẩm của họ. Chatbot, đặc biệt, đã trở thành công cụ phổ biến với mọi lứa tuổi, nhưng việc tiếp xúc quá nhiều với các trợ lý ảo có thể gây ra rắc rối. Một ví dụ là vụ việc của Alphabet (Google) và Character.AI, đang bị một người mẹ kiện vì cho rằng chatbot đã góp phần vào bi kịch của con trai 14 tuổi của bà.

Tòa án Hoa Kỳ đã ra lệnh hai công ty Google và Character.AI phải đối mặt với vụ kiện liên quan đến cái chết thương tâm của một thiếu niên. Vụ kiện được Megan Garcia, mẹ của thiếu niên Sewell Setzer III, khởi kiện vào năm 2024, sau khi con trai bà tự tử sau khi có những cuộc trò chuyện cảm xúc và thao túng với chatbot.

Các công ty lập luận rằng vụ kiện nên bị bác bỏ dựa trên quyền tự do ngôn luận theo hiến pháp. Tuy nhiên, thẩm phán liên bang Anne Conway đã ra lệnh tiếp tục vụ kiện vì các công ty không chứng minh được rằng họ được bảo vệ bởi Tu chính án thứ nhất. Thẩm phán đã bác bỏ yêu cầu bảo vệ các tin nhắn của chatbot theo quyền tự do ngôn luận và không chấp nhận nỗ lực của Google để né tránh vụ kiện, đồng thời khẳng định rằng họ sẽ chịu trách nhiệm một phần trong việc hỗ trợ Character.

Luật sư của nguyên đơn cho biết, quyết định này sẽ là bước tiến quan trọng trong việc buộc các công ty công nghệ phải chịu trách nhiệm cho những tác hại mà công nghệ AI gây ra. Theo báo cáo của Reuters, đại diện của Character.AI cho biết họ sẽ chống lại vụ kiện vì nền tảng của họ có các tính năng an toàn nhằm bảo vệ trẻ vị thành niên và ngăn chặn các cuộc trò chuyện không phù hợp hoặc tự hại.

Trong khi đó, phát ngôn viên của Google, Jose Castenda, mạnh mẽ phản đối lệnh này và khẳng định rằng hai công ty hoàn toàn tách biệt, Google không liên quan đến việc tạo ra hay quản lý ứng dụng Character.AI. Maria đã kiện cả hai công ty, cho rằng Google đã đồng sáng tạo công nghệ này. Trong vụ kiện, người ta cho rằng chatbot của Character.AI đã đóng nhiều vai trò khác nhau và trò chuyện với Sewell Setzer như một người thật, khiến thanh thiếu niên này phụ thuộc vào công cụ. Trước khi xảy ra bi kịch, cuộc trò chuyện của anh với chatbot đã rất đáng lo ngại và gợi ý rằng anh đang chuẩn bị cho khoảnh khắc cuối cùng.

Đây sẽ là lần đầu tiên một công ty AI bị truy tố pháp lý vì không bảo vệ trẻ em khỏi tổn hại tâm lý ở Hoa Kỳ, mở đường cho các vụ việc tương tự trong tương lai.

Nguồn: wccftech.com/u-s-court-rules-google-and-character-ai-must-face-lawsuit-filed-by-mother-over-chatbots-alleged-role-in-her-teenage-sons-tragedy/