Google cùng các nhà phát triển chatbot AI khác đang ở trong cuộc cạnh tranh khốc liệt để thu hút người dùng trẻ tuổi. Tổng thống Trump gần đây đã kêu gọi các trường học sử dụng các công cụ này cho việc giảng dạy và học tập. Hàng triệu thiếu niên hiện tại đã sử dụng chatbot như trợ lý phục vụ học tập, chuyên gia sửa lỗi văn bản và biến chatbot trở thành một người bạn đồng hành ảo. Còn các nhóm bảo vệ quyền lợi trẻ em thì lên tiếng cảnh báo rằng, chatbot có thể gây ra những nguy cơ nghiêm trọng đối với an toàn của trẻ em. Những chatbot này đôi khi lại tạo ra thông tin không đúng sự thật.

UNICEF, cơ quan của Liên Hợp Quốc về trẻ em, và các nhóm khác cũng đã chỉ ra rằng các hệ thống AI có thể làm nhầm lẫn, cung cấp thông tin sai lệch, và ảnh hưởng đến những trẻ nhỏ chưa đủ khả năng nhận thức rằng chatbot không phải là con người.

"AI tạo sinh đã tạo ra những nội dung nguy hiểm," Văn phòng nghiên cứu toàn cầu của UNICEF nói trong một bài đăng về rủi ro và cơ hội liên quan đến AI dành cho trẻ em.

Google đã công nhận một số rủi ro trong email gửi tới các gia đình tuần này, cảnh báo phụ huynh rằng "Gemini có thể mắc sai lầm" và khuyên họ nên "giúp con mình suy nghĩ phản biện" về chatbot.

Email cũng khuyến nghị các bậc phụ huynh dạy cho con cách kiểm chứng thông tin do Gemini cung cấp. Công ty đề xuất các phụ huynh nhắc nhở con rằng "Gemini không phải là người thật" và "không nên nhập vào Gemini bất kỳ thông tin nhạy cảm hoặc cá nhân nào."

Dù công ty đã nỗ lực sàng lọc nội dung không phù hợp, email cũng cho biết thêm rằng trẻ em có thể "gặp phải những nội dung mà các phụ huynh không muốn con tiếp xúc."

Trong nhiều năm qua, các tập đoàn công nghệ lớn đã phát triển nhiều loại sản phẩm, tính năng và biện pháp bảo vệ khác nhau dành cho thanh thiếu niên và trẻ em. Năm 2015, Google đã giới thiệu YouTube Kids, một ứng dụng video độc lập dành riêng cho trẻ nhỏ rất được yêu thích trong các gia đình có trẻ em nhỏ.

Các nỗ lực nhằm thu hút trẻ em trực tuyến cũng đã làm dấy lên lo ngại từ các quan chức chính phủ và những người bảo vệ quyền lợi của trẻ. Năm 2021, Meta đã hủy bỏ kế hoạch giới thiệu dịch vụ Instagram Kids, phiên bản ứng dụng Instagram dành cho những người dưới 13 tuổi, sau khi các tổng chưởng lý của hơn 30 bang gửi thư tới công ty, nói rằng công ty này "trước đây từng thất bại trong việc bảo vệ quyền của trẻ em trên nền tảng của mình."

Một số doanh nghiệp công nghệ lớn, bao gồm Google, Amazon và Microsoft đã từng phải nộp phạt hàng triệu USD để giải quyết các khiếu nại từ chính phủ về việc vi phạm Luật Bảo vệ Quyền riêng tư Trẻ em Trực tuyến (COPPA). Luật này yêu cầu các dịch vụ trực tuyến nhắm đến trẻ em phải có sự cho phép của phụ huynh trước khi thu thập bất kỳ thông tin cá nhân nào từ trẻ dưới 13 tuổi, như địa chỉ nhà hoặc ảnh tự sướng.

Trong quá trình triển khai Gemini, những trẻ em có tài khoản Google do gia đình quản lý sẽ ban đầu có thể truy cập chatbot một cách độc lập. Tuy nhiên, công ty cho biết họ sẽ thông báo đến phụ huynh và phụ huynh sau đó có thể quản lý cài đặt chatbot của con mình, "bao gồm việc tắt khả năng tiếp cận."
Bức email gửi tới các phụ huynh từ công ty cho biết: "Con bạn sẽ sớm có thể sử dụng ứng dụng Gemini. Chúng tôi cũng sẽ thông báo cho bạn khi con bạn lần đầu tiên truy cập vào Gemini."

Ông Karl Ryan cho biết, cách triển khai Gemini dành cho người dùng trẻ tuổi tuân thủ luật bảo vệ quyền riêng tư trực tuyến liên bang dành cho trẻ em.

Theo The New York Times