Tháng 3 vừa qua, Google đã mở rộng khả năng ghi nhớ của Gemini để bao gồm lịch sử tìm kiếm của người dùng, miễn là người dùng cho phép, so với việc trước đây chỉ giới hạn ở các cuộc trò chuyện với chatbot, và có kế hoạch mở rộng điều này sang các ứng dụng khác của Google trong tương lai.

"Giống như một trợ lý cá nhân, khi nó càng hiểu rõ về mục tiêu, con người và những gì bạn quan tâm, họ sẽ cung cấp sự hỗ trợ tốt hơn," Michael Siliski, giám đốc sản phẩm cao cấp tại Google DeepMind cho biết. ChatGPT của OpenAI, hay chatbot của Meta trên WhatsApp và Messenger có thể tham khảo các cuộc trò chuyện trước đây thay vì chỉ nhìn vào phiên trò chuyện hiện tại. Người dùng có thể xóa các "ký ức" cụ thể từ cài đặt và được thông báo khi mô hình tạo ra một "ký ức" trong tin nhắn hiển thị trên màn hình.

"Ký ức giúp ChatGPT trở nên hữu ích hơn theo thời gian bằng cách làm cho các phản hồi phù hợp hơn," OpenAI tuyên bố. "Bạn luôn kiểm soát tình hình. Bạn có thể hỏi ChatGPT những gì nó nhớ về bạn, thực hiện thay đổi đối với các ký ức đã lưu và các cuộc trò chuyện trước đây hoặc tắt bộ nhớ bất cứ lúc nào."
Đối với các doanh nghiệp, Microsoft đã sử dụng dữ liệu tổ chức để cung cấp thông tin cho khả năng ghi nhớ, chẳng hạn như email, lịch và tệp intranet.

Tháng trước, gã khổng lồ công nghệ bắt đầu triển khai bản thử nghiệm của Recall trên một số thiết bị, tính năng này ghi lại hoạt động của người dùng bằng cách chụp ảnh màn hình máy tính của họ. Người dùng có thể chọn không tham gia hoặc tạm dừng việc chụp ảnh màn hình.

Khi được công bố lần đầu vào tháng 5 năm ngoái, nó đã gây ra lo ngại từ cộng đồng an ninh mạng và những người khác gọi là "rất ghê rợn", khiến Microsoft phải trì hoãn việc phát hành nhiều lần. Các công ty AI cũng đang kỳ vọng rằng khả năng ghi nhớ được cải thiện có thể đóng một vai trò quan trọng trong việc thúc đẩy doanh thu thông qua tiếp thị liên kết và quảng cáo.

CEO Meta, Mark Zuckerberg, cho biết trong lần báo cáo kết quả kinh doanh của tập đoàn vào tháng trước rằng "sẽ có cơ hội lớn để hiển thị các đề xuất sản phẩm hoặc quảng cáo" trên chatbot của họ. Tháng trước, OpenAI đã cải thiện các lựa chọn mua sắm trong ChatGPT để hiển thị tốt hơn các sản phẩm và đánh giá. Công ty cho biết với Financial Times rằng họ hiện tại không có liên kết tiếp thị liên kết.

Tuy nhiên, việc triển khai khả năng ghi nhớ tốt hơn trên LLM cũng đã làm dấy lên những lo ngại về quyền riêng tư, khi các nhà quản lý trên toàn thế giới theo dõi chặt chẽ cách các mô hình có thể thao túng người dùng vì lợi nhuận.

Khả năng ghi nhớ tăng cường cũng có thể khiến các mô hình cố gắng quá mức để điều chỉnh câu trả lời của họ phù hợp với sở thích của người dùng, củng cố thành kiến hoặc lỗi sai. Tháng trước, OpenAI đã phải lên tiếng xin lỗi sau khi mô hình GPT-4o của mình được phát hiện là quá nịnh bợ và dễ hài lòng, và phải rollback mô hình quay trở lại phiên bản trước đó.

Nhìn chung, các mô hình AI có thể bị ảo giác, tạo ra các phản hồi sai hoặc vô nghĩa, và trải qua “trôi dạt ký ức” (memory drift), nơi các ký ức trở nên lỗi thời hoặc mâu thuẫn với nhau, ảnh hưởng đến độ chính xác. "Càng nhiều hệ thống biết về bạn, nó càng có khả năng được sử dụng cho mục đích tiêu cực để thuyết phục bạn mua hàng hoặc tin vào những niềm tin nhất định," bà Maes, giáo sư MIT, nói. "Vì vậy, bạn phải bắt đầu suy nghĩ về các động cơ tiềm ẩn của các công ty cung cấp các dịch vụ này."

Theo FT