Automated Reasoning - Lập luận tự động, yêu cầu các mô hình AI phải tuân theo những nguyên tắc được định sẵn

Sau đó, khi khách hàng đưa ra yêu cầu đòi bồi thường khi tai nạn đã xảy ra cách đây 100 ngày, hệ thống trí tuệ nhân tạo sẽ kiểm tra dựa trên các quy tắc đã mã hoá và đưa ra câu trả lời phù hợp là họ sẽ không được bảo hành. Ngoài ra, trong trường hợp trí tuệ nhân tạo đưa ra câu trả lời không đúng với nguyên tắc đã được huấn luyện, hệ thống lập luận tự động sẽ phát hiện lỗi và loại bỏ đầu ra sai. Trong trường hợp này, nếu mô hình trí tuệ nhân tạo xác nhận được bồi thường, hệ thống sẽ so sánh câu trả lời này với sự thật tuyệt đối nêu trên để ngăn câu trả lời sai đến với khách hàng.

Anh em có thể coi phương pháp này giống như việc đặt một “người giám sát” bên trong hệ thống AI đảm bảo kiểm tra mọi đầu ra theo các quy tắc đã được mã hóa trước khi cung cấp cho người dùng, qua đó đảm bảo thông tin chính xác để xử lý vấn đề ảo giác.

Tại sao Amazon đặt cược vào lập luận tự động?

Vấn đề ảo giác mà AI gặp phải khiến người dùng gặp phải nhiều tình huống trớ trêu, đặc biệt trong các tình huống quan trọng như dịch vụ khách hàng, chăm sóc sức khoẻ, tài chính, nghiên cứu. Điều này đặt ra vấn đề về chất lượng mà thông tin AI tạo ra, đồng thời làm suy giảm niềm tin mà người dùng, doanh nghiệp muốn đặt cược vào công nghệ mới này. Tuy nhiên, với việc tích hợp lập luận tự động vào dịch vụ điện toán đám mây (AWS), Amazon hướng tới giải quyết vấn đề này và thúc đẩy việc sử dụng rộng rãi hơn các sản phẩm trí tuệ nhân tạo của mình.

Hiện tại, dịch vụ AWS của Amazon đi kèm với Amazon Bedrock như một giải pháp để khách hàng có thể triển khai các hệ thống trí tuệ nhân tạo tạo sinh dựa trên các công ty lớn như Anthropic, Stability AI, OpenAI, v.v. Amazon Bedrock, được tích hợp với Bedrock Guardrails, cung cấp một hệ thống bảo vệ toàn diện cho các ứng dụng AI tạo sinh. Trong đó, Automated Reasoning Checks đóng vai trò như một công cụ xác minh quan trọng, đảm bảo rằng mọi đầu ra đều chính xác và phù hợp với các quy định hoặc chính sách nội bộ của doanh nghiệp. Điều này không chỉ tăng tính tin cậy mà còn giúp doanh nghiệp giảm thiểu rủi ro khi triển khai AI vào các nhiệm vụ quan trọng.


Dịch vụ AWS của Amazon được tích hợp với giải pháp lập luận tự động này với kì vọng giảm thiểu vấn đề ảo giác của AI.

Nói về lợi ích, khi áp dụng tính năng này, các mô hình AI sẽ phải tuân theo các quy định cụ thể, qua đó làm giảm thiểu đáng kể hiện tượng ảo giác, góp phần nâng cao tính chính xác và thúc đẩy sự tin tưởng của doanh nghiệp vào các mô hình này, nhất là với các nhiệm vụ quan trọng như tương tác với khách hàng. Ngoài ra, mặc dù lập luận tự động hoạt động rất xuất sắc trong việc xác thực dựa trên quy tắc, khả năng của nó còn được nâng cao khi kết hợp với các kỹ thuật khác như RAG. Điều này sẽ giúp việc tích hợp hệ thống dữ liệu của công ty vào quá trình huấn luyện để giảm thiểu rủi ro với vấn đề ảo giác.

Mặc dù có nhiều ưu điểm, cách tiếp cận này vẫn tồn tại một số hạn chế nhất định. Đầu tiên là việc để các hệ thống này vận hành tối ưu, các doanh nghiệp cần phải thiết lập các quy tắc, chính sách rõ ràng. Những quy tắc mập mờ, không nhất quán sẽ khiến việc áp dụng nó trở nên khó khăn. Điều này khiến giải pháp này kém linh hoạt hơn so với machine learning thông thường. Đồng thời, mặc dù được xác nhận là có khả năng giảm thiểu vấn đề ảo giác, giải pháp này vẫn không hoàn toàn loại bỏ vấn đề cố hữu này của các hệ thống trí tuệ nhân tao.

Việc sử dụng lập luận tự động của Amazon là một bước tiến quan trọng để xây dựng hệ thống AI đáng tin cậy hơn. Mặc dù không thể hoàn toàn loại bỏ ảo giác, phương pháp này cung cấp một cách tiếp cận mạnh mẽ để giảm thiểu lỗi trong những tình huống mà độ chính xác là điều tối quan trọng. Chiến lược này không chỉ giải quyết thách thức lớn trong lĩnh vực AI tạo sinh mà còn củng cố vị thế của Amazon trên thị trường điện toán đám mây cạnh tranh bằng cách thu hút các doanh nghiệp tìm kiếm giải pháp AI đáng tin cậy.

Nguồn: Wall Street Journal