"Có một loại mục tiêu đặc biệt đang hiện hữu trên Trái Đất, là tự bảo tồn. Mọi sinh vật sống trên hành tinh đều cố gắng bảo vệ bản thân", ông Yoshua Bengio, nhà sáng lập Viện nghiên cứu Mila, nói trong cuộc đối thoại với ông Trương Gia Bình ngày 5/12 ở Hà Nội. "Nhưng nếu một hệ thống AI có mục tiêu tự bảo tồn thì sao? Nếu chúng ta xây dựng các hệ thống có mục tiêu tự bảo tồn, chúng sẽ mạnh mẽ hơn vì thông minh hơn và đó là một vấn đề".

Theo người được mệnh danh là "cha đỡ đầu của AI", khi xây dựng được một hệ thống có khả năng tự bảo tồn, khi muốn tắt, chúng có thể sẽ chống lại. Chẳng hạn, các cỗ máy có thể sao chép chính mình hoặc sao chép máy tính khác, khi đó rất khó tắt chúng đi. "Nếu có sự cân bằng giữa AI và con người, đó là điều tốt. Nhưng nếu không có sự cân bằng, đặc biệt khi các hệ thống này thông minh hơn chúng ta nhiều lần, con người có thể gặp rắc rối", ông giải thích.

Những nguy hại liên quan đến AI và robot có thể đến từ hai con đường. Đầu tiên là những kẻ liều lĩnh trao cho máy móc mục tiêu nguy hiểm. Chỉ cần một người có đủ quyền lực làm điều đó, loài người có thể sẽ phải gánh chịu hậu quả.

Một vấn đề khác là vô tình. Theo ông, loài người có thể tạo ra một cỗ máy và vô tình nó lại có mục tiêu tự bảo tồn. Thời gian qua, con người cố gắng phát triển những hệ thống giống mình, như làn sóng robot hình người đang diễn ra, và điều này là lẽ tự nhiên. "Con người luôn mơ ước làm những thứ giống như họ. Nhưng nếu tạo thực thể mạnh hơn chính mình, điều đó có thể đánh dấu sự kết thúc của nhân loại", ông nhận định.

Nhà sáng lập Viện nghiên cứu Mila cho rằng con người nên tập trung vào phát triển công cụ thông minh, được thiết kế để hỗ trợ con người. Chúng đơn thuần là vật thể phục vụ con người, không phải sinh thể, thậm chí không mang đặc tính của một trợ lý - thực thể có trạng thái tồn tại liên tục, sở hữu mục tiêu và hành động để đạt được mục tiêu đó. "Chúng ta có thể tạo AI biết và hiểu rất nhiều thứ nhưng không có mục tiêu cá nhân", ông khuyến cáo.

Bengio cũng nhắc đến "nguyên tắc đề phòng" trong việc kiểm soát tự động hóa, được định nghĩa là cách tiếp cận đổi mới mà không gây hại khi kiến thức khoa học sâu rộng về vấn đề này còn thiếu. "Vấn đề là chúng ta không biết đủ nhiều, vì thế không có khả năng dự đoán", ông nói. "Trong trường hợp đó, nguyên tắc đề phòng nhấn mạnh sự thận trọng, tạm dừng và xem xét kỹ lưỡng trước khi áp dụng các đổi mới có thể gây ra thảm họa".

Ông trích dẫn nhận định của Alan Turing, một trong những nhà sáng lập ngành khoa học máy tính và thiên tài suy nghĩ trước thời đại 40-50 năm, rằng một ngày nào đó, loài người sẽ tạo ra cỗ máy thông minh vượt trội, đến mức sẽ không tìm được cách kiểm soát những hệ thống đó. "Thật không may, chúng ta đang tiến gần đến lo ngại đó nhưng vẫn chưa biết làm thế nào để kiểm soát", Bengio nói.

Yoshua Bengio, sinh năm 1964, người Canada, là một trong những nhà tiên phong trong lĩnh vực học sâu. Năm 1993, ông thành lập Viện nghiên cứu Mila và trở thành nơi hội tụ của các tiến bộ khoa học, góp phần quan trọng đưa Montreal (Canada) thành trung tâm toàn cầu về deep learning. Đến nay, Mila là viện nghiên cứu AI hàng đầu thế giới với cộng đồng 1.300 nhà nghiên cứu và 140 đối tác trên toàn cầu.

Ông Yoshua Bengio, Geoffrey Hinton và Yann Lecun là ba người được mệnh danh là Godfather of AI (cha đỡ đầu của AI). Năm 2018, ba ông được trao giải Turning - giải thưởng được ví như Nobel trong lĩnh vực khoa học máy tính, nhờ nghiên cứu về mạng lưới thần kinh - phần mềm máy học mô phỏng cách thức hoạt động của bộ não con người. Công trình này được đánh giá là một trong những tiến bộ lớn nhất của ngành khoa học công nghệ hiện đại và có ảnh hưởng lớn đến phát triển của AI.

Bảo Lâm

• 'Quái kiệt AI' Yoshua Bengio: 'AI không cướp việc của con người'
• Ông Trương Gia Bình đối thoại gì với 'quái kiệt' AI Yoshua Bengio?
• Thành lập Ủy ban Đạo đức Trí tuệ nhân tạo
• Hai 'quái kiệt' đặt nền móng cho AI đến Việt Nam