Musk và nhiều chuyên gia kêu gọi dừng chạy đua siêu AI

Musk và nhiều chuyên gia kêu gọi dừng phát triển siêu AI. Họ đã ký một bức thư, do Viện Tương lai Sự sống soạn thảo, yêu cầu ngừng đào tạo các siêu AI mạnh hơn GPT-4 vì những rủi ro tiềm ẩn. Bức thư đã thu hút hơn 1.000 chữ ký từ các nhà lãnh đạo và nhà nghiên cứu công nghệ.

Trong số đó có tỷ phú Elon Musk, nhà đồng sáng lập Apple Steve Wozniak, chính trị gia Andrew Yang, CEO Stability AI Emad Mostaque, và "bố già AI" Yoshua Bengio. Future of Life Institute là tổ chức phi lợi nhuận tại Mỹ, nhằm giảm thiểu rủi ro từ công nghệ mạnh mẽ toàn cầu. Hệ thống AI chỉ nên được phát triển khi có niềm tin rằng chúng sẽ mang lại lợi ích và có thể kiểm soát rủi ro.

Chúng tôi kêu gọi các phòng thí nghiệm trí tuệ nhân tạo ngừng đào tạo các hệ thống AI mạnh hơn GPT-4 ít nhất trong 6 tháng, để cùng xây dựng quy tắc chung cho việc phát triển AI một cách an toàn và được giám sát chặt chẽ bởi các chuyên gia độc lập. Theo lá thư, mục đích không phải là hạn chế công nghệ.

Đây là bước lùi cần thiết để kiểm soát và ngăn ngừa nguy cơ lạm dụng AI cho mục đích nguy hiểm, đồng thời hạn chế cuộc chạy đua không kiểm soát giữa các công ty công nghệ. Nếu không thể tạm dừng nhanh chóng, các chính phủ nên can thiệp và ban hành lệnh cấm. Bức thư đã thu hút sự chú ý với nhiều ý kiến trái chiều.

Gary Marcus, giáo sư tâm lý học và khoa học thần kinh tại Đại học New York, cho rằng nội dung thư không hoàn hảo nhưng tinh thần thì đúng, trong khi Mostaque viết trên Twitter rằng ông không nghĩ việc dừng sáu tháng là ý tưởng hay, nhưng thư có một số điểm thú vị. Tuy nhiên, một số chuyên gia cho rằng bức thư đang thổi phồng AI hơn là thực sự kêu gọi ngăn chặn nguy cơ của nó.

Việc gấp rút xây dựng máy móc sử dụng mô hình ngôn ngữ lớn mà không xem xét rủi ro là không tốt. Tuy nhiên, theo Emily Bender, Giáo sư Ngôn ngữ học tại Đại học Washington, rủi ro không phải do AI quá mạnh. Bà cho rằng cách tiếp cận hiện tại về LLM đang sai lệch và không hiệu quả, vì nó tập trung vào việc ngăn chặn thay vì kiểm soát AI.

Arvind Narayanan, Phó Giáo sư Khoa học Máy tính tại Princeton, đồng tình rằng sự cường điệu về AI trong thư khiến việc giải quyết tác hại thực sự của AI trở nên khó khăn. Bảo Lâm theo Vice, Business Insider cho biết Elon Musk chỉ trích Bill Gates về hiểu biết hạn chế về AI, và Musk đã rời bỏ OpenAI vì muốn phát triển siêu AI đối đầu ChatGPT.

Nguồn:vnexpress.net/musk-va-nhieu-chuyen-gia-keu-goi-dung-chay-dua-sieu-ai-4587235.html