Ngày 12/6 vừa qua, các nhà lập pháp của tiểu bang New York đã thông qua một dự luật với mục tiêu ngăn chặn các mô hình AI tiên tiến từ các công ty như OpenAI, Google và Anthropic góp phần gây ra các sự cố thảm khốc, bao gồm những sự kiện gây ra cái chết hoặc thương tích cho hơn 100 người, hoặc thiệt hại trên 1 tỷ USD.

Việc thông qua Đạo luật RAISE (Responsible AI Standards for Enterprise) là một thắng lợi cho phong trào an toàn AI, vốn đã suy yếu trong những năm gần đây khi Thung lũng Silicon và chính quyền Trump ưu tiên tốc độ và đổi mới. Các nhà ủng hộ đạo luật, bao gồm nhà khoa học máy tính đã đoạt giải Nobel và Turing, giáo sư Geoffrey Hinton, và người tiên phong trong lĩnh vực nghiên cứu AI Yoshua Bengio, đều kêu gọi thông qua Đạo luật RAISE. Nếu được thành luật, dự luật sẽ thiết lập bộ tiêu chuẩn minh bạch bắt buộc về mặt pháp lý đầu tiên cho các phòng thí nghiệm AI tiên tiến tại Mỹ.

Đạo luật RAISE có một số điều khoản và mục tiêu tương tự như Dự luật An toàn AI gây tranh cãi của California, tên là SB 1047, thứ sau đó đã bị phủ quyết. Tuy nhiên, một trong những người đề xuất dự luật, thượng nghị sĩ bang New York, ông Andrew Gounardes cho biết trong một cuộc phỏng vấn với TechCrunch rằng ông và các đồng nghiệp đã cố tình thiết kế Đạo luật RAISE để không làm chậm lại sự đổi mới của các công ty khởi nghiệp hoặc các nhà nghiên cứu học thuật.

Việc luật lệ kìm hãm nghiên cứu là một lo ngại cũng như chỉ trích phổ biến đối với SB 1047 từ phía những nhà lập pháp và các chuyên gia phản đối đạo luật này.

"Cơ hội để thiết lập các biện pháp bảo vệ đang nhanh chóng thu hẹp khi thứ công nghệ này phát triển nhanh chóng," thượng nghị sĩ bang Gounardes nói. "Những người hiểu rõ nhất về AI cho rằng những rủi ro này có khả năng xảy ra rất cao. Điều đó thật đáng báo động."

Đạo luật RAISE hiện đang được chuyển đến bàn của thống đốc bang New York, bà Kathy Hochul, nơi bà có thể ký thông qua dự luật, biến nó thành luật được áp dụng trên toàn lãnh thổ bang. Hai lựa chọn khác của thống đốc Hochul sẽ là gửi lại để các nhà lập pháp sửa đổi hoặc phủ quyết hoàn toàn dự thảo luật.

Nếu được ký thông qua, đạo luật an toàn AI của New York sẽ yêu cầu các phòng thí nghiệm AI lớn nhất thế giới công bố các báo cáo chi tiết về an toàn và bảo mật cho các mô hình AI tiên tiến của họ. Dự luật cũng yêu cầu các phòng thí nghiệm AI báo cáo các sự cố liên quan đến an toàn, chẳng hạn như hành vi bất thường của mô hình AI hoặc những kẻ xấu đánh cắp một mô hình AI, nếu có xảy ra. Nếu các công ty công nghệ không đáp ứng được các tiêu chuẩn này, Đạo luật RAISE trao quyền cho Tổng chưởng lý bang New York, bà Letitia James ban hành các biện pháp trừng phạt dân sự với những án phạt lên tới 30 triệu USD.



Đạo luật RAISE nhằm mục đích điều chỉnh một cách hạn chế các công ty AI và công nghệ lớn nhất thế giới, dù họ có trụ sở tại California (như OpenAI và Google) hay Trung Quốc (như DeepSeek và Alibaba). Các yêu cầu về minh bạch của dự luật áp dụng cho các công ty mà mô hình AI của họ được đào tạo với chi phí hơn 100 triệu USD tài nguyên tính toán (về cơ bản, là nhiều hơn chi phí huấn luyện cho bất kỳ mô hình AI nào hiện có) và dịch vụ dựa trên chúng đang được cung cấp cho cư dân bang New York.

Mặc dù tương tự như SB 1047 ở một số khía cạnh chi tiết, Đạo luật RAISE được thiết kế để giải quyết những lời chỉ trích đối với các dự luật an toàn AI trước đây, theo Nathan Calvin, phó chủ tịch phụ trách công việc nhà nước và cố vấn pháp lý tại Encode, người đã làm việc trên cả dự luật này và SB 1047.

Đặc biệt, Đạo luật RAISE không yêu cầu các nhà phát triển mô hình AI phải tích hợp một "công tắc tắt" vào các mô hình của họ, cũng như không quy trách nhiệm cho các công ty huấn luyện các mô hình AI tiên tiến khi các công cụ AI gây ra những tác hại nghiêm trọng.

Tuy nhiên, Silicon Valley vẫn phản đối mạnh mẽ dự luật an toàn AI của New York, theo đại biểu Hội đồng bang New York và người đồng đề xuất Đạo luật RAISE, Alex Bores. Ông Bores nói sự phản kháng của ngành là không có gì đáng ngạc nhiên, nhưng cho rằng Đạo luật RAISE sẽ không hạn chế đổi mới của các công ty công nghệ dưới bất kỳ hình thức nào.

Anthropic, phòng thí nghiệm AI tập trung vào an toàn kêu gọi các tiêu chuẩn minh bạch liên bang cho các công ty AI sớm hơn trong tháng này, vẫn chưa đưa ra quan điểm chính thức về dự luật, đồng sáng lập Anthropic Jack Clark nói trong một bài đăng trên X vào hôm thứ Sáu. Tuy nhiên, ông Clark bày tỏ một số lo ngại về mức độ rộng rãi của Đạo luật RAISE, lưu ý rằng nó có thể gây rủi ro cho “các công ty nhỏ hơn”.



Khi được hỏi về lời chỉ trích của Anthropic, thượng nghị sĩ Gounardes nói với TechCrunch rằng ông nghĩ rằng quan điểm ấy là "thiếu sót," và lưu ý rằng ông đã thiết kế dự luật để không áp dụng cho các công ty nhỏ.

Một lời chỉ trích phổ biến khác về Đạo luật RAISE là các nhà phát triển mô hình AI vừa và nhỏ sẽ không cung cấp các mô hình AI tiên tiến nhất của họ tại thị trường bang New York. Đó cũng là một lời chỉ trích tương tự từng được đưa ra đối với SB 1047, và đó là điều hầu như đã xảy ra ở châu Âu nhờ quy định nghiêm ngặt của lục địa này về công nghệ.

Đại biểu Bores nói với TechCrunch rằng gánh nặng quản lý của Đạo luật RAISE tương đối nhẹ, do đó, nó không nên yêu cầu các công ty công nghệ ngừng cung cấp sản phẩm của họ tại New York. Với thực tế là New York có tổng sản phẩm quốc nội lớn thứ ba ở Mỹ, việc rút khỏi tiểu bang này không phải là điều mà hầu hết các công ty sẽ xem xét một cách hời hợt.

“Tôi không muốn đánh giá thấp sự nhỏ nhen về mặt chính trị có thể xảy ra, nhưng tôi tự tin cho rằng không có lý do kinh tế nào khiến các công ty AI không cung cấp mô hình của họ ở New York,” dân biểu Bores nói.

Theo TechCrunch