Deepseek R1 được báo cáo là chạy suy luận về chip AI của Huawei

Mô hình AI DeepSeeks được cho là sử dụng chip Ascend 910C mới nhất của Huawei để xử lý các tác vụ suy diễn, cho thấy sự tiến bộ của ngành AI Trung Quốc trong vài tháng qua. Công ty AI DeepSeek đã gây rối loạn thị trường AI toàn cầu với mô hình LLM R1 mới công bố, khiến thị trường chứng khoán Mỹ giảm 2 ngàn tỷ do sự hoảng loạn của các nhà đầu tư.

Mặc dù có nhiều tranh cãi về sức mạnh tính toán mà DeepSeek sử dụng để huấn luyện mô hình R1, có vẻ như Huawei đóng vai trò quan trọng trong việc này. Theo dorialexander, DeepSeek R1 đang chạy suy diễn trên các chip Ascend 910C, tạo thêm yếu tố mới cho vụ việc. Điều này đáng được chú ý hơn, vì DeepSeek đã huấn luyện trên Nvidia H800 nhưng lại chạy suy diễn trên chip Huawei 910C.

Chip AI Ascend 910C của Huawei được cho là đối thủ trực tiếp của bộ tăng tốc AI Hopper H100 của NVIDIA. Mặc dù thông tin chi tiết về chip của Huawei vẫn chưa rõ, công ty dự định bắt đầu sản xuất đại trà vào quý 1 năm 2025, nhận được sự quan tâm từ các tập đoàn AI lớn của Trung Quốc như ByteDance và Tencent.

Chips AI của Huawei được biết đến như là sự thay thế hàng đầu cho phần cứng của NVIDIA tại Trung Quốc và đã chiếm lĩnh một thị phần lớn, dự kiến sẽ ngày càng phổ biến hơn. Tài nguyên tính toán cho mô hình AI DeepSeeks R1 hiện chưa được công bố cụ thể, và có nhiều hiểu lầm trong truyền thông về vấn đề này. Đầu tiên, con số 5 triệu không phải là tổng chi phí đào tạo mà là chi phí vận hành mô hình cuối cùng. Thứ hai, DeepSeek được cho là có quyền truy cập vào hơn 50.000 chiếc H100 của NVIDIA, điều này cho thấy công ty cần tài nguyên tương tự như các mô hình AI khác.

Sử dụng chip của Huawei cho việc suy diễn vẫn hấp dẫn vì chúng có sẵn với số lượng lớn cho các công ty trong nước, giá cả cũng khá hợp lý so với các phiên bản cắt giảm của NVIDIA hay các bộ tăng tốc từ nguồn không hợp pháp. Huawei được cho là đang phát triển thế hệ chip AI Ascend tiếp theo, dự kiến sẽ cạnh tranh với sản phẩm Blackwell AI của Team Green, điều này chắc chắn sẽ tăng cường cạnh tranh toàn cầu.

Nguồn: wccftech.com/deepseek-r1-is-reportedly-running-inference-on-huawei-ascend-910c-ai-chip/