Các nhà sản xuất GPU Trung Quốc thúc đẩy hỗ trợ chạy các mô hình AI của Deepseek trên các hệ thống địa phương, tăng cường chủng tộc AI
Các nhà sản xuất GPU tiêu dùng Trung Quốc đã bắt đầu hỗ trợ chạy các mô hình LLM DeepSeeks R1 trên hệ thống địa phương, tham gia vào cuộc đua AI toàn cầu. GPU Kunlun của Baidu và Moore Threads hiện đã hoàn toàn có khả năng chạy các mô hình AI của DeepSeeks trên hệ thống máy chủ. Trung Quốc đang có những bước tiến mạnh mẽ trong ngành AI, không chỉ phát triển mô hình cạnh tranh với các lựa chọn phổ biến của OpenAI mà còn nổi bật về khả năng phần cứng AI.
Gần đây, chúng tôi đã báo cáo về việc Huawei chuẩn bị thách thức sự thống trị của NVIDIA thông qua chip AI Ascend 910C. Hiện tại, các nhà sản xuất GPU Trung Quốc, đặc biệt là Moore Threads và Baidu Kunlun, cũng đã tham gia vào cuộc đua này bằng cách cung cấp hỗ trợ cho mô hình DeepSeeks R1 với các GPU tiêu dùng của họ. Moore Threads đã triển khai dịch vụ hỗ trợ cho các mô hình chưng cất của DeepSeeks, và cho biết mô hình này tương thích với các GPU tiêu dùng MTT S80 và MTT S4000, trong đó MTT S4000 được thiết kế đặc biệt cho khối lượng công việc trên trạm làm việc.
Công ty đã hỗ trợ mô hình DeepSeeks trên cụm KUAE, được thiết kế riêng cho khối lượng công việc AI với GPU MTT S4000. Đây là một thành tựu nổi bật của Moore Threads, giúp thúc đẩy việc sử dụng sản phẩm của công ty trong giới tiêu dùng chuyên nghiệp.
Các GPU MTT S80 và MTT S4000 cũng có thể được sử dụng cho các tác vụ suy diễn, cho thấy nhà sản xuất đã cung cấp hỗ trợ rộng rãi. Tuy nhiên, chúng tôi không biết hiệu suất của các mô hình DeepSeeks trên các GPU này, nhưng chắc chắn sẽ không đạt được mức độ như AMD và NVIDIA. Ngoài ra, Baidu, công ty công nghệ nổi tiếng của Trung Quốc, đã xây dựng cụm AI nội bộ sử dụng chip AI Kunlun Core P800.
Theo MyDrivers, GPU Core P800 hoạt động tốt hơn 20-50% so với các GPU phổ thông tương tự, hỗ trợ suy diễn 8-bit và có chi phí triển khai cũng như bảo trì thấp. Chip AI này hoàn toàn tương thích với các mô hình AI DeepSeeks V3R1, và việc triển khai suy diễn được cho là rất dễ dàng. Cụm AI của Baidu dự kiến sẽ bao gồm 30.000 GPU Core P800 và sẽ sớm đi vào hoạt động.
Thành tựu của các nhà sản xuất GPU Trung Quốc cho thấy họ không bị ảnh hưởng bởi yếu tố toàn cầu, mà đã tập trung vào việc chuyển đổi sang các sản phẩm phần cứng được sản xuất trong nước, giúp họ bền vững trong dài hạn.
Nguồn: wccftech.com/chinese-gpu-manufacturers-push-out-support-for-running-deepseek-ai-models-on-local-systems/