AMD đã phát hành hướng dẫn chạy Deepseek trên Ryzen AI CPU và Radeon GPUS

AMD đã hướng dẫn cách chạy mô hình AI R1 của DeepSeek trên các sản phẩm Ryzen AI và Radeon được tăng tốc AI, giúp người dùng dễ dàng sử dụng mô hình mới này trên máy tính cá nhân. Một số LLM sử dụng R1 tương thích với GPU desktop RX 7000 và một số CPU Ryzen có NPU XDNA. Tuy nhiên, cần có driver tùy chọn Adrenalin 25.1.1 để hoạt động. Hướng dẫn cung cấp đầy đủ thông tin cần thiết cho người dùng AMD để chạy DeepSeek R1 trên máy của họ.

LM Studio có trình cài đặt một cú nhấp chuột được thiết kế đặc biệt cho Ryzen AI, giúp người dùng AMD cài đặt R1. AMD hướng dẫn cách tối ưu ứng dụng cho phần cứng của mình, bao gồm danh sách các tham số LLM tối đa được hỗ trợ. DeepSeek R1 gần đây mới được tinh chế thành các mô hình nhỏ gọn, đủ khả năng chạy trên phần cứng tiêu dùng. Mô hình DeepSeek-V3 ban đầu được huấn luyện trên cụm 2.048 GPU Nvidia H800.

Các thông số LLM tối đa được hỗ trợ phụ thuộc vào dung lượng bộ nhớ. Các card đồ họa RX 7600 XT, 7700 XT, 7800 XT, 7900 GRE và 7900 XT hỗ trợ tối đa "DeepSeek-R1-Distill-Qwen-14B". Card RX 7900 XTX cao cấp hỗ trợ "DeepSeek-R1-Distill-Qwen-32B". Card RX 7600 với 8GB VRAM hỗ trợ "DeepSeek-R1-Distill-Llama-8B". Tương tự, các APU di động Ryzen 8040 và 7040 có 32GB RAM, trong khi Ryzen AI HX 370 và 365 với 24GB và 32GB RAM có thể hỗ trợ "DeepSeek-R1-Distill-Llama-14B".

Ryzen AI Max 395 hỗ trợ tối đa "DeepSeek-R1-Distill-Llama-70B" với dung lượng bộ nhớ 128GB và 64GB. Phiên bản 32GB chỉ hỗ trợ "DeepSeek-R1-Distill-Qwen-32B". Mô hình AI mới của DeepSeek đã gây chú ý toàn cầu nhờ chi phí tính toán thấp hơn 11 lần so với các mô hình hàng đầu, và hai ngày trước, nó đã khiến Nvidia mất kỷ lục 589 tỷ USD giá trị thị trường.

Mô hình DeepSeek R1 đạt hiệu suất gấp 11 lần nhờ tối ưu hóa cao, chủ yếu dựa vào lập trình Parallel Thread Execution (PTX) của Nvidia. Không chỉ có GPU của Nvidia và AMD, R1 còn chạy được trên GPU Ascend AI của Huawei, cho phép thực hiện AI hiệu quả trên phần cứng nội địa Trung Quốc.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/amd-released-instructions-for-running-deepseek-on-ryzen-ai-cpus-and-radeon-gpus