AMD Lừa Radeon RX 7900 XTX đánh bại Nvidia từ Geforce RTX 4090 trong DeepSeek tựa AI Suy luận điểm chuẩn;Đây là cách bạn có thể chạy R1 trên máy AMD cục bộ của mình

Card đồ họa AMD Radeon RX 7900 XTX thể hiện hiệu suất xuất sắc khi chạy mô hình AI DeepSeek R1, vượt qua NVIDIAs GeForce RTX 4090 trong các bài kiểm tra suy diễn. AMD nhanh chóng cung cấp hỗ trợ cho các mô hình LLM của DeepSeek, mang lại hiệu suất vượt trội. Mô hình AI mới nhất của DeepSeek đã gây ấn tượng lớn trong ngành, và người tiêu dùng bình thường có thể tận dụng hiệu suất đủ để chạy mô hình này nhờ vào GPU AMD RDNA 3 Radeon RX 7900 XTX.

Nhóm Red đã chia sẻ các điểm chuẩn về hiệu suất suy diễn DeepSeeks R1, so sánh GPU RX 7000 series của AMD với đối thủ NVIDIAs, cho thấy hiệu suất vượt trội trên nhiều mô hình. DeepSeek hoạt động rất tốt trên AMD Radeon 7900 XTX. Tìm hiểu cách chạy trên GPU Radeon và APU Ryzen AI tại đây httpst.coFVLDLJ18Ov. Các GPU tiêu dùng cho khối lượng công việc AI đã mang lại hiệu quả cho nhiều người, chủ yếu vì chúng có hiệu suất tốt so với các bộ tăng tốc AI thông thường.

Bằng cách chạy mô hình trên máy tính cá nhân, bạn sẽ bảo vệ được quyền riêng tư của mình, điều này rất quan trọng với các mô hình AI của DeepSeeks. May mắn thay, AMD đã phát hành hướng dẫn chi tiết về cách chạy DeepSeek R1 trên GPU của Team Red. Dưới đây là các bước hướng dẫn:

Bước 1: Đảm bảo bạn đang sử dụng driver Adrenalin 25.1.1 Optional hoặc cao hơn.

Bước 2: Tải LM Studio 0.3.8 hoặc phiên bản cao hơn từ lmstudio.

Bước 3: Cài đặt LM Studio và bỏ qua màn hình hướng dẫn.

Bước 4: Nhấp vào tab Discover.

Bước 5: Chọn DeepSeek R1 Distill. Các bản distill nhỏ như Qwen 1.5B có hiệu suất nhanh chóng và được khuyến nghị cho người mới, trong khi các bản lớn hơn cung cấp khả năng suy luận vượt trội. Tất cả đều rất mạnh mẽ.

Bước 6: Ở bên phải, đảm bảo chọn "Q4 K M" và nhấn "Download".

Bước 7: Sau khi tải về, quay lại tab trò chuyện, chọn DeepSeek R1 distill từ menu thả xuống và đảm bảo "chọn tham số thủ công" đã được đánh dấu. Bước 8: Trong phần GPU offload layers, kéo thanh trượt đến mức tối đa. Bước 9: Nhấp vào tải mô hình. Bước 10: Tương tác với mô hình lý luận hoàn toàn trên phần cứng AMD của bạn! Nếu các hướng dẫn trên không hoạt động, AMD đã phát hành một tutorial trên YouTube, giải thích từng bước.

Hãy kiểm tra và chạy DeepSeeks LLMs trên máy AMD của bạn để đảm bảo dữ liệu của bạn không bị lạm dụng. Với các GPU sắp ra mắt của NVIDIA và AMD, chúng tôi kỳ vọng sức mạnh xử lý sẽ tăng mạnh nhờ vào các bộ vi xử lý AI chuyên dụng.

Nguồn: wccftech.com/amd-radeon-rx-7900-xtx-beats-nvidia-geforce-rtx-4090-in-deepseeks-ai-inference-benchmark/