Microsoft Snapdragon X Copilot+ PC có địa phương DeepSeek-R1 trước
Microsoft vừa công bố sẽ phát hành phiên bản DeepSeek-R1 tối ưu hóa cho NPU, giúp tận dụng phần cứng AI trên các máy tính Copilot. Theo blog Windows, tính năng này sẽ đến trước tiên trên các máy tính Qualcomm Snapdragon X, sau đó là các chip Intel Core Ultra 200V Lunar Lake và các chip khác. Phiên bản đầu tiên sẽ có DeepSeek-R1-Distill-Qwen-1.5B, được nhóm nghiên cứu AI từ UC Berkeley xác định là mô hình nhỏ nhất có thể đưa ra câu trả lời chính xác, trong khi các mô hình lớn hơn với 7 tỷ và 14 tỷ tham số sẽ được phát hành ngay sau đó.
DeepSeek được tối ưu hóa để cần ít tài nguyên tính toán hơn 11 lần so với các đối thủ phương Tây, giúp nó trở thành mô hình phù hợp để chạy trên các thiết bị tiêu dùng. Nó cũng sử dụng Windows Copilot Runtime, cho phép các nhà phát triển sử dụng API DeepSeek trên thiết bị trong ứng dụng của họ. Microsoft cho biết phiên bản DeepSeek tối ưu hóa cho NPU sẽ mang lại “thời gian phản hồi và tốc độ xử lý cạnh tranh, đồng thời ảnh hưởng tối thiểu đến tuổi thọ pin và tài nguyên của PC.”
Điều này có nghĩa là người dùng Copilot PC có thể mong đợi hiệu suất mạnh mẽ tương đương với các mẫu cạnh tranh như Llama 3 của Meta và o1 của OpenAI, trong khi vẫn đảm bảo thời gian sử dụng pin tốt. Tuy nhiên, sự có mặt của DeepSeek trên các PC Copilot chủ yếu hướng đến lập trình viên và nhà phát triển hơn là người tiêu dùng. Có thể Microsoft đang khuyến khích họ phát triển thêm ứng dụng để tận dụng AI PC, vì nhiều người vẫn chưa nhận thấy nhu cầu và các nghiên cứu thị trường cho thấy người dùng chỉ mua các thiết bị này vì chúng hiện là lựa chọn duy nhất.
Một điều khiến chúng tôi thắc mắc là sự ưu ái của Microsoft dành cho các máy tính Qualcomm Snapdragon X vào thời điểm này. Trong khi thương hiệu Copilot được ra mắt cùng với các vi xử lý này vào tháng 7 năm ngoái, thì những laptop Intel và AMD mới nhất cũng đã tích hợp NPU. AMD thậm chí đã hướng dẫn người dùng chạy AI trên CPU Ryzen và GPU Radeon, và công ty còn cho rằng RTX 7900 XTX hoạt động DeepSeek tốt hơn RTX 4090.
Dù thế nào, chúng tôi vẫn hào hứng với những khả năng mà DeepSeek mang lại cho AI. Vì là mã nguồn mở, hầu hết mọi người đều có thể tải về và chạy nó trên máy tính cá nhân, cho phép người khác phát triển dựa trên những cải tiến và tối ưu hóa mà mô hình gốc đã thực hiện.
Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/microsoft-snapdragon-x-copilot-pcs-get-local-deepseek-r1-support-intel-amd-in-the-works