AMD cho thấy lý do tại sao CPU EPYC cao cấp rất quan trọng để mở khóa toàn bộ tiềm năng của máy gia tốc AI-không có chúng, hiệu suất bị ảnh hưởng
AMD nhấn mạnh tầm quan trọng của CPU máy chủ trong lĩnh vực trung tâm dữ liệu tại buổi keynote Advancing AI gần đây, cho rằng việc không có sự kết hợp phù hợp có thể ảnh hưởng đến hiệu suất. AMD cho biết việc sử dụng CPU máy chủ EPYC mang lại hiệu suất trung bình cao hơn 17% trong các tác vụ suy diễn. Họ cũng chỉ ra rằng CPU máy chủ đóng vai trò thiết yếu trong các kịch bản huấn luyện và suy diễn bên cạnh các bộ tăng tốc AI.
Trong vài quý qua, Team Red đã mở rộng mạnh mẽ sự hiện diện trong phân khúc DC, đặc biệt với dòng CPU máy chủ EPYC, khiến công ty trở thành một đối thủ quan trọng. Tại hội nghị Advancing AI, Phó Chủ tịch điều hành của AMD, Forrest Norrod, đã nhấn mạnh tầm quan trọng của sự kết hợp cân bằng giữa CPU và GPU trong lĩnh vực máy chủ. Ông đã so sánh bộ xử lý Intel Xeon 8592 thế hệ 5 với CPU máy chủ EPYC 9575F, cả hai đều được trang bị bộ tăng tốc AI Instinct MI300X, và chỉ ra sự khác biệt lớn về hiệu suất nếu khách hàng không có nền tảng CPU phù hợp.
Trước khi đi vào các thử nghiệm, hãy đánh giá tính công bằng trong việc chọn CPU. AMD đã sử dụng dòng CPU EPYC 9005 mới nhất của họ để so sánh với Xeon 8592, ra mắt cách đây gần hai năm. Về mặt thông số, cả hai CPU đều có cấu hình 64 nhân và 128 luồng, với TDP tương tự, do đó, sự so sánh là khá công bằng. Các bài kiểm tra của công ty cho thấy việc chọn nền tảng EPYC 9005, được cho là vượt trội hơn, mang lại mức tăng hiệu suất trung bình 6% trong nhiều bài kiểm tra trên Llama 3.
📢 Liên hệ quảng cáo: 0919 852 204
Quảng cáo của bạn sẽ xuất hiện trên mọi trang!
Mô hình AI 8B cho thấy sự khác biệt lên đến 17 khi số lượng tham số tăng. Các thử nghiệm chủ yếu tập trung vào nhiều khối lượng công việc suy diễn, cho thấy việc chọn đúng CPU máy chủ có ảnh hưởng lớn đến hiệu suất tổng thể. Các bài kiểm tra được thực hiện cùng với các bộ tăng tốc AI Instinct MI300X, nhưng không rõ liệu các tối ưu hóa có đóng vai trò trong đó không. Bất chấp các chỉ số của AMD, công ty đang chứng kiến sự gia tăng mạnh mẽ trong phân khúc CPU máy chủ, với thị phần tăng đáng kể chỉ trong vài năm.
Nguồn: wccftech.com/amd-shows-why-high-end-epyc-cpus-are-important-to-unlock-the-full-potential-of-ai-accelerators/