Các siêu máy tính AI hàng đầu mới nhất của NVIDIA lần đầu tiên được triển khai

Vào thứ Năm, Dell thông báo đã cung cấp hệ thống đầu tiên trong ngành dựa trên nền tảng Nvidia GB300 NVL72 cho CoreWeave, nhà cung cấp dịch vụ điện toán đám mây AI hàng đầu. CoreWeave cho biết đã triển khai cụm máy chủ dựa trên Blackwell Ultra với nhà cung cấp dịch vụ trung tâm dữ liệu Switch. Giai đoạn triển khai đầu tiên của Dell và CoreWeave bao gồm các giá tích hợp của Dell, mỗi giá trang bị 72 GPU Nvidia Blackwell Ultra, 36 CPU Grace 72 nhân dựa trên Arm, và 36 DPU BlueField.

Mỗi giá đỡ GB300 NVL72 cung cấp 1,1 ExaFLOPS hiệu suất suy diễn FP4 và 0,36 ExaFLOPS hiệu suất đào tạo FP8, cao hơn 50% so với GB200 NVL. Ngoài ra, mỗi giá đỡ GB300 NVL72 có 20 TB HBM3E và 40 TB RAM tổng cộng. Cuối cùng, giải pháp giá đỡ mới sử dụng công tắc Quantum-X800 InfiniBand và ConnectX-8 SuperNICs của Nvidia cho kết nối mở rộng với tốc độ lên đến 14,4 GB/s, nhanh gấp đôi so với trước đây.

Các hệ thống này được cấu hình dày đặc để tối ưu hóa hiệu suất huấn luyện và suy diễn, sử dụng hệ thống làm mát bằng chất lỏng do tiêu thụ điện năng cực cao lên đến 1.400W mỗi GPU. MSI vừa ra mắt siêu máy tính AI EdgeXpert MS-C931 với sức mạnh từ Nvidia DGX. Nvidia đang tăng sản xuất chip GB200 sau khi các nhà cung cấp giải quyết vấn đề quá nhiệt và rò rỉ trong máy chủ AI. Chip Arm của Nvidia nhanh chóng chiếm lĩnh thị trường máy chủ khi AI phát triển mạnh. Dell cho biết việc giao hàng các giải pháp sử dụng chip Nvidia GB300 không chỉ là một cột mốc mà còn là một tuyên bố quan trọng từ công ty.

Điều này phản ánh niềm tin mà khách hàng và đối tác dành cho chuyên môn của chúng tôi. Bằng cách tích hợp liền mạch tính toán, mạng và lưu trữ, cùng với dịch vụ triển khai, chúng tôi giúp khách hàng di chuyển với tốc độ và quy mô chưa từng có. Sự đổi mới và tốc độ mà chỉ chúng tôi có thể thực hiện đang giúp chúng tôi hỗ trợ những khách hàng ấn tượng và tăng tốc hợp tác với các đối tác như CoreWeave, Nvidia và nhiều đối tác khác.

Dell cho biết các hệ thống rack-scale được lắp ráp và kiểm tra sẵn, thiết kế để cài đặt và triển khai nhanh chóng cho sản xuất. Đây là lần thứ hai Dell và CoreWeave triển khai nền tảng GPU AI mới nhất của Nvidia trước cả ngành. Thành tựu này là kết quả của sự hợp tác chặt chẽ với Nvidia, kết hợp phần cứng, phần mềm và dịch vụ thành các giải pháp tích hợp có thể triển khai nhanh.

Việc triển khai này sẽ giúp CoreWeave nâng cao nền tảng điện toán đám mây để xử lý việc huấn luyện, suy luận và suy diễn các mô hình ngôn ngữ lớn. Khi CoreWeave sử dụng nhiều giá đỡ GB300 NVL72 hơn, hiệu suất tổng thể cho khách hàng sẽ tăng lên. Đáng chú ý là Dell và CoreWeave triển khai giá đỡ GB300 NVL72 chỉ khoảng bảy tháng sau khi triển khai các máy GB200 NVL72 đầu tiên, điều này đặt ra câu hỏi về độ bền của nền tảng GB200 ban đầu, mặc dù đã bị chậm một chút.

Từ góc độ của các nhà cung cấp dịch vụ đám mây (CSP), việc đầu tư vào máy Blackwell Ultra hiệu suất cao hợp lý hơn so với hệ thống Blackwell gốc. Có thể có nhu cầu lớn đối với Blackwell Ultra của Nvidia, vì vậy hãng này có thể sẽ đạt doanh số tốt hơn so với nửa đầu năm. Hãy theo dõi Toms Hardware trên Google News để cập nhật tin tức, phân tích và đánh giá mới nhất. Nhớ nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-newest-top-tier-ai-supercomputers-deployed-for-the-first-time-grace-blackwell-ultra-superchip-systems-deployed-at-coreweave