NVIDIA ra mắt GB200 NVL4 tích hợp Quad Blackwell GPUs và Dual Grace CPUs, sản phẩm H200 NVL đã có mặt trên thị trường

#rao vặt xả lỗ

NVIDIA đã tiết lộ giải pháp Blackwell GB200 NVL4 mới nhất của mình với bốn GPU & hai GPU được đóng gói vào một giải pháp HPC & AI mạnh mẽ.

NVIDIA tăng tốc AI về phía trước với các giải pháp phần cứng mạnh: Blackwell GB200 NVL4 & Hopper H200 NVL

Là một phần của các thông báo SC24 của mình, NVIDIA đang tiết lộ hai nền tảng phần cứng hoàn toàn mới, một nền tảng dựa trên Hopper Stack hiện có và các nền tảng khác được cung cấp bởi Blackwell Stack mới nhất của nó.Hai giải pháp này được thiết kế cho các máy chủ doanh nghiệp, cung cấp năng lượng cho khối lượng công việc HPC và AI tăng tốc.

NVIDIA Announces GB200 NVL4 With Quad Blackwell GPUs & Dual Grace CPUs, H200 NVL Now Generally Available 2

Bắt đầu vớiNVIDIA H200 NVL, Công ty hiện đang xác nhận tính khả dụng chung của các thẻ Hopper dựa trên PCIE này có thể kết nối tối đa 4 GPU thông qua miền NVLink, cung cấp băng thông nhanh hơn bảy lần so với giải pháp PCIe tiêu chuẩn.Công ty nói rằng các giải pháp H200 NVL có thể phù hợp với bất kỳ trung tâm dữ liệu nào và cung cấp một loạt các cấu hình máy chủ linh hoạt được tối ưu hóa cho khối lượng công việc của HPC và AI lai.

Về thông số kỹ thuật, giải pháp Hopper H200 NVL cung cấp bộ nhớ HBM hơn 1,5 lần, hiệu suất suy luận 1,7x LLM và hiệu suất HPC 1,3 lần.Bạn đang nhận được 114 SMS với tổng số 14,592 lõi CUDA, 456 lõi tenxơ và tối đa 3 TFLOPS của hiệu suất FP8 (tích lũy FP16).GPU có bộ nhớ 80 GB HBM2E được cấu hình trên giao diện 5120 bit và có TDP là 350 watt.

Chuyển đến Blackwell, chúng tôi có chương trình giới thiệu đầu tiên của chúng tôi về NVIDIA GB200 NVL4, đây là một mô-đun hoàn toàn mới, là một phần mở rộng lớn hơn của giải pháp AI Superchip AI GB200 Gracewell ban đầu.Mô -đun GB200 NVL4 tăng gấp đôi khả năng CPU và GPU và cũng thêm bộ nhớ tăng lên.

Bạn đang nhận được hai GPU Blackwell GB200 được cấu hình trên một bảng lớn hơn với hai CPU GRACE.Mô-đun được thiết kế như một giải pháp máy chủ đơn với miền NVLink 4 GPU và 1,3T bộ nhớ kết hợp.Về hiệu suất, mô -đun sẽ cung cấp sự cải thiện 2,2 lần trong mô phỏng và nâng cao 1,8 lần về hiệu suất đào tạo và suy luận.Danh sách các đối tác ngày càng tăng của NVIDIA sẽ cung cấp giải pháp NVL4 trong những tháng tới.

NVIDIA Announces GB200 NVL4 With Quad Blackwell GPUs & Dual Grace CPUs, H200 NVL Now Generally Available 3

Đối với TDP, vì mô -đun SuperChip là khoảng 2700W, chúng ta có thể mong đợi giải pháp GB200 NVL4 lớn hơn sẽ nhấm nháp trong gần 6kW năng lượng.Người ta có thể dễ dàng nhìn thấy những nỗ lực được NVIDIA thực hiện để tăng tốc phân đoạn tính toán AI.

Công ty gần đây đã xuất bản các kỷ lục thế giới trong MLPERF v4.1, cả hai đều trongđào tạoVàsuy luận, và nó không chỉ là Blackwell là tuyệt vời, mà Hopper thậm chí còn trở nên tốt hơn khi tiếp tục tối ưu hóa.Công ty cũng đang tăng tốc lộ trình AI của mình thành một nhịp một năm với một số cơ sở hạ tầng mới được lên kế hoạch trong những năm tới, chẳng hạn nhưBlackwell Ultra và Rubin.

Nguồn: NVIDIA thông báo GB200 NVL4 với Quad Blackwell GPUS & Dual Grace CPU, H200 NVL hiện có sẵn