NVIDIA vào vương quốc AI PC với DGX Spark & DGX Station Desktops: 72 CPU CPU COR
NVIDIA chính thức ra mắt máy tính để bàn DGX Spark DGX Station AI, trang bị CPU Grace và GPU Blackwell. Sản phẩm này mang đến trải nghiệm máy tính để bàn với phần cứng chất lượng doanh nghiệp, cho phép các nhà phát triển AI, nhà nghiên cứu, nhà khoa học dữ liệu và sinh viên có thể thử nghiệm, tinh chỉnh và thực hiện suy diễn các mô hình lớn ngay trên máy tính để bàn.
Người dùng có thể chạy các mô hình này trên máy tính cá nhân hoặc triển khai chúng trên NVIDIA DGX Cloud hoặc bất kỳ cơ sở hạ tầng đám mây hay trung tâm dữ liệu nào khác. DGX Spark và DGX Station mang sức mạnh của kiến trúc Grace Blackwell, trước đây chỉ có tại trung tâm dữ liệu, đến với máy tính để bàn. Các nhà phát triển hệ thống toàn cầu như ASUS, Dell, HP Inc. và Lenovo đã phát triển DGX Spark và DGX Station. DGX Spark là siêu máy tính AI nhỏ nhất thế giới, giúp hàng triệu nhà nghiên cứu, nhà khoa học dữ liệu, nhà phát triển robot và sinh viên khám phá các giới hạn của AI sinh tạo và vật lý với hiệu suất và khả năng vượt trội.
Trung tâm của DGX Spark là siêu chip NVIDIA GB10 Grace Blackwell, được tối ưu cho định dạng máy tính để bàn. GB10 trang bị GPU Blackwell mạnh mẽ với nhân Tensor thế hệ thứ năm và hỗ trợ FP4, cung cấp tới 1.000 triệu phép toán mỗi giây cho việc tinh chỉnh và suy diễn với các mô hình AI mới nhất. Siêu chip GB10 sử dụng công nghệ kết nối NVLink-C2C của NVIDIA để cung cấp mô hình bộ nhớ đồng nhất CPU-GPU với băng thông gấp 5 lần PCIe thế hệ thứ năm.
Điều này cho phép siêu chip truy cập dữ liệu giữa GPU và CPU để tối ưu hóa hiệu suất cho các công việc AI yêu cầu nhiều bộ nhớ. CEO của NVIDIA, Jensen Huang, đã giới thiệu một bo mạch sẽ được sử dụng trong các hệ thống DGX SparkStation. Bo mạch này có một Blackwell SXM với hai die và 8 địa điểm HBM3e. Hiện tại, bo mạch đang sử dụng GPU B200 nhưng cũng sẽ có thiết kế nâng cấp B300.
Có một CPU Grace 72 lõi cùng với các bộ nhớ LPDDR5x. Bảng mạch có ba khe M.2 trang bị SSD NVMe và switch NVLINK ở phía trên. Các cổng IO khác bao gồm ba khe PCIe x16 Gen5 và hệ thống cung cấp điện mạnh mẽ với ba đầu nối 16-pin 12V-2x6, một đầu nối EPS 8-pin và một đầu nối ATX 24-pin. NVIDIA DGX Station mang lại hiệu suất cấp trung tâm dữ liệu cho việc phát triển AI trên máy tính để bàn.
Hệ thống máy tính để bàn đầu tiên sử dụng siêu chip NVIDIA GB300 Grace Blackwell, DGX Station, có bộ nhớ đồng nhất lên đến 784GB, tăng tốc độ huấn luyện và suy diễn quy mô lớn. Siêu chip GB300 trang bị GPU NVIDIA Blackwell Ultra với lõi Tensor thế hệ mới và độ chính xác FP4, kết nối với CPU NVIDIA Grace hiệu suất cao qua NVLink-C2C, mang lại khả năng giao tiếp và hiệu suất hệ thống tốt nhất.
DGX Station được trang bị NVIDIA ConnectX-8 SuperNIC, tối ưu hóa cho các tác vụ AI quy mô lớn với tốc độ mạng lên đến 800Gbs. Điều này mang lại khả năng kết nối mạng nhanh chóng và hiệu quả, cho phép kết nối nhiều DGX Station để xử lý khối lượng công việc lớn hơn và tăng tốc chuyển dữ liệu cho các tác vụ AI. DGX Station dự kiến sẽ có mặt từ các đối tác sản xuất như ASUS, BOXX, Dell, HP, Lambda và Supermicro vào cuối năm nay.
Nguồn: wccftech.com/nvidia-enters-ai-pc-realm-dgx-spark-dgx-station-desktops-72-core-grace-cpu-blackwell-gpus-up-to-784-gb-memory/