Các lô hàng quy mô lớn của máy chủ NVIDIA GB300 có đầu để bắt đầu vào tháng 9

Dell và một số đối tác Nvidia đã bắt đầu sản xuất sớm các máy chủ dựa trên GB300, nhưng dự kiến việc giao hàng quy mô lớn sẽ bắt đầu vào tháng 9 năm 2025, theo báo cáo của DigiTimes. Sự triển khai này được kỳ vọng sẽ suôn sẻ hơn so với các thế hệ trước nhờ vào việc tái sử dụng thiết kế chiến lược và cải thiện phối hợp trong chuỗi cung ứng. Tuy nhiên, hệ thống làm mát bằng chất lỏng vẫn là một thách thức đối với các nhà sản xuất thiết kế gốc (ODM).

Chuyển đổi sang Blackwell Ultra

Một trong những yếu tố chính giúp tăng tốc chuyển đổi là quyết định của Nvidia giữ lại thiết kế bo mạch của nền tảng GB200 hiện tại, theo DigiTimes. Hơn thế nữa, Nvidia còn tạo điều kiện cho các đối tác nhiều hơn trước. Đối với GB300, Nvidia đang chuyển sang cách tiếp cận mô-đun hơn, theo SemiAnalysis. Thay vì cung cấp bo mạch đã lắp ráp hoàn chỉnh, Nvidia được cho là sẽ cung cấp GPU B300 trên mô-đun SXM Puck, CPU Grace trong một gói BGA riêng biệt, và bộ điều khiển quản lý phần cứng HMC từ Axiado.

Khách hàng hiện tự tìm các linh kiện còn lại cho bo mạch chủ, và bộ nhớ CPU sử dụng các mô-đun bộ nhớ SOCAMM tiêu chuẩn từ nhiều nhà cung cấp. Nvidia vẫn cung cấp khay chuyển mạch và bảng đồng như trước. Việc tái sử dụng này giúp loại bỏ nhu cầu thiết kế lại hoàn toàn, đơn giản hóa quy trình sản xuất và giảm rủi ro. Với GB200, Nvidia cung cấp bo mạch Bianca hoàn chỉnh, bao gồm GPU B200, CPU Grace, 512GB bộ nhớ LPDDR5X và các linh kiện cấp nguồn — tất cả được tích hợp trên một bảng mạch in duy nhất.

Nvidia cung cấp khay chuyển mạch và bảng đồng cho hệ thống này. Sản xuất GB200 của Nvidia sẽ tăng tốc khi các nhà cung cấp giải quyết vấn đề quá nhiệt của máy chủ AI và rò rỉ làm mát bằng chất lỏng. Nvidia cũng đang tìm cách giảm tiêu thụ nước của AI bằng cách sử dụng công nghệ làm mát trực tiếp vào chip, với tuyên bố cải thiện 300 lần nhờ hệ thống kín. Chip PC để bàn đầu tiên của Nvidia sẽ ra mắt trong tháng này, với Asus dẫn đầu bằng nền tảng Ascend GX10. Hiện tại, GB300 đang trong giai đoạn xác thực và sản xuất sớm, không gặp trở ngại lớn nào theo báo cáo của DigiTimes.

Phản hồi từ các đối tác cho thấy việc đủ điều kiện cho linh kiện đang tiến triển theo kế hoạch, và Nvidia dự kiến sẽ tăng sản lượng ổn định trong quý ba. Theo DigiTimes, khối lượng giao hàng dự kiến sẽ tăng đáng kể vào quý bốn năm 2025. Wistron, nhà cung cấp chính của bảng tính toán, cho biết doanh thu trong quý này sẽ ổn định do sự chồng lấn thế hệ giữa GB200 và GB300.

Tin tốt, quá trình chuyển đổi đang diễn ra suôn sẻ hơn so với lần chuyển đổi trước, khi gặp nhiều tr delays vì vấn đề silicon của Nvidia, cấu trúc máy chủ dày đặc và yêu cầu làm mát. Hiện tại, các nhà sản xuất ODM máy chủ dường như đã biết cách quản lý các thách thức này. Tuy nhiên, mặc dù GB200 đang được vận chuyển số lượng lớn đến các trung tâm dữ liệu, nhưng nó vẫn gặp vấn đề liên tục với hệ thống làm mát bằng chất lỏng, theo DigiTimes.

Các sự cố chính xảy ra với các khớp nối nhanh, thường bị rò rỉ dù đã qua kiểm tra stress tại nhà máy. Các nhà điều hành trung tâm dữ liệu đã áp dụng các biện pháp như tắt máy cục bộ và kiểm tra rò rỉ kỹ lưỡng, cho thấy họ ưu tiên tốc độ triển khai và hiệu suất hơn là độ tin cậy của phần cứng. Bên cạnh GB300, Nvidia đang chuẩn bị nền tảng thế hệ tiếp theo mang tên mã Vera Rubin cho các máy chủ AI.

Nền tảng này sẽ được triển khai qua hai giai đoạn. Giai đoạn đầu sẽ thay thế CPU Grace bằng CPU Vera và GPU Blackwell bằng GPU Rubin, nhưng vẫn giữ lại giá Oberon hiện tại với tên NVL144, sử dụng 72 gói GPU chiplet tính toán đôi. Giai đoạn hai sẽ giới thiệu giá Kyber hoàn toàn mới với CPU Vera và GPU Rubin Ultra có bốn chiplet tính toán. Do GPU Rubin dự kiến tiêu thụ điện năng nhiều hơn GPU Blackwell, nền tảng thế hệ tiếp theo sẽ tăng cường sử dụng hệ thống làm mát bằng chất lỏng.

Mặc dù cần thiết cho hiệu suất, phương pháp làm mát này vẫn gặp khó khăn trong việc triển khai đáng tin cậy, theo báo cáo từ DigiTimes. Trong các hệ thống GB200, sự khác biệt về thiết lập ống dẫn và áp lực nước đã khiến việc loại bỏ hoàn toàn rò rỉ trở nên khó khăn, dẫn đến chi phí bảo trì cao sau khi triển khai. Hãy theo dõi Toms Hardware trên Google News để nhận tin tức, phân tích và đánh giá mới nhất.

Hãy nhớ nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/large-scale-shipments-of-nvidia-gb300-servers-tipped-to-start-in-september-gb200-demand-remains-robust-despite-widespread-coolant-leak-reports