Việc triển khai của NVIDIA về các bộ xử lý B200 B200 thế hệ đầu tiên của mình đã phải đối mặt với một rào cản doCác vấn đề giết ngườivà một số báo cáo chưa được xác nhận vềquá nóngMáy chủ cũng đã xuất hiện.Tuy nhiên, theo báo cáo củaPhân tích, có vẻ như thế hệ thứ hai của NvidiaBộ xử lý Blackwell B300-serieschỉ là quanh góc.Chúng sẽ không chỉ có khả năng tăng công suất bộ nhớ mà còn cung cấp hiệu suất cao hơn 50% chỉ với 200W TDP bổ sung.

Các bộ xử lý B300-series của Nvidia có thiết kế được điều chỉnh đáng kể vẫn sẽ được thực hiện trên quy trình chế tạo 4NP của TSMC (một nút 4NM với hiệu suất nâng cao cho NVIDIA), nhưng báo cáo tuyên bố họ sẽ cung cấp hiệu suất tính toán nhiều hơn 50% so với B200-bộ xử lý loạt.Sự gia tăng hiệu suất đó đến với chi phí của một TDP lớn 1.400W, chỉ cao hơn 200W so với GB200.B300 sẽ có sẵn khoảng nửa năm sau khi B200, các yêu cầu bán kết hợp.

Sự cải thiện đáng kể thứ hai của sê-ri B300 của NVIDIA là việc sử dụng các ngăn xếp bộ nhớ 12-HBM3E, sẽ cung cấp 288 GB bộ nhớ với 8 TB/s băng thông.Công suất bộ nhớ nâng cao và thông lượng tính toán cao hơn sẽ cho phép đào tạo và suy luận nhanh hơn với chi phí suy luận thấp hơn tới ba lần vì B300 sẽ xử lý các kích thước lô lớn hơn và hỗ trợ độ dài trình tự mở rộng trong khi giải quyết các vấn đề về độ trễ trong tương tác của người dùng.

Ngoài hiệu suất tính toán cao hơn và nhiều bộ nhớ hơn, các máy Blackwell thế hệ thứ hai của Nvidia cũng có thể áp dụng 800G ConnectX-8 NIC của công ty.NIC này có hai lần băng thông của các làn đường kết nối 400G hiện tại và 48 pcie so với 32 trên người tiền nhiệm của nó.Điều này sẽ cung cấp các cải tiến băng thông quy mô đáng kể cho các máy chủ mới, đây là một chiến thắng cho các cụm lớn.

Một cải tiến lớn khác với B300 và GB300 là NVIDIA sẽ làm lại toàn bộ chuỗi cung ứng so với B200 và GB200.Công ty sẽ không còn cố gắng bán toàn bộ bo mạch chủ tham chiếu hoặc toàn bộ máy chủ.Thay vào đó, NVIDIA sẽ chỉ bán B300 trên mô -đun Puck SXM, CPU GRACE và Bộ điều khiển quản lý máy chủ (HMC) từ Axiado.Do đó, nhiều công ty sẽ được phép tham gia chuỗi cung ứng Blackwell, dự kiến ​​sẽ làm cho các máy có trụ sở tại Blackwell dễ tiếp cận hơn.

Với B300 và GB300, NVIDIA sẽ cung cấp cho các đối tác của mình giữa các siêu nhân và OEM tự do hơn nhiều để thiết kế máy đen, điều này sẽ ảnh hưởng đến giá cả của họ và có lẽ là hiệu suất.