Nvidia'sBlackwell Ultra B300 "GPUSCó thể giới thiệu một thiết kế được ghi lại trên các máy chủ GB300, điều này sẽ giúp bảo trì và nâng cấp dễ dàng hơn.

Với thiết kế dựa trên ổ cắm, Blackwell Ultra "B300" AI của NVDidia có thể được sử dụng giống như CPUS

Các chip hiệu suất cao của trung tâm dữ liệu hiện tại từ NVIDIA mang đến thiết kế OAM, đây là một giải pháp trên bo mạch.Với thiết kế này, các chip GPU được hàn vĩnh viễn vào bo mạch chủ của máy chủ như GB200, nơi người dùng sẽ tìm thấy cả GRY CPU và Blackwell GPU trên một bảng.

Tuy nhiên, đây có thể là loạt cuối cùng có thiết kế trên tàu như một số báo cáo cho thấy rằngNvidia có thể chuyển sang một thiết kế khácvới GPU Blackwell B300 "Ultra" cho máy chủ GB300.Theo MoneyDJVàTin tức kinh tế hàng ngày(thông quaXu hướng), GPU B300 có thể có thiết kế dựa trên ổ cắm, cho phép người dùng cài đặt hoặc gỡ cài đặt GPU khỏi bo mạch chủ.

Phương pháp tiếp cận với Blackwell Ultra "B300" AI GPU của Nvidia được cho là đơn giản hóa quy trình sản xuất cho NVIDIA và có thể mang lại lợi ích cho một số công ty, đặc biệt là Foxconn và Lotes có trụ sở tại Đài Loan, sản xuất các thành phần và ổ cắm kết nối.GPU Blackwell hiện tại được hàn trực tiếp vào bo mạch chủ và với sự chuyển đổi sang thiết kế loại ổ cắm, GPU B300 có thể được loại bỏ khỏi bo mạch chủ giống như CPU.

Với quá trình chuyển đổi này, sẽ có một số lợi ích bao gồm tỷ lệ năng suất được cải thiện và sản xuất linh hoạt vì GPU sẽ không phải hàn vào ổ cắm và NVIDIA sẽ không cần phải dựa vào công nghệ gắn trên bề mặt.Hơn nữa, quy trình sẽ đơn giản hóa các dịch vụ bảo trì và sau bán hàng vì toàn bộ bo mạch chủ sẽ không phải được thay thế trong các trường hợp các vấn đề liên quan đến GPU.

Do đó, việc nâng cấp có thể giảm thời gian chung cho thời gian chết khi GPU được thay đổi và nó sẽ giúp các công ty cung cấp các máy chủ đáng tin cậy hơn cho khách hàng của họ.Tuy nhiên, dự kiến ​​thiết kế ổ cắm mới sẽ giới thiệu một số giảm hiệu suất vì điều này sẽ giới thiệu một số độ trễ cao hơn.Tuy nhiên, nếu bảo trì, nâng cấp và sản lượng tốt hơn được cải thiện, sự đánh đổi sẽ có giá trị chuyển đổi thiết kế.

Một thay đổi quan trọng khác với B300 là việc áp dụng FP4 (điểm nổi 4), mang lại lợi ích suy luận.Suy luận là cách các mô hình được đào tạo đưa ra dự đoán về dữ liệu và đóng vai trò là một khía cạnh quan trọng của tính toán AI.CácB200 đã đặc biệt trong khối lượng công việc của AI và đã được triển khai bởi các công ty khác nhau.

Trong khi đó, B300 "Blackwell Ultra" dự kiến ​​sẽ nâng cao hiệu suất của nó một cách đáng kể nhưng thật đáng ngạc nhiên, nó sẽ không phải là thiết kế dựa trên ổ cắm khi AMD đã giới thiệu thiết kế này vớiChip MI300A được giới thiệu vào năm 2023.

Trung tâm dữ liệu NVIDIA / Lộ trình GPU AI