NVIDIA để tăng giá đỡ máy chủ AI lên tỷ lệ Megawatt, tăng cung cấp năng lượng từ năm lần trở lên

Nvidia đang phát triển cơ sở hạ tầng điện mới mang tên kiến trúc HVDC 800V để đáp ứng nhu cầu điện của các giá máy chủ 1 MW trở lên, dự kiến triển khai vào năm 2027. Theo Nvidia, hệ thống phân phối điện DC 54V hiện tại đã đạt giới hạn khi các giá máy chủ vượt quá 200 kilowatt. Khi các chip AI trở nên mạnh mẽ hơn và cần nhiều điện hơn, các hệ thống hiện tại sẽ không còn đủ khả năng, buộc các trung tâm dữ liệu phải xây dựng giải pháp mới để tránh quá tải mạch điện.

Ví dụ, Nvidia cho biết GB200 NVL72 hoặc GB300 NVL72 cần khoảng tám kệ nguồn. Nếu sử dụng phân phối điện 54V DC, các kệ nguồn sẽ chiếm 64U không gian trong tủ rack, vượt quá khả năng của tủ rack trung bình. Ngoài ra, việc cung cấp 1 MW bằng 54V DC cần một thanh đồng nặng 200 kg, nghĩa là một trung tâm dữ liệu AI có công suất 1 GW sẽ cần tới 500.000 tấn đồng.

Đây gần như chiếm một nửa sản lượng đồng của Mỹ trong năm 2024 chỉ từ một địa điểm. Thay vì sử dụng hệ thống 54V DC lắp đặt trực tiếp tại tủ server, Nvidia đề xuất sử dụng hệ thống 800V HVDC, kết nối gần nguồn điện 13.8kV AC của địa điểm. Việc này không chỉ tiết kiệm không gian trong các tủ server mà còn tối ưu hóa quy trình và nâng cao hiệu quả truyền tải điện trong trung tâm dữ liệu.

Nó cũng sẽ loại bỏ các biến đổi AC sang DC và DC sang DC trong hệ thống hiện tại, giúp giảm độ phức tạp. Nvidia đã giới thiệu Rubin Ultra với các giá Kyber 600.000 Watt và cơ sở hạ tầng sẽ ra mắt vào năm 2027. Nvidia dự định giải quyết vấn đề tiêu thụ nước của AI bằng cách làm mát trực tiếp chip, với tuyên bố cải thiện 300 lần nhờ hệ thống khép kín. Nvidia công bố Blackwell Ultra B300.

Nhanh gấp 5 lần so với B200 với 288GB HBM3e và 15 PFLOPS FP4. Hệ thống HVDC 800V sẽ giảm dòng điện cho cùng một tải, có khả năng tăng tổng công suất lên tới 85 mà không cần nâng cấp dây dẫn. "Với dòng điện thấp hơn, dây dẫn mỏng hơn có thể chịu tải tương tự, giảm nhu cầu đồng xuống 45," công ty cho biết. "Ngoài ra, hệ thống DC loại bỏ những bất lợi riêng của AC, như hiệu ứng da và tổn thất công suất phản kháng, cải thiện thêm hiệu suất."

Theo Digitimes, gã khổng lồ AI đang hợp tác với Infineon, Texas Instruments và Navitas để phát triển hệ thống này. Họ dự kiến sẽ sử dụng bán dẫn băng rộng như gallium nitride (GaN) và silicon carbide (SiC) để đạt được mật độ công suất cao cho các hệ thống AI mạnh mẽ. Hệ thống 800V HVDC là một thách thức kỹ thuật mà các trung tâm dữ liệu cần giải quyết để nâng cao hiệu suất năng lượng, đặc biệt khi công suất vượt quá 1 GW.

Giải pháp này sẽ giúp họ giảm lãng phí điện, từ đó hạ chi phí vận hành. Hãy theo dõi Toms Hardware trên Google News để nhận tin tức, phân tích và đánh giá mới nhất. Nhớ nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/nvidia-to-boost-ai-server-racks-to-megawatt-scale-increasing-power-delivery-by-five-times-or-more