Máy chủ AI của NVIDIA, thế hệ tiếp theo, có thể đạt mật độ giá trị công suất cao hơn 1000 kW
Hiện nay, các giá đỡ máy chủ riêng lẻ được dự đoán sẽ đạt mật độ năng lượng vượt mốc 1.000 kilowatt nhờ các kiến trúc thế hệ tiếp theo như Rubin Ultra Chip của NVIDIA, làm nổi bật xu hướng tiêu thụ năng lượng ngày càng gia tăng trong lĩnh vực AI.
Máy chủ AI tiêu thụ năng lượng khổng lồ khi thế giới chạy đua để gia tăng sức mạnh tính toán AI với các chip từ NVIDIA và AMD
Mặc dù nhu cầu về sức mạnh tính toán AI đang tăng mạnh trên toàn cầu, việc theo đuổi "cơn khát năng lượng" này không tránh khỏi các nhược điểm lớn, đặc biệt là sự gia tăng đáng kể trong tiêu thụ điện năng.
Theo báo cáo, các cụm AI hiện đại đang vận hành với mật độ năng lượng khoảng 130 kW-250 kW. Tuy nhiên, phân tích từ công ty chuyên về trung tâm dữ liệu Vertiv (thông qua BusinessWire) dự đoán con số này sẽ sớm vượt mốc 1.000 kW. Đây là một cột mốc quan trọng nhưng đồng thời cũng đặt ra thách thức lớn đối với các nhà lãnh đạo toàn cầu trong việc đáp ứng nhu cầu năng lượng ngày càng tăng của ngành AI.
Nguồn hình ảnh: @firstadopter
Đối với những ai chưa quen, "mật độ giá" là thuật ngữ dùng để chỉ lượng nhiệt tạo ra và năng lượng cần thiết để vận hành toàn bộ thiết bị trong một giá mạng hoặc giá đỡ máy chủ. Thật đáng chú ý, vào năm 2020, mật độ giá trung bình chỉ ở mức khoảng 8,2 kW. Tuy nhiên, với nhu cầu AI bùng nổ, con số này đã tăng mạnh mẽ chỉ trong vòng bốn năm. Điều này không chỉ phản ánh khả năng đổi mới nhanh chóng của một phân khúc thị trường khi nhận được sự chú ý rộng rãi, mà còn nhấn mạnh việc tăng cường mật độ máy chủ là bước tiến đúng đắn để đáp ứng nhu cầu tính toán ngày càng tăng.
Giá đỡ máy chủ AI đạt mốc 1.000 kilowatt vào cuối thập kỷ
Tae Kim (@firstadopter) - Ngày 19 tháng 11 năm 2024
Liên quan đến mốc 1.000 kW, phân tích từ Vertiv dự đoán rằng tiêu chuẩn mật độ này sẽ được hiện thực hóa với các máy chủ AI thế hệ mới như "Rubin Ultra" của NVIDIA. Điều này cho thấy các sản phẩm thế hệ tiếp theo không chỉ mang lại hiệu suất vượt trội mà còn có tiềm năng tạo ra một cuộc cách mạng thực sự trong thị trường máy chủ AI.
Máy chủ AI Có Thể Đạt Đến Mật Độ Giá Đỡ Trên 1.000 kW
Mặc dù các con số về mật độ giá đỡ máy chủ cao thực sự đáng chú ý, điều quan trọng là phải hiểu rằng điều này đồng nghĩa với việc nhu cầu năng lượng sẽ tăng đáng kể. Trước đây, chúng tôi đã báo cáo rằng các trung tâm dữ liệu toàn cầu của NVIDIA tiêu thụ năng lượng tương đương với một số quốc gia. Và với báo cáo này xuất hiện từ nhiều tháng trước, con số thực tế hiện tại chắc chắn còn lớn hơn, đặc biệt khi các sản phẩm AI thế hệ tiếp theo được tung ra.
Để đáp ứng nhu cầu năng lượng ngày càng tăng này, ngành công nghiệp đã tìm đến các giải pháp mới, bao gồm việc sử dụng cơ sở hạ tầng năng lượng hạt nhân cho các trung tâm dữ liệu. Có tin đồn rằng Microsoft và OpenAI đang phát triển một dự án tương tự. Mặc dù thông tin này chưa được xác nhận, nhưng với xu hướng tiêu thụ năng lượng tiếp tục tăng mạnh, không thể loại trừ khả năng các công ty sẽ chuyển sang sử dụng các nguồn năng lượng thay thế như vậy trong tương lai.
Nguồn: Máy chủ AI có thể đạt mật độ giá đỡ trên 1.000 kW với kiến trúc thế hệ tiếp theo của NVIDIA.