Seven RTX 5090 GPU Power AI Máy chủ trị giá hơn 30.000 đô la

Nvidia RTX 5090 là một cỗ máy mạnh mẽ cho các tác vụ AI nhờ cải tiến kiến trúc Blackwell và hỗ trợ định dạng dữ liệu có độ chính xác thấp. Một cửa hàng tại Việt Nam, Nguyencongpc, đã chia sẻ hình ảnh về một dàn máy AI mà họ thiết lập cho khách hàng, với bảy RTX 5090 kết nối với nhiều nguồn điện kilowatt trong khung GPU mở. Mặc dù giá trung bình của một RTX 5090 gần 4.000 USD, các chuyên gia cho rằng hiệu suất của chúng xứng đáng với khoản đầu tư, dù Nvidia không quảng bá các thẻ này như là giải pháp cho workstation.

RTX 5090 vẫn chưa có mặt trên thị trường và khó tiếp cận với nhiều người trừ khi sẵn sàng chi nhiều tiền. Nguyên nhân chủ yếu là vì lợi nhuận của Nvidia từ các GPU Blackwell B100, B200, B300 tập trung vào máy chủ cao hơn nhiều so với các sản phẩm GeForce thông thường. Việc phân bổ số lượng wafer hạn chế từ TSMC cho các bộ tăng tốc AI này mang lại lợi nhuận cao hơn cho Nvidia.

Hệ thống AI này giống như các giàn khai thác từ thời kỳ đại dịch. Khung GPU ngoài trời chứa bảy đơn vị Gigabyte RTX 5090 Gaming OC, kết nối bằng cáp riser PCIe và sử dụng nhiều nguồn Super Flower Leadex 2000W. Giá trị của hệ thống này có thể lên tới 30,000 USD, khi mỗi GPU có giá từ 3,500-4,000 USD. Khung này cung cấp 224GB bộ nhớ cho đào tạo và suy luận AI.

Tất nhiên, đây không phải là bộ nhớ thống nhất, vì vậy các nhà phát triển phải sử dụng các kỹ thuật như song song mô hình để phân phối công việc hiệu quả trên nhiều GPU. Thẻ workstation Blackwell sắp ra mắt của Nvidia có dung lượng VRAM lên tới 96GB và có giá từ 8,000 đến 9,000 USD. Mặc dù RTX Pro 6000 Blackwell có nhiều bộ nhớ hơn, nhưng nhiều RTX 5090 lại mang lại lợi thế về hiệu suất cho các tác vụ AI cần tính toán mạnh, đặc biệt là với ngân sách hạn chế.

Tuy nhiên, khi giá cả không phải là vấn đề và bạn muốn mở rộng AI hiệu quả hơn, cần nhiều VRAM hơn cho mỗi GPU để xử lý các mô hình phức tạp với hàng trăm tỷ tham số. Với sự phát triển của AI, Nvidia hiện phân biệt các sản phẩm GPU của mình dựa trên dung lượng bộ nhớ, dẫn đến giá cả tăng cao cho các cấu hình bộ nhớ lớn. Trong cộng đồng Trung Quốc, có nhiều cách thức điều chỉnh, ví dụ như các mẫu RTX 4090 blower với 48GB bộ nhớ trở nên phổ biến.

Có thể mất vài tháng để giá cả trở lại bình thường, vì hầu hết các GPU mới đều bán hết ngay lập tức và không bao giờ có giá MSRP. Bạn nên xem xét thị trường GPU đã qua sử dụng của thế hệ trước, thường có giá gần với MSRP khi ra mắt hoặc thậm chí thấp hơn.

Nguồn: www.tomshardware.com/pc-components/gpus/seven-rtx-5090-gpus-power-ai-server-worth-over-usd30-000-over-4000w-of-power-and-224gb-of-memory-in-a-single-frame