GPU H100 của NVIDIA đứng đầu về AI và công ty đã một lần nữa lập kỷ lục mới về điểm chuẩn MLPerf.

Vị trí dẫn đầu về AI của NVIDIA tiếp tục khi GPU Hopper H100 đạt được hiệu suất AI tạo MLPerf phá kỷ lục

Trong các điểm chuẩn MLPerf mới nhất do NVIDIA công bố, công ty nhấn mạnh rằng họ đã thiết lập một số kỷ lục mới, trong đó siêu máy tính Eos đã hoàn thành điểm chuẩn huấn luyện dựa trên mô hình GPT-3 với 175 tỷ tham số được đào tạo trên một tỷ mã thông báo chỉ trong 3,9 phút. Đây là mức tăng khổng lồ so với kỷ lục trước đó, khi siêu máy tính đã hoàn thành điểm chuẩn tương tự trong 10,9 phút, đánh dấu mức tăng gấp 3 lần.

>> Xem ngay: Loongson của Trung Quốc có kế hoạch sản xuất GPU vào quý 3 năm 2024 tương đương với RX 550 6 năm tuổi của AMD

Nói một cách đơn giản, kiến ​​trúc GPU Hopper tiên tiến của NVIDIA được kết hợp với các tài nguyên phần mềm được tinh chỉnh tốt. Siêu máy tính Eos hiện sử dụng 10.752 GPU NVIDIA H100 Tensor Core, thay thế cho những chiếc A100 khá cũ, đó là lý do tại sao ngay từ đầu xảy ra sự thay đổi lớn về hiệu suất. Hơn nữa, thông qua các tài nguyên phần mềm được phát triển tốt như NeMo của NVIDIA , hỗ trợ đào tạo LLM, Team Green đã cố gắng khai thác được sức mạnh đặc biệt từ nền tảng của mình.

Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập trong bài viết là những tiến bộ đạt được trong "mở rộng quy mô hệ thống", trong đó nhờ sự trợ giúp của nhiều cách tối ưu hóa phần mềm khác nhau, công ty đã thành công khi đạt được tỷ lệ hiệu quả 93%. 10.752 GPU H100 đã vượt xa quy mô  đào tạo AI vào tháng 6, khi NVIDIA sử dụng 3.584 GPU Hopper. Tầm quan trọng của việc mở rộng quy mô hiệu quả là rất lớn trong ngành, vì để đạt được sức mạnh tính toán cao đòi hỏi phải sử dụng nhiều tài nguyên phần cứng hơn và nếu không có sự hỗ trợ phần mềm đầy đủ thì hiệu quả của hệ thống sẽ bị ảnh hưởng ở mức độ lớn hơn.

Vai trò của NVIDIA trong ngành AI có ý nghĩa to lớn vì công ty có khả năng cung cấp các GPU AI mạnh mẽ nhất mà nhân loại từng biết đến, ít nhất là ở thời điểm hiện tại. Đặt khía cạnh tài chính sang một bên, Team Green đã nhanh chóng phát triển các tài nguyên phần mềm của họ, cùng với việc cộng tác với khách hàng để đảm bảo rằng danh mục sản phẩm của họ mang lại hiệu suất tối ưu, bằng cách duy trì tính hiệu quả và ổn định.

Nguồn: Wccftech

>> Xem thêm các bài viết liên quan:

CEO Intel Pat Gelsinger thẳng thắn tiết lộ điểm yếu của Intel trong những năm gần đây

GPT-4 Turbo của OpenAI mang điểm đặc biệt của AI đến gần hơn với thực tế