Tại sự kiện Supercomputing 2023 diễn ra vào sáng hôm qua, tức 14/11/2023, NVIDIA đã bất ngờ cho ra mắt dòng GPU được sản xuất trên kiến trúc Hopper mới là H200. Đây được coi là GPU tích hợp AI có hiệu năng mạnh mẽ nhất thế giới ở thời điểm hiện tại.

NVIDIA trình làng GPU Hopper H200 tích hợp AI mạnh nhất thế giới 

GPU Hopper H200 và GH200 của NVIDIA đại diện cho những bước tiến vượt bậc trong lĩnh vực chip đồ họa, với bộ nhớ HBM3e lên đến 141GB. Tốc độ của bộ nhớ này đạt 6.25Gbps/pin, với mỗi stack có dung lượng 24GB và tổng cộng 6 stack. Trong khi đó, đối với GPU H100 trước đó của NVIDIA, bộ nhớ chỉ là 80GB HBM3e với băng thông khoảng 3.35TB/s.

Ngoài ra, NVIDIA đã công bố hiệu suất xử lý FP8 của H200 là 32 Petaflops khi sử dụng cấu hình 8 GPU. Điều này đồng nghĩa với việc mỗi GPU H200 có khả năng xử lý khoảng 4 Petaflops, mức hiệu suất gần tương đương với GPU H100 trước đó của họ.

Hiệu suất của H200 so với H100 sẽ phụ thuộc vào nhu cầu công việc cụ thể. NVIDIA đã cung cấp ví dụ về khả năng vượt trội của H200 trong việc xử lý các mô hình ngôn ngữ lớn (LLM) như GPT-3 và Meta Llama2. Theo đó, H200 có tốc độ nhanh hơn 11 lần so với H100 và 18 lần so với A100 trong các tác vụ này, nhờ vào cải tiến của bộ nhớ lớn hơn và băng thông tăng cao. Tuy nhiên, khi so sánh với B100, sử dụng kiến trúc Blackwell dự kiến ra mắt vào năm sau, H200 vẫn còn ở một khoảng cách khá xa.

Bên cạnh đó, NVIDIA không chỉ giới thiệu bản nâng cấp cho GPU H100 mà còn ra mắt hệ thống GH200 mới, bao gồm "siêu GPU" H200 và "siêu CPU" Grace. Mỗi hệ thống "siêu chip" GH200 sẽ có tổng cộng 624GB bộ nhớ, trong đó bao gồm 480GB bộ nhớ LPDDR5x và 144GB bộ nhớ HBM3e. Số liệu này đại diện cho một bước tiến đáng kể so với GH100 với 96GB bộ nhớ HBM3.

Điều quan trọng nhất là GH200 sẽ tích hợp vào các hệ thống HGX H200 và sẽ tương thích với hệ thống HGX H100 trước đó. Điều này có nghĩa là các hệ thống HGX H200 có thể tích hợp vào cùng một cơ sở hạ tầng với các hệ thống HGX H100 để tăng cường hiệu suất xử lý mà không cần thay đổi cấu trúc.

Cuối cùng, siêu máy tính Vendano tại Phòng thí nghiệm Quốc gia Los Alamos, Mỹ, đã trở thành hệ thống HGX H200 đầu tiên đi vào hoạt động. Sau đó, hệ thống Vista tại Trung tâm Máy tính Nâng cao Texas (TACC) cũng đã đạt được thoả thuận sử dụng CPU Grace và GPU Hopper của NVIDIA, tuy nhiên, chưa rõ liệu đó có phải là H100 hay H200.

NVIDIA cũng giới thiệu siêu máy tính Jupiter, mà trong đó có 24.000 siêu chip GH200, mang lại hiệu suất AI lên đến 96 exaflops (có thể là FP8) và 1 exaflops FP64.

Nguồn: Tom's Hardware

: