Google công bố máy gia tốc AI thế hệ thứ 7 của nó;Cụm chip được cho là nhanh hơn 24 lần so với siêu máy tính mạnh nhất thế giới

Google đã giới thiệu bộ tăng tốc AI tùy chỉnh thế hệ thứ 7, Ironwood, chip nội bộ đầu tiên được thiết kế đặc biệt cho các tác vụ suy luận. Ironwood là bộ tăng tốc mạnh mẽ và hiệu quả nhất của Google, với nhiều cải tiến, phù hợp cho các tác vụ suy luận mà Google cho là giai đoạn tiếp theo của AI. Thông tin này được công bố tại sự kiện Google Cloud Next 25.

Bộ tăng tốc sẽ được cung cấp cho khách hàng Google Cloud với hai cấu hình: 256 chip và 9.216 chip, tùy thuộc vào khối lượng công việc và sức mạnh suy diễn cần thiết. Đặc biệt, với cấu hình 9.216 chip, Google cho rằng họ đạt được sức mạnh tính toán gấp 24 lần siêu máy tính lớn nhất thế giới, El Capitan.

Ironwood đạt hiệu suất 5 Exaflops và có hiệu suất watt gấp đôi so với TPU Trillium thế hệ trước. Bên cạnh đó, Ironwood có dung lượng bộ nhớ HBM cao, lên tới 192 GB mỗi chip, gấp 6 lần Trillium, giúp xử lý các mô hình và tập dữ liệu lớn hơn, giảm tần suất chuyển dữ liệu và cải thiện hiệu suất.

Tăng cường băng thông HBM lên 7.2 TBps mỗi chip, gấp 4.5 lần Trillium, đảm bảo truy cập dữ liệu nhanh chóng cho các tác vụ cần nhiều bộ nhớ trong AI hiện đại. Băng thông Inter-Chip Interconnect (ICI) cũng được nâng lên 1.2 Tbps hai chiều, gấp 1.5 lần Trillium, cho phép giao tiếp nhanh hơn giữa các chip, hỗ trợ đào tạo và suy diễn phân tán hiệu quả.

Thành công của Ironwood và Google cho thấy sự phát triển mạnh mẽ của các giải pháp AI tùy chỉnh nội bộ, thách thức vị thế độc quyền của NVIDIA trên thị trường, điều mà Jensen đã nhận thức. Những con số hiệu suất này cho thấy vẫn còn nhiều cơ hội để phát triển, và với các giải pháp từ Microsoft như Maia 100 và Amazon với chip Graviton, rõ ràng các công ty đã nhận ra tiềm năng của các giải pháp nội bộ.

Nguồn: wccftech.com/google-unveils-its-7th-generation-ironwood-ai-accelerator/