NVIDIA sử dụng thuật ngữ nhà máy AI (AI factory) để chỉ các trung tâm dữ liệu AI có quy mô cực kỳ lớn, nơi hàng triệu GPU cùng hoạt động để xử lý các tác vụ trí tuệ nhân tạo phức tạp. Tại những cơ sở này, yêu cầu về khả năng kết nối và hạ tầng mạng là vô cùng cao, vượt xa những gì mà các giải pháp truyền thống có thể đáp ứng. Mục tiêu chính của việc ra mắt Spectrum-X và Quantum-X là nhằm giảm thiểu đáng kể mức tiêu thụ năng lượng và chi phí vận hành, vốn là những thách thức lớn trong việc duy trì hiệu quả của các trung tâm dữ liệu AI khổng lồ.

Khi các nhà máy AI phát triển rất nhanh với quy mô cực lớn, việc tái phát minh cơ sở hạ tầng mạng để theo kịp là điều cần thiết. Mỗi nhà máy AI có kích thước ngày càng mở rộng, tương đương 1 sân vận động, cần phải có giải pháp kết nối mạng hoàn toàn mới, lúc này là thời điểm mà công nghệ silicon photonics vào cuộc. Ở vị thế dẫn đầu trong lĩnh vực GPU, NVIDIA nhận thấy rằng chờ đợi các đối tác phát triển giải pháp mạng phù hợp là không hiệu quả, vì vậy họ chủ động phát triển giải pháp mạng riêng, để có thể kết nối số lượng lớn GPU, khai thác tối đa tiềm năng AI.

Dòng sản phẩm NVIDIA Spectrum-X Photonics bao gồm 2 nền tảng chính: NVIDIA Spectrum-X Photonics Ethernet và NVIDIA Quantum-X Photonics InfiniBand, mỗi nền tảng được thiết kế để phục vụ các nhu cầu kết nối khác nhau trong các trung tâm dữ liệu AI. Cả 2 đều ứng dụng công nghệ photonics silicon tích hợp trực tiếp vào bộ chuyển mạng (networking switch). Một điểm đáng chú ý khác là việc sử dụng ít hơn 4 lần số lượng laser so với các phương pháp truyền thống, góp phần đáng kể vào việc giảm tiêu thụ năng lượng. InfiniBand ra mắt vào cuối năm nay, trong khi Ethernet sẽ có mặt trong năm 2026 cũng cho thấy chiến lược tiếp cận thị trường có chủ đích của NVIDIA. InfiniBand thường được ưu tiên sử dụng trong các ứng dụng điện toán hiệu năng cao (HPC) và AI, nơi mà độ trễ thấp và băng thông cực lớn là những yếu tố then chốt. Việc ra mắt phiên bản InfiniBand trước có thể là một bước đi nhằm vào phân khúc thị trường này trước khi mở rộng sang các ứng dụng Ethernet rộng rãi hơn, đòi hỏi sự chuẩn bị kỹ lưỡng hơn về mặt tương thích và triển khai.



NVIDIA Spectrum-X Photonics Ethernet có khả năng cung cấp mật độ băng thông cao hơn 1.6 lần so với các giải pháp Ethernet truyền thống, đặc biệt phù hợp cho các nhà máy AI nhiều người thuê và quy mô siêu lớn, bao gồm cả các siêu máy tính lớn nhất trên thế giới. Có nhiều cấu hình cổng khác nhau đối với Spectrum-X Photonics Ethernet, gồm:

• 128 cổng với tốc độ 800 Gbps, cung cấp tổng băng thông lên đến 100 Tbps
• 512 cổng với tốc độ 200 Gbps, cũng cung cấp tổng băng thông 100 Tbps
• 512 cổng với tốc độ 800 Gbps, cho tổng thông lượng đạt đến 400 Tbps
• 2048 cổng với tốc độ 200 Gbps, với tổng thông lượng tương tự là 400 Tbps

Còn nền tảng NVIDIA Quantum-X Photonics InfiniBand cung cấp 144 cổng InfiniBand với tốc độ 800 Gbps, dựa trên công nghệ SerDes 200 Gbps. Điểm đặc biệt của Quantum-X Photonics InfiniBand là thiết kế tản nhiệt bằng chất lỏng, giúp làm mát hiệu quả các thành phần silicon photonics được tích hợp trên bo mạch. So với thế hệ trước, NVIDIA Quantum-X Photonics InfiniBand mang lại tốc độ nhanh hơn gấp 2 lần và khả năng mở rộng cao hơn gấp 5 lần cho các cấu trúc tính toán AI.



Vậy còn công nghệ silicon photonics là gì? Đây là nền tảng tiên tiến để xây dựng các IC quang tử (PIC - Photonic Integrated Circuits) bằng cách sử dụng silicon làm môi trường dẫn quang. Công nghệ này kết hợp các thành phần quang học, như ống dẫn sóng, bộ điều biến và bộ tách sóng, với các mạch điện tử trên cùng một chip silicon. Tín hiệu được truyền dẫn thông qua các ống dẫn sóng quang học, sử dụng ánh sáng thay vì điện, mang lại nhiều ưu điểm vượt trội về tốc độ và hiệu quả.



Môt trong những lợi thế đáng kể của việc ứng dụng silicon photonics là có thể tận dụng được tiến trình sản xuất CMOS (Complementary Metal-Oxide-Semiconductor) giá rẻ hiện tại. Nhờ CMOS mà giá thành sản xuất được giảm thiểu, trong khi có khả năng sản xuất hàng loạt các thành phần quang học 1 cách dễ dàng với độ chính xác cao. Bên trong NVIDIA Spectrum-X Photonics, công nghệ silicon photonics được tích hợp trực tiếp vào bộ chuyển mạng, loại bỏ các module thu phát quang (optical transceiver). Thông thường, module thu phát quang có các thành phần quang học và bộ xử lý tín hiệu số (DSP - Digital Signal Processor), chuyển đổi nhiều lần giữa tín hiệu quang và tín hiệu điện sẽ tiêu hao nhiều năng lượng và suy hao tín hiệu. Silicon photonics cũng cho phép truyền dữ liệu ở khoảng cách xa hơn so với các kết nối điện tử truyền thống mà ít suy giảm.



NVIDIA Spectrum-X Photonics cũng ứng dụng công nghệ đóng gói CPO. Co-Packaged Optics cho phép đóng gói các thành phần quang học cùng với chip xử lý điện tử trong cùng một gói, nhờ đó kết nối quang học sẽ được đưa đến gần hơn với chip xử lý, giúp giảm đáng kể độ trễ và tăng băng thông truyền dữ liệu. Trong các hệ thống truyền thống, tín hiệu điện phải trải qua nhiều bước chuyển đổi thành tín hiệu quang để truyền đi và sau đó chuyển đổi ngược lại thành tín hiệu điện để xử lý, khi có CPO, số lần chuyển đổi này được giảm thiểu.

NVIDIA cũng hợp tác với TSMC trong việc phát triển công nghệ silicon photonics, bao gồm cả việc ứng dụng công nghệ đóng gói chip 3D TSMC-SoIC - cho phép xếp chồng các chip xử lý và chip quang học lên nhau, giúp tăng mật độ tích hợp và hiệu quả kết nối.



Khi so sánh với các giải pháp mạng hiện có trên thị trường, NVIDIA Spectrum-X Photonics mang lại những cải tiến vượt trội về hiệu suất năng lượng, tính toàn vẹn tín hiệu và khả năng phục hồi mạng. Theo NVIDIA, Spectrum-X Photonics có khả năng phục hồi mạng tốt hơn 10 lần ở quy mô lớn. Điều này có nghĩa là các hệ thống sử dụng Spectrum-X Photonics sẽ ít bị gián đoạn hơn và có khả năng tự phục hồi nhanh chóng khi có sự cố xảy ra. Trong môi trường AI, nơi mà thời gian ngừng hoạt động có thể dẫn đến những tổn thất đáng kể, khả năng duy trì tính liên tục của mạng là một lợi thế cạnh tranh vô cùng quan trọng. Ngoài ra, các bộ chuyển mạng truyền thống thường gặp phải những hạn chế về băng thông và hiệu quả năng lượng khi quy mô hệ thống tăng lên, Spectrum-X Photonics được thiết kế để giải quyết những vấn đề này, đặc biệt trong bối cảnh của các trung tâm dữ liệu AI ngày càng lớn.