Tiny Corp Heralds GPU đầu tiên trên thế giới được điều khiển qua USB3

Hỗ trợ GPU ngoài (eGPU) trên các máy Mac và MacBook sử dụng chip Apple Silicon vẫn là một thách thức lớn cho các nhà phát triển AIML. Tuy nhiên, Tiny Corp đã thành công trong việc kết nối eGPU AMD với Tiny Grad qua USB3, một tiêu chuẩn không hỗ trợ PCIe. Nhờ sử dụng libusb, tính năng này còn có thể hoạt động trên Windows, Linux và cả macOS, bao gồm cả các thiết bị sử dụng Apple Silicon.

Truyền thống, GPU được kết nối qua khe PCIe hoặc giao diện ThunderboltUSB4, hỗ trợ tunneling PCI Express. Do đó, giải pháp GPU ngoại vi phụ thuộc vào các giao diện này, hạn chế hỗ trợ cho hệ thống và laptop cũ. Khác với MacBook dựa trên Intel, các thiết bị dựa trên Apple Silicon không hỗ trợ GPU ngoại vi do thiếu hỗ trợ driver và sự khác biệt về kiến trúc.

Mặc dù hiệu suất của chúng cao hơn so với các hệ thống x86 truyền thống, người dùng vẫn gặp khó khăn với các tác vụ AI, đặc biệt là trong việc xử lý prompt. Đây là GPU AMD đầu tiên kết nối qua USB3 từ một chiếc Mac! Linux và Windows cũng hỗ trợ, chỉ cần sử dụng libusb. Sản phẩm đã có sẵn trong phiên bản master của tinygrad, sử dụng ADT-UT3G để kết nối GPU với cổng USB. Bạn sẽ không thể tưởng tượng được mức độ kỹ thuật đã được thực hiện cho điều này.

Yêu cầu để sử dụng eGPU qua giao diện USB3 hiện tại bao gồm việc sử dụng bộ chuyển đổi dựa trên chip ASM2464PD và GPU AMD. Tiny Corp đã sử dụng bộ chuyển đổi ADT-UT3G, cũng sử dụng chip ASM2464PD, nhưng mặc định chỉ hoạt động với Thunderbolt 3, Thunderbolt 4 hoặc USB 4. Nhóm có thể đã sử dụng firmware tùy chỉnh để kích hoạt chế độ USB3 mà không cần giao tiếp PCIe trực tiếp.

Chi tiết kỹ thuật không rõ ràng, nhưng bộ điều khiển dường như đang chuyển đổi các lệnh PCIe thành gói USB và ngược lại. Giải pháp này có phần không chính thống, vì nó bỏ qua driver GPU cấp kernel, cần phần cứng cụ thể, và sử dụng USB3, vốn không được thiết kế cho giao tiếp GPU. Nó chủ yếu chuyển giao phần tính toán, liên quan đến việc thực thi kernel, từ hệ thống của bạn sang eGPU.

Hạn chế ở đây là tốc độ truyền dữ liệu bị giới hạn ở mức 10 Gbps do tiêu chuẩn USB3, vì vậy việc tải mô hình vào GPU sẽ mất nhiều thời gian hơn so với việc sử dụng kết nối PCIe tiêu chuẩn. Tính năng này chỉ hỗ trợ cho GPU RDNA 3 của AMD, mặc dù có thể sẽ có hỗ trợ cho RDNA 2 trong tương lai. Chức năng eGPU qua USB3 đã được tích hợp vào nhánh chính của Tiny Grads, vì vậy nếu bạn có GPU AMD và bộ chuyển đổi tương thích, hãy thử nó nhé.

Chúng ta có thể mong đợi Tiny Corp sẽ cung cấp phân tích chi tiết hơn khi các nhà phát triển hoàn tất việc chỉnh sửa mã. Hãy theo dõi Toms Hardware trên Google News để nhận tin tức, phân tích và đánh giá mới nhất. Nhớ nhấn nút theo dõi.

Nguồn: www.tomshardware.com/pc-components/gpus/tiny-corp-heralds-worlds-first-amd-gpu-driven-via-usb3-egpus-tested-on-apple-silicon-with-linux-and-windows-also-supported