Khởi động đào tạo các mô hình AI với thiết lập GPU chơi game dưới 100 nghìn đô la

Trái tim của một hệ thống AI tốt là mô hình được đào tạo bài bản, điều này đòi hỏi nhiều tài nguyên và sức mạnh, có thể tốn kém cho nhà đầu tư và những người liên quan. Một startup đang thay đổi điều này bằng cách sử dụng phần cứng giá rẻ hơn để đào tạo mô hình. Fastino reportedly sử dụng dưới 100.000 USD cho các card đồ họa chơi game để đáp ứng nhu cầu đào tạo, nổi bật so với những hoạt động thương mại lớn như xAI của Elon Musk, có yêu cầu năng lượng rất cao.

TechCrunch đã đưa tin về Fastino và việc sử dụng chip gaming giá rẻ. Fastino cho biết họ đã phát triển kiến trúc AI chuyên biệt cho từng nhiệm vụ và hoạt động trên quy mô nhỏ, giúp tạo ra mô hình nhanh hơn với độ chính xác cao. Điểm nổi bật là lợi ích về chi phí khi đào tạo hệ thống trên phần cứng gaming rẻ.

Fastino có thể đầu tư chưa đến 100K USD vào GPU, nhưng đã bắt đầu thu hút vốn từ các nhà đầu tư nhờ tiềm năng của mình. Gần đây, Fastino đã huy động được 17,5 triệu USD từ Khosla Ventures, sau khi nhận được 7 triệu USD từ quỹ đầu tư M12 của Microsoft và Insight Partners vào cuối năm ngoái. Fastino không phải là công ty duy nhất đổi mới trong lĩnh vực phần cứng AI với các tùy chọn phát triển tương đối hợp lý.

Tiny Corp đã ra mắt sản phẩm TinyBox năm ngoái với sáu card đồ họa AMD Radeon 7900 XTX được tái sử dụng cho xử lý AI. Đến nay, Fastino vẫn chưa công bố dữ liệu hiệu suất, nên chúng ta không thể xác nhận hiệu quả của kiến trúc mới này so với các hệ thống AI khác. Đội ngũ đã phát biểu rằng sản phẩm có khả năng cung cấp câu trả lời phức tạp chỉ trong vài mili giây.

Thiếu thông tin, khó đánh giá hiệu suất của nó so với các tên tuổi lớn khác trong lĩnh vực AI. Theo dõi Toms Hardware trên Google News để nhận tin tức, phân tích và đánh giá mới nhất. Nhớ nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/startup-trains-ai-models-with-gaming-gpu-setup-under-usd100k