Mới đây, Nvidia đã cho ra mắt card đồ họa tích hợp AI với nhiều tính năng, giúp người dùng xử lý các tác vụ và phân tích chi tiết phức tạp. Đặc biệt, Chat with RTX có thể sử dụng mà không cần kết nối internet trên PC, mang lại sự tiện lợi cho người dùng. Hãy tìm hiểu về ưu điểm của AI tích hợp và hệ thống máy tính tương thích thông qua bài viết dưới đây của Phong Vũ!

Nvidia ra mắt chat with RTX tích hợp Card đồ họa

Nvidia vừa ra mắt Chat with RTX, một bước tiến lớn trong việc sử dụng trí tuệ nhân tạo trong Card đồ họa của họ. Chatbot này hoạt động mượt mà ngay cả khi không có kết nối internet trên các máy PC Windows, mang lại sự tiện ích đáng kinh ngạc.

Chat with RTX có thể được sử dụng cho nhiều mục đích khác nhau nếu người dùng biết cách tận dụng. Theo thông tin từ Nvidia, Chat with RTX hoạt động khi người dùng cung cấp các video, liên kết Youtube hoặc tài liệu cá nhân, sau đó yêu cầu chatbot tóm tắt nội dung và cung cấp câu trả lời liên quan dựa trên dữ liệu đầu vào. Bạn cũng có thể tải lên bất kỳ file nào để yêu cầu AI tìm kiếm hoặc phân tích các chi tiết phức tạp để trích xuất thông tin từ dữ liệu đó.

Chat with RTX is also supported to scan and process various file formats including text, PDF, doc/docx, or XML, similar to some AI technologies like Microsoft's Copilot. However, the difference here with Nvidia's tool is its fast response time, almost instantaneous without any noticeable delay compared to some other competitors. Users simply need to point the application to folders containing files, they will quickly load into the library in just a few seconds.

Chatbot AI của Nvidia, được gọi là Chat with RTX, hoạt động như một hệ thống cục bộ không cần kết nối internet. Dựa trên thông tin từ hãng, Chat with RTX có thể sử dụng tương tự như ChatGPT bằng cách tìm kiếm các truy vấn khác nhau. Tuy nhiên, để lưu ý rằng kết quả được trả về hoàn toàn dựa trên dữ liệu đầu vào cụ thể. Điều này làm cho chatbot này phù hợp hơn cho các tác vụ như tóm tắt và tìm kiếm nhanh chóng tài liệu.

Một ưu điểm khác của chatbot AI này là khi sử dụng GPT RTX hỗ trợ TensorRT-LLM, người dùng có thể làm việc với tất cả dữ liệu mà không cần phải lưu trữ trên đám mây. Điều này giúp tiết kiệm thời gian và đảm bảo kết quả chính xác hơn. Nvidia cũng thông báo rằng phiên bản TensorRT-LLM v0.6.0 sẽ cải thiện hiệu suất lên đến 5 lần và sẽ hỗ trợ các LLM khác như Mistral 7B và Nemotron 3 8B sắp ra mắt vào cuối tháng 2.

Theo đánh giá của Tom Warren từ The Verge, sau khi trải nghiệm phiên bản beta của Chat with RTX, anh nhận xét rằng mặc dù hệ thống vẫn còn một số vấn đề cần cải thiện, nhưng đây vẫn là một công cụ hữu ích trong việc hỗ trợ các nhà báo và phóng viên đối với việc theo dõi và phân tích dữ liệu từ nhiều nguồn thông tin khác nhau. Tuy nhiên, việc phân tích nội dung từ video vẫn gặp khó khăn vì chatbot AI hiện tại chưa thể phân biệt chính xác giữa transcript và phụ đề của video.

Một số tính năng chính của chatbot AI

Khả năng xử lý offline: Ứng dụng có thể hoạt động trực tiếp trên các thiết bị PC chạy hệ điều hành Windows RTX và máy trạm mà không cần internet, đồng thời sẽ giúp cải thiện tốc độ phản hồi và nâng cao tính bảo mật và riêng tư cho dữ liệu.

Tiện ích cá nhân hóa: Bạn có thể cá nhân hóa chatbot bằng nội dung muốn tóm tắt, phân tích bao gồm tệp văn bản, PDF, DOC/DOCX, XML hay các video YouTube.

Optimize query capabilities: RTX Chat utilizes RAG, NVIDIA TensorRT-LLM software, and NVIDIA RTX acceleration to generate content that provides relevant answers within context.

Cá nhân hóa mô hình ngôn ngữ lớn (LLM): Bạn có thể lựa chọn giữa hai LLM mã nguồn mở là Mistral hoặc Llama 2 để dạy cho chatbot của mình.

Lưu ý: Ứng dụng đang trong giai đoạn công bố giới thiệu dành cho nhà phát triển, vì vậy khả năng ghi nhớ ngữ cảnh còn hạn chế và có thể xác định nguồn không chính xác. Ngoài ra, hãng cũng khuyến cáo chỉ nên cài đặt nếu có nhu cầu trải nghiệm công nghệ AI, không nên sử dụng làm công cụ hỗ trợ công việc hàng ngày.

Yêu cầu cấu hình máy tính

• Nền tảng: Windows
• GPU: NVIDIA GeForce RTX 30 hoặc 40 Series, GPU NVIDIA RTX Ampere hoặc Ada Generation với ít nhất 8GB VRAM
• RAM: 16GB trở lên
• OS: Windows 11
• Driver: 535.11 trở lên
• Kích thước tập tin: 35GB

"Thông tin về chat with RTX mới của Nvidia vừa được công bố. Đây là một loại chatbot chạy cục bộ trên PC Windows mà không cần kết nối internet. Bạn có thể tải ở đây để trải nghiệm. Hy vọng bài viết mang đến thông tin hữu ích về loại AI này."