Google Gemma 3: Mô hình AI mạnh nhất trên thiết bị cá nhân, chỉ cần một GPU hoặc NPU xử lý

Doanh nghiệp gần bạn nhất

được xác nhận bởi itcctv

Google Gemma 3: Mô hình AI mạnh nhất trên thiết bị cá nhân, chỉ cần một GPU hoặc NPU xử lý
Hình ảnh rao vặt

Google Gemma 3: Mô hình AI mạnh nhất trên thiết bị cá nhân, chỉ cần một GPU hoặc NPU xử lý

Hơn 1 năm kể từ khi Google ra mắt hai mô hình ngôn ngữ tham số thấp mang tên Gemma, phát triển dựa trên công nghệ tạo ra mô hình AI Gemini, dùng để xử lý trên những hệ thống máy tính cá nhân, chiều hôm nay 12/3 theo giờ Việt Nam, Google đã ra mắt phiên bản mới nhất mang tên Gemma 3.

Theo những chia sẻ của Google trên blog chính thức của họ, Gemma 3 được tạo ra phục vụ nhu cầu của các nhà phát triển ứng dụng AI. Chỉ cần một hệ thống thiết bị công nghệ, xử lý on device, hay theo khái niệm hiện giờ là AI edge, Gemma 3 có thể vận hành hoàn hảo, từ điện thoại đến máy trạm, hỗ trợ hơn 35 ngôn ngữ khác nhau. Đi kèm với đó đương nhiên vẫn là khả năng nhận diện và phân tích đủ hình thái ngôn ngữ tự nhiên, từ văn bản đến hình ảnh và cả video ngắn.

Dưới đây là kết quả benchmark Chatbot Arena, nơi Google đem phiên bản Gemma 3 27 tỷ tham số so sánh với những mô hình khác, và quan trọng nhất là số lượng GPU cần để vận hành mỗi mô hình nền tảng của các chatbot phổ biến hiện nay:



Như tiêu đề, Google gọi Gemma 3 là mô hình mạnh nhất và tốt nhất thế giới khi vận hành trên một hệ thống chỉ có một cụm chip tăng tốc xử lý machine learning, vượt qua cả sức mạnh của Llama của Meta, hay những mô hình tham số thấp của DeepSeek và OpenAI. Để tối ưu cho các nhà phát triển ứng dụng AI, Gemma 3 được tối ưu cho GPU của Nvidia cũng như những cụm nhân xử lý AI trên những chip xử lý thiết bị tiêu dùng hiện tại.


Để tăng cường hiệu năng xử lý thông tin cũng như nội suy dữ liệu, Gemma 3 được nâng cấp bộ mã hóa hình ảnh, vision encoder, nhờ đó mô hình AI có thể nhận diện chi tiết trong những hình ảnh độ phân giải lớn cũng như hình kích thước chữ nhật, thay vì chỉ nhận dữ liệu đầu vào là những hình kích thước vuông trước kia.

Để đảm bảo an toàn vận hành AI, cơ chế xác thực an toàn ShieldGemma 2 cho phép lọc cả hình ảnh đầu vào lẫn đầu ra, loại bỏ những chi tiết hình ảnh được cho là khiêu dâm, nguy hiểm hay bạo lực. Mô hình thuộc dạng safety checker này vận hành dựa trên 4 tỷ tham số. Các dev có thể tự do điều chỉnh ShieldGemma 2 để phục vụ nhu cầu của họ, cũng như nhu cầu của người dùng những ứng dụng do họ tạo ra. Đây cũng là một mô hình AI mã nguồn mở, giống như Gemma 3.



Thời điểm những phiên bản Gemma đầu tiên được Google giới thiệu, không nhiều người nghĩ tới việc ứng dụng mô hình AI ở thiết bị đầu cuối, xử lý bằng GPU hay NPU của những con chip xử lý thiết bị điện tử tiêu dùng. Nhưng kể từ đó, những mô hình AI chừng 4 đến 8 tỷ tham số vận hành trên những hệ thống máy tính cá nhân đã chứng minh được rằng, luôn luôn có sự quan tâm của công chúng và thị trường đối với những công nghệ AI với yêu cầu phần cứng xử lý thấp, thay vì lúc nào cũng phải xử lý trên những máy chủ đám mây với hàng chục nghìn chip cùng vận hành.

Theo Google, tùy thuộc vào thiết bị xử lý, smartphone hay workstation, sẽ có bốn phiên bản Gemma 3 được ra mắt, với tham số khác nhau: 1 tỷ, 4 tỷ, 12 tỷ và kích thước lớn nhất là 27 tỷ tham số.

Theo The Verge, Google Blog
Nguồn:tinhte.vn/thread/google-gemma-3-mo-hinh-ai-manh-nhat-tren-thiet-bi-ca-nhan-chi-can-mot-gpu-hoac-npu-xu-ly.3968593/
💬 bình luận

Bình luận

Trở thành viên của itcctv — Đăng ký
Thủ thuật tin học văn phòng Thủ thuật Word Thủ thuật Excel
Cuộn