Trong sự kiện giới thiệu Pixel 9 Series, Google đã giới thiệu ứng dụng Pixel Studio và tính năng Reimagine (những phần mềm sử dụng AI tạo hình ảnh bằng cách nhập mô tả bằng văn bản). Theo chia sẻ từ trang 9to5Google (21/8/2024), Google dường như chưa có những ràng buộc dành cho các phần mềm tạo ảnh bằng AI của hãng nên người dùng hiện tại có thể lợi dụng điều đó và thêm các yếu tố kinh dị vào bức ảnh như xác chết, tai nạn, thảm họa,… với mức độ chân thực tương đối cao. Nếu người dùng cố tình sử dụng phần mềm Pixel Studio với mục đích xấu, họ có thể tạo ra những hình ảnh phản cảm và lan truyền chúng trên internet (ảnh một nhân vật hoạt hình đang cầm khẩu súng AK47). Nguồn: Digital Trends. Người dùng lợi dụng kẽ hở của Pixel Studio và Reimagine để tạo ảnh phản cảmCụ thể, tác giả trang Digital Trends đã dễ dàng "lừa" Pixel Studio tạo ra hình ảnh các nhân vật hoạt hình nổi tiếng tham gia vào những hành vi không phù hợp như: Sử dụng súng, ma túy, rượu và thậm chí là… xả súng ở trường học. Trang Digital Trends cho rằng dù Pixel Studio không tự động tạo ra những hình ảnh này nhưng không loại trừ khả năng nhiều người dùng sẽ thử nghiệm phần mềm tạo hình ảnh theo hướng tiêu cực. Trong cuộc trao đổi với trang Digital Trends, Google cho biết Pixel Studio được trang bị các biện pháp kiểm tra an toàn để ngăn chặn việc sử dụng cho mục đích xấu và thực tế là phần mềm này vẫn có một số hạn chế. Pixel Studio sẽ không tạo ra hình ảnh con người và Google đang trong quá trình điều chỉnh hệ thống AI để khắc phục những vấn đề trên. Tổng hợp một số hình ảnh nhân vật hoạt hình thực hiện các hành động không phù hợp như: Uống rượu, hút thuốc, cầm súng,… Nguồn: Digital Trends. Bên cạnh Pixel Studio thì tác giả trang The Verge còn lo ngại nhiều hơn về tính năng Reimagine. Bởi người dùng chỉ cần thực hiện một vài thao tác đơn giản cũng như lựa chọn câu từ phù hợp thì Reimagine có thể biến một bức ảnh bình thường thành hiện trường vụ tai nạn xe hơi, bom khói ở nơi công cộng và thậm chí là ga trải giường che phủ xác chết đẫm máu. Điều khiến trang The Verge lo ngại chính là việc Pixel Studio và Reimagine được tích hợp sẵn trong dòng flagship Pixel 9 Series. Vì vậy, bất kỳ người dùng nào cũng có thể sử dụng phần mềm này để tạo ra những hình ảnh giả với mục đích xấu (kể cả khi họ không có kiến thức chuyên môn về chỉnh sửa ảnh). So sánh hình ảnh gốc (bên trái) và hình ảnh được tạo bởi AI có thêm đám cháy nhỏ (bên phải). Nguồn: The Verge. So sánh hình ảnh gốc (bên trái) và hình ảnh được tạo bởi AI có thêm một vụ tai nạn xe kinh hoàng (bên phải). Nguồn: The Verge. So sánh hình ảnh gốc (bên trái) và hình ảnh được tạo bởi AI có thêm một vụ tai nạn máy bay (bên phải). Nguồn: The Verge. Hiện tại, Google mới chỉ sử dụng hệ thống gắn thẻ SynthID cho hình ảnh được tạo bởi Pixel Studio, trong khi ảnh được chỉnh sửa bởi Reimagine lại không được gắn thẻ. Điều này đồng nghĩa với việc người dùng có thể dễ dàng lan truyền ảnh giả mạo được tạo ra từ Reimagine mà không bị phát hiện. Quảng cáo Một vài nhận định của mìnhMình không thể phủ nhận sự tiện lợi mà Pixel Studio và Reimagine mang lại cho người dùng, đặc biệt là trong việc tạo hình ảnh chỉ bằng vài thao tác đơn giản. Tuy nhiên, nếu như Google không có biện pháp hợp lý cho những phần mềm AI của hãng thì tình trạng lan truyền thông tin giả trên internet có thể sẽ ngày càng trầm trọng hơn. Bởi những hình ảnh do Pixel Studio và Reimagine tạo ra có độ chân thực cao và người dùng khó để nhận biết đó là sản phẩm từ trí tuệ nhân tạo. Google có thể cần phải huấn luyện và bổ sung thêm một số ràng buộc nhất định cho những phần mềm tạo hình ảnh bằng AI của hãng (ảnh minh họa: Pixel 9 Pro Fold đang sử dụng Pixel Studio). Nguồn: Digital Trends. Có lẽ Google đang hơi vội vã trong việc triển khai các tính năng liên quan đến AI cho các sản phẩm của hãng (không chỉ sản phẩm phần cứng mà còn là phần mềm). Công ty dường như chưa có những quy định cụ thể để ràng buộc hệ thống AI của họ. Trước đó khi Google AI Overviews được giới thiệu (tháng 5/2024), công cụ này cũng đưa ra những gợi ý kết quả tìm kiếm sai sự thật và thậm chí gây nguy hiểm đến tính mạng của người dùng. Google AI Overviews đưa ra những câu trả lời kỳ lạ, khuyên người dùng ăn đá, dán keo cho pizza? | Viết bởi Cáo - Foxtek Tại sự kiện Google I/O 2024 diễn ra rạng sáng ngày 15/5/2024 (theo giờ Việt Nam), Google đã giới thiệu AI Overviews trên công cụ tìm kiếm Google Search và người dùng khi sử dụng công cụ này sẽ thấy bản tóm tắt tổng quan thông tin do AI tạo ra ở… tinhte.vn Hiển thị quá nhiều lỗi sai, Google phải tắt tính năng AI Overviews trong trang tìm kiếm Thời điểm sự kiện Google I/O hồi tháng 5 vừa rồi, CEO Sundar Pichai của Alphabet giới thiệu một tính năng AI tạo sinh. Khi ấy ông Pichai cũng các đồng sự đã trình diễn khả năng của nó với 6 câu lệnh để mọi người tham gia sự kiện có thể dùng thử. tinhte.vn Quảng cáo Mình mong rằng Google sẽ sớm có giải pháp khắc phục những phần mềm tạo hình ảnh bằng AI của hãng và họ cũng nên cân nhắc kỹ lưỡng việc tích hợp AI cho những sản phẩm khác trong tương lai. Bên cạnh đó, chúng ta cần phải thận trọng trước những hình ảnh và thông tin được chia sẻ trên mạng để tránh trở thành nạn nhân của các trò lừa đảo. Vậy các bạn nhận định như thế nào về việc Pixel Studio tạo ra những hình ảnh phản cảm? Hãy thực hiện bảng vote bên dưới và bình luận ở cuối bài viết để nêu lên quan điểm của bạn. Cảm ơn các bạn đã quan tâm và theo dõi. Tham khảo: 9to5Google, Digital Trends, The Verge. Xem thêm: Google Pixel 9 Pro Fold giống Z Fold: có tín hiệu tích cực cho điện thoại Android gập rồi… Trên tay Google Pixel 9 Pro XL So sánh thiết kế Google Pixel 9 Pro XL VS Sony Xperia 1 VI