Ngày 24/10/2024, có vẻ như Apple đã mô tả tính năng Enhanced Visual Search bằng một bản báo cáo hàn lâm kết quả nghiên cứu mô hình trí tuệ nhân tạo. Với tính năng này, một mô hình machine learning xử lý trên thiết bị sẽ phân tích hình ảnh để tìm ra những đặc điểm nhận diện trong từng pixel, rồi đưa ra dự đoán địa điểm chụp tấm hình dựa trên những gì mô hình AI đã được huấn luyện trước đó. Nếu mô hình AI tìm ra hình ảnh trùng khớp, và nó biết địa điểm đó ở đâu, mô hình sẽ thực hiện tính toán vector nhúng, một chuỗi số đại diện cho phần hình ảnh với những chi tiết công trình hay địa điểm nhận diện.

Sau khi có chuỗi số vector nhúng, thiết bị iPhone hay MacBook của anh em sẽ ứng dụng mã hóa đồng dạng để trộn số vector nhúng theo cách chỉ có thể giải mã bằng thuật toán viết riêng, kết quả giải mã cũng được mã hóa thêm một bước nữa. Mục tiêu là, dữ liệu mã hóa có thể gửi tới hệ thống bên ngoài để phân tích, nhưng những người vận hành không thể đọc được thông tin cụ thể của dữ liệu.



Người điều khiển hệ thống nhận diện địa điểm từ hình ảnh sẽ chỉ đảm trách nhiệm vụ vận hành máy chủ xử lý thuật toán machine learning, và kết quả tính toán xác định địa điểm cũng được mã hóa, giống hệt dữ liệu đầu vào. Chí ít thì đó là những gì Apple khẳng định trong báo cáo nghiên cứu khoa học.

Quy mô và độ chính xác của vector nhúng mô tả dữ liệu hình ảnh được điều chỉnh để giảm yêu cầu điện toán rất cao của quy trình mã hóa đồng dạng, và rất có thể sẽ khiến kết quả nhận diện vị trí trong hình chụp bị ảnh hưởng. Theo Apple, điều này được thực hiện “để đảm bảo yêu cầu về độ trễ và chi phí của dịch vụ xử lý dữ liệu quy mô lớn.” Nói cách khác, với một tính năng miễn phí như Enhanced Visual Search, Apple sẽ muốn nó vận hành với chi phí máy chủ đám mây thấp nhất có thể, cùng lúc cũng không ngốn quá nhiều tài nguyên thiết bị di động.

Kế đến, thông qua metadata tối ưu trên máy chủ, và sự trợ giúp của tính năng PNNS (private nearest neighrbor search), máy chủ có liên quan của Apple sẽ nhận được dữ liệu nhúng được mã hóa đồng dạng từ iPhone, rồi thực hiện xử lý điện toán dữ liệu đó để tìm ra địa danh và vị trí của tấm hình chụp, sau đó trả kết quả về cho thiết bị của anh em, nhưng không cung cấp cho Apple, hay Cloudflare (đối tác vận hành máy chủ chuyển tiếp OHTTP của Apple) bất kỳ dữ liệu nào để xác định chủ sở hữu dữ liệu.

Với tư duy như vậy, Apple bắt đầu tự động và âm thầm xử lý hình ảnh lưu trong ứng dụng Photos của iPhone, thông qua mô hình machine learning vận hành on device, xử lý dữ liệu hình ảnh chứ không xử lý dữ liệu địa điểm, tạo ra một giá trị tương thích với địa điểm mà thuật toán nghĩ là xuất hiện trong bức hình chụp. Giá trị này sau đó được đối chiếu trên máy chủ của Apple với những thông số họ có sẵn, và ứng dụng Photos của anh em sẽ tự động ghi chú bức hình này là địa danh nào.

Nếu Enhanced Visual Search vận hành như cái cách Apple giới thiệu, sẽ không rò rỉ dữ liệu cá nhân ra bất kỳ đâu, kể cả các kênh phụ. Apple không thể xem được bất kỳ dữ liệu hình ảnh hay dữ liệu đánh dấu cho hình ảnh nào trong máy của anh em.

Apple nói rằng, kết hợp mã hóa đồng dạng với một giải pháp gọi là riêng tư vi phân, cách bảo vệ quyền riêng tư của những người bị thu thập dữ liệu trong một bộ dữ liệu lớn, sẽ giải quyết mọi lo ngại về việc người dùng bị theo dõi và làm phiền.

Thứ 4 tuần trước, nhà phát triển phần mềm Michael Tsai viết trong phân tích của anh: “Apple đang nghĩ nhiều về việc vận hành tính năng nhận diện địa điểm theo cách bảo vệ quyền riêng tư của người dùng, nhưng tôi không nghĩ họ sẽ được vận hành nó theo cách lý tưởng như họ mong muốn. Tính năng này không chỉ đơn giản là tham gia chia sẻ dữ liệu, mà bạn đơn giản sẽ không thể chặn tính năng này nếu nó đã bắt đầu tải metadata của những tấm hình bạn chụp. Ngay cả khi bạn không đồng bộ hóa hình ảnh lên iCloud, thì tính năng này vẫn sẽ vận hành.”



Theo Tsai, cách tiếp cận vấn đề quyền riêng tư với Enhanced Visual Search thậm chí còn mang nhiều nguy cơ đối với quyền riêng tư của người dùng hơn cả một tính năng, một kế hoạch gần đây bị Apple hủy bỏ.

Cách đây ít lâu, Apple đã công bố một tính năng âm thầm quét những hình ảnh lưu trên iCloud để nhận diện những hình ảnh có thể chứa nội dung lạm dụng tình dục trẻ em (CSAM - Child sexual abuse material). Giải thích cho nhận định này, Tsai nói rằng tính năng nhận diện nội dung CSAM bị Apple hủy bỏ chỉ áp dụng với những hình ảnh đã đồng bộ hóa trên iCloud, chứ không quét hình ảnh trong iPhone hay MacBook. Chưa kể tính năng Enhanced Visual Search còn quét tất cả hình ảnh, chứ không chỉ quét những hình ảnh có dữ liệu khả nghi.

Đương nhiên, cái mà cộng đồng bảo mật toàn cầu và các nhà phát triển phần mềm lo ngại không phải là việc Apple có giữ đúng lời hứa bảo vệ quyền riêng tư của người dùng hay không, mà là cách Apple cứ âm thầm không nói gì với ai và triển khai tính năng này tự động trên những thiết bị cài đặt iOS 18.1.

Matthew Green, phó giáo sư ngành khoa học máy tính thuộc viện an ninh thông tin, đại học Johns Hopkins, Mỹ: “Rất bực mình khi bạn biết đến một dịch vụ mới, rồi bạn phát hiện ra rằng tính năng ấy đã tự động được kích hoạt trên thiết bị của bạn rồi. Điều khiến tôi phản đối tính năng Enhanced Visual Search không phải những chi tiết kỹ thuật cụ thể, thứ mà hầu hết người dùng không thể đánh giá khách quan. Tôi phản đối nó vì Apple không cho chúng ta lựa chọn, mà mặc định kích hoạt dịch vụ này. Tôi không nghĩ có người biết đến tính năng này, và Apple thì chưa có tuyên bố chính thức.”

Theo The Register