Trong những tuần gần đây, hai quan chức cấp cao nhất của chính phủ Mỹ, Ngoại trưởng Mỹ Marco Rubio và Chánh văn phòng Nhà Trắng, bà Susie Wiles đã bị mạo danh giọng nói bằng công nghệ trí tuệ nhân tạo. Thủ đoạn này lợi dụng thứ công nghệ đang phát triển nhanh, thứ mà các chuyên gia an ninh mạng cho rằng đang trở thành "tình trạng bình thường mới" trong việc thực hiện các chiêu trò lừa đảo rẻ tiền và dễ dàng nhắm vào các quan chức cấp cao của Hoa Kỳ.

Rachel Tobac, CEO của SocialProof Security, một công ty đào tạo mọi người phòng chống các cuộc tấn công như vậy cho biết: “Bây giờ sao chép giọng nói của ai đó rất dễ dàng và nhanh chóng bằng các công cụ AI, chỉ cần ít hơn 15 giây bản ghi âm giọng nói gốc là có thể tạo ra bản sao giọng nói thuyết phục. Chỉ cách đây sáu tháng, tôi cần một đoạn mẫu rõ ràng kéo dài từ một đến hai phút của giọng nói ai đó mà không có tiếng ồn hoặc nhạc nền để tạo ra một bản sao giọng nói thuyết phục, nhưng bây giờ thậm chí còn dễ hơn cả như vậy nữa.”

Cô Tobac nói thêm: “Sao chép giọng nói là hiện tượng thường xuyên xảy ra trong những nỗ lực mạo danh và thao túng tâm lý.”



Ông Rubio đã thông báo với kênh CNN vào hôm 10/7 rằng, ông dự đoán sẽ có nhiều hơn những nỗ lực sử dụng AI để mạo danh mình. “Đây không phải là lần cuối các bạn thấy tôi hoặc bất kỳ ai khác bị mạo danh. Có lẽ một số người trong các bạn cũng sẽ bị mạo danh,” ông Rubio nói khi đang đi công du Malaysia. "Ngay sau khi nhậm chức Ngoại trưởng, tôi đã nhận được cuộc gọi từ các ngoại trưởng các nước khác, hỏi rằng có đúng là tôi vừa gửi tin nhắn cho họ hay không," ông Rubio, người cũng đang đồng thời là Cố vấn An ninh Quốc gia, cho biết thêm. "Đây chỉ là thực tế của thế kỷ XXI, AI và những thứ giả mạo đang diễn ra."

Trong trường hợp của Ngoại trưởng Rubio, kẻ mạo danh đã gọi điện cho ít nhất năm người, bao gồm cả ba ngoại trưởng, một thống đốc và một thượng nghị sĩ. Theo một văn bản của Bộ Ngoại giao Mỹ, kẻ tấn công không rõ danh tính đã thiết lập một tài khoản trên nền tảng nhắn tin Signal vào giữa tháng 6 với tên hiển thị marco.rubio@state.gov. "Kẻ hành động đã để lại các đoạn ghi âm thoại trên Signal cho ít nhất hai cá nhân bị nhắm mục tiêu, và trong một trường hợp, đã gửi một tin nhắn mời người đó liên lạc qua Signal," văn bản này cho biết.

Năm ngoái đã có một sự vụ, cuộc gọi tự động bằng AI giả mạo giọng nói của cựu tổng thống Joe Biden, cố gắng ngăn chặn cử tri đi bỏ phiếu trong cuộc bầu cử sơ bộ ở Mỹ. Sự vụ này là lời cảnh tỉnh đối với các quan chức cấp cao ở Washington về những rủi ro mà AI có thể gây ra cho quá trình bầu cử.



Theo Steve Grobman, giám đốc công nghệ tại công ty an ninh mạng McAfee, đối với những người nổi tiếng có giọng nói xuất hiện trên mọi nền tảng trực tuyến, quy trình sao chép giọng nói còn đơn giản hơn nữa. “Điều đáng lo ngại nhất là với các bản sao được hỗ trợ bởi AI, việc nhìn thấy, hoặc nghe thấy, không còn đồng nghĩa với sự đáng tin cậy nữa. Thậm chí cả những chuyên gia được đào tạo cũng có thể bị đánh lừa, đặc biệt khi một giọng nói quen thuộc đưa ra yêu cầu khẩn cấp,” ông Grobman nói với CNN. “Đây cũng là lý do tại sao chúng ta cần các công cụ thông minh hơn để giúp mọi người phân biệt đâu là thật và đâu là giả. Chúng ta không thể chỉ dựa vào trực giác của mình nữa.”

Tuy nhiên, ông Rubio và những người khác đã nghe được đoạn ghi âm mô phỏng giọng nói của ông cho biết nó không hoàn toàn giống với giọng của ông, có nghĩa là thủ phạm không hề bỏ ra nhiều công sức để bắt chước giọng nói của ông.

Sự táo bạo của chiêu trò này mới là điều khiến một số quan chức Mỹ lo ngại. Trước khi các cuộc gọi mạo danh ông Rubio bắt đầu một tháng, FBI đã cảnh báo vào tháng 5 rằng những "kẻ hành động ác ý" không rõ danh tính đang mạo danh các quan chức cấp cao của Mỹ để nhắm mục tiêu đến những người liên hệ của họ trong chính phủ. Mục đích là xây dựng mối quan hệ với đối tượng bị nhắm mục tiêu để sau đó truy cập vào tài khoản trực tuyến của họ. Mục tiêu cuối cùng của kế hoạch, dù là đánh cắp thông tin hay tiền bạc, đến nay vẫn chưa rõ ràng.

Chánh văn phòng Nhà Trắng Susie Wiles, một người bạn đồng hành đáng tin cậy của tổng thống Donald Trump, cũng là một trong những quan chức đã bị mạo danh. Trong quá trình điều tra ban đầu về vụ mạo danh bà Wiles, các quan chức nghi ngờ kẻ mạo danh là một tội phạm hơn là một tác nhân nhà nước, nhiều nguồn tin thân cận với vấn đề cho biết.

Tuy nhiên, các điều tra viên cũng đã xem xét liệu có bất kỳ mối liên hệ nào với Iran hay không, vì những tin tặc liên kết với Tehran được cho là đã từng đột nhập được vào điện thoại của bà Wiles.

Ngay cả trước khi tin tức về những kẻ mạo danh ông Rubio và bà Wiles được lan truyền, nhân viên tại hầu khắp các cơ quan liên bang đang cố gắng thắt chặt thông tin liên lạc qua điện thoại để ứng phó với một mối đe dọa hoàn toàn khác và tinh vi hơn. Các tin tặc do chính phủ Trung Quốc hậu thuẫn đã xâm nhập vào các nhà cung cấp dịch vụ viễn thông lớn nhất của nước Mỹ như một phần nỗ lực gián điệp trên các quan chức cấp cao Hoa Kỳ, theo những gì Washington cáo buộc.

Sau cuộc tấn công đó, FBI và Bộ An ninh Nội địa (DHS) đã kêu gọi nhân viên chính phủ sử dụng các nền tảng nhắn tin được mã hóa để các tin tặc không thể nghe lén tin nhắn của họ.

Không có cách nào để ngăn chặn mọi người thiết lập tài khoản giả mạo và sử dụng bất kỳ một trong số hàng chục phần mềm miễn phí trực tuyến để sao chép giọng nói của ai đó. Vì vậy, FBI và Bộ Ngoại giao đã cảnh báo công khai và riêng tư các quan chức Hoa Kỳ phải cẩn thận hơn trong liên lạc của họ và thông báo cho những người xung quanh về các kế hoạch mạo danh.

Các cơ quan chính phủ “hiện phải tập trung vào phòng thủ và bắt giữ những kẻ tấn công sử dụng deepfake trong hành động,” bà Tobac nói. "Một cách để làm điều đó là sử dụng một phương pháp liên lạc khác để xác minh danh tính trước khi thực hiện bất kỳ yêu cầu nhạy cảm nào."

Theo CNN