Những ngày qua, làm thế nào để tránh được lừa đảo bằng AI đã trở thành một chủ đề nóng trên mạng xã hội Trung Quốc.

Cảnh sát thành phố Bao Đầu ở Khu tự trị Nội Mông, miền Bắc Trung Quốc hôm 20/5 vừa thông báo một vụ án lừa đảo bằng trí tuệ nhân tạo (AI) điển hình, trong đó kẻ lừa đảo đã sử dụng công nghệ AI để tạo ra khuôn mặt và giọng nói giả trong cuộc gọi video và lừa thành công nạn nhân 4,3 triệu nhân dân tệ (611.000 USD).

Theo cảnh sát, nạn nhân họ Quách, chủ một công ty công nghệ ở thành phố Phúc Châu, tỉnh Phúc Kiến, miền Đông Trung Quốc, đã bị lừa 4,3 triệu NDT chỉ trong 10 phút. Kẻ lừa đảo đã thực hiện một cuộc gọi video WeChat cho nạn nhân, sử dụng công nghệ AI để khiến mình trông giống như một người bạn ngoài đời thực của nạn nhân.

Trong cuộc gọi điện video, kẻ lừa đảo đã thuyết phục rằng mình cần dùng tài khoản công ty của nạn nhân để thanh toán khoản tiền đặt cọc 4,3 triệu nhân dân tệ khi tham gia đấu thầu một dự án. Kẻ lừa đảo đã hỏi số thẻ ngân hàng và tuyên bố chuyển vào tài khoản của nạn nhân, đồng thời gửi ảnh chụp màn hình biên lai chuyển khoản ngân hàng qua wechat. Tin tưởng bạn mình, nạn nhân đã chuyển 4,3 triệu nhân dân tệ cho kẻ lừa đảo trong hai lần mà không xác minh xem tiền nhận đã đến tài khoản của mình hay chưa. Tuy nhiên, khi gọi điện, bạn nạn nhân khẳng định không làm các việc trên.

Sau khi nhận được thông tin về vụ lừa đảo, cảnh sát Phúc Châu và Bao Đầu đã ngăn chặn thành công việc chuyển 3,36 triệu NDT, tuy nhiên phần còn lại hiện vẫn đang phải tiếp tục truy tìm.

Đây chỉ là một trong những vụ lừa đảo viễn thông sử dụng công nghệ AI xảy ra thời gian gần đây ở Trung Quốc và được đánh giá là sẽ trở thành vụ án mang tính cột mốc về gian lận viễn thông, đánh dấu hình thức lừa đảo này chính thức bước vào kỷ nguyên của trí tuệ nhân tạo với khả năng biến hóa khôn lường.

Các vụ án tương tự cũng xảy ra ở Phúc Châu, Phúc Kiến hay Thường Châu, Giang Tô..., với số tiền lừa đảo từ vài nghìn đến vài chục nghìn nhân dân tệ, gióng lên hồi chuông về nguy cơ lừa đảo bằng AI ở Trung Quốc.

Tính đến 22/5, chủ đề về cách ngăn chặn lừa đảo bằng AI đã nhận được 170 triệu lượt xem và tạo ra 9.579 cuộc thảo luận trên mạng xã hội Weibo của nước này.

Trước đó, hôm 11/4, Cơ quan Quản lý Không gian mạng Trung Quốc đã lấy ý kiến của công chúng về dự thảo các biện pháp quản lý dịch vụ AI tổng hợp, trong đó chú trọng tính xác thực của nội dung và tính bảo mật của dữ liệu được tạo thành. Theo dự thảo này, nội dung do AI tạo ra phải chân thực và chính xác, đồng thời cần thực hiện các biện pháp ngăn chặn việc tạo ra các thông tin sai lệch.

Giờ đây, với công nghệ thay đổi khuôn mặt, chỉ cần cung cấp một bức ảnh có khuôn mặt là một người có thể thay mặt mình vào bất kỳ vai nam (nữ) chính nào trong các bộ phim hoặc clip với độ tương đồng rất cao. Trong bài đăng trên trang web chính thức, cảnh sát thành phố Thường Đức, tỉnh Hồ Nam, Trung Quốc tiết lộ, công nghệ AI đã thay đổi hành vi lừa đảo của tội phạm và các vụ lừa đảo mới này có tỷ lệ thành công lên đến gần 100%.