Cơ quan quản lý không gian mạng Trung Quốc (CAC) cho biết, động thái này nhằm hạn chế rủi ro có thể phát sinh từ các hoạt động được cung cấp bởi các nền tảng sử dụng công nghệ deep learning (học sâu) hoặc thực tế ảo để thay đổi các nội dung trực tuyến.

Quy định mới sẽ bắt đầu có hiệu lực từ ngày 10/1/2023.

Deepfake là công nghệ cho phép các nhà cung cấp nội dung thay đổi dữ liệu khuôn mặt và giọng nói trong bản gốc bằng những hình ảnh được tạo ra bằng trí tuệ nhân tạo giống như thật.

Công nghệ deepfake có thể được sử dụng để sản xuất, sao chép, xuất bản và phổ biến thông tin bất hợp pháp, thậm chí mạo danh danh tính của người khác để thực hiện hành vi lừa đảo và các hành vi bất hợp pháp khác.

Deepfake thậm chí có thể được vũ khí hóa và sử dụng để truyền bá thông tin sai lệch, lừa đảo mọi người và được xếp hạng là mối đe dọa tội phạm AI nghiêm trọng nhất.

Trung Quốc đã hình sự hóa việc sử dụng AI để phát tán tin tức giả mạo vào cuối năm 2019. Thời điểm đó, CAC bày tỏ sự quan ngại về tác động tiềm tàng của deepfake, khiến nhiều người cho rằng chính phủ sẽ cấm hoàn toàn công nghệ này.

Tuy nhiên, nếu làm vậy, Trung Quốc sẽ bỏ qua một bước phát triển quan trọng trong lịch sử truyền thông và AI, cũng như những cơ hội hợp tác khoa học toàn cầu.

Do đó, quốc gia này quyết định kiểm soát thay vì cấm công nghệ tiềm ẩn khả năng lừa đảo để khuyến khích những người dùng khai thác công nghệ này một cách hợp pháp, đặc biệt trong lĩnh vực giải trí.

Nguyễn Tuyết (Theo Reuters, Unite, Open Access Government)