Nữ sinh trung học bị AI chế ảnh khỏa thân

Theo Hãng tin AP ngày 3-12, bà Dorota Mani, người dân thị trấn Westfield, bang New Jersey (Mỹ), đang vận động các cấp ban hành biện pháp ngăn chặn việc sử dụng trí tuệ nhân tạo (AI) để chế hình khỏa thân người khác.

Con gái bà Mani, 14 tuổi, cùng nhiều bạn học nữ khác đã bị một đối tượng chế ảnh khỏa thân bằng nhóm công cụ AI tai tiếng gọi chung là deepfake và lan truyền khắp trường.

Deepfake là kỹ thuật sử dụng AI nhằm tạo ra những video, hình ảnh hoặc âm thanh giả mạo người khác một cách rất chân thực. Một hình thức sử dụng deepfake phổ biến là gắn mặt một người lên cơ thể người khác trong một video, hình ảnh có sẵn.

Sự việc diễn ra hồi giữa năm 2023 và được báo cáo với trường cấp 3 Westfield, nơi con bà Mani theo học hôm 20-10.

Cảnh sát địa phương và Văn phòng Công tố hạt Union, cơ quan công tố phụ trách thị trấn trên, xác nhận đã được thông báo về vụ việc nhưng từ chối nhận xét thêm.

Theo bà Mani, phản ứng với vụ việc trên, con gái bà đã thành lập một webiste từ thiện kêu gọi hỗ trợ cho những nạn nhân của AI.

Bài toán quản lý AI

Sự kiện ở Trường Westfield chỉ là một trong rất nhiều trường hợp sản phẩm của AI trực tiếp làm hại phụ nữ và trẻ em.

Vấn đề liên quan đến deepfake không phải mới, song các chuyên gia lo ngại tình hình đang tồi tệ hơn khi công nghệ này ngày càng dễ tiếp cận và sử dụng.

Trong năm 2023, các nhà nghiên cứu đã gióng hồi chuông cảnh báo việc bùng nổ trên không gian mạng nội dung do AI tạo ra mang tính chất xâm phạm tình dục trẻ em.

Theo tổ chức nghiên cứu độc lập Genevieve Oh, hơn 143.000 video sử dụng công cụ deepfake đã được đăng lên Internet trong năm 2023, nhiều hơn tổng số video loại này của những năm trước cộng lại.

Điều này đã thôi thúc các gia đình yêu cầu những nhà làm luật đề ra các biện pháp an toàn và quy định quản lý cấp liên bang để bảo vệ nạn nhân của deepfake.

"Chúng ta đang đấu tranh cho con em. Chúng không phải thành viên Đảng Cộng hòa, cũng không theo Đảng Dân chủ. Chúng không quan tâm điều đó. Chúng chỉ muốn được yêu thương và an toàn", bà Mani tuyên bố.

Khung pháp lý liên quan đến AI ở Mỹ

Trong vài năm qua, nhiều bang ở Mỹ đã thông qua các đạo luật giải quyết vấn đề trên.

Các bang Texas, Minnesota, New York, Virginia... đã hình sự hóa việc tạo nội dung khiêu dâm không được đồng thuận bằng deepfake.

Trong khi đó, các bang như California và Illionis mới chỉ cho phép nạn nhân kiện người quấy rối và đòi tiền bồi thường tại tòa dân sự.

Một số bang khác như New Jersey vẫn đang cân nhắc dự luật cấm nội dung khiêu dâm tạo bởi deepfake. Nếu dự luật này được thông qua, người vi phạm có thể đối mặt với cả án tù và phạt tiền.

Nhiều tuần qua, hai mẹ con bà Mani đã trao đổi sát sao với các nhà làm luật bang New Jersey để hối thúc việc thông qua dự luật trên. Cả hai cũng đang lên kế hoạch bay đến thủ đô Washington D.C để kêu gọi những biện pháp bảo vệ sâu rộng hơn.

Deepfake ngày càng tinh vi, giống thật đến 80%

Trước đây có thể nhận biết các video deepfake qua ngữ điệu, cử động môi và sự trùng khớp giữa nhân vật, bối cảnh, âm thanh. Hiện đã có những công cụ giúp tạo video giống thật đến 70-80%, dễ nhầm lẫn khi nhìn bằng mắt thường.