Ước tính khoảng 100.000 trẻ em sử dụng mạng xã hội Facebook và Instagram bị quấy rối tình dục mỗi ngày, theo tài liệu mà văn phòng Tổng chưởng lý bang New Mexico tập hợp từ các nhân viên Meta. Tài liệu cũng nhắc tới sự cố hồi năm 2020, khi cô con gái 12 tuổi của một cựu giám đốc bị gạ gẫm thông qua Direct, sản phẩm nhắn tin của Instagram.

“Con bé và bạn bè đã có những trải nghiệm khủng khiếp, liên tục bị quấy rối, tán tỉnh. Vấn đề không được giải quyết dù tôi đã gửi báo cáo tới mạng xã hội nhiều lần”, Arturo Bejar, cựu giám đốc Facebook, nói. “Hôm nay tôi đứng đây với tư cách một người cha, người có trải nghiệm trực tiếp về một đứa con trong độ tuổi vị thành niên từng nhận những lời tán tỉnh tình dục không mong muốn trên Instagram”.

Khi được yêu cầu bình luận, Meta phản bác khẳng định của Bejar. Phía công ty cho rằng họ luôn chú ý đến trải nghiệm người dùng, thậm chí tung ra một số tính năng hữu hiệu, chẳng hạn như cảnh báo người dùng trước khi họ đăng nhận xét những nội dung có khả năng gây khó chịu.

Để chứng minh thiếu sót của Meta, Bejar cùng một các nhóm nhân viên bắt đầu thu thập dữ liệu. Dựa trên mô hình khảo sát định kỳ với người dùng Facebook, nhóm xây dựng một bảng câu hỏi mới có tên BEEF, viết tắt của “Phản hồi về trải nghiệm cảm xúc tồi tệ”. Kết quả, tỷ lệ người dùng chứng kiến hành vi quấy rối trong tuần trước cao hơn 100 lần so với số liệu thống kê của Meta.

Trong số những người dùng dưới 16 tuổi, 26% kể rằng họ đã có trải nghiệm tồi tệ. Hơn 20% cảm thấy tồi tệ hơn về bản thân sau khi xem bài đăng của người khác, trong khi 13% phải trải qua những hành vi tán tỉnh tình dục không mong muốn.

Trước đó vào ngày 5/12, văn phòng Tổng chưởng lý New Mexico đã đệ đơn kiện, cáo buộc mạng xã hội của Meta tiếp tay cho những “kẻ săn trẻ em”. Đại diện ông Raúl Torrez cho rằng công ty này cho phép người lớn tìm kiếm, nhắn tin và tiếp cận người dùng là các thanh thiếu niên dễ bị tổn thương.

Phía Meta hiện vẫn bác bỏ các tuyên bố của vụ kiện, khẳng định điều đó không thể hiện chính xác những gì công ty đang làm.

“Chúng tôi muốn thanh thiếu niên có những trải nghiệm trực tuyến an toàn, phù hợp với lứa tuổi. Có hơn 30 công cụ để hỗ trợ họ và các bậc cha mẹ. Chúng tôi đã dành một thập kỷ để giải quyết những vấn đề này, để những người trẻ an toàn và được hỗ trợ hết sức có thể”.

Bài phát biểu nội bộ hồi năm 2021 về an toàn trẻ em đã được đề cập trong vụ kiện. Meta bị cáo buộc “chưa đầu tư đủ vào hoạt động giám sát các hành vi khiêu dâm trẻ vị thành niên trên Instagram”. Đây không chỉ là trải nghiệm tồi tệ đối với người dùng mà còn là cơ hội để những kẻ xấu lợi dụng.

“Cụ thể là chúng tôi đang làm gì để hỗ trợ trẻ em nhỉ. Tôi thấy chẳng đáng kể”, một nhân viên Meta nói.

Vụ kiện tại bang New Mexico diễn ra sau cuộc điều tra của The Guardian nhằm vào Meta hồi tháng 4. Tài liệu cho thấy Messenger, dịch vụ nhắn tin riêng tư của Facebook, đã bị những kẻ buôn người lợi dụng để mua bán trẻ em.

Không dừng lại ở đó, Meta còn bị cho là “tiếp tay” cho những nội dung nhạy cảm khi loạt web ‘đen’ đều sử dụng mô hình AI của Mark Zuckerberg. Chỉ với 5 USD/tháng, bất kỳ ai cũng có thể đến thăm “nhà thổ” với nhân viên là các cô gái dưới 15 thông qua Chub AI, một trang web nơi người dùng có thể trò chuyện với các chatbot.

Theo Fortune, Chub AI cung cấp rất nhiều kịch bản nhạy cảm như vậy trong bối cảnh ngày càng nhiều các trang web AI cho phép nhập vai khiêu dâm trẻ em mọc lên. Chúng là một phần của nền kinh tế trí tuệ nhân tạo không bị kiểm duyệt, theo cuộc phỏng vấn của Fortune với 18 nhà phát triển và founder. Làn sóng một phần được thúc đẩy bởi OpenAI và Llama nguồn mở của Meta.

Chub AI chỉ là một ví dụ điển hình trong rất nhiều những ứng dụng AI khác không bị kiểm duyệt mới. Một số chủ động sàng lọc các kịch bản liên quan đến trẻ vị thành niên, trong khi những trang web như Chub bỏ qua việc kiểm duyệt rộng rãi.

Đáng chú ý, phần lớn những người xây dựng chatbot ‘tự do’ cho rằng Llama đóng vai trò không thể thiếu trong nỗ lực của họ. Founder ImgnAI, Venus AI, DreamGF, Janitor AI, GirlfriendGPT, BanterAI, Allie và tất nhiên, cả Chub đều thừa nhận với Fortune rằng họ đã và đang sử dụng các mô hình AI của Meta.

Cho đến nay, chưa ai khởi kiện để ngăn chặn các chatbot AI không được kiểm duyệt, dẫu cho các chính trị gia đã lên tiếng. Vào tháng 6, Thượng nghị sĩ Mỹ Josh Hawley và Richard Blumenthal viết một lá thư cho Giám đốc điều hành Meta Mark Zuckerberg bày tỏ quan ngại xoay quanh Llama. Mới đây, Tổng thống Biden cũng yêu cầu các nhà phát triển chia sẻ kết quả kiểm tra an toàn với chính phủ theo các tiêu chuẩn.

Meta nghiêm cấm các nội dung nhạy cảm liên quan đến trẻ em, song trên thực tế, chưa rõ bằng cách nào và khi nào công ty này sẽ trừng phạt những người vi phạm. Người phát ngôn lưu ý rằng công ty cho phép người dùng gắn cờ các nội dung bất hợp pháp và có thể thu hồi giấy phép của nhà phát triển.

Trước đó, Meta từng dính cáo buộc thu thập dữ liệu cá nhân của trẻ em, đồng thời vi phạm chính sách độ tuổi sử dụng. Đơn kiện đề cập đến việc Meta, công ty mẹ của Instagram và Facebook, thu thập thông tin hàng triệu người dùng dưới 13 tuổi và thiết kế giao diện “gây nghiện” cho các nền tảng truyền thông xã hội. Nếu đúng là Meta biết đến sự tồn tại của hàng triệu tài khoản chưa phù hợp mà không ngăn chặn, công ty có thể sẽ phải đối diện với mức phạt lớn chưa từng thấy.

Theo: The New York Times, The Guardian