Phiên điều trần mang tên “Các công ty công nghệ lớn và cuộc khủng hoảng bóc lột tình dục trẻ em trực tuyến”, đánh dấu nỗ lực mới nhất của các nhà lập pháp Mỹ nhằm giải quyết mối lo ngại của các bậc phụ huynh và các chuyên gia sức khỏe tâm thần, cho rằng các công ty truyền thông xã hội đặt lợi nhuận lên trên các biện pháp bảo vệ người dùng là trẻ em và thanh-thiếu niên trước các nguy cơ từ nền tảng trực tuyến.
Thượng nghị sĩ Dick Durbin trích dẫn số liệu thống kê từ Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC) Mỹ cho thấy, sự gia tăng chóng mặt các hành vi “sextortion” - có thể hiểu là hành vi tống tiền người khác bằng cách đe dọa tiết lộ bằng chứng về hoạt động tình dục của họ sau khi lừa trẻ vị thành niên gửi ảnh và video khiêu dâm.
Tại phiên điều trần trên, CEO của Tập đoàn Meta, ông Mark Zuckerberg cam kết nỗ lực ngăn chặn những tác động xấu xảy ra với người dùng nền tảng mạng xã hội. Theo đó, Meta sẽ ngăn người dùng là thanh-thiếu niên nhận được các tin nhắn từ các tài khoản không quen biết. Meta cũng sẽ siết chặt các hạn chế về nội dung đối với thanh-thiếu niên trên Instagram và Facebook để khó tiếp cận các bài đăng liên quan các hành vi tự tử, tự làm hại bản thân hoặc rối loạn ăn uống.
Trong khi đó, CEO của mạng xã hội X (trước đây là Twitter) Linda Yaccarino cho biết, công ty sẽ ủng hộ ban hành Đạo luật STOP CSAM - một dự luật liên bang nhằm tìm cách buộc các công ty công nghệ phải chịu trách nhiệm về nội dung lạm dụng tình dục trẻ em và sẽ cho phép nạn nhân kiện các nền tảng công nghệ và cửa hàng ứng dụng.
Phiên điều trần cũng đánh dấu sự xuất hiện lần đầu của CEO TikTok Shou Zi Chew trước các nhà lập pháp Mỹ kể từ tháng 3/2023, khi công ty này phải đối mặt những chất vấn gay gắt, trong đó có một số ý kiến cho rằng, ứng dụng này đang gây tổn hại sức khỏe tâm thần của trẻ em. Ông Chew cũng cho biết, TikTok dự kiến chi hơn 2 tỷ USD cho các nỗ lực củng cố niềm tin của người dùng và mức độ an toàn khi sử dụng nền tảng này”. Theo CEO của TikTok, trong năm 2024, công ty có tới 40.000 chuyên gia làm việc trong lĩnh vực củng cố sự an toàn cho người dùng là thanh-thiếu niên.
Tương tự, Meta cũng cho biết, 40.000 nhân viên của công ty này làm việc trong lĩnh vực an toàn trực tuyến và tập đoàn này đã đầu tư 20 tỷ USD kể từ năm 2016 để bảo đảm người dùng được an toàn khi sử dụng dịch vụ. Tuy nhiên, điều đáng lo ngại là các tập đoàn công nghệ lớn đang chạy đua trong lĩnh vực phát triển AI và tạo thêm nhiều rủi ro trên không gian mạng. CEO Mark Zuckerberg thông báo, “gã khổng lồ” công nghệ này đang đầu tư hơn 10 tỷ USD vào cơ sở hạ tầng để phát triển trí tuệ nhân tạo phổ quát (AGI), một hệ thống AI tiên tiến có thể tự học hỏi và tiến xa hơn trí tuệ con người.
Cùng thời điểm diễn ra phiên điều trần nói trên, ngày 31/1, NCMEC cho hay trong năm 2023 đã nhận được 4.700 báo cáo về nội dung trực tuyến do AI tạo ra liên quan đến lạm dụng tình dục trẻ em. NCMEC cho rằng, con số trên phản ánh vấn đề mới được dự đoán sẽ gia tăng khi công nghệ AI phát triển. Trong những tháng gần đây, các chuyên gia và nhà nghiên cứu về an toàn trẻ em đã cảnh báo nguy cơ công nghệ AI tạo sinh có thể tạo ra văn bản và hình ảnh dựa trên các gợi ý, qua đó sẽ làm trầm trọng thêm tình trạng bóc lột, lạm dụng trực tuyến.
Trong năm 2022, NCMEC đã nhận được báo cáo khoảng 88,3 triệu nội dung lạm dụng trẻ em từ tất cả các nguồn, trong đó có chính các công ty AI tạo sinh, nền tảng trực tuyến và từ người dân. Nội dung được xác định do AI tạo ra đang ngày càng giống ảnh thật, khiến việc xác định nạn nhân có phải là người thật hay không trở nên khó khăn hơn. Đây là trách nhiệm cũng như nghĩa vụ của các tập đoàn công nghệ nhằm tạo ra không gian mạng an toàn hơn, nhất là đối với trẻ em.
