Theo AP, Tổ chức giám sát internet (IWF) có trụ sở tại Anh đã cảnh báo sự gia tăng đáng báo động của các hình ảnh lạm dụng tình dục trẻ em trên internet. IWF cho rằng, tình trạng này có thể trở nên mất kiểm soát nếu không có quy định kiểm soát các công cụ AI tạo ra những hình ảnh trông như thật.
Ông Dan Sexton, Giám đốc công nghệ của IWF cho biết: “Chúng tôi hết sức quan ngại về tác hại kép do những hình ảnh này có thể gây ra. Chúng có ảnh hưởng tới cả người xem và những nạn nhân bị lạm dụng hình ảnh, đặc biệt là đối với trẻ em”. IWF đã điều tra hơn 11.000 hình ảnh được chia sẻ trên các diễn đàn và web “đen” trong khoảng thời gian một tháng. Web đen là những địa chỉ trên internet được lưu trữ trong một mạng mã hóa và chỉ có thể truy cập được thông qua các công cụ cung cấp tính năng ẩn danh. Trong số đó, hơn 2.500 bức ảnh mô tả hành vi lạm dụng trẻ em và 20% trong số đó được phân loại vào nhóm mô tả những hành vi lạm dụng nghiêm trọng nhất.
Báo cáo của IWF phơi bày mặt tối của cuộc đua xây dựng các AI để tạo ra hình ảnh, nhân vật ảo. Trong đó, nhiều ứng dụng cho phép người dùng đưa các câu lệnh để tạo ra bất kỳ hình ảnh mong muốn nào, bao gồm cả hình ảnh khỏa thân hay khiêu dâm trẻ em. Nếu không được ngăn chặn, làn sóng hình ảnh lạm dụng tình dục trẻ em giả mạo có thể khiến giới chức gặp khó khăn khi điều tra những vụ việc ngoài đời thực. Thủ phạm cũng có thể sử dụng những hình ảnh này để dụ dỗ và ép buộc những nạn nhân mới. IWF kêu gọi các nhà quản lý và công ty cung cấp công nghệ, cần hành động nhanh chóng để bảo vệ trẻ em trước những mặt tối của công nghệ này.
