Theo “người khổng lồ công nghệ” của Mỹ, công nghệ AI tiên tiến này sử dụng “mạng nơ-ron sâu” để xử lý hình ảnh, qua đó giúp tìm kiếm và phát hiện các nội dung liên quan lạm dụng tình dục trẻ em trên internet. Mạng nơ-ron sâu là mạng nơ-ron có một số mức độ phức tạp nhất định và chứa nhiều hơn hai lớp. Mạng này sử dụng mô hình toán học tinh vi để xử lý dữ liệu theo những cách phức tạp.
Công cụ mới dựa trên mạng nơ-ron sâu sẽ được cung cấp miễn phí cho các tổ chức phi chính phủ và "các đối tác công nghiệp khác", bao gồm các công ty công nghệ, thông qua dịch vụ An toàn nội dung API mới có thể được cung cấp theo yêu cầu.
"Sử dụng internet như một phương tiện để lan truyền nội dung lạm dụng tình dục trẻ em là một trong những sự lạm dụng tồi tệ nhất có thể tưởng tượng được", hai kỹ sư của Google là Nikola Todorovic và Abhi Chaudhuri nhấn mạnh trong bài đăng trên blog chính thức của công ty. Theo hai kỹ sư này, công nghệ AI mới sẽ giúp các nhà cung cấp dịch vụ, tổ chức phi chính phủ và công ty công nghệ cải thiện tính hiệu quả của việc phát hiện tài liệu liên quan lạm dụng tình dục trẻ em và giảm sự tò mò của dư luận đối với nội dung này.
"Nhận dạng nhanh các hình ảnh mới có nghĩa là những trẻ em bị lạm dụng tình dục ngày nay có nhiều khả năng được nhận diện và được bảo vệ để không bị lạm dụng thêm nữa", hai kỹ sư của Google lưu ý.
Hiện, có nhiều công ty công nghệ sẵn sàng đầu tư vào AI để phát hiện các loại nội dung liên quan lạm dụng tình dục trẻ em như ảnh khỏa thân hay các bình luận khiếm nhã. Thông báo nêu trên của Google khẳng định cam kết mới của công ty này đối với tài liệu lạm dụng tình dục trẻ em phát tán trên Internet bằng cách chia sẻ "những tiến bộ công nghệ mới nhất".
Google đã và đang hợp tác với một số đối tác trong cuộc chiến chống lạm dụng tình dục trẻ em trực tuyến, bao gồm Tổ chức từ thiện Theo dõi Internet có trụ sở tại Anh, Liên minh công nghệ và Liên minh toàn cầu WePROTECT, cũng như các tổ chức phi chính phủ khác.
