Facebook đã đầu tư 10 triệu USD cho cuộc thi phát hiện video deepfake có tên “Deepfake Detection Challenge”, mục đích để thúc đẩy nghiên cứu và giúp phát hiện, xử lý các video giả mạo. Các chuyên gia được đề nghị sản xuất những video giả như thật để tạo ra một bộ dữ liệu cho công cụ phát hiện deepfake.
Hy vọng của Facebook là phát triển một biện pháp nào đó giúp phát hiện và ngăn chặn tốt hơn các video, phương tiện truyền thông bị giả mạo và cung cấp cho mạng xã hội như Facebook một phương thức gắn cờ vào những video deepfake này trước khi chúng bị lan truyền.
Các video này sẽ được phát hành vào tháng 12, với sự góp mặt của các diễn viên được trả phí và không sử dụng dữ liệu nào của người dùng.
Trước cuộc bầu cử Tổng thống Mỹ diễn ra vào tháng 11-2020, các nền tảng mạng xã hội đã phải chịu áp lực lớn trong việc giải quyết mối đe dọa của các cuộc tấn của deepfake. Deepfake sử dụng trí thông minh nhân tạo (AI) để tạo ra các video siêu thực, bị thao túng khiến người khác thấy họ đang nói hoặc làm những điều mà thực tế họ chưa bao giờ làm như vậy.
Vào tháng 8-2019, Ủy ban Quốc gia Đảng Dân chủ, Mỹ đã chứng minh mối đe dọa từ các video deepfake bằng cách tạo ra một video về Chủ tịch Tom Perez, khiến khán giả tại hội nghị tin tặc Def Con tin rằng ông Perez thực sự đã tham gia hội nghị.
Một số nhà nghiên cứu đang phát triển các hệ thống để xác thực video và hình ảnh thông qua hình mờ kỹ thuật số (watermarking - được nhúng ngẫu nhiên vào một tín hiệu chống nhiễu như dữ liệu âm thanh, video hoặc hình ảnh). Nhưng sự phát triển nhanh chóng của công nghệ deepfake đã tạo ra một cuộc chạy đua vũ trang giữa những kẻ làm video deepfake và những người cố gắng phát hiện video deepfake.
Công nghệ cũng đang trở nên dễ tiếp cận hơn đối với những tác giả kém kỹ năng. Tuần trước, một ứng dụng có tên Zao của Trung Quốc, cho phép người dùng biến khuôn mặt của họ thành những ngôi sao điện ảnh nổi tiếng chỉ bằng một vài thao tác đơn giản, mặc dù ứng dụng này đang gặp phải nhiều phản ứng dữ dội về những vấn đề riêng tư.
Nhiều người còn đăng video hướng dẫn cách làm deepfake, sau đó đưa lên YouTube, tính phí với các giọng nói giả mạo và chạy website riêng để kiếm tiền bằng các video này.
Thử thách trong chương trình Deepfake Detection Challenge không phải là nỗ lực đầu tiên của Facebook trong cuộc chiến chống deepfake. Vào tháng 7-2019, Facebook, Twitter và Google đã chia sẻ kế hoạch của mình để giải quyết các vấn đề về video deepfake. Facebook đã chi 7,5 triệu USD cho một nhóm các chuyên gia của nhiều trường đại học như California, Berkeley, Đại học Maryland và Đại học Cornell để giúp họ đối phó với nguy cơ deepfake.
