Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

Trong thông báo gửi đến giới chức Australia, tập đoàn công nghệ Google cho biết gần 1 năm qua, họ nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) của Google là Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo; và 86 báo cáo của người dùng cảnh báo Gemini đang bị lạm dụng để sản xuất các nội dung lạm dụng trẻ em.
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)

Ủy ban An toàn Điện tử Australia đánh giá báo cáo của Google cung cấp cái nhìn sâu sắc đầu tiên trên thế giới về cách người dùng có thể khai thác công nghệ để tạo ra nội dung độc hại và phi pháp.

Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho rằng điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI xây dựng và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn hành vi sản xuất những kiểu nội dung nguy hại, giả mạo trên.

Google đã sử dụng tính năng so khớp - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng cùng một hệ thống để loại bỏ nội dung khủng bố hoặc cực đoan bạo lực do Gemini tạo ra.

Theo luật hiện hành của Australia, các công ty công nghệ phải cung cấp định kỳ cho Ủy ban An toàn Điện tử thông tin về các nỗ lực giảm thiểu tác hại nếu không có thể sẽ bị xử phạt.

Gần nhất, các công ty phải báo cáo thông tin cho ủy ban này trong giai đoạn từ tháng 4/2023- 2/2024. Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter - sau này đổi tên thành X, vì những thiếu sót trong báo cáo của họ.

X đã một lần kháng cáo thất bại về khoản tiền phạt 610.500 AUD (382.000 USD) nhưng mạng xã hội này dự kiến sẽ tiếp tục kháng cáo. Telegram cũng có kế hoạch kháng cáo mức phạt đối với kênh này.

Kể từ khi chatbot “đình đám” ChatGPT của công ty OpenAI (Mỹ) “bùng nổ” trong nhận thức của công chúng vào cuối năm 2022, các cơ quan quản lý trên khắp thế giới đã kêu gọi áp dụng các biện pháp hữu hiệu hơn để bảo đảm các đối tượng xấu không lạm dụng AI để kích động khủng bố, lừa đảo, tạo ra các nội dung khiêu dâm giả mạo và các hành vi lạm dụng khác.

TTXVN

Có thể bạn quan tâm

Tọa đàm góp phần thúc đẩy giao lưu văn hóa, củng cố quan hệ hợp tác Việt-Pháp, đồng thời khẳng định tiềm năng phát triển mạnh mẽ của điện ảnh Việt Nam trong giai đoạn mới.

Thúc đẩy hợp tác và đầu tư điện ảnh Việt Nam-Pháp

Tại tọa đàm “Điện ảnh Việt Nam và Pháp: Tiềm năng và cơ hội hợp tác” ở Paris ngày 4/12, các nhà quản lý điện ảnh cũng như nhà sản xuất và nghệ sĩ hai nước đã trao đổi về chiến lược phát triển và hội nhập quốc tế của điện ảnh Việt Nam trong bối cảnh mới và triển vọng hợp tác để phục vụ công chúng, đi tranh giải quốc tế.

Cảnh ngập lụt sau những trận mưa lớn tại tỉnh Songkhla, Thái Lan. (Ảnh: THX/TTXVN)

Liên hợp quốc hỗ trợ các nước Nam Á ứng phó lũ lụt nghiêm trọng

Liên hợp quốc tiếp tục hỗ trợ chính phủ một số quốc gia Nam ÁĐông Nam Á ứng phó với tình trạng lũ lụt và sạt lở đất ở mức thảm khốc, khiến hơn 1.500 người thiệt mạng và ảnh hưởng gần 11 triệu người. Đây là thông điệp mà người phát ngôn của Tổng Thư ký Liên hợp quốc, ông Stephane Dujarric đưa ra vào ngày 4/12.

Người lao động làm việc tại một siêu thị tại Washington D.C, Mỹ. (Ảnh: Tân Hoa Xã)

Mỹ: Số nhân sự bị cắt giảm cao nhất trong 5 năm

Với các thông báo cắt giảm mạnh nhân sự của các doanh nghiệp Mỹ vào tháng 11, tổng số người mất việc trong cả năm 2025 tiếp tục vượt xa mốc 1 triệu người, trong bối cảnh tái cấu trúc doanh nghiệp, trí tuệ nhân tạo (AI) và thuế quan góp phần làm giảm số lượng việc làm.

Bộ trưởng Nội vụ và An toàn Hàn Quốc Yun Hojung chụp ảnh kỷ niệm với các đại sứ, đại biện các nước tại Hàn Quốc. (Ảnh: Đại sứ quán Việt Nam tại Hàn Quốc)

Đẩy mạnh hợp tác về hành chính giữa Hàn Quốc và Việt Nam

Ngày 4/12, Bộ trưởng Nội vụ và An toàn Hàn Quốc Yun Hojung đã tổ chức gặp gỡ đoàn ngoại giao tại Seoul, giới thiệu về những chính sách mới về Hành chính công của chính quyền Lee Jae Myung. Đại sứ Việt Nam tại Hàn Quốc Vũ Hồ đã tham dự sự kiện này cùng với gần 100 đại sứ, đại biện các nước tại Seoul.

Bộ trưởng Quốc phòng Hàn Quốc Ahn Gyu Back. (Ảnh: Yonhap/ TTXVN)

Hàn Quốc định hướng tái thiết quân đội

Ngày 3/12, Bộ trưởng Quốc phòng Hàn Quốc Ahn Gyu Back đã chủ trì cuộc họp với các chỉ huy cấp cao để thảo luận định hướng củng cố và xây dựng lực lượng quân đội, 1 năm sau động thái thiết quân luật bất thành có sự tham gia của cựu Bộ trưởng Quốc phòng và một loạt quan chức quân đội dưới thời cựu Tổng thống Yoon Suk Yeol.

Bộ trưởng Ngoại giao Trung Quốc Vương Nghị và Thư ký Hội đồng An ninh Nga Sergei Shoigu. (Ảnh: THX/TTXVN)

Trung Quốc, Nga củng cố tin cậy chiến lược

Trong khuôn khổ vòng tham vấn an ninh chiến lược Trung Quốc-Nga lần thứ 20 diễn ra tại Moskva, Trung Quốc và Nga nhất trí triển khai đầy đủ nhận thức chung quan trọng mà nguyên thủ hai bên đạt được về an ninh chiến lược, qua đó thúc đẩy điều phối chiến lược song phương lên tầm cao chất lượng hơn.

Dù có những trắc trở, song nỗ lực duy trì tiếp xúc, đàm phán, giải quyết bất đồng từ hai nước cho thấy triển vọng quan hệ Mỹ-Brazil vẫn tích cực.

Quan hệ Mỹ-Brazil: Vừa hợp tác, vừa cạnh tranh

Trong bối cảnh trật tự quốc tế bước vào thời kỳ tái cấu trúc mạnh mẽ, quan hệ Mỹ-Brazil nổi lên như một mối quan hệ then chốt và có tầm ảnh hưởng. Dù hợp tác ở nhiều lĩnh vực, quan hệ hai nước vẫn tồn tại nhiều điểm va chạm, phản ánh giai đoạn “vừa hợp tác, vừa cạnh tranh”.