Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

Trong thông báo gửi đến giới chức Australia, tập đoàn công nghệ Google cho biết gần 1 năm qua, họ nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) của Google là Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo; và 86 báo cáo của người dùng cảnh báo Gemini đang bị lạm dụng để sản xuất các nội dung lạm dụng trẻ em.
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)

Ủy ban An toàn Điện tử Australia đánh giá báo cáo của Google cung cấp cái nhìn sâu sắc đầu tiên trên thế giới về cách người dùng có thể khai thác công nghệ để tạo ra nội dung độc hại và phi pháp.

Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho rằng điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI xây dựng và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn hành vi sản xuất những kiểu nội dung nguy hại, giả mạo trên.

Google đã sử dụng tính năng so khớp - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng cùng một hệ thống để loại bỏ nội dung khủng bố hoặc cực đoan bạo lực do Gemini tạo ra.

Theo luật hiện hành của Australia, các công ty công nghệ phải cung cấp định kỳ cho Ủy ban An toàn Điện tử thông tin về các nỗ lực giảm thiểu tác hại nếu không có thể sẽ bị xử phạt.

Gần nhất, các công ty phải báo cáo thông tin cho ủy ban này trong giai đoạn từ tháng 4/2023- 2/2024. Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter - sau này đổi tên thành X, vì những thiếu sót trong báo cáo của họ.

X đã một lần kháng cáo thất bại về khoản tiền phạt 610.500 AUD (382.000 USD) nhưng mạng xã hội này dự kiến sẽ tiếp tục kháng cáo. Telegram cũng có kế hoạch kháng cáo mức phạt đối với kênh này.

Kể từ khi chatbot “đình đám” ChatGPT của công ty OpenAI (Mỹ) “bùng nổ” trong nhận thức của công chúng vào cuối năm 2022, các cơ quan quản lý trên khắp thế giới đã kêu gọi áp dụng các biện pháp hữu hiệu hơn để bảo đảm các đối tượng xấu không lạm dụng AI để kích động khủng bố, lừa đảo, tạo ra các nội dung khiêu dâm giả mạo và các hành vi lạm dụng khác.

TTXVN

Có thể bạn quan tâm

Đại diện Nam Phi và Microsoft ký thỏa thuận hợp tác đào tạo kỹ năng số. (Ảnh: TECH REVIEW AFRICA)

Chiến lược tiên phong trong kỷ nguyên số

Là một trong những nền kinh tế số phát triển năng động nhất châu Phi, Nam Phi đang nổi lên như một trong những hệ sinh thái trí tuệ nhân tạo (AI) phát triển nhất châu lục. Theo đó, công nghệ này đang được triển khai rộng khắp trong ngân hàng, lĩnh vực bán lẻ, y tế, khai thác mỏ và khu vực công. 

EU đang thúc đẩy các biện pháp tiết kiệm nhiên liệu. (Ảnh: TÂN HOA XÃ)

EU tăng cường lưu trữ năng lượng sạch

Năng lượng tái tạo chiếm tỷ trọng ngày càng lớn trong cơ cấu nguồn điện của Liên minh châu Âu (EU). Tuy nhiên, do năng lực lưu trữ còn hạn chế, một phần đáng kể lượng điện dư thừa không thể được tích trữ để sử dụng vào thời điểm nhu cầu tăng cao.

Ủy viên Bộ Chính trị, Bí thư Thành ủy Hà Nội Trần Đức Thắng làm việc với Quốc vụ khanh, Thứ trưởng Giao thông vận tải Liên bang Nga Dmitry Zverev.

Hà Nội thúc đẩy hợp tác với Nga trong phát triển đường sắt đô thị

Trong khuôn khổ chuyến công tác tại Liên bang Nga, ngày 13/8, Đoàn công tác liên ngành do đồng chí Trần Đức Thắng, Ủy viên Bộ Chính trị, Bí thư Thành ủy Hà Nội dẫn đầu đã có các cuộc làm việc tại Moskva và Saint Petersburg, tập trung trao đổi về phát triển đường sắt đô thị, mở rộng hợp tác giữa Hà Nội với các địa phương của Nga.

Công nhân khai thác mỏ ở Nam Phi. (Ảnh: WORLDFINANCE)

Cơ hội và thách thức của châu Phi

Sở hữu khoảng 30% trữ lượng khoáng sản chiến lược trên thế giới, châu Phi đang trở thành “mắt xích” quan trọng trong chuỗi cung ứng nguyên liệu thiết yếu phục vụ quá trình phát triển công nghệ và chuyển đổi năng lượng.