Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

Trong thông báo gửi đến giới chức Australia, tập đoàn công nghệ Google cho biết gần 1 năm qua, họ nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) của Google là Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo; và 86 báo cáo của người dùng cảnh báo Gemini đang bị lạm dụng để sản xuất các nội dung lạm dụng trẻ em.
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness/TTXVN)

Ủy ban An toàn Điện tử Australia đánh giá báo cáo của Google cung cấp cái nhìn sâu sắc đầu tiên trên thế giới về cách người dùng có thể khai thác công nghệ để tạo ra nội dung độc hại và phi pháp.

Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho rằng điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI xây dựng và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn hành vi sản xuất những kiểu nội dung nguy hại, giả mạo trên.

Google đã sử dụng tính năng so khớp - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng cùng một hệ thống để loại bỏ nội dung khủng bố hoặc cực đoan bạo lực do Gemini tạo ra.

Theo luật hiện hành của Australia, các công ty công nghệ phải cung cấp định kỳ cho Ủy ban An toàn Điện tử thông tin về các nỗ lực giảm thiểu tác hại nếu không có thể sẽ bị xử phạt.

Gần nhất, các công ty phải báo cáo thông tin cho ủy ban này trong giai đoạn từ tháng 4/2023- 2/2024. Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter - sau này đổi tên thành X, vì những thiếu sót trong báo cáo của họ.

X đã một lần kháng cáo thất bại về khoản tiền phạt 610.500 AUD (382.000 USD) nhưng mạng xã hội này dự kiến sẽ tiếp tục kháng cáo. Telegram cũng có kế hoạch kháng cáo mức phạt đối với kênh này.

Kể từ khi chatbot “đình đám” ChatGPT của công ty OpenAI (Mỹ) “bùng nổ” trong nhận thức của công chúng vào cuối năm 2022, các cơ quan quản lý trên khắp thế giới đã kêu gọi áp dụng các biện pháp hữu hiệu hơn để bảo đảm các đối tượng xấu không lạm dụng AI để kích động khủng bố, lừa đảo, tạo ra các nội dung khiêu dâm giả mạo và các hành vi lạm dụng khác.

TTXVN

Có thể bạn quan tâm

Trụ sở Cục Dự trữ Liên bang Mỹ ở Washington, DC. (Ảnh: THX/TTXVN)

Mỹ: Cục Dự trữ Liên bang Mỹ vẫn giữ nguyên lãi suất

Ngày 28/1, Cục Dự trữ Liên bang Mỹ đã giữ nguyên lãi suất trong cuộc họp chính sách đầu tiên của năm nay, với lý do nền kinh tế lớn nhất thế giới vẫn tăng trưởng mạnh mẽ. Động thái này diễn ra trong bối cảnh cơ quan này đang phải đối phó với sức ép ngày càng tăng từ Tổng thống Donald Trump về việc yêu cầu cắt giảm lãi suất.

Lực lượng an ninh Syria tiến vào thành phố Sweida ở miền nam nước này. (Ảnh: THX/TTXVN)

Lộ trình cam go hướng tới hòa bình, an ninh và ổn định ở Syria

Trong những ngày qua, quân đội Syria mở hai hành lang nhân đạo, một dẫn vào Kobane và một tại tỉnh Hasakeh lân cận, nhằm tạo điều kiện đón hàng viện trợ. Giới quan sát đánh giá cao khi quyết định nêu trên đã giúp người dân nơi đây, chủ yếu là người Kurd, sống sót qua mùa đông lạnh giá.

Thủ tướng Ấn Độ Narendra Modi, Chủ tịch Ủy ban châu Âu Ursula von der Leyen và Chủ tịch Hội đồng châu Âu Antonio Costa tại cuộc họp báo ở New Delhi, ngày 27/1/2026. (Nguồn: ANI/TTXVN)

FTA giữa Ấn Độ và EU: Bước chuyển tích cực

Liên minh châu Âu (EU) và Ấn Độ vừa tổ chức thành công Hội nghị thượng đỉnh lần thứ 16 với dấu mốc đáng nhớ khi hai bên tuyên bố hoàn tất tiến trình đàm phán Hiệp định Thương mại tự do (FTA), mở ra cơ hội xây dựng một không gian thương mại rộng lớn với khoảng hai tỷ người tiêu dùng, chiếm gần 25% GDP toàn cầu. 

Các cơ quan đại diện và kiều bào tại Pháp vui mừng đón Tổng Bí thư, Chủ tịch nước Tô Lâm cùng Đoàn đại biểu cấp cao Việt Nam thăm chính thức Cộng hòa Pháp ngày 3/10/2024. (Ảnh: KHẢI HOÀN)

Cộng đồng người Việt tại Pháp và Bồ Đào Nha tự hào, vững tin theo con đường lãnh đạo của Đảng quang vinh

Phấn khởi với thành công rất tốt đẹp của Đại hội XIV của Đảng, cán bộ các cơ quan đại diện và cộng đồng người Việt tại Pháp và Bồ Đào Nha bày tỏ niềm tin sâu sắc vào sự lãnh đạo của Đảng, đồng thời khẳng định quyết tâm góp sức thực hiện thắng lợi các mục tiêu phát triển của đất nước trong kỷ nguyên mới.

Đại sứ EU tại ASEAN Sujiro Seam. (Ảnh: Đỗ Quyên/TTXVN)

EU cân nhắc khởi động đàm phán FTA với ASEAN sau năm 2027

Theo phóng viên TTXVN tại Indonesia, phát biểu tại cuộc gặp gỡ báo chí ở Jakarta tối 26/1, Đại sứ Liên minh châu Âu (EU) tại Hiệp hội Các quốc gia Đông Nam Á (ASEAN) Sujiro Seam cho biết khối này có thể xem xét khởi động đàm phán hiệp định thương mại tự do với Hiệp hội các quốc gia Đông Nam Á (ASEAN) sau năm 2027.

Cảng hàng hóa Busan, Hàn Quốc. (Ảnh: THX/TTXVN)

Tổng thống Mỹ Donald Trump tăng thuế lên 25% đối với một số hàng hóa của Hàn Quốc

Theo phóng viên TTXVN tại Washington, ngày 26/1, Tổng thống Mỹ Donald Trump tuyên bố tăng thuế nhập khẩu đối với ô-tô, dược phẩm và gỗ xẻ của Hàn Quốc từ mức 15% lên 25%. Nguyên nhân được cho là do Quốc hội Hàn Quốc chậm phê duyệt thỏa thuận thương mại song phương đã đạt được với Mỹ vào mùa hè năm ngoái.

Ban Chấp hành Trung ương Đảng khóa XIV thống nhất tuyệt đối bầu đồng chí Tô Lâm tiếp tục giữ chức Tổng Bí thư. (Ảnh: TTXVN)

Ấn tượng về nhà lãnh đạo hành động quyết liệt, nhìn xa trông rộng, đủ sức dẫn dắt Việt Nam vươn mình

Việt Nam và Trung Quốc là hai nước láng giềng có nhiều nét tương đồng về thể chế chính trị, văn hóa-xã hội và tầm nhìn phát triển đất nước, Đại hội XIV và việc Tổng Bí thư Tô Lâm tiếp tục giữ cương vị người đứng đầu của Đảng Cộng sản Việt Nam, nhận được sự quan tâm đặc biệt của dư luận và giới trí thức, học giả Trung Quốc.

Tuyết rơi dày tại New York, Mỹ. (Ảnh: THX/TTXVN)

Mỹ: Bão gây tê liệt giao thông đường bộ và hàng không

Một cơn bão mùa đông mạnh đang càn quét phần lớn nước Mỹ, buộc các hãng hàng không phải hủy hàng nghìn chuyến bay và hoãn hàng trăm chuyến vào ngày 26/1, trong bối cảnh mưa đóng băng và tuyết rơi dày làm gián đoạn hoạt động đi lại và gây rối loạn mạng lưới giao thông.