Cấm sử dụng hệ thống AI tạo nội dung giả mạo gây nguy hại an ninh quốc gia

Luật Trí tuệ nhân tạo vừa được Quốc hội thông qua quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo (AI), trong đó có hành vi sử dụng các hệ thống AI tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Chiều 10/12, Quốc hội đã thông qua Luật Trí tuệ nhân tạo với 429/434 đại biểu có mặt tán thành (bằng 90,7% tổng số đại biểu Quốc hội).

Luật Trí tuệ nhân tạo gồm 8 chương, 35 điều, quy định về nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền, nghĩa vụ của tổ chức, cá nhân có liên quan và quản lý nhà nước đối với các hoạt động trí tuệ nhân tạo tại Việt Nam. Hoạt động trí tuệ nhân tạo chỉ phục vụ cho mục đích quốc phòng, an ninh, cơ yếu không thuộc phạm vi điều chỉnh của Luật này.

ndo_br_ket-qua-luat-tri-tue-nhan-tao.jpg
Kết quả biểu quyết thông qua Luật Trí tuệ nhân tạo. (Ảnh: DUY LINH)

4 nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo

Theo Luật vừa được Quốc hội thông qua, hoạt động trí tuệ nhân tạo phải bảo đảm tuân thủ 4 nguyên tắc cơ bản, gồm:

Lấy con người làm trung tâm, bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống.

Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống.

Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.

Phân loại và quản lý hệ thống AI theo rủi ro

Luật Trí tuệ nhân tạo quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo 3 mức độ rủi ro: cao, trung bình, thấp.

Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

Hệ thống trí tuệ nhân tạo có rủi ro thấp là các hệ thống còn lại.

Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.

ndo_br_bt-nguyen-manh-hung-1.jpg
Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày báo cáo tiếp thu, giải trình, chỉnh lý dự thảo Luật trước khi Quốc hội bấm nút biểu quyết. (Ảnh: DUY LINH)

Các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo

Luật Trí tuệ nhân tạo cũng quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo, cụ thể là:

Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích: thực hiện các hành vi bị nghiêm cấm theo quy định của luật; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người; lợi dụng điểm yếu của nhóm người dễ bị tổn thương, gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác; tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật này.

Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Có thể bạn quan tâm

Hai bên thống nhất đẩy mạnh các chương trình đào tạo và phát triển nguồn nhân lực công nghệ lượng tử chất lượng cao. (Ảnh: MINH DUY)

FPT và Quandela ký kết hợp tác phát triển công nghệ lượng tử

Tối 19/10, tại trụ sở Đại sứ quán Pháp tại Việt Nam, đã diễn ra lễ ký kết Biên bản ghi nhớ hợp tác trong lĩnh vực công nghệ lượng tử giữa Tập đoàn FPT và Công ty Quandela (Pháp). Sự kiện đánh dấu bước tiến quan trọng trong việc cụ thể hóa định hướng hợp tác chiến lược giữa hai quốc gia về khoa học và công nghệ tiên tiến.

Hội thảo do Hội Thông tin khoa học và công nghệ Việt Nam (VASTI) phối hợp cùng Cục Thông tin và Thống kê (NATIS) tổ chức. (Ảnh: HÀ TUẤN)

Thương mại hóa công nghệ sinh học: Cân bằng tiềm năng, lợi nhuận và rủi ro

Nhiều chuyên gia, nhà quản lý đều nhấn mạnh sự cần thiết đẩy mạnh lĩnh vực kinh tế sinh học tại Việt Nam hiện nay. Mô hình tăng trưởng dựa trên thâm dụng vốn, lao động giá rẻ và tài nguyên thô đang dần chạm tới ngưỡng, đòi hỏi phải chuyển dịch mô hình sang chiều sâu, dựa trên tri thức, đổi mới sáng tạo, giá trị gia tăng cao.

Quang cảnh Lễ trao giải cuộc thi chính luận bảo vệ nền tảng tư tưởng của Đảng lần thứ 6. (Ảnh: T.Trang)

Phát huy vai trò của nhà khoa học xã hội và nhân văn trong công tác bảo vệ nền tảng tư tưởng của Đảng

Bằng các bài viết tâm huyết, trách nhiệm, các nhà khoa học xã hội và nhân văn đã sử dụng lý luận khoa học để phản bác các luận điểm sai trái của thế lực thù địch một cách triệt để và thuyết phục, đồng thời tích cực tuyên truyền, giáo dục chính trị, tư tưởng cho cán bộ, đảng viên, đặc biệt là nhà khoa học trẻ.

Lãnh đạo Tỉnh ủy và Ủy ban nhân dân tỉnh Tây Ninh tham quan thiết bị bay không người lái ứng dụng trong sản xuất nông nghiệp. (Ảnh: THANH PHONG)

Tây Ninh tạo đột phá từ khoa học, công nghệ và chuyển đổi xanh

Tây Ninh xác định phát triển khoa học, công nghệ, đổi mới sáng tạo, chuyển đổi số gắn với chuyển đổi xanh, kinh tế tuần hoàn là động lực đổi mới mô hình tăng trưởng, nâng cao năng suất và sức cạnh tranh. Với các giải pháp đồng bộ, Tây Ninh hướng tới mục tiêu phát triển nhanh, bền vững giai đoạn 2025-2030.

Bộ trưởng Éléonore Caroit cùng Đoàn công tác tham quan thực địa khu vực vận hành tổ máy Thủy điện Hòa Bình mở rộng.

Dấu ấn hợp tác Việt Nam-Pháp qua các dự án phát triển tại Hòa Bình

Để đạt được mục tiêu tăng trưởng kinh tế hai con số trong thập kỷ tới mà không đánh đổi môi trường, Việt Nam đứng trước yêu cầu về một hệ thống hạ tầng đảm bảo an ninh năng lượng quốc gia, đủ sức chống chịu trước các kịch bản của khí hậu và phát triển đô thị bền vững.

Hội thảo về bảo vệ quyền sở hữu trí tuệ trên môi trường số do Báo Nhân Dân tổ chức vào tháng 8/2026.

Hoàn thiện cơ chế bảo vệ quyền sở hữu trí tuệ trên môi trường số

Quyết định số 1624/QĐ-TTg của Thủ tướng Chính phủ mới ban hành đặt ra yêu cầu hoàn thiện pháp luật sở hữu trí tuệ, cập nhật những vấn đề mới phát sinh của xu hướng công nghệ hiện đại. Đồng thời, việc bảo vệ quyền được định hướng phải phù hợp với tính chất dân sự của quyền sở hữu trí tuệ.

Triển lãm các kết quả nghiên cứu trong lĩnh vực vật liệu, bán dẫn của Đại học Bách khoa Hà Nội. (Ảnh: HÀ LINH)

Đầu tư phù hợp cho công nghệ chiến lược

Chủ trương phát triển công nghệ chiến lược đang được cụ thể hóa bằng việc hoàn thiện thể chế, xác định các hướng nghiên cứu ưu tiên và phê duyệt các nhiệm vụ công nghệ chiến lược.

Ứng dụng công nghệ số giúp người dân tiếp cận thông tin hiệu quả hơn. (Ảnh: HNV)

Đưa công nghệ và kỹ năng số về tận từng người dân tại địa bàn cơ sở

Theo chân đoàn công tác của Viện Nghiên cứu Truyền thông Phát triển (Red Communication) thuộc Liên hiệp các hội khoa học và kỹ thuật Việt Nam (Vusta) khảo sát thực tế tại Tam Thái (Nghệ An) và Đồng Hới-Phong Nha-Bố Trạch (Quảng Trị), chúng tôi tận mắt chứng kiến sự thay đổi của người dân dưới tác động của công nghệ số hiện nay.

Toàn cảnh buổi lễ Khai giảng. (Ảnh: HV)

Tăng cường đào tạo nghiên cứu sinh ngành Khoa học xã hội và nhân văn

Ngày 17/10 tại Hà Nội, Học viện Khoa học xã hội (Viện Hàn lâm Khoa học xã hội Việt Nam) tổ chức Lễ khai giảng lớp nghiên cứu sinh. Đây là hoạt động thiết thực hướng tới mục tiêu xây dựng đội ngũ nhà nghiên cứu trong lĩnh vực khoa học xã hội và nhân văn có chuyên môn và năng lực đáp ứng nhu cầu của thời đại.

Cán bộ, nhân viên Tập đoàn MISA tích cực nghiên cứu, ứng dụng trí tuệ nhân tạo (AI) vào hoạt động của doanh nghiệp (Ảnh: NGUYÊN TRANG)

Tạo giá trị từ AI

Trí tuệ nhân tạo (AI) đang mở ra những cách thức vận hành mới của doanh nghiệp, giúp rút ngắn thời gian, giảm chi phí và tối ưu nguồn lực. Hiệu quả của AI không chỉ dừng ở mức độ tự động hóa, mà còn có khả năng khắc phục điểm nghẽn và tăng năng suất.

Quang cảnh hội nghị. (Ảnh: Ban tổ chức)

Thúc đẩy nghiên cứu, ứng dụng công nghệ trong cơ khí-động lực

Ngày 18/10, tại Trường đại học Thủy lợi, Hội nghị Khoa học và Công nghệ Cơ khí-Động lực lần thứ XIX năm 2026 chính thức khai mạc, quy tụ các nhà khoa học, chuyên gia, nhà nghiên cứu, giảng viên đến từ 22 trường đại học, viện nghiên cứu, học viện cùng đại diện doanh nghiệp trong lĩnh vực cơ khí-động lực trên cả nước.

Chủ tịch Quốc hội Trần Thanh Mẫn phát biểu tại tổ. (Ảnh: DUY LINH)

Hoàn thiện thể chế bưu chính, đo lường theo hướng quản lý thực chất, hiệu quả

Chủ tịch Quốc hội Trần Thanh Mẫn đề nghị tiếp tục hoàn thiện các dự án Luật Bưu chính (sửa đổi) và Luật sửa đổi, bổ sung một số điều của Luật Đo lường, chú trọng đổi mới phương thức quản lý, nâng cao hiệu quả hậu kiểm, bảo đảm minh bạch cơ chế tài chính công ích, bảo vệ quyền lợi người tiêu dùng và thúc đẩy phát triển bền vững.

Toàn cảnh Hội thảo công bố 3 dự thảo tiêu chuẩn quốc gia về mật mã hậu lượng tử của Ban Cơ yếu Chính phủ Ảnh: MINH DUY

Làm chủ công nghệ lõi mật mã: Ban Cơ yếu Chính phủ công bố 3 dự thảo tiêu chuẩn quốc gia về mật mã hậu lượng tử

Sự phát triển vượt bậc của tính toán lượng tử cùng các thuật toán như Shor và Grover đang đặt các hệ mật mã hiện nay (RSA, ECC) trước nguy cơ bị phá vỡ hoàn toàn. Đặc biệt, chiến lược tấn công “Thu thập trước, giải mã sau” đang trực tiếp đe dọa bí mật quốc gia và an ninh dữ liệu được lưu trữ dài hạn.