Cấm sử dụng hệ thống AI tạo nội dung giả mạo gây nguy hại an ninh quốc gia

Luật Trí tuệ nhân tạo vừa được Quốc hội thông qua quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo (AI), trong đó có hành vi sử dụng các hệ thống AI tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Chiều 10/12, Quốc hội đã thông qua Luật Trí tuệ nhân tạo với 429/434 đại biểu có mặt tán thành (bằng 90,7% tổng số đại biểu Quốc hội).

Luật Trí tuệ nhân tạo gồm 8 chương, 35 điều, quy định về nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền, nghĩa vụ của tổ chức, cá nhân có liên quan và quản lý nhà nước đối với các hoạt động trí tuệ nhân tạo tại Việt Nam. Hoạt động trí tuệ nhân tạo chỉ phục vụ cho mục đích quốc phòng, an ninh, cơ yếu không thuộc phạm vi điều chỉnh của Luật này.

ndo_br_ket-qua-luat-tri-tue-nhan-tao.jpg
Kết quả biểu quyết thông qua Luật Trí tuệ nhân tạo. (Ảnh: DUY LINH)

4 nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo

Theo Luật vừa được Quốc hội thông qua, hoạt động trí tuệ nhân tạo phải bảo đảm tuân thủ 4 nguyên tắc cơ bản, gồm:

Lấy con người làm trung tâm, bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống.

Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống.

Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.

Phân loại và quản lý hệ thống AI theo rủi ro

Luật Trí tuệ nhân tạo quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo 3 mức độ rủi ro: cao, trung bình, thấp.

Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

Hệ thống trí tuệ nhân tạo có rủi ro thấp là các hệ thống còn lại.

Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.

ndo_br_bt-nguyen-manh-hung-1.jpg
Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày báo cáo tiếp thu, giải trình, chỉnh lý dự thảo Luật trước khi Quốc hội bấm nút biểu quyết. (Ảnh: DUY LINH)

Các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo

Luật Trí tuệ nhân tạo cũng quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo, cụ thể là:

Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích: thực hiện các hành vi bị nghiêm cấm theo quy định của luật; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người; lợi dụng điểm yếu của nhóm người dễ bị tổn thương, gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác; tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật này.

Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Có thể bạn quan tâm

[Infographic] Xu hướng vi phạm và các phương thức, thủ đoạn mới trong lĩnh vực sở hữu trí tuệ

[Infographic] Xu hướng vi phạm và các phương thức, thủ đoạn mới trong lĩnh vực sở hữu trí tuệ

Trong bối cảnh chuyển đổi số diễn ra mạnh mẽ, các hành vi vi phạm quyền sở hữu trí tuệ đang có xu hướng gia tăng với nhiều phương thức, thủ đoạn ngày càng tinh vi, gây nhiều khó khăn cho công tác phát hiện, xử lý và bảo vệ quyền lợi người tiêu dùng cũng như môi trường cạnh tranh lành mạnh.

Lãnh đạo Viện Hàn lâm Khoa học và Công nghệ Việt Nam cùng các nhà khoa học Liên bang Nga khảo sát, thu thập dữ liệu nghiên cứu về Biển Đông. (Ảnh: HIẾU LIÊN)

Tạo dữ liệu DNA, thúc đẩy công nghệ sinh học biển

Trong bối cảnh nhiều quốc gia đang đầu tư mạnh mẽ vào các cơ sở dữ liệu sinh học biển và nguồn gene bản địa, việc hình thành cơ sở dữ liệu DNA cho sinh vật biển Việt Nam là bước đi quan trọng nhằm nâng cao năng lực nghiên cứu khoa học cơ bản, đồng thời tạo nền tảng cho hướng nghiên cứu liên ngành.

[Video] Còn khoảng 34 triệu thuê bao chưa xác nhận chính chủ

[Video] Còn khoảng 34 triệu thuê bao chưa xác nhận chính chủ

Theo Bộ Khoa học và Công nghệ, việc triển khai Thông tư 08/2026 hướng dẫn việc xác thực thông tin thuê bao di động mặt đất trong tháng 4 vừa qua đã phát hiện có gần 900.000 thuê bao không chính chủ, 60 triệu thuê bao đã xác nhận sử dụng chính chủ và còn khoảng 34 triệu thuê bao vẫn chưa xác nhận.

Lựa chọn ngành nghề ban đầu với học sinh trung học phổ thông có thể đúng, nhưng không còn đủ để định hình một hành trình nghề nghiệp dài hạn.

Chọn nghề giữa làn sóng AI

Trí tuệ nhân tạo (AI) đã và đang tạo nên những đổi thay mạnh mẽ ở các ngành nghề, trong khi hệ thống giáo dục, đào tạo nghề ở nước ta cũng đang bước vào một giai đoạn cấu trúc lại. Hai “làn sóng” ấy ảnh hưởng không nhỏ đến cách vận hành của thị trường lao động, đặt người học trước nhiều lựa chọn mới và không ngừng biến đổi.

Công tác dự báo và cảnh báo sớm chính là “tuyến phòng thủ” đầu tiên, giữ vai trò quyết định trong bảo vệ tính mạng người dân và tài sản. (Ảnh: TRỌNG TÙNG)

Rút ngắn thời gian phản ứng với thiên tai

Việc cảnh báo thiên tai sẽ chỉ thật sự hiệu quả khi thông tin nguy hiểm đến đúng người, đúng nơi và đúng thời điểm. Các mô hình tháp báo lũ thông minh và mạng quan trắc tự động đang giúp việc đưa dữ liệu về ngập lụt tới cộng đồng nhanh hơn, rút ngắn thời gian phản ứng của người dân khi thiên tai xảy ra.

Tiến sĩ Lê Xuân Huy, Phó Tổng Giám đốc VNSC và ông Yasuo Ishii, Phó Chủ tịch cấp cao JAXA trao thỏa thuận hợp tác. (Ảnh: VNSC)

Trung tâm Vũ trụ Việt Nam ký thỏa thuận hợp tác với Cơ quan Hàng không Vũ trụ Nhật Bản

Ngày 2/5, tại Hà Nội, lãnh đạo Trung tâm Vũ trụ Việt Nam (VNSC) và lãnh đạo Cơ quan Hàng không vũ trụ Nhật Bản (JAXA) đã ký kết, trao đổi “Văn bản Sửa đổi thỏa thuận giữa Trung tâm Vũ trụ Việt Nam, Viện Hàn lâm Khoa học và Công nghệ Việt Nam với Cơ quan Hàng không vũ trụ Nhật Bản về trao đổi dữ liệu vệ tinh”.

Phối cảnh công trình biểu tượng bông lúa Cà Mau.

Giá trị văn hóa từ "Biểu tượng bông lúa" ở Cà Mau

Sự phát triển của một địa phương trong kỷ nguyên mới không chỉ được đong đếm một cách cơ học bằng những con đường rải nhựa, hay những cây cầu bê-tông nối nhịp đôi bờ. Tầm vóc và sức sống của một vùng đất còn được khắc họa đậm nét qua những biểu tượng văn hóa mang tầm nhìn chiến lược.

Đào tạo an ninh mạng tại CyRadar giúp doanh nghiệp nâng cao năng lực phòng thủ.

Tăng năng lực phòng vệ của doanh nghiệp

Chuyển đổi số đang mở ra nhiều cơ hội tăng trưởng cho doanh nghiệp Việt Nam nhưng cũng kéo theo những rủi ro an ninh mạng phức tạp. Khi dữ liệu trở thành tài sản chiến lược, khả năng bảo vệ hệ thống và thông tin không còn là vấn đề kỹ thuật mà trở thành năng lực phòng vệ quan trọng đối với mỗi doanh nghiệp.

Hoạt động nghiên cứu tại Phòng Thí nghiệm trọng điểm Công nghệ Lọc, Hóa dầu (Viện Hóa học công nghiệp Việt Nam).

Đầu tư hạ tầng nghiên cứu cho công nghệ chiến lược

Phát triển hệ thống phòng thí nghiệm trọng điểm quốc gia là một trong những giải pháp để hiện thực hóa mục tiêu đột phá về khoa học, công nghệ và đổi mới sáng tạo theo Nghị quyết 57-NQ/TW. Thực trạng lạc hậu về công nghệ đặt ra yêu cầu cấp thiết phải tổ chức lại hạ tầng nghiên cứu theo hướng tập trung, đồng bộ và hiệu quả.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an thành phố Đà Nẵng đấu tranh tội phạm trên không gian mạng. (Ảnh: Công Vinh)

Nâng cao ý thức làm chủ, bảo vệ không gian mạng

Tại Hội nghị Trung ương 2 khóa XIV, Tổng Bí thư Tô Lâm tiếp tục khẳng định chủ trương của Đảng về bảo đảm quốc phòng, an ninh, đối ngoại, hội nhập quốc tế trong giai đoạn mới, khi nhấn mạnh yêu cầu: Tự chủ chiến lược, có năng lực kiểm soát rủi ro, có thể chế vững, có trật tự xã hội ổn định, có sự hội nhập quốc tế sâu rộng...

UAV được thử nghiệm phun thuốc cho cây cà-phê tại xã Mường Ảng, tỉnh Điện Biên.

Cơ chế sandbox đã sang giai đoạn triển khai thực tế

Bộ Khoa học và Công nghệ cho biết, bên cạnh chuẩn bị cấp phép mô hình thử nghiệm có kiểm soát đầu tiên về phát triển kinh tế tầm thấp, ứng dụng phương tiện bay không người lái (UAV) tại tỉnh Điện Biên, một số địa phương, doanh nghiệp cũng bày tỏ quan tâm đến việc triển khai thử nghiệm mô hình sandbox.