Cấm sử dụng hệ thống AI tạo nội dung giả mạo gây nguy hại an ninh quốc gia

Luật Trí tuệ nhân tạo vừa được Quốc hội thông qua quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo (AI), trong đó có hành vi sử dụng các hệ thống AI tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Chiều 10/12, Quốc hội đã thông qua Luật Trí tuệ nhân tạo với 429/434 đại biểu có mặt tán thành (bằng 90,7% tổng số đại biểu Quốc hội).

Luật Trí tuệ nhân tạo gồm 8 chương, 35 điều, quy định về nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền, nghĩa vụ của tổ chức, cá nhân có liên quan và quản lý nhà nước đối với các hoạt động trí tuệ nhân tạo tại Việt Nam. Hoạt động trí tuệ nhân tạo chỉ phục vụ cho mục đích quốc phòng, an ninh, cơ yếu không thuộc phạm vi điều chỉnh của Luật này.

ndo_br_ket-qua-luat-tri-tue-nhan-tao.jpg
Kết quả biểu quyết thông qua Luật Trí tuệ nhân tạo. (Ảnh: DUY LINH)

4 nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo

Theo Luật vừa được Quốc hội thông qua, hoạt động trí tuệ nhân tạo phải bảo đảm tuân thủ 4 nguyên tắc cơ bản, gồm:

Lấy con người làm trung tâm, bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống.

Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống.

Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.

Phân loại và quản lý hệ thống AI theo rủi ro

Luật Trí tuệ nhân tạo quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo 3 mức độ rủi ro: cao, trung bình, thấp.

Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

Hệ thống trí tuệ nhân tạo có rủi ro thấp là các hệ thống còn lại.

Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.

ndo_br_bt-nguyen-manh-hung-1.jpg
Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày báo cáo tiếp thu, giải trình, chỉnh lý dự thảo Luật trước khi Quốc hội bấm nút biểu quyết. (Ảnh: DUY LINH)

Các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo

Luật Trí tuệ nhân tạo cũng quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo, cụ thể là:

Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích: thực hiện các hành vi bị nghiêm cấm theo quy định của luật; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người; lợi dụng điểm yếu của nhóm người dễ bị tổn thương, gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác; tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật này.

Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Có thể bạn quan tâm

Ban tổ chức trao giải nhất quốc gia tặng 6 thành viên Đội tuyển MOS Việt Nam năm 2026 tại buổi lễ. (Ảnh: BTC cung cấp)

6 bạn trẻ đại diện Việt Nam dự chung kết tin học văn phòng thế giới tại Hoa Kỳ

Chiều 13/7, tại Hà Nội, Trung ương Đoàn, Tổ chức Giáo dục IIG Việt Nam tổ chức Lễ tổng kết và trao giải quốc gia Cuộc thi Vô địch tin học văn phòng thế giới (MOSWC) năm 2026. Ban tổ chức đã tuyên dương 161 cá nhân, tập thể xuất sắc và công bố 6 Đại sứ MOS Việt Nam dự chung kết thế giới tại Hoa Kỳ cuối tháng 7 tới đây.

Các đối tượng lừa đảo thường giả mạo ứng dụng của cơ quan nhà nước và ngân hàng để dụ người dân cài đặt mã độc, chiếm đoạt tài sản.

Lừa đảo núp bóng dịch vụ công trực tuyến

Mạo danh cơ quan công an, ngân hàng, Bảo hiểm xã hội (BHXH) để yêu cầu người dân cài đặt ứng dụng là một trong những thủ đoạn lừa đảo công nghệ cao đang diễn biến phức tạp. Chỉ sau vài phút làm theo hướng dẫn, nhiều nạn nhân đã bị chiếm quyền điều khiển điện thoại và mất toàn bộ tiền trong tài khoản.

Cán bộ hướng dẫn người dân làm thủ tục hành chính tại Điểm phục vụ hành chính công phường Đống Đa (Thành phố Hà Nội). (Ảnh: THẾ ĐẠI)

Phát huy nguồn lực dữ liệu trong đổi mới mô hình tăng trưởng

Sự bùng nổ của công nghệ số, trí tuệ nhân tạo (AI) và các nền tảng liên quan đã khiến dữ liệu trở thành một nguồn lực chiến lược. Khi nước ta chuyển sang mô hình tăng trưởng dựa trên năng suất, đổi mới sáng tạo và chuyển đổi số, dữ liệu giữ vai trò trung tâm, kết nối công nghệ, tri thức và quản trị.

Đội thi Trung tâm 186 tham gia cuộc thi Chiến binh mạng đa quốc gia tại Thái Lan.

Khi tri thức trở thành sức mạnh chiến đấu

Tại Bộ Tư lệnh Tác chiến không gian mạng, những đề tài nghiên cứu không nằm yên trên giá sách. Chúng được đưa thẳng vào huấn luyện, vào thực chiến và đang dần trở thành một thứ vũ khí thật sự, mở ra một hướng phát triển mới trong xây dựng quân đội chính quy, tinh nhuệ, hiện đại.

Sản xuất AI Camera của MK Vision tại Khu công nghiệp Thăng Long Vĩnh Phúc, Bình Xuyên, tỉnh Phú Thọ.

Khơi thông nguồn lực thúc đẩy công nghệ chiến lược

Nghị quyết số 57-NQ/TW đang tạo động lực thúc đẩy phát triển các công nghệ chiến lược, với nhiều lĩnh vực như trí tuệ nhân tạo (AI), robot, thiết bị bay không người lái (UAV) hay công nghệ sinh học đã sẵn sàng bước vào giai đoạn ứng dụng. Song để tạo đột phá, Việt Nam vẫn cần khơi thông các nút thắt về thể chế...

Nhân viên Công ty cổ phần Truyền thông Luật Việt Nam sử dụng nền tảng ứng dụng AI hỗ trợ tra cứu, phân tích và rà soát pháp lý.

AI hỗ trợ rà soát pháp lý

Ứng dụng trí tuệ nhân tạo (AI) trong rà soát pháp lý đang trở thành xu hướng tại nhiều cơ quan, doanh nghiệp. Không chỉ giúp rút ngắn thời gian tra cứu, đối chiếu, công nghệ này còn hỗ trợ phát hiện sớm những nội dung mâu thuẫn, chồng chéo, nâng cao chất lượng văn bản và hiệu quả tuân thủ pháp luật.

Sử dụng drone phun thuốc bảo vệ thực vật cho lúa tại Công ty cổ phần thiết bị bay AgriDrone Việt Nam. (Ảnh AgriDrone Việt Nam)

Tối ưu hóa hiệu quả thiết bị không người lái trong nông nghiệp

Việc ứng dụng thiết bị không người lái (drone/UAV) trong sản xuất nông nghiệp tại Việt Nam đang có bước phát triển nhanh, từng bước chuyển từ thí điểm sang ứng dụng thực tiễn trên diện rộng. Điều này đặt ra yêu cầu xây dựng một giải pháp đồng bộ giữa sản phẩm, thiết bị và quy trình sử dụng nhằm tối ưu hóa hiệu quả của drone.

Hệ thống phòng thí nghiệm hiện đại của Trường đại học Khoa học Tự nhiên (Đại học Quốc gia Hà Nội) phục vụ đào tạo và nghiên cứu công nghệ bán dẫn. (Ảnh VNU)

Khoa học cơ bản và năng lực tự chủ quốc gia

Trong cuộc cạnh tranh công nghệ toàn cầu, khoa học cơ bản ngày càng trở thành nền tảng của công nghệ lõi và năng lực tự chủ quốc gia. Tuy nhiên, để tri thức khoa học thật sự chuyển hóa thành sức cạnh tranh, yêu cầu đặt ra là xây dựng một hệ sinh thái nghiên cứu có chiều sâu...

Sản phẩm nghi vấn giả mạo nhãn hiệu nổi tiếng của Công ty trách nhiệm hữu hạn Thương mại và xuất nhập khẩu Lộc Thành bị Hải quan cửa khẩu quốc tế Bình Hiệp (tỉnh Tây Ninh) thu giữ.

Ngăn chặn các hành vi xâm phạm quyền sở hữu trí tuệ

Công tác chống xâm phạm quyền sở hữu trí tuệ hiện nay không còn đơn thuần chỉ bảo vệ một nhãn hiệu mà là câu chuyện bảo vệ năng lực cạnh tranh quốc gia, an ninh kinh tế trong thời đại mà giá trị của nền kinh tế tập trung ở trí tuệ, dữ liệu và sáng tạo.

Lãnh đạo Ủy ban nhân dân tỉnh Khánh Hòa cùng lãnh đạo Tổng Công ty Bưu điện Việt Nam thực hiện nghi thức ký kết thỏa thuận hợp tác. (ảnh: NGUYỄN TRUNG)

Phát huy hạ tầng bưu chính, tạo động lực mới cho chuyển đổi số, cải cách hành chính ở Khánh Hòa

Ngày 10/7, tại Nha Trang, Ủy ban nhân dân tỉnh Khánh Hòa và Tổng Công ty Bưu điện Việt Nam đã ký kết thỏa thuận hợp tác giai đoạn 2026-2030, mở ra bước phát triển mới trong việc khai thác đồng bộ hạ tầng bưu chính phục vụ cải cách hành chính, chuyển đổi số, thương mại điện tử, logistics và các dịch vụ công ích trên địa bàn tỉnh.

Toàn cảnh hội thảo. (Ảnh: BÍCH LIÊN)

Đề xuất đãi ngộ 300 triệu đồng/tháng cho Tổng công trình sư

Dự thảo Thông tư quy định cơ chế tài chính đối với nhiệm vụ phát triển công nghệ chiến lược đề xuất mức thu nhập tối đa 300 triệu đồng/tháng đối với Tổng công trình sư. Đây được xem là bước đi đột phá nhằm xây dựng cơ chế đãi ngộ đủ sức cạnh tranh để thu hút, giữ chân nhân tài, từng bước làm chủ các công nghệ chiến lược.

Các học viên thực hành khai thác và phân tích dữ liệu mở của NASA dưới sự hướng dẫn của cố vấn.

Khơi dậy tư duy khoa học cho học sinh từ dữ liệu mở của NASA

Ngày 8/7, Trại hè Khám phá dữ liệu mở 2026 (NASA Open Data Camp 2026) khai mạc tại Trung tâm Hoa Kỳ Hà Nội, mang đến cơ hội để 80 học sinh từ 14 đến 17 tuổi tiếp cận với nguồndữ liệu mở của Cơ quan hàng không và vũ trụ Hoa Kỳ (NASA), đồng thời rèn luyện tư duy khoa học và kỹ năng giải quyết vấn đề dựa trên dữ liệu.