Cấm sử dụng hệ thống AI tạo nội dung giả mạo gây nguy hại an ninh quốc gia

Luật Trí tuệ nhân tạo vừa được Quốc hội thông qua quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo (AI), trong đó có hành vi sử dụng các hệ thống AI tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Chiều 10/12, Quốc hội đã thông qua Luật Trí tuệ nhân tạo với 429/434 đại biểu có mặt tán thành (bằng 90,7% tổng số đại biểu Quốc hội).

Luật Trí tuệ nhân tạo gồm 8 chương, 35 điều, quy định về nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền, nghĩa vụ của tổ chức, cá nhân có liên quan và quản lý nhà nước đối với các hoạt động trí tuệ nhân tạo tại Việt Nam. Hoạt động trí tuệ nhân tạo chỉ phục vụ cho mục đích quốc phòng, an ninh, cơ yếu không thuộc phạm vi điều chỉnh của Luật này.

ndo_br_ket-qua-luat-tri-tue-nhan-tao.jpg
Kết quả biểu quyết thông qua Luật Trí tuệ nhân tạo. (Ảnh: DUY LINH)

4 nguyên tắc cơ bản trong hoạt động trí tuệ nhân tạo

Theo Luật vừa được Quốc hội thông qua, hoạt động trí tuệ nhân tạo phải bảo đảm tuân thủ 4 nguyên tắc cơ bản, gồm:

Lấy con người làm trung tâm, bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; tuân thủ Hiến pháp và pháp luật.

Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người. Bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống trí tuệ nhân tạo; an toàn hệ thống, an ninh dữ liệu và bảo mật thông tin; khả năng kiểm tra và giám sát quá trình phát triển và vận hành hệ thống.

Bảo đảm công bằng, minh bạch, không thiên lệch, không phân biệt đối xử và không gây hại cho con người hoặc xã hội; tuân thủ chuẩn mực đạo đức và giá trị văn hóa Việt Nam; thực hiện trách nhiệm giải trình về các quyết định và hệ quả của hệ thống.

Thúc đẩy phát triển trí tuệ nhân tạo xanh, bao trùm và bền vững; khuyến khích phát triển và ứng dụng các công nghệ trí tuệ nhân tạo theo hướng sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm tác động tiêu cực đến môi trường.

Phân loại và quản lý hệ thống AI theo rủi ro

Luật Trí tuệ nhân tạo quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo 3 mức độ rủi ro: cao, trung bình, thấp.

Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

Hệ thống trí tuệ nhân tạo có rủi ro thấp là các hệ thống còn lại.

Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.

ndo_br_bt-nguyen-manh-hung-1.jpg
Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình bày báo cáo tiếp thu, giải trình, chỉnh lý dự thảo Luật trước khi Quốc hội bấm nút biểu quyết. (Ảnh: DUY LINH)

Các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo

Luật Trí tuệ nhân tạo cũng quy định về các hành vi bị nghiêm cấm trong hoạt động trí tuệ nhân tạo, cụ thể là:

Lợi dụng, chiếm đoạt hệ thống trí tuệ nhân tạo để thực hiện hành vi vi phạm pháp luật, xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Phát triển, cung cấp, triển khai hoặc sử dụng các hệ thống trí tuệ nhân tạo nhằm mục đích: thực hiện các hành vi bị nghiêm cấm theo quy định của luật; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người; lợi dụng điểm yếu của nhóm người dễ bị tổn thương, gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác; tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội.

Thu thập, xử lý hoặc sử dụng dữ liệu để phát triển, huấn luyện, kiểm thử hoặc vận hành hệ thống trí tuệ nhân tạo trái với quy định của pháp luật về dữ liệu, bảo vệ dữ liệu cá nhân, sở hữu trí tuệ và an ninh mạng.

Cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo theo quy định của Luật này.

Che giấu thông tin bắt buộc phải công khai, minh bạch hoặc giải trình; tẩy xóa, làm sai lệch các thông tin, nhãn, cảnh báo bắt buộc trong hoạt động trí tuệ nhân tạo.

Lợi dụng hoạt động nghiên cứu, thử nghiệm, đánh giá hoặc kiểm định hệ thống trí tuệ nhân tạo để thực hiện hành vi trái quy định của luật.

Có thể bạn quan tâm

Hội thảo quy tụ khoảng 70 chuyên gia, đại diện các cơ quan quản lý, viện nghiên cứu, doanh nghiệp và tổ chức quốc tế trong lĩnh vực hạt nhân. (Ảnh: TRUNG HƯNG)

Kết nối nguồn lực trí thức người Việt toàn cầu, mở rộng hợp tác phát triển điện hạt nhân

Các chuyên gia cho rằng, những yêu cầu cấp thiết đối với chương trình điện hạt nhân Việt Nam gồm chuẩn bị nguồn nhân lực, tiếp nhận tri thức và kinh nghiệm quốc tế, đồng thời xây dựng những cơ chế hợp tác để nguồn lực trí thức người Việt ở nước ngoài có thể đóng góp hiệu quả cho đất nước.

EVNCPC bảo đảm cung cấp điện an toàn, ổn định, thông suốt trong dịp lễ 2/9.

Ứng dụng khoa học công nghệ vào vận hành lưới điện miền trung

Từ trạm biến áp không người trực, điều khiển xa đến robot giám sát, những giải pháp công nghệ đang từng bước thay đổi việc vận hành, nâng cao năng suất và độ tin cậy cung cấp điện, góp phần cụ thể hóa Nghị quyết 57-NQ/TW của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia.

Các đại biểu thăm Trung tâm dữ liệu của Viettel tại Khu công nghệ cao Láng - Hòa Lạc. (Ảnh: Báo Nhân Dân).

Việt Nam nổi lên như một thị trường dữ liệu có tiềm năng tăng trưởng cao

Ngành trung tâm dữ liệu tại Á-Thái Bình Dương được dự báo sẽ trở thành một trong những nhóm tài sản hạ tầng số lớn nhất thế giới, với tổng giá trị tài sản đang vận hành dự tính vượt 950 tỷ USD vào năm 2030 (theo Cushman & Wakefield). Trong đó, Việt Nam nổi lên như một thị trường dữ liệu có tiềm năng tăng trưởng cao.

Khoa học công nghệ là động lực để phát triển đất nước thời kỳ mới. (Ảnh: Sinh viên Đại học Quốc gia Hà Nội trong giờ học về Trí tuệ nhân tạo (AI)).

Từ độc lập đến hùng cường: Một Việt Nam đứng vững giữa thời đại

Nếu thế hệ cha anh đã anh dũng giành lấy quyền quyết định vận mệnh dân tộc, thì thế hệ hôm nay mang trên vai sứ mệnh xây đắp nội lực để đất nước thực sự làm chủ tương lai của chính mình. Ngày Quốc khánh 2/9 là dịp để chúng ta nhìn lại chặng đường gian lao đã đi qua để soi rọi con đường phía trước.

Chính sách xóa đói giảm nghèo của Chính phủ làm thay đổi tích cực cuộc sống của đồng bào các dân tộc thiểu số.

Chính sách xóa đói giảm nghèo ở Việt Nam qua 40 năm đổi mới

Trong 40 năm qua (1986-2026), cùng với quá trình đổi mới tư duy phát triển và hoàn thiện thể chế kinh tế thị trường định hướng xã hội chủ nghĩa, chính sách xóa đói, giảm nghèo đã có bước chuyển căn bản cả về quan điểm, mục tiêu và phương thức thực hiện.

Cán bộ kỹ thuật VNPT hướng dẫn giáo viên Trường Tiểu học Đại Thịnh (sau sáp nhập) thao tác sử dụng các tính năng của hệ sinh thái giáo dục VnEdu. (Ảnh: VNPT)

Số hóa quản trị trường học sau sáp nhập và lời giải từ VnEdu

Đứng trước bài toán quy mô tăng gấp đôi sau sáp nhập, Trường Tiểu học Đại Thịnh (Mê Linh, Hà Nội) đã nhanh chóng giải tỏa áp lực quản trị và chuẩn hóa dòng dữ liệu “đúng - đủ - sạch - sống” nhờ điểm tựa vững chắc từ Hệ sinh thái giáo dục số VnEdu của VNPT.

OpenAI cắt quyền truy cập mô hình đối với Cursor sau khi SpaceX mua lại

OpenAI cắt quyền truy cập mô hình đối với Cursor sau khi SpaceX mua lại

Ngay sau khi SpaceX hoàn tất thương vụ thâu tóm trị giá 60 tỷ USD đối với Anysphere, công ty chủ quản của công cụ lập trình AI đình đám Cursor, OpenAI đã lập tức tuyên bố trên mạng xã hội X và website chính thức rằng sẽ chấm dứt hợp tác và khóa quyền truy cập trực tiếp của Cursor vào toàn bộ các mô hình trí tuệ nhân tạo của họ.

Giới thiệu sản phẩm ứng dụng AI tại Ngày hội Trí tuệ nhân tạo Việt Nam năm 2025. (Ảnh: HÀ LINH)

Chuyển đổi toàn diện quốc gia bằng trí tuệ nhân tạo

Ngày 28/8/2026, Phó Thủ tướng Hồ Quốc Dũng ký Quyết định số 1671/QĐ-TTg phê duyệt Chiến lược quốc gia về trí tuệ nhân tạo đến năm 2030, tầm nhìn đến năm 2045. Quyết định này thay thế Quyết định số 127/QĐ-TTg ngày 26/1/2021 về ban hành Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng Trí tuệ nhân tạo đến năm 2030.

Đà Nẵng triển khai thành công mô hình Trung tâm điều hành thông minh (IOC).

Nâng cao năng lực số cho cán bộ cơ sở

Trong bối cảnh chuyển đổi số diễn ra mạnh mẽ, năng lực số không còn là kỹ năng bổ trợ, mà đã trở thành một bộ phận thiết yếu của năng lực thực thi công vụ. Đổi mới phương thức đào tạo sẽ giúp nâng cao năng lực số, giảm tình trạng cán bộ cấp cơ sở không đồng đều về năng lực số ở một số địa phương hiện nay.

Các diễn giả chính và thành viên Ban tổ chức hội thảo. (Ảnh: Tuấn Anh)

Gợi mở hướng nghiên cứu, thúc đẩy cơ hội hợp tác mới trong công nghệ giáo dục và trí tuệ nhân tạo

Hội thảo nhằm tạo diễn đàn để các nhà khoa học, chuyên gia và các bên liên quan cùng trao đổi, thảo luận về những thay đổi mà AI đang tạo ra đối với giáo dục, qua đó gợi mở các hướng nghiên cứu và thúc đẩy những cơ hội hợp tác mới trong lĩnh vực công nghệ giáo dục và trí tuệ nhân tạo.

Ông Nguyễn Khắc Lịch, Cục trưởng Cục Công nghệ số và trí tuệ nhân tạo, công bố Giải thưởng tại cuộc họp báo định kỳ của Bộ Khoa học và Công nghệ. (Ảnh: HÀ LINH)

Giải thưởng Make in Vietnam có hạng mục riêng về trí tuệ nhân tạo

Giải thưởng “Sản phẩm công nghệ số Make in Vietnam” năm 2026 lần đầu tiên có hạng mục riêng dành cho sản phẩm trí tuệ nhân tạo (AI) xuất sắc nhằm khuyến khích doanh nghiệp Việt Nam phát triển các sản phẩm trí tuệ nhân tạo có giá trị gia tăng cao, góp phần thúc đẩy hệ sinh thái trí tuệ nhân tạo và nâng cao năng lực cạnh tranh.

Giao diện Cổng thông tin điện tử một cửa về trí tuệ nhân tạo. (Ảnh chụp màn hình)

Vận hành Cổng thông tin điện tử một cửa về trí tuệ nhân tạo

Cổng thông tin điện tử một cửa về trí tuệ nhân tạo (AI) và cơ sở dữ liệu quốc gia về hệ thống trí tuệ nhân tạo đã được Bộ Khoa học và Công nghệ đưa vào vận hành, hình thành một đầu mối thống nhất phục vụ quản lý nhà nước, cung cấp thông tin và hỗ trợ phát triển hệ sinh thái trí tuệ nhân tạo Việt Nam an toàn, có trách nhiệm.

Robot taxi tự hành do Công ty cổ phần Phenikaa-X nghiên cứu phát triển là một trong bốn dòng phương tiện được thử nghiệm.

Kiến tạo môi trường để công nghệ được thử nghiệm

Việc Công ty cổ phần Phenikaa-X là đơn vị đầu tiên tại Hà Nội triển khai thử nghiệm có kiểm soát (sandbox) đối với phương tiện tự hành đánh dấu bước chuyển từ nghiên cứu, phát triển công nghệ sang kiểm chứng trong thực tế, từ quản lý công nghệ mới sang kiến tạo môi trường để công nghệ được thử nghiệm và đưa vào thực tiễn.

Doanh nghiệp tìm hiểu giải pháp hạ tầng trung tâm dữ liệu tại DCCI Summit 2026 (Ảnh Viettel IDC)

Khơi thông dòng chảy dữ liệu

Việt Nam đang từng bước hình thành không gian dữ liệu thống nhất, mở rộng khả năng kết nối, chia sẻ và đưa dữ liệu vào lưu thông.