Cá nhân vi phạm quy định về AI có thể bị phạt đến 1 tỷ đồng

Dự thảo Luật Trí tuệ nhân tạo quy định chế tài xử lý vi phạm và trách nhiệm bồi thường thiệt hại trong hoạt động trí tuệ nhân tạo (AI), với mức phạt tiền đối với vi phạm hành chính có thể lên tới 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân.

Tiếp tục Kỳ họp thứ 10, sáng 21/11, Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng, thừa ủy quyền của Thủ tướng Chính phủ trình bày Tờ trình về dự án Luật Trí tuệ nhân tạo.

Dự thảo luật gồm 8 chương, 36 điều quy định về thúc đẩy hoạt động nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo; quyền, nghĩa vụ của tổ chức, cá nhân liên quan; quản lý nhà nước đối với hoạt động trí tuệ nhân tạo tại Việt Nam.

Phân loại và quản lý trí tuệ nhân tạo theo rủi ro

Luật Trí tuệ nhân tạo đặt con người làm trung tâm với nguyên tắc tối cao là trí tuệ nhân tạo (AI) phục vụ con người, không thay thế con người, con người giám sát trí tuệ nhân tạo ở những quyết định trọng yếu; trí tuệ nhân tạo phải minh bạch, trách nhiệm và an toàn...

Về các nội dung cơ bản, Bộ trưởng Nguyễn Mạnh Hùng cho biết, dự thảo Luật Trí tuệ nhân tạo quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo rủi ro.

Theo đó, hệ thống trí tuệ nhân tạo được phân loại theo 4 mức độ rủi ro, bao gồm: Rủi ro không chấp nhận được (hệ thống có khả năng gây tổn hại nghiêm trọng, không thể khắc phục); Rủi ro cao (hệ thống có thể gây thiệt hại đến tính mạng, sức khỏe, quyền, lợi ích hợp pháp); Rủi ro trung bình (hệ thống có nguy cơ gây nhầm lẫn, thao túng hoặc lừa dối người sử dụng); Rủi ro thấp (các trường hợp còn lại).

ndo_br_img-20251121-085947.jpg
Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng. (Ảnh: DUY LINH)

Nhà cung cấp phải tự phân loại hệ thống trước khi lưu hành và chịu trách nhiệm về kết quả phân loại. Đối với hệ thống rủi ro trung bình và cao, nhà cung cấp phải thông báo cho Bộ Khoa học và Công nghệ qua Cổng thông tin một cửa. Cơ quan có thẩm quyền được quyền kiểm tra, đánh giá lại việc phân loại.

Ngoài ra, dự thảo Luật cũng quy định trách nhiệm minh bạch, gắn nhãn và giải trình. Cụ thể, bên triển khai phải thông báo rõ và gắn nhãn đối với nội dung tạo ra hoặc chỉnh sửa có yếu tố giả mạo, mô phỏng người thật (deepfake) có thể gây hiểu lầm, hoặc nội dung do trí tuệ nhân tạo tạo ra nhằm mục đích truyền thông, quảng cáo.

Về quản lý theo rủi ro, hệ thống có mức độ rủi ro không chấp nhận được bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới bất kỳ hình thức nào. Danh mục cấm bao gồm hệ thống dùng cho hành vi bị pháp luật nghiêm cấm, sử dụng yếu tố giả mạo để lừa dối, thao túng gây tổn hại nghiêm trọng, lợi dụng điểm yếu của nhóm người dễ bị tổn thương (trẻ em, người cao tuổi...), hoặc tạo nội dung giả mạo gây nguy hại nghiêm trọng đến an ninh quốc gia.

Hệ thống rủi ro cao phải được đánh giá sự phù hợp trước khi lưu hành hoặc đưa vào sử dụng. Việc đánh giá có thể theo hình thức chứng nhận sự phù hợp (do tổ chức được chỉ định thực hiện) hoặc giám sát sự phù hợp (nhà cung cấp tự đánh giá). Thủ tướng Chính phủ quy định Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao tương ứng với từng hình thức đánh giá.

Hệ thống rủi ro trung bình phải bảo đảm minh bạch, gắn nhãn.

Phạt đến 2% doanh thu của năm trước liền kề của tổ chức nếu vi phạm nghiêm trọng

Về thanh tra, kiểm tra và xử lý vi phạm, dự thảo Luật quy định các cơ chế giám sát, chế tài xử lý và trách nhiệm bồi thường thiệt hại.

Theo đó, cơ quan quản lý nhà nước có trách nhiệm kiểm tra việc tuân thủ pháp luật về trí tuệ nhân tạo. Khi có yêu cầu thanh tra, kiểm tra (hoặc yêu cầu của Tòa án, Trọng tài), các bên liên quan có nghĩa vụ cung cấp hồ sơ kỹ thuật, nhật ký lưu vết và dữ liệu huấn luyện để xác định nguyên nhân vi phạm hoặc phân định trách nhiệm.

Việc cung cấp thông tin này phải tuân thủ quy định về bảo vệ bí mật nhà nước, bí mật kinh doanh và dữ liệu cá nhân. Kết luận thanh tra và quyết định xử lý vi phạm phải được công khai trên Cổng thông tin điện tử một cửa, trừ các nội dung thuộc bí mật.

ndo_br_img-20251121-085948.jpg
Quang cảnh phiên họp sáng 21/11. (Ảnh: DUY LINH)

Bộ trưởng Nguyễn Mạnh Hùng cũng nêu rõ, tổ chức, cá nhân vi phạm quy định của Luật này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Nội dung then chốt là thiệt hại do hệ thống trí tuệ nhân tạo có rủi ro cao gây ra được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra. Theo đó, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự.

Trường hợp nhiều chủ thể cùng tham gia (phát triển, cung cấp, triển khai) thì phải liên đới bồi thường; trách nhiệm bồi thường được xác định dựa trên mức độ kiểm soát thực tế, khả năng dự báo và các biện pháp quản lý rủi ro mà mỗi bên đã áp dụng.

Chính phủ đề xuất mức phạt tiền tối đa đối với vi phạm hành chính về trí tuệ nhân tạo là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó.

Ngoài các nội dung trên, dự thảo Luật Trí tuệ nhân tạo còn quy định về phát triển hạ tầng và bảo đảm chủ quyền trí tuệ nhân tạo quốc gia; ứng dụng trí tuệ nhân tạo, phát triển hệ sinh thái đổi mới sáng tạo và nguồn nhân lực; quản lý nhà nước về trí tuệ nhân tạo; và đặc biệt là đạo đức và trách nhiệm trong hoạt động trí tuệ nhân tạo.

Cụ thể, theo dự thảo Luật, Chính phủ được giao ban hành Khung đạo đức Trí tuệ nhân tạo quốc gia trên cơ sở các nguyên tắc bảo đảm an toàn, không gây hại bảo đảm tiếp cận bình đẳng và thúc đẩy hạnh phúc con người. Khung này được rà soát và cập nhật định kỳ tối thiểu 3 năm một lần.

Có thể bạn quan tâm

Bên lề Đại hội, các đại biểu tham quan gian hàng của Công ty cổ phần Khoa học công nghệ Việt Nam (Busadco).

Doanh nghiệp khoa học-công nghệ: Củng cố nội lực để bứt phá

Trong bối cảnh đất nước bước vào kỷ nguyên kinh tế tri thức, với những đột phá mạnh mẽ về trí tuệ nhân tạo, chuyển đổi số và chuyển đổi xanh, cộng đồng doanh nghiệp khoa học-công nghệ đang đứng trước yêu cầu phải đổi mới tư duy, tái cấu trúc nguồn lực và đầu tư chiều sâu để tạo ra năng lực cạnh tranh mới.

[Video] Việt Nam tiên phong xây dựng khung pháp lý cho trí tuệ nhân tạo

[Video] Việt Nam tiên phong xây dựng khung pháp lý cho trí tuệ nhân tạo

Dự thảo Luật Trí tuệ nhân tạo không chỉ là khung pháp lý cho một công nghệ mới mà là bước đi chiến lược giúp Việt Nam chủ động nắm bắt cơ hội của kỷ nguyên số. Khi được ban hành, luật sẽ tạo nền tảng để AI phát triển an toàn nhân văn và hiệu quả, góp phần nâng cao năng lực cạnh tranh quốc gia và thúc đẩy đổi mới sáng tạo.

Các diễn giả trao đổi tại Diễn đàn. (Ảnh: Ủy ban Nhà nước về người Việt Nam ở nước ngoài)

Thúc đẩy hợp tác khoa học-công nghệ, kinh tế xanh và chuyển đổi số vì tương lai bền vững

Diễn đàn Tây Australia -Việt Nam “Tăng cường hợp tác khoa học và công nghệ vì tương lai bền vững” là cơ hội để lãnh đạo, chuyên gia, doanh nghiệp Việt Nam và Australia chia sẻ tầm nhìn, tăng cường hiểu biết và thúc đẩy hợp tác trong các lĩnh vực khoa học-công nghệ, kinh tế xanh, năng lượng tái tạo và chuyển đổi số.

Toàn cảnh tọa đàm.

Những nghiên cứu mới hỗ trợ ngành nông nghiệp giảm phát thải, chăn nuôi bền vững

Các giải pháp đổi mới trong nông nghiệp và chăn nuôi bền vững, bao gồm việc áp dụng công nghệ gene, hệ vi sinh vật, nông nghiệp chính xác, AI và IoT để cải thiện năng suất, giảm hóa chất và phát thải, nâng cao khả năng chống chịu với biến đổi khí hậu vừa được giới thiệu tại tọa đàm “Đổi mới trong nông nghiệp và thực phẩm”.

Lễ khai mạc triển lãm “Tỏa V-Điểm chạm khoa học”.

Chín nghệ sĩ tiêu biểu của nghệ thuật đương đại Việt Nam trưng bày tác phẩm tại triển lãm "Tỏa V-Điểm chạm khoa học"

Triển lãm “Tỏa V-Điểm chạm khoa học” tôn vinh những thành tựu khoa học và ứng dụng sáng tạo vì sự phát triển bền vững và tương lai của nhân loại. Sự kiện nghệ thuật đặc biệt đánh dấu cột mốc kỷ niệm 5 năm Giải thưởng VinFuture cũng như 5 mùa triển lãm "Tỏa" của VCCA.

Lãnh đạo Thành phố Hồ Chí Minh chụp hình lưu niệm cùng các đại biểu dự hội nghị.

Khai mạc Hội nghị thượng đỉnh toàn cầu Diễn đàn cộng đồng thông minh thế giới 2025

Sáng 3/12, tại phường Bình Dương (Thành phố Hồ Chí Minh), đã diễn ra Lễ khai mạc Hội nghị thượng đỉnh toàn cầu Diễn đàn cộng đồng thông minh thế giới (ICF Global Summit 2025) do Ủy ban nhân dân Thành phố Hồ Chí Minh phối hợp Diễn đàn cộng đồng thông minh thế giới (ICF) và Tập đoàn Becamex đăng cai tổ chức.

Quỹ VinFuture tổ chức Tọa đàm với chủ đề “Bước tiến trong phát hiện, chẩn đoán và điều trị bệnh” sáng 3/12.

Đột phá công nghệ trong y học: Cơ hội để Việt Nam hợp tác và bứt phá

Tọa đàm với chủ đề “Bước tiến trong phát hiện, chẩn đoán và điều trị bệnh” sáng 3/12 là cơ hội cho Việt Nam giới thiệu công nghệ y tế vật liệu in 3D, cũng như tăng cơ hội hợp tác với các chuyên gia hàng đầu thế giới nghiên cứu về công nghệ y tế, mang lại cơ hội điều trị tốt nhất cho người bệnh.