Liên hợp quốc cảnh báo các biện pháp bảo vệ đối với tác nhân AI còn bộc lộ hạn chế

Ngày 21/9, Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) do Liên hợp quốc điều phối đã cảnh báo rằng các biện pháp bảo vệ truyền thống đối với các tác nhân AI đang dần bộc lộ những hạn chế.

Trí tuệ nhân tạo hiện đang cách mạng hóa ngành công nghiệp điện thoại thông minh. (Ảnh: Liên hợp quốc)
Trí tuệ nhân tạo hiện đang cách mạng hóa ngành công nghiệp điện thoại thông minh. (Ảnh: Liên hợp quốc)

Cảnh báo của Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) được đưa ra sau vụ tấn công mạng vào nền tảng trực tuyến HuggingFace hồi tháng 7 bởi các tác nhân AI trong một cuộc thử nghiệm do công ty mẹ của ứng dụng trí tuệ nhân tạo ChatGPT, OpenAI tiến hành.

Khác với chatbot, các tác nhân AI là phần mềm có khả năng thực hiện các nhiệm vụ một cách độc lập và thay mặt người dùng.

Ban điều tra kết luận rằng vụ vi phạm an ninh là kết quả của việc còn tồn tại nhiều yếu tố rủi ro, làm dấy lên lo ngại rằng một ngày nào đó con người sẽ không còn khả năng điều khiển, hạn chế hoặc ngăn chặn trí tuệ nhân tạo.

Đặc biệt, những hệ thống AI ngày càng có năng lực cao hơn, khó giám sát hơn và có khả năng tìm ra các kẽ hở hoặc che giấu hoạt động của mình tốt hơn.

Đồng Chủ tịch Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) Yoshua Bengio cho biết: Các nhà nghiên cứu từ lâu đã cảnh báo rằng ba điều kiện có thể dẫn tới việc con người mất khả năng kiểm soát AI, gồm mục tiêu không phù hợp với ý định của con người, khả năng theo đuổi mục tiêu đó và một môi trường cho phép AI thực hiện mục tiêu.

Theo ông Yoshua Bengio, “trong thời gian thử nghiệm qua, cả ba điều kiện này đã xuất hiện cùng lúc trong một hệ thống thực tế, thay vì chỉ được quan sát trong môi trường phòng thí nghiệm”.

Các chuyên gia của IPAI nhấn mạnh sự cố trên không thể được xem là bằng chứng cho thấy con người đã có thể kiểm soát một cách đáng tin cậy các tác nhân AI. Ngược lại, khi những hệ thống này ngày càng mạnh hơn, khó theo dõi hơn và có khả năng tìm ra các kẽ hở hoặc che giấu hoạt động tốt hơn, nguy cơ mất kiểm soát có thể trở nên đáng quan tâm hơn.

Theo Ủy ban, bài học từ sự cố giữa OpenAI và Hugging Face không thể bị xem nhẹ, trong khi các cơ chế bảo vệ an toàn chưa theo kịp tốc độ phát triển năng lực của AI.

Tuy nhiên, các chuyên gia cho rằng mối quan ngại sâu sắc hơn nằm ở chính quá trình huấn luyện AI. Những phương pháp hiện nay có thể khiến các tác nhân AI hình thành mục tiêu riêng, cố ý vi phạm các chỉ dẫn về an toàn và che giấu hành động của mình.

Các chuyên gia cũng cho rằng, thách thức quản trị đang chuyển từ mô hình AI sang tác nhân AI. Mô hình AI chủ yếu sử dụng các thuật toán để nhận diện và xử lý các mẫu dữ liệu, trong khi đó tác nhân AI lại có khả năng thực hiện một chuỗi hành động nhằm đạt được mục tiêu được giao.

Bản báo cáo của Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) cũng xem xét các biện pháp đang được áp dụng trong những lĩnh vực có mức độ rủi ro cao như hàng không, y tế và an ninh mạng.

Các thông tin trong bản báo cáo sẽ là cơ sở để cung cấp cho Đối thoại toàn cầu về quản trị trí tuệ nhân tạo, dự kiến được tổ chức tại New York vào tháng 5 năm 2027.

Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) được Đại hội đồng Liên hợp quốc thành lập vào tháng 8 năm 2025. Ủy ban gồm 40 chuyên gia độc lập đến từ khắp nơi trên thế giới, có nhiệm vụ xây dựng các báo cáo hằng năm về cơ hội, rủi ro và tác động của AI trong lĩnh vực phi quân sự, đồng thời công bố các báo cáo chuyên đề về những vấn đề mới nổi.

Có thể bạn quan tâm

Đồng chí Lê Văn Lương, Chủ tịch Ủy ban nhân dân tỉnh Điện Biên và Trung tướng Tào Đức Thắng, Ủy viên Trung ương Đảng, Chủ tịch kiêm Tổng Giám đốc Tập đoàn Công nghiệp-Viễn thông Quân đội trao biên bản ký kết thỏa thuận hợp tác. (Ảnh: LÊ LAN)

Điện Biên và Tập đoàn Viettel hợp tác phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số

Chiều 21/9, tại tỉnh Điện Biên, Tập đoàn Công nghiệp-Viễn thông Quân đội (Viettel) và Ủy ban nhân dân tỉnh Điện Biên đã ký kết thỏa thuận hợp tác thực hiện Nghị quyết 57-NQ/TW của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia.

Hà Nội xây dựng cơ sở dữ liệu dùng chung từ số hóa tài liệu. (Ảnh: CÔNG NGHỆ)

Phát huy giá trị mô hình lưu trữ số

Thực tiễn triển khai Nghị định số 113/2025/NĐ-CP ngày 3/6/2025 của Chính phủ quy định chi tiết một số điều của Luật Lưu trữ, đã tạo cơ sở pháp lý thống nhất cho việc xây dựng và cập nhật cơ sở dữ liệu tài liệu lưu trữ, xây dựng kho lưu trữ chuyên dụng bảo quản tài liệu giấy, kho lưu trữ số, lưu trữ dự phòng...

Sinh viên Trường đại học FPT. (Ảnh FPTU)

Trường đại học FPT kết nối doanh nghiệp và viện nghiên cứu, hướng tới đào tạo 30.000 nhân lực công nghệ chiến lược

Chương trình hợp tác giữa Trường đại học FPT, Tập đoàn FPT và Viện Quantum AI & Cyber Security hướng tới đào tạo 30.000 nhân lực, 100 tiến sĩ trong các lĩnh vực công nghệ, phát triển ít nhất 150 sản phẩm được thương mại hóa, trong đó có 3 sản phẩm có thị trường quốc tế.

Các đại biểu tại mô hình nghiên cứu “Vòng tròn chính sách tích hợp dữ liệu lớn”. (Ảnh: Nhân vật cung cấp)

Liên kết dữ liệu thực tiễn: Từ số hóa giao dịch đến làm chủ dữ liệu, AI và năng lực ra quyết định

Sự phát triển của trí tuệ nhân tạo, dữ liệu lớn, hạ tầng số, khoa học và công nghệ đang làm thay đổi cấu trúc của nền kinh tế. Trong quá trình đó, dữ liệu không còn chỉ là sản phẩm của các giao dịch số mà ngày càng trở thành một nguồn lực chiến lược, quyết định năng lực phân tích, dự báo và ra quyết định của tổ chức.

ELSA 2026 do Hội Phẫu thuật nội soi và nội soi châu Á (ELSA) phối hợp Hội Ngoại khoa và Phẫu thuật nội soi Việt Nam và Bệnh viện Trung ương Huế tổ chức. (Ảnh: Ban tổ chức cung cấp)

ELSA 2026 tại Huế: Mở rộng không gian đổi mới phẫu thuật xâm lấn tối thiểu

Hội nghị khoa học Phẫu thuật nội soi và nội soi châu Á thường niên năm 2026 (ELSA 2026) diễn ra tại Huế, quy tụ hơn 800 đại biểu, chuyên gia, phẫu thuật viên trong nước, quốc tế. Hội nghị cập nhật kỹ thuật, mở ra những hướng tiếp cận mới về robot, trí tuệ nhân tạo và phẫu thuật thông minh, hướng tới nâng cao chất lượng điều trị.

Tác giả bài viết - Tiến sĩ Rơ Đăm Thị Bích Ngọc (thứ 3 từ trái sang) cùng các bạn trẻ đồng bào dân tộc thiểu số trong chuyến đi thực địa ở Đắk Lắk. (Ảnh: Xuân Nga)

Thu hẹp khoảng cách số cho đồng bào dân tộc thiểu số Tây Nguyên

Chuyển đổi số đang mở ra những cơ hội chưa từng có để người dân vùng dân tộc thiểu số tiếp cận tri thức, dịch vụ công, thị trường và các phương thức sinh kế mới. Nhưng với Tây Nguyên, chuyển đổi số cũng đặt ra một nghịch lý: người dân có thể ngày càng dễ tiếp cận công nghệ, nhưng chưa chắc đã có khả năng làm chủ công nghệ.

Các đối tượng lừa đảo sử dụng trí tuệ nhân tạo để “cá nhân hóa” tin giả theo từng nhóm người. (Hình ảnh có sử dụng AI)

Những bẫy lừa đảo khó nhận biết thời trí tuệ nhân tạo

Các công cụ AI hiện nay có thể tạo ra một bài viết, hình ảnh, giọng nói hoặc video giả mạo với chất lượng rất cao. Tuy nhiên, AI chưa phải yếu tố đáng lo ngại nhất. Điều khiến tin giả và các chiêu trò lừa đảo công nghệ cao lan truyền với tốc độ chóng mặt chính là thuật toán đề xuất nội dung của các nền tảng mạng xã hội.

Các nhà khoa học tại Triển lãm quốc tế về Điều khiển và Tự động hóa lần thứ 8. (Ảnh: HỘI TỰ ĐỘNG HÓA)

Trí thức và nhiệm vụ truyền thông khoa học

Thời gian qua, hoạt động truyền thông, phổ biến kiến thức của đội ngũ trí thức khoa học được triển khai rộng khắp, đạt những kết quả tích cực. Tuy nhiên, công tác truyền thông, phổ biến kiến thức đòi hỏi cách làm mới chuyên nghiệp và hiệu quả hơn.

Các diễn giả khởi động chương trình. (Ảnh: Ban tổ chức)

Kết nối đổi mới sáng tạo Việt Nam-Hàn Quốc

Lần đầu tiên, Tập đoàn tài chính Shinhan (Shinhan Financial Group – SFG) tổ chức chương trình Demo Day 2026 tại Thành phố Hồ Chí Minh. Sự kiện thuộc khuôn khổ của hai chương trình thường niên Global Shinhan InnoBoost và Shinhan Global X-Change được tổ chức chung, quy tụ 28 startup công nghệ đến từ Việt Nam và Hàn Quốc.

Các công ty công nghệ trưng bày các giải pháp chuyển đổi số tại Thành phố Hồ Chí Minh. (Ảnh: CTV)

Chuyển đổi số thực chất, nâng sức cạnh tranh cho doanh nghiệp

Thành phố Hồ Chí Minh xác định doanh nghiệp nhỏ và vừa là chủ thể, lực lượng nòng cốt trong ứng dụng công nghệ, đổi mới phương thức sản xuất, kinh doanh. Vì vậy, thúc đẩy chuyển đổi số trong khu vực doanh nghiệp này là nhiệm vụ trọng tâm nhằm tạo động lực đổi mới sáng tạo, nâng cao năng lực cạnh tranh của nền kinh tế thành phố.

VNPT đã triển khai hỗ trợ khách hàng chuyển đổi sim 4G (Ảnh: VNPT)

Tắt sóng 2G: Chuyển người dùng trước khi tắt mạng

Ngày 15/9, những kết nối 2G cuối cùng theo lộ trình được chuyển sang các thế hệ công nghệ mới, khép lại quá trình đã được các nhà mạng chuẩn bị trong nhiều năm. Với VNPT, công việc bắt đầu từ năm 2021 và bài toán không chỉ nằm ở việc nâng cấp mạng lưới, mà còn ở việc đưa người dùng sang công nghệ mới trước khi 2G rời mạng.

Đại diện lãnh đạo các đơn vị ký và chứng kiến ký ghi nhớ hợp tác. (Ảnh: XUÂN KỲ)

Hợp tác, chuyển giao, thương mại hóa kết quả nghiên cứu, hướng đến những giá trị bền vững

Ngày 18/9, tại Hà Nội, Viện Hàn lâm Khoa học và Công nghệ Việt Nam phối hợp cùng Công ty Cổ phần Dược phẩm Bến Tre, Trường đại học Quang Trung, Công ty Cổ phần Bệnh viện đa khoa quốc tế Huế và Bệnh viện Việt Mỹ Phú Yên - Công ty Cổ phần Xuất nhập khẩu Dược Phú Yên tổ chức Lễ ký kết Biên bản ghi nhớ hợp tác chiến lược.

Một hội thảo phổ biến, nâng cao nhận thức về các quy định bảo vệ dữ liệu cá nhân cho doanh nghiệp.

Siết xử lý vi phạm trên không gian mạng

Từ 19/8/2026, Nghị định số 330/2026/NĐ-CP có hiệu lực, bổ sung chế tài xử phạt vi phạm hành chính về an ninh mạng và bảo vệ dữ liệu cá nhân. Người vi phạm có thể bị phạt tiền, đình chỉ hoạt động, tịch thu phương tiện, thu hồi dữ liệu và buộc nộp lại số lợi bất hợp pháp. Nếu có dấu hiệu tội phạm sẽ xem xét xử lý hình sự.

Người dân cần kiểm tra kỹ tính pháp lý của nền tảng trước khi tham gia đầu tư tiền mã hóa.

Bẫy đầu tư tiền mã hóa trên mạng

Những lời mời đầu tư “việc nhẹ, sinh lời khủng”, có chuyên gia “bắn lệnh, bao lãi, bao lỗ” có thể là cạm bẫy công nghệ cao nhằm chiếm đoạt tài sản. Người dân cần nhận diện sớm dấu hiệu bất thường, bảo vệ thông tin cá nhân và nhanh chóng trình báo cơ quan Công an khi nghi ngờ bị lừa đảo.