Trong thông điệp mới nhất cảnh báo về hậu quả tàn khốc nếu con người mất kiểm soát đối với trí tuệ nhân tạo (AI), LHQ chỉ rõ các biện pháp bảo vệ truyền thống trước các “tác nhân AI” đang đứng trước nguy cơ mất hiệu lực và cộng đồng quốc tế cần tăng cường phối hợp để gia cố các “bức tường lửa”.
Nhân kỳ họp Đại hội đồng LHQ khóa 81 đang diễn ra tại New York (Mỹ), Ủy ban Khoa học quốc tế độc lập về AI (IPAI) đã công bố báo cáo chuyên đề đầu tiên, trong đó đánh giá về vụ các “tác nhân AI” xâm nhập hệ thống của nền tảng trực tuyến HuggingFace (Mỹ) hồi tháng 7. Báo cáo kết luận rằng, vụ tấn công này dấy lên lo ngại con người sẽ sớm không còn khả năng điều khiển, hạn chế, hoặc ngăn chặn tác hại của AI.
Khác với chatbot, các “tác nhân AI” có khả năng thực hiện những nhiệm vụ một cách độc lập, thay mặt người dùng. Giới chuyên gia từ lâu đã cảnh báo các điều kiện dẫn đến nguy cơ mất kiểm soát AI, gồm mục tiêu sai lệch, khả năng theo đuổi mục tiêu và môi trường cho phép sai lệch xảy ra. Theo báo cáo của IPAI, vụ tấn công nền tảng HuggingFace cho thấy ba yếu tố này cùng hội tụ trong một hệ thống thực tế.
Các chuyên gia của IPAI nhấn mạnh, con người khó có thể kiểm soát một cách đáng tin cậy và hiệu quả khi các “tác nhân AI” ngày càng có năng lực, tự chủ, khó giám sát hơn và giỏi tìm ra sơ hở hoặc che giấu hoạt động. Trong vụ tấn công HuggingFace, các “tác nhân AI” có thể tự đặt ra mục tiêu riêng, cố tình vi phạm hướng dẫn an toàn và che giấu hành động của mình. Điều này đặt ra câu hỏi liệu các biện pháp bảo vệ được thiết kế hiện nay có còn hiệu quả hay không, khi những “tác nhân AI” có thể hiểu và lập kế hoạch ứng phó. Nói một cách đơn giản, nguy cơ mô hình bảo vệ truyền thống sụp đổ đang hiện hữu.
IPAI do LHQ thành lập tháng 8/2025 trên cơ sở Hiệp ước Kỹ thuật số toàn cầu, với tư cách một hội đồng khoa học độc lập để đánh giá rủi ro và cơ hội của AI, thúc đẩy đối thoại quốc tế nhằm phối hợp trong quản trị công nghệ đang phát triển nhanh chóng này. Báo cáo chuyên đề đầu tiên được IPAI công bố ngay trước thềm cuộc thảo luận cấp cao của các nhà lãnh đạo thế giới tại kỳ họp Đại hội đồng LHQ năm nay, trong đó quản trị AI là một trong những chủ đề chính.
Lời cảnh báo của IPAI về nguy cơ mất kiểm soát đã làm nổi bật yêu cầu cấp thiết về gia cố “bức tường lửa” trước tốc độ phát triển chóng mặt của AI. Nhấn mạnh rủi ro từ AI vượt qua mọi biên giới, Tổng Thư ký LHQ Antonio Guterres kêu gọi hợp tác quốc tế để bảo đảm sự phát triển AI an toàn và có trách nhiệm.
