Các đại biểu tập trung vào những cơ hội mà AI mang lại, đồng thời cảnh báo những rủi ro có thể phát sinh nếu công nghệ này phát triển vượt quá khả năng kiểm soát của con người.
Phát biểu tại phiên thảo luận, Giám đốc điều hành OpenAI Sam Altman cho rằng AI có thể mang lại những lợi ích rất lớn, nhưng cũng đặt ra những rủi ro nghiêm trọng đối với an ninh quốc tế và tương lai của nhân loại.
Theo ông Sam Altman, nếu AI không được quản lý một cách hiệu quả, nhân loại có thể “mất quyền kiểm soát AI trong tương lai”. Ông cũng nhấn mạnh tương lai của công nghệ này không chỉ gói gọn trong các phòng thí nghiệm công nghệ, mà cần phải đề cập đến cả hành động và trách nhiệm của cơ quan quản lý và doanh nghiệp trước người dân.
Giám đốc điều hành Anthropic Dario Amodei cảnh báo về những rủi ro tiềm tàng từ AI thế hệ mới.
Theo ông Dario Amodei, nếu không được quản lý hiệu quả, AI có thể trở thành mối nguy đối với toàn nhân loại, bởi năng lực của các hệ thống AI ngày càng phát triển nhanh chóng.
Điều này làm gia tăng quan ngại về khả năng kiểm soát của con người trước các hệ thống có năng lực tự xử lý và thực hiện những nhiệm vụ ngày càng phức tạp.
Trong khi đó, Giám đốc điều hành Hugging Face Clement Delangue cũng đưa ra góc nhìn mới về những rủi ro tiềm tàng của AI và bài học “dùng AI để ứng phó với cuộc tấn công bằng AI”.
Ông cho biết Hugging Face từng phải sử dụng một mô hình AI của Trung Quốc để xử lý một cuộc tấn công mạng có liên quan đến các tác nhân AI của OpenAI. Nguyên nhân được đưa ra là do mô hình AI của Trung Quốc có ít hạn chế hơn một số công cụ tương tự của Mỹ.
Thông qua sự việc này, ông Clement Delangue khẳng định: AI có thể đồng thời là nguồn tạo ra rủi ro và là công cụ giúp con người ứng phó với những rủi ro do chính công nghệ này tạo ra.
Cũng tại phiên thảo luận, Đại diện thường trực Trung Quốc tại Liên hợp quốc Phó Thông cho rằng AI cần được xem là tài sản chung của nhân loại và không nên trở thành lĩnh vực mà chỉ các quốc gia, doanh nghiệp và nhóm người giàu có mới có khả năng tiếp cận.
Ông Phó Thông cảnh báo việc hình thành các nhóm công nghệ khép kín có thể làm gia tăng độc quyền công nghệ, cản trở tiến bộ khoa học toàn cầu, nhất là đối với các quốc gia có năng lực công nghệ hạn chế.
Theo ông, sự phân mảnh về tiêu chuẩn kỹ thuật và khả năng tương thích giữa các hệ thống cũng có thể tạo thêm rủi ro đối với an ninh quốc tế.
Do vậy, Đại diện Trung Quốc kêu gọi các nước tăng cường hợp tác, thúc đẩy các hệ sinh thái mã nguồn mở và cùng phát triển khoa học, công nghệ. Điều này đặc biệt có ý nghĩa trong bối cảnh thực trạng đã xuất hiện sự lan truyền thông tin sai lệch và nội dung kích động thù hận, đòi hỏi sự hành động có trách nhiệm chung của các tập đoàn công nghệ.
Về phía Hoa Kỳ, vốn là quốc gia có thế mạnh trong lĩnh vực này, đại diện Chính phủ Hoa Kỳ tại Hội đồng Bảo an Liên hợp quốc Michael Kratsios phản đối việc các tổ chức quốc tế áp đặt cơ chế kiểm soát tập trung đối với AI. Phía Mỹ bày tỏ quan điểm không ủng hộ những nỗ lực nhằm thiết lập một cơ chế “quản trị AI toàn cầu” theo hướng tập trung.
Đại diện thường trực Liberia tại Liên hợp quốc Lewis Garseedah Brown II nhấn mạnh bất kỳ công nghệ nào có khả năng làm thay đổi bản chất của chiến tranh, chủ quyền và ổn định địa chính trị đều thuộc phạm vi quan tâm của Hội đồng Bảo an, bởi đây là cơ quan Liên hợp quốc có trách nhiệm chính trong duy trì hòa bình và an ninh quốc tế.
Đại diện Liberia cho rằng không thể chờ đến khi xảy ra sự cố mang tính hệ thống hoặc một sai lầm nghiêm trọng mới thiết lập các biện pháp bảo vệ chung, đồng thời không thể quản lý quá mức làm cản trở đến quá trình đổi mới sáng tạo.
Đặc phái viên của Tổng Thư ký Liên hợp quốc về công nghệ số và công nghệ mới nổi Amandeep Singh Gill cho biết Liên hợp quốc ngày càng tham gia sâu hơn vào quá trình xây dựng cơ chế quản trị đối với công nghệ AI.
Trong những năm qua, Liên hợp quốc đã triển khai nhiều sáng kiến liên quan đến AI. Cơ quan tư vấn cấp cao về AI được thành lập năm 2023 nhằm hỗ trợ thảo luận quốc tế về quản trị AI.
Năm 2024, Hiệp ước Kỹ thuật số toàn cầu được thông qua, tạo khuôn khổ thúc đẩy hợp tác quốc tế trong quản trị công nghệ số và AI.
Năm 2025, Đại hội đồng Liên hợp quốc thành lập Hội đồng Khoa học quốc tế độc lập về AI, nhằm tập hợp các chuyên gia và cung cấp đánh giá khoa học độc lập cho các chính phủ.
Cùng với đó, sự ra đời của Đối thoại toàn cầu về quản trị AI góp phần tạo ra diễn đàn thường xuyên để các quốc gia trao đổi về cách thức quản lý công nghệ này.
Nhiều quan điểm với những góc nhìn khác nhau tại phiên thảo luận cho thấy cộng đồng quốc tế đang có những cách tiếp cận khác biệt đối với vấn đề quản trị AI, nhất là về mức độ tham gia của các thể chế quốc tế và các quy định chung. Tuy nhiên, điều quan trọng mà các quốc gia đều chia sẻ chung một tầm nhìn: Con người đóng vai trò trung tâm và quyết định trong quản trị công nghệ trí tuệ nhân tạo.
