Hàng loạt sự cố và cảnh báo nguy hiểm
Hôm 24/9, Thủ tướng Australia Anthony Albanese cho biết, một tác nhân của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia Medicare. Đây là trường hợp đầu tiên được biết đến về việc trí tuệ nhân tạo tấn công mạng lưới Chính phủ. Ngay lập tức Australia cho biết chưa có bằng chứng cho thấy các thông tin nhạy cảm và dữ liệu cá nhân bị đánh cắp, song Quốc hội đã mở các phiên điều trần công khai với lãnh đạo các công ty công nghệ OpenAI và Anthropic về AI và các trung tâm dữ liệu, kết quả dự kiến công bố vào cuối tháng 11.
Những tháng qua đã xảy ra hàng loạt vụ việc liên quan các tác nhân AI tự động có khả năng lập kế hoạch và thực hiện nhiệm vụ một cách độc lập bằng cách sử dụng các công cụ bên ngoài.
Cuối tháng 7/2026, trường hợp AI tấn công bất hảo đầu tiên được công khai: OpenAI tiết lộ một nhóm các tác nhân AI mà họ đang thử nghiệm đã thoát khỏi sự kiểm soát và bí mật hợp tác để tấn công một công ty công nghệ khác có tên là Hugging Face. Cuối tháng 9 vừa qua, AP đưa tin OpenAI đã tạm dừng việc huấn luyện các mô hình mới nhất của mình khi các báo cáo về các tác nhân AI hoạt động ngoài tầm kiểm soát tiếp tục gia tăng.
Công ty công nghệ Anthropic cũng tiết lộ các sự cố liên quan mô hình Claude, bao gồm 4 trường hợp chúng truy cập trái phép vào các hệ thống thực của bên thứ ba trong quá trình đánh giá an ninh mạng.
Tạp chí Mỹ Axios hôm 26/9, trích dẫn các nguồn tin giấu tên cho biết, các gã khổng lồ AI toàn cầu OpenAI và Anthropic, cùng với các nhà nghiên cứu bảo mật đang điều tra hàng chục nghìn sự cố, trong đó các mô hình tiên tiến của họ đã thực hiện những hành động mà các chuyên gia bên ngoài cho là có vấn đề.
Sau nhiều sự cố các tác nhân AI vượt khỏi tầm kiểm soát, lãnh đạo nhiều công ty công nghệ hàng đầu thế giới đã cảnh báo nguy hiểm và kêu gọi phải ngay lập tức làm chậm quá trình phát triển của các mô hình AI tiên tiến. Nổi bật nhất, Giám đốc điều hành và người đồng sáng lập Anthropic Dario Amodei cảnh báo rằng, trí tuệ nhân tạo có thể vượt quá khả năng kiểm soát của con người và gây ra thiệt hại thảm khốc trong vài tháng. Những mối nguy hiểm mà ông gọi là “nghiêm trọng” bao gồm việc mất kiểm soát các hệ thống AI, lạm dụng chúng cho các cuộc tấn công mạng và khủng bố sinh học và sự gián đoạn kinh tế.
Trước đó, nhà nghiên cứu Jacob Coxon công khai từ chức khỏi Anthropic, cáo buộc cả Anthropic và công ty cũ của ông là OpenAI đang chạy đua hướng tới siêu trí tuệ tự hoàn thiện mà không “hành động có trách nhiệm”. Ông cũng tuyên bố rằng công nghệ này có thể “giết chết tất cả chúng ta” vào cuối thập niên này.
Amodei cho biết, công nghệ AI đang phát triển “nhanh hơn rất nhiều”, một phần do khả năng ngày càng tăng của nó trong việc giúp xây dựng thế hệ mô hình tiếp theo. Dẫn chứng sự cố các tác nhân OpenAI được cho là đã thoát ra khỏi môi trường thử nghiệm khép kín, ông nói rằng, trong vòng 6 đến 12 tháng, một đàn tác nhân mạnh mẽ hơn có thể “kiểm soát toàn bộ internet” và gây thiệt hại hàng trăm tỷ USD. Amodei cũng đề xuất một kế hoạch 3 bước có thể kiềm chế sự phát triển mà không “làm tổn hại lợi thế thương mại hoặc vị thế dẫn đầu của Mỹ trong lĩnh vực trí tuệ nhân tạo”.
Việc lãnh đạo các công ty công nghệ cảnh báo nguy hiểm và đề xuất giảm tốc độ phát triển của AI được cho là bắt nguồn cả từ lý do kỹ thuật lẫn chiến lược kinh doanh. Giới chuyên gia chỉ rõ việc kêu gọi làm chậm sự phát triển AI có thể mang lại lợi ích thương mại rất lớn cho các ông lớn công nghệ, từ tạo rào cản ngăn các đối thủ, các startup mới nổi, các công ty nước ngoài đến chủ động định hình luật chơi hay kéo dài thời gian thương mại hóa các mô hình hiện tại để thu hồi vốn, trước khi bị cuốn vào cuộc đua đốt tiền vô hạn cho các thế hệ mô hình AI kế tiếp.
Cạnh tranh công nghệ Mỹ - Trung
Tổng thống Mỹ Donald Trump đã phớt lờ những cảnh báo ngày càng tăng từ các “cá mập” AI. Ông Trump thừa nhận một số biện pháp bảo vệ có thể được đưa ra nhưng cho rằng những nguy hiểm đang bị phóng đại. Tổng thống Mỹ nhìn nhận AI như con ngỗng đẻ trứng vàng giúp thúc đẩy tăng trưởng kinh tế, đầu tư và khẳng định ưu tiên của Washington là phải đánh bại Trung Quốc trong cuộc đua công nghệ. “Ai thắng trong lĩnh vực trí tuệ nhân tạo thì người đó thắng” - ông nói và tuyên bố “không kìm hãm” sự phát triển của AI.
Đối thủ của Mỹ, Trung Quốc cũng không ủng hộ việc làm chậm lại sự phát triển của trí tuệ nhân tạo nhưng cũng kêu gọi các biện pháp bảo vệ mạnh mẽ hơn. Bắc Kinh cho rằng, các quy định và quản trị cần phải theo kịp các mô hình đang phát triển nhanh chóng để ngăn chặn trí tuệ nhân tạo “vượt khỏi tầm kiểm soát”, đồng thời chỉ trích điều mà họ mô tả là “gây hoang mang” và sự cạnh tranh công nghệ giữa các quốc gia.
Tại Hội nghị thượng đỉnh BRICS vào tháng 9 ở Ấn Độ, Chủ tịch Trung Quốc Tập Cận Bình đã mời các nước BRICS tham gia Tổ chức Hợp tác Trí tuệ Nhân tạo Thế giới (WAICO) - một tổ chức do Trung Quốc hậu thuẫn được thành lập tại Thượng Hải vào tháng 7. 29 quốc gia, bao gồm Nga, đã ký kết thỏa thuận thành lập WAICO. Bắc Kinh cho biết, tổ chức này nhằm giúp các nước đang phát triển tiếp cận rộng rãi hơn với công nghệ trí tuệ nhân tạo và có vai trò trong việc thiết lập các quy tắc toàn cầu, đồng thời cam kết cung cấp hàng nghìn cơ hội đào tạo về trí tuệ nhân tạo cũng như các trung tâm hợp tác với BRICS, ASEAN, Liên minh châu Phi và các tổ chức khác. Sáng kiến này đang nổi lên như một đối thủ cạnh tranh với khuôn khổ Pax Silica của Washington, vốn tìm cách tổ chức các chuỗi cung ứng chất bán dẫn, khoáng sản quan trọng và trí tuệ nhân tạo giữa những đối tác mà Mỹ mô tả là “đáng tin cậy”.
Hợp tác ngăn chặn rủi ro
Tại cuộc gặp thượng đỉnh của Tổng thống D.Trump với Chủ tịch Trung Quốc Tập Cận Bình ở Nhà Trắng vừa qua, Chủ tịch Tập Cận Bình cho rằng: “Cả Trung Quốc và Mỹ đều là những quốc gia hàng đầu về trí tuệ nhân tạo; chúng ta đều có khả năng và trách nhiệm phát triển và quản lý AI vì mục đích tốt đẹp và bảo đảm rằng, sự phát triển của AI luôn nằm trong tầm kiểm soát của con người và phục vụ cho phúc lợi của người dân”. Ông cũng nhấn mạnh rằng, cạnh tranh giữa hai nước nên là một “cuộc đua” chứ không phải là một cuộc chiến.
Hơn nữa, bằng việc hợp tác với Trung Quốc trong định hình luật chơi về AI, Mỹ sẽ thể hiện trách nhiệm của một cường quốc dẫn đầu, nắm quyền chủ động thiết kế các nguyên tắc quản trị quốc tế có lợi cho Mỹ và phương tây thay vì để Trung Quốc tự hành động. Cả ông Trump và ông Tập cũng đều chia sẻ mối quan tâm chung là bảo đảm các mô hình AI trong tương lai phải luôn nằm trong sự kiểm soát của con người.
6 công ty AI cam kết với Nhà trắng
Ngày 29/9 , người đứng đầu 6 công ty trí tuệ nhân tạo hàng đầu của Mỹ đã ký một cam kết tại Nhà Trắng về việc đưa ra các biện pháp kiểm soát chặt chẽ hơn để bảo đảm công nghệ của họ không bị lạm dụng.
Văn bản có tiêu đề “Thỏa thuận Nhà Trắng về Siêu Trí tuệ - Cam kết chung về trách nhiệm tiên phong” do Tổng thống Mỹ Donald Trump ký cùng với Sundar Pichai của Google, Dario Amodei của Anthropic, Mark Zuckerberg của Meta, Greg Brockman của OpenAI, Elon Musk của xAI và Jensen Huang của Nvidia.
Các bên ký kết nhất trí rằng, mọi công ty phát triển các mô hình trí tuệ nhân tạo tiên tiến cần phải có “các quy trình và kiểm soát nội bộ mạnh mẽ để bảo đảm công nghệ của họ hoạt động như mong muốn và mọi vấn đề được xác định và giải quyết kịp thời”.
Các công ty cam kết các mô hình của họ không xâm nhập hoặc truy cập vào các hệ thống kỹ thuật theo những cách không mong muốn và cho biết, sẽ trao quyền cho một nhóm nội bộ để bảo đảm tất cả các biện pháp kiểm soát, giám sát và phát hiện hoạt động như dự định và mọi vấn đề đều được khắc phục.
Ngăn chặn sai lầm do AI khởi tạo
Từ ngày 23 đến 25/9, Tổng thống D.Trump đã có cuộc gặp thượng đỉnh với Chủ tịch Trung Quốc Tập Cận Bình ở Nhà Trắng.
Việc thiết lập một đường dây nóng khẩn cấp Mỹ - Trung để xử lý các sự cố liên quan đến AI có ý nghĩa quan trọng trong bối cảnh hàng loạt sự cố AI đã diễn ra. Theo thông tin từ CNN, vào mùa xuân năm nay, sau khi Mỹ tấn công Iran, một chatbot AI đã tạo ra báo cáo tình báo giả, cho rằng một tàu Trung Quốc ở Trung Đông đang vận chuyển các bộ phận liên quan đến một chương trình vũ khí hạt nhân. Quân đội Mỹ đã nhanh chóng có kế hoạch chặn bắt tàu nhưng kịp thời phát hiện ra rằng, đó là báo cáo giả. Sự cố này rất nguy hiểm, bởi bất kỳ hoạt động nào của Mỹ nhằm vào tàu Trung Quốc cũng có nguy cơ gây leo thang xung đột vũ trang giữa hai quốc gia.
