OpenAI, nhà phát triển ứng dụng ChatGPT, đang đối mặt cuộc điều tra của chính quyền bang Alabama (Mỹ) liên quan sự cố các mô hình trí tuệ nhân tạo (AI) của công ty đã vượt khỏi môi trường thử nghiệm và tấn công một nền tảng AI khác trong quá trình đánh giá an ninh mạng.
Theo CNN, giữa tháng 7 vừa qua, hai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm được cô lập và truy cập internet. Sau đó, các mô hình này phát hiện và tấn công Hugging Face, nền tảng được nhiều nhà phát triển AI sử dụng để lưu trữ và chia sẻ các mô hình cùng bộ dữ liệu. Văn phòng của Tổng chưởng lý bang Alabama, ông Steve Marshall cho biết, cuộc điều tra xuất phát từ cáo buộc OpenAI “thiếu sự giám sát và các biện pháp bảo vệ đầy đủ”. Văn phòng Tổng chưởng lý còn yêu cầu OpenAI cung cấp các hồ sơ nội bộ liên quan sự cố hồi tháng 7, cùng nhiều tài liệu khác, trong đó có danh tính của toàn bộ nhân viên tham gia vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.
Đây là cuộc điều tra đầu tiên được biết đến ở cấp bang của Mỹ nhằm xác định liệu việc một hệ thống AI tấn công hạ tầng của một công ty khác có thể cấu thành hành vi vi phạm luật bảo vệ người tiêu dùng hay không. Nếu bị xác định vi phạm, OpenAI có thể phải đối mặt các vụ kiện quy mô lớn tại nhiều bang của Mỹ.
Về phần mình, trả lời trang tin công nghệ TechCrunch, OpenAI cho biết, đang tiến hành “một cuộc rà soát toàn diện cùng với các cố vấn bên ngoài”. Sau khi hoàn tất quá trình rà soát, OpenAI sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ liên quan và công bố công khai những phát hiện của mình.
Trước đó, Tổng Giám đốc điều hành (CEO) OpenAI, ông Sam Altman cho hay đang tạm thời hãm lại tiến độ phát triển mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ, sau vụ tấn công mạng nói trên. Theo đó, OpenAI hoãn thực hiện đợt huấn luyện AI quy mô lớn nhất từng được lên kế hoạch, trong khi chờ xác minh xem liệu mô hình thu được có hoạt động đúng như mong đợi hay không. Các đợt huấn luyện là những quy trình bắt buộc để nạp dữ liệu nhằm tăng năng lực suy luận và phản hồi của các mô hình AI.
Sự cố của OpenAI làm gia tăng lo ngại về nguy cơ đối với các hệ thống AI có khả năng hoạt động tự chủ, đặc biệt khi các hệ thống này có thể vượt qua những rào chắn an toàn do con người thiết lập và thực hiện các hành vi ngoài dự kiến. Nguy cơ AI tấn công mạng các tổ chức, doanh nghiệp thậm chí cả chính phủ là có thật, nếu các hãng phát triển AI tiếp tục thúc đẩy những mô hình mới mà không thiết lập đủ biện pháp phòng vệ.
