Số lượng công bố quốc tế về trí tuệ nhân tạo của Việt Nam đang tăng lên, đặc biệt trên các tạp chí quốc tế có uy tín, và số lượng phát minh, sáng chế cũng gia tăng. Theo Chỉ số Sẵn sàng trí tuệ nhân tạo của Chính phủ năm 2022 do Oxford Insights thực hiện, Việt Nam xếp hạng 55 toàn cầu và thứ 6 trong khu vực ASEAN, tăng 7 bậc so với năm 2021. Nhà nước đã đầu tư vào nghiên cứu trí tuệ nhân tạo thông qua các chương trình khoa học và công nghệ như KC01, KC-4.0, KC13.
Tuy nhiên, một trong những khó khăn lớn trong nghiên cứu, phát triển sản phẩm ứng dụng trí tuệ nhân tạo hiện nay là thiếu hạ tầng cho tính toán hiệu năng cao (các siêu máy tính, đường truyền, trang thiết bị). Năm 2021, Bộ Khoa học và Công nghệ đã ban hành Quyết định số 1678/QĐ-BKHCN về kế hoạch triển khai Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo đến năm 2030, trong đó có tập trung xây dựng cơ sở hạ tầng dữ liệu lớn theo chỉ đạo của Chính phủ, bởi hạ tầng là một nhân tố quyết định cho việc tăng trưởng và khả năng cạnh tranh dựa trên trí tuệ nhân tạo.
Đến nay, việc đầu tư hạ tầng tính toán đáp ứng yêu cầu nghiên cứu, phát triển sản phẩm mới chỉ có một số cơ sở nghiên cứu công lập, tập đoàn làm được như FPT, Viettel, Vingroup, CMC. Còn hầu hết doanh nghiệp, trường đại học, viện nghiên cứu muốn huấn luyện mô hình trí tuệ nhân tạo thế hệ mới đều phải thuê hệ thống của nước ngoài thông qua hình thức gửi dữ liệu nhờ tính toán. Một chuyên gia công nghệ cho biết, việc thuê tài khoản nước ngoài vừa tốn chi phí, chỉ đủ tiền thuê trong thời gian ngắn, "chạy" được mô hình nhỏ, tốc độ chưa ổn định và nguy cơ lộ, lọt dữ liệu rất cao. Trong đào tạo, một số trường đại học được chia sẻ hạ tầng điện toán đám mây, siêu máy tính của cơ sở đại học ở nước ngoài, hay tận dụng hệ thống "mở" của các hãng công nghệ lớn trên thế giới.
Trong khi đó, tình trạng trang thiết bị phục vụ cho nghiên cứu trí tuệ nhân tạo được đầu tư ở cơ sở nghiên cứu công lập chưa được khai thác hiệu quả. Hiện nay, nhiều doanh nghiệp, trường đại học muốn sử dụng chung hạ tầng nghiên cứu của Nhà nước đầu tư nhưng chưa có cơ chế để được sử dụng chung. Các đơn vị vận hành thiết bị cũng không có cơ chế thu tiền của bên có nhu cầu thuê hay chi tiền để vận hành, khai thác hiệu quả hệ thống, khiến họ gặp khó khăn trong việc lo kinh phí để duy trì vận hành, nhất là việc chi trả quá nhiều tiền điện. Bởi vậy, hạ tầng cho trí tuệ nhân tạo đang trong tình trạng vừa thiếu, vừa thừa.
Theo các chuyên gia công nghệ, trước xu hướng phát triển các sản phẩm ứng dụng trí tuệ nhân tạo, nhất là trí tuệ nhân tạo tạo sinh, cần nhiều bộ nhớ trong hệ thống tính toán, đòi hỏi năng lực tính toán nhiều hơn so với hạ tầng tính toán cũ. Mục tiêu của Chiến lược Phát triển trí tuệ nhân tạo đến năm 2030 là Việt Nam nằm trong nhóm 4 nước dẫn đầu trong khu vực ASEAN và nhóm 50 nước dẫn đầu thế giới về nghiên cứu, phát triển, ứng dụng trí tuệ nhân tạo. Bởi vậy, Nhà nước cần nhanh chóng phát triển hạ tầng tính toán, các trung tâm siêu máy tính dành cho nghiên cứu và phát triển trí tuệ nhân tạo của quốc gia và cung cấp khả năng truy cập, sử dụng mạng băng thông rộng tốc độ cao, hạ tầng lưu trữ dữ liệu lớn. Nhà nước cần có cơ chế cho phép sử dụng hạ tầng dùng chung để cơ sở nghiên cứu công lập hay doanh nghiệp tư nhân có điều kiện đóng góp chung cho đất nước bên cạnh chiến lược riêng của đơn vị, cũng như tránh lãng phí hạ tầng trí tuệ nhân tạo.
