Ứng dụng AI phát hiện tin giả trên không gian mạng

Trong bối cảnh tin giả lan truyền chóng mặt trên không gian mạng, việc ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội đang trở thành yêu cầu cấp thiết. Đây được xem là giải pháp quan trọng nhằm kiểm chứng và cảnh báo sớm rủi ro thông tin trên môi trường số.

Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa cùng nhóm tác giả triển khai nhiệm vụ nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)
Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa cùng nhóm tác giả triển khai nhiệm vụ nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)

Sự phát triển mạnh mẽ của các nền tảng như Facebook, TikTok, Instagram và YouTube trong những năm gần đây đã làm thay đổi sâu sắc cách con người giao tiếp, tiếp nhận và lan truyền thông tin. Không gian mạng ngày nay không còn giới hạn ở văn bản mà mở rộng sang hình ảnh, video, âm thanh cùng nhiều hình thức tương tác đa dạng khác. Mỗi phút, hàng triệu bài đăng, bình luận và video mới được tạo ra, hình thành nguồn dữ liệu khổng lồ, giàu giá trị cho việc phân tích xu hướng xã hội, nghiên cứu hành vi người dùng, theo dõi dư luận và hỗ trợ hoạch định chính sách.

Tuy nhiên, quá trình xử lý dữ liệu mạng xã hội vẫn đối mặt với nhiều thách thức kỹ thuật. Một trong những khó khăn lớn nhất là khoảng cách ngữ nghĩa giữa các loại dữ liệu khác nhau. Văn bản, hình ảnh hay video thường bổ sung ý nghĩa cho nhau, nhưng các mô hình xử lý đơn phương thức truyền thống lại phân tích tách rời từng thành phần, dẫn tới nguy cơ bỏ sót ngữ cảnh tổng thể.

Bên cạnh đó, dữ liệu mạng xã hội thường thiếu cấu trúc, chứa nhiều nhiễu, tiếng lóng, từ viết tắt hoặc nội dung có chất lượng không đồng đều, khiến việc trích xuất thông tin chính xác trở nên phức tạp hơn. Đặc biệt, tốc độ lan truyền thông tin gần như tức thời trên môi trường số đòi hỏi các hệ thống AI phải có khả năng phân tích đồng thời nhiều loại dữ liệu và xử lý theo thời gian thực để kịp thời phát hiện xu hướng hoặc cảnh báo rủi ro.

Trước yêu cầu đó, các nhà khoa học thuộc Viện Hàn lâm Khoa học và Công nghệ Việt Nam gồm Tiến sĩ Phạm Ngọc Minh; Phó Giáo sư, Tiến sĩ Nguyễn Long Giang, Phó Giáo sư, Tiến sĩ Nguyễn Việt Anh (Viện Công nghệ thông tin) và Tiến sĩ Ngô Duy Tân (Trung tâm Vũ trụ Việt Nam) đã triển khai nghiên cứu về ứng dụng AI đa phương thức trong hỗ trợ phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin và phân tích mạng xã hội. Nghiên cứu được kỳ vọng mở ra hướng tiếp cận mới trong giám sát xu hướng thông tin và nâng cao hiệu quả phát hiện tin giả trên không gian mạng.

Chia sẻ về nghiên cứu này, Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa (Viện Công nghệ thông tin) cho biết: AI đa phương thức là mô hình trí tuệ nhân tạo có khả năng tiếp nhận và xử lý đồng thời nhiều dạng dữ liệu như văn bản, hình ảnh, âm thanh và video. Điểm nổi bật của công nghệ này nằm ở khả năng liên kết và phân tích mối quan hệ giữa các phương thức dữ liệu, thay vì xử lý tách rời từng thành phần như các mô hình truyền thống.

Một hệ thống AI đa phương thức thường gồm ba thành phần chính: mô-đun đầu vào để trích xuất đặc trưng từ từng loại dữ liệu; mô-đun hợp nhất nhằm kết nối và đồng bộ các đặc trưng; cùng mô-đun đầu ra phục vụ các tác vụ như phân loại, dự đoán hoặc tạo nội dung. Sự phát triển của mô hình này được hỗ trợ bởi nhiều công nghệ nền tảng như học sâu, xử lý ngôn ngữ tự nhiên, thị giác máy tính và xử lý âm thanh. Trong đó, các công nghệ nhận diện giọng nói và phân tích cảm xúc giúp AI hiểu sâu hơn nội dung từ video, podcast hay các dữ liệu đa phương tiện khác.

Nhằm đáp ứng yêu cầu xử lý khối lượng dữ liệu lớn từ mạng xã hội, nhóm nghiên cứu đã xây dựng hệ thống theo mô hình phân tầng, cho phép mở rộng linh hoạt và tăng khả năng xử lý đồng thời. Hệ thống kết hợp các giao diện lập trình ứng dụng (API) chính thống với cơ chế thu thập dữ liệu công khai để khai thác thông tin từ nhiều nền tảng mạng xã hội khác nhau. Dữ liệu sau đó được đưa vào nền tảng xử lý theo thời gian thực như Apache Kafka nhằm giảm độ trễ và nâng cao tốc độ phân tích.

Ở tầng lưu trữ, hệ thống được thiết kế theo hướng kết hợp nhiều mô hình cơ sở dữ liệu nhằm đáp ứng đặc thù đa dạng của dữ liệu mạng xã hội. Các dữ liệu đặc trưng được lưu trữ dưới dạng vector để phục vụ quá trình tìm kiếm và đối chiếu thông tin với tốc độ cao. Tuy nhiên, do dữ liệu trên không gian mạng thường thiếu đồng nhất và chứa nhiều nhiễu, hệ thống phải trải qua bước tiền xử lý trước khi đưa vào phân tích.

Cụ thể, với dữ liệu văn bản, hệ thống tiến hành chuẩn hóa ngôn ngữ, xử lý biểu tượng cảm xúc và loại bỏ những thành phần dư thừa; với hình ảnh, các kỹ thuật tăng cường và chuẩn hóa dữ liệu được áp dụng nhằm nâng cao chất lượng đầu vào. Đối với video, hệ thống chỉ lựa chọn những khung hình quan trọng để tối ưu tài nguyên xử lý, trong khi dữ liệu âm thanh được khử nhiễu và phân đoạn nhằm nâng cao độ chính xác trong phân tích. Mỗi loại dữ liệu sẽ được xử lý bằng các mô hình chuyên biệt phù hợp với đặc trưng riêng.

anh-2-tin-gia.jpg
Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa chia sẻ về nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)

Theo nhóm nghiên cứu, hệ thống có thể triển khai trên các nền tảng mã nguồn mở như Apache Spark, PyTorch hay Milvus, qua đó hỗ trợ xử lý dữ liệu quy mô lớn với chi phí tối ưu. Một trong những ứng dụng nổi bật của mô hình là hỗ trợ đa phương thức để phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin. Hệ thống có khả năng phát hiện các dấu hiệu không nhất quán giữa nội dung văn bản và hình ảnh, đồng thời phân tích cảm xúc từ nhiều nguồn dữ liệu nhằm đánh giá mức độ xác thực của thông tin. Bên cạnh đó, quy trình vận hành và cập nhật mô hình học máy cũng được tích hợp, giúp hệ thống liên tục học hỏi từ dữ liệu mới và duy trì khả năng hoạt động ổn định.

Nhóm nghiên cứu cũng đề xuất áp dụng kỹ thuật “chưng cất tri thức” (Knowledge Distillation) nhằm giảm chi phí tính toán nhưng vẫn bảo đảm hiệu quả xử lý, tạo điều kiện triển khai hệ thống trên quy mô lớn.

Theo Tiến sĩ Phạm Ngọc Minh, việc kết hợp mô hình xử lý tiếng Việt PhoBERT, mô hình thị giác máy tính Vision Transformer cùng cơ chế chú ý chéo đã cho thấy tiềm năng lớn trong giải quyết bài toán phân mảnh dữ liệu giữa văn bản, hình ảnh, âm thanh và video. Việc hợp nhất các nguồn dữ liệu không chỉ nâng cao độ chính xác trong phân tích thông tin mà còn hỗ trợ hiệu quả cho các hệ thống giám sát xu hướng truyền thông, hỗ trợ phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin và phản ứng nhanh trước các biến động xã hội. Đồng thời, kết quả phân tích của AI cần được kết hợp với chuyên gia hoặc hệ thống kiểm chứng để bảo dảm độ tin cậy của mô hình.

Trong bối cảnh AI thế hệ mới phát triển mạnh mẽ, mô hình này được đánh giá là nền tảng quan trọng cho việc xây dựng các hệ thống quản trị nội dung số thông minh trong tương lai.

Có thể bạn quan tâm

[Video] Mua sách giáo khoa: Phụ huynh sập bẫy “giá rẻ, giao nhanh”.

[Video] Mua sách giáo khoa: Phụ huynh sập bẫy “giá rẻ, giao nhanh”

Năm học 2026-2027, cả nước chỉ dùng bộ sách giáo khoa "Kết nối tri thức với cuộc sống" của Nhà xuất bản Giáo dục Việt Nam, thay vì ba bộ như những năm trước. Chính vì vậy một tuần qua đã diễn ra tình trạng nhiều người phải đi gom ở 5-6 nhà sách, lật tìm từng cuốn chỉ mong mua được đủ sách cho con.

[Video] “Lá chắn” đầu tiên trước hàng giả, hàng nhái trên không gian mạng.

[Video] “Lá chắn” đầu tiên trước hàng giả, hàng nhái trên không gian mạng

Chỉ với một chiếc điện thoại, người bán có thể đưa hàng hóa đến trước mắt hàng nghìn, thậm chí hàng chục nghìn người tiêu dùng. Những lời quảng cáo như “hàng chính hãng”, “giảm giá cực sốc”, “giảm sâu”, “chốt đơn ngay trên livestream” để được giá ưu đãi… liên tục xuất hiện trên mạng xã hội.

[Video] Điểm tin an ninh mạng tháng 8/2026.

[Video] Điểm tin an ninh mạng tháng 8/2026

Trong thời gian từ ngày 15/7 đến 15/8/2026, tình hình an ninh mạng và tội phạm sử dụng công nghệ cao diễn biến phức tạp với nhiều thủ đoạn tinh vi, có một số vụ án quy mô lớn đã được lực lượng công an triệt phá.

Cơ quan Công an thành phố Đà Nẵng bắt giữ đối tượng giả danh nữ sinh viên đi lừa tình, chiếm đoạt hơn 1,5 tỷ đồng. Ảnh: C.A

Từ trải nghiệm của một nạn nhân lừa đảo trực tuyến

Những chiếc bẫy lừa đảo trên không gian mạng ngày càng ít để lại dấu hiệu cảnh báo ngay từ đầu. Kẻ gian có thể dành hàng tuần để tạo dựng một nhân vật đáng tin, tạo cảm giác gần gũi, từng bước chen vào đời sống tình cảm của người bị nhắm tới, trước khi hé lộ mục đích thật sự.

Công an Quảng Ninh vừa triệt phá thành công một đường dây tội phạm công nghệ cao lừa đảo, chiếm đoạt hàng trăm tỷ đồng. (Ảnh Quốc Xã)

Cảnh báo tình trạng thu thập, mua bán trái phép dữ liệu cá nhân để lừa đảo, chiếm đoạt tài sản

Hiện nay, tình trạng tội phạm sử dụng công nghệ cao để lừa đảo, chiếm đoạt tài sản tiếp tục chiếm tỷ lệ lớn, với các phương thức, thủ đoạn ngày càng tinh vi. Đặc biệt, để thực hiện các vụ lừa đảo, “rửa tiền” thành công các đối tượng đã không ngừng thu thập, mua bán trái phép dữ liệu cá nhân, tài khoản ngân hàng, ví điện tử…

“Sản xuất tín hiệu xã hội giả”- phương thức thao túng thông tin trên không gian mạng

“Sản xuất tín hiệu xã hội giả”- phương thức thao túng thông tin trên không gian mạng

Hàng chục nghìn lượt thích, bình luận, chia sẻ hay một chủ đề bất ngờ "gây bão" trên mạng xã hội có thật sự phản ánh mối quan tâm của cộng đồng? Hay đó chỉ là những tín hiệu được tạo dựng để đánh lừa thuật toán, dẫn dắt sự chú ý và tác động đến cách hàng triệu người hình thành nhận thức.

Kiểm chứng thông tin là kỹ năng quan trọng nhất của người dùng trên không gian mạng.

Thuật toán mạng xã hội bị lợi dụng cho các kịch bản lừa đảo

Chỉ với vài dòng lệnh, các công cụ trí tuệ nhân tạo (AI) hiện nay có thể tạo ra một bài viết, hình ảnh, giọng nói hoặc video giả mạo với chất lượng rất cao. Tuy nhiên điều khiến tin giả và các chiêu trò lừa đảo công nghệ cao lan truyền với tốc độ chóng mặt chính là thuật toán đề xuất nội dung của các nền tảng mạng xã hội.

Các đối tượng cùng tang vật thu giữ trong chuyên án do Công an Thành phố Hồ Chí Minh triệt phá. (Nguồn: Công an Thành phố Hồ Chí Minh)

Triệt phá các đường dây chế tạo, mua bán vũ khí trên không gian mạng

Liên tiếp các chuyên án triệt phá đường dây chế tạo, mua bán trái phép vũ khí quân dụng đã cho thấy không gian mạng đang bị các đối tượng lợi dụng để tổ chức hoạt động phạm tội. Các chuyên án cũng khẳng định vai trò của lực lượng an ninh mạng, sự phối hợp giữa các đơn vị trong đấu tranh với loại tội phạm nguy hiểm này.

Người dân cần tuyệt đối không bán, cho thuê hoặc cho mượn tài khoản ngân hàng để tránh bị các đối tượng lợi dụng vào hoạt động phạm tội.

Tiếp tay cho lừa đảo từ việc thuê tài khoản ngân hàng

Nhiều người vì hám lợi hoặc thiếu hiểu biết pháp luật đã bán, cho thuê tài khoản ngân hàng mà không biết rằng hành vi này có thể tiếp tay cho các đường dây lừa đảo công nghệ cao, rửa tiền và nhiều hoạt động phạm tội khác.

Điểm tin an ninh mạng tháng 7/2026.

[Video] Điểm tin an ninh mạng tháng 7/2026

World Cup 2026 không chỉ ngày hội thể thao lớn nhất hành tinh mà còn là thời điểm các đường dây cá độ bóng đá tăng tốc hoạt động. Chỉ trong hơn một tháng, Công an các địa phương đã đồng loạt triệt phá nhiều đường dây tổ chức đánh bạc trên không gian mạng với quy mô từ hàng chục đến hàng nghìn tỷ đồng.

 Công an tỉnh Khánh Hòa bắt giữ các đối tượng để điều tra hành vi lừa đảo tiền mã hóa. Ảnh: Công an tỉnh Khánh Hòa

Cần chủ động dựng “lá chắn” trước tội phạm mạng

Tội phạm trên không gian mạng đang ngày càng chuyên nghiệp, có tổ chức và tận dụng mạnh mẽ trí tuệ nhân tạo để thực hiện các hành vi lừa đảo. Thực tế này đặt ra yêu cầu nâng cao năng lực điều tra số, tăng cường phối hợp liên ngành và chủ động xây dựng “lá chắn an ninh mạng từ cơ sở”.

Thượng tá Nguyễn Thành Chung, Cục A05, Bộ Công an phát biểu tại Hội nghị Mã hóa tài sản thực Việt Nam 2026 (Vietnam RWA Summit 2026).

Thách thức mới về phòng, chống rửa tiền và an ninh mạng trong thị trường tài sản mã hóa

Trong bối cảnh thị trường tài sản mã hóa trên thế giới nói chung và tại Việt Nam nói riêng đang tăng trưởng mạnh mẽ cả về quy mô, số lượng giao dịch, cũng như mức độ phổ biến, yêu cầu về phòng, chống rửa tiền và bảo đảm an ninh mạng trong lĩnh vực tài sản mã hóa đang trở nên cấp thiết hơn bao giờ hết.

[Video] Muamau và chiêu dụ dỗ kiếm tiền online.

[Video] Muamau và chiêu dụ dỗ kiếm tiền online

Nhìn qua, app Muamau giống như một nền tảng thương mại điện tử chuyên nghiệp: có cửa hàng, có đơn hàng, có doanh thu, có lợi nhuận,… thậm chí còn có những "khách hàng" đang chờ giao sản phẩm.

Các đối tượng lừa đảo thường giả mạo ứng dụng của cơ quan nhà nước và ngân hàng để dụ người dân cài đặt mã độc, chiếm đoạt tài sản.

Lừa đảo núp bóng dịch vụ công trực tuyến

Mạo danh cơ quan công an, ngân hàng, Bảo hiểm xã hội (BHXH) để yêu cầu người dân cài đặt ứng dụng là một trong những thủ đoạn lừa đảo công nghệ cao đang diễn biến phức tạp. Chỉ sau vài phút làm theo hướng dẫn, nhiều nạn nhân đã bị chiếm quyền điều khiển điện thoại và mất toàn bộ tiền trong tài khoản.

Nhiều hành vi thường xuất hiện trong các vụ lừa đảo công nghệ cao tăng mạnh mức xử phạt.

Tăng mức xử phạt hàng loạt thủ đoạn lừa đảo công nghệ cao

Từ 1/7/2026, Nghị định 174/2026/NĐ-CP có hiệu lực, thay thế nhiều quy định của Nghị định 15/2020/NĐ-CP về xử phạt vi phạm hành chính trong lĩnh vực bưu chính, viễn thông, công nghệ thông tin và giao dịch điện tử. Đáng chú ý, nhiều hành vi thường xuất hiện trong các vụ lừa đảo công nghệ cao... đã tăng mạnh mức xử phạt.

Ngăn chặn tội phạm mạng lợi dụng chủ trương số hóa dữ liệu. (Hình ảnh có sự hỗ trợ của AI)

[Video] Ngăn chặn tội phạm mạng lợi dụng chủ trương số hóa dữ liệu

Chỉ bằng một cuộc gọi tự xưng là cán bộ địa chính hoặc công an địa phương, nhiều người dân đã tin rằng mình đang thực hiện một thủ tục hành chính cần thiết để cập nhật thông tin đất đai trên ứng dụng VNeID. Thế nhưng, phía sau lời đề nghị "hỗ trợ tích hợp sổ đỏ" lại là một kịch bản lừa đảo được dàn dựng tinh vi.

 Người dân cần nâng cao cảnh giác trước các thủ đoạn lợi dụng lòng tốt để thu thập dữ liệu cá nhân, sinh trắc học. (Hình ảnh có sự hỗ trợ của AI)

Lòng tốt cần đi cùng sự cảnh giác trong kỷ nguyên số

Trong thời đại chuyển đổi số, các phương thức lừa đảo không ngừng biến đổi với mức độ tinh vi ngày càng cao. Nếu trước đây tội phạm mạng chủ yếu sử dụng các cuộc gọi giả mạo, tin nhắn chứa đường dẫn độc hại, thì hiện nay đã xuất hiện những thủ đoạn mới lợi dụng chính lòng tốt của người dân tại các địa điểm công cộng.