Ứng dụng AI phát hiện tin giả trên không gian mạng

Trong bối cảnh tin giả lan truyền chóng mặt trên không gian mạng, việc ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội đang trở thành yêu cầu cấp thiết. Đây được xem là giải pháp quan trọng nhằm kiểm chứng và cảnh báo sớm rủi ro thông tin trên môi trường số.

Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa cùng nhóm tác giả triển khai nhiệm vụ nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)
Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa cùng nhóm tác giả triển khai nhiệm vụ nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)

Sự phát triển mạnh mẽ của các nền tảng như Facebook, TikTok, Instagram và YouTube trong những năm gần đây đã làm thay đổi sâu sắc cách con người giao tiếp, tiếp nhận và lan truyền thông tin. Không gian mạng ngày nay không còn giới hạn ở văn bản mà mở rộng sang hình ảnh, video, âm thanh cùng nhiều hình thức tương tác đa dạng khác. Mỗi phút, hàng triệu bài đăng, bình luận và video mới được tạo ra, hình thành nguồn dữ liệu khổng lồ, giàu giá trị cho việc phân tích xu hướng xã hội, nghiên cứu hành vi người dùng, theo dõi dư luận và hỗ trợ hoạch định chính sách.

Tuy nhiên, quá trình xử lý dữ liệu mạng xã hội vẫn đối mặt với nhiều thách thức kỹ thuật. Một trong những khó khăn lớn nhất là khoảng cách ngữ nghĩa giữa các loại dữ liệu khác nhau. Văn bản, hình ảnh hay video thường bổ sung ý nghĩa cho nhau, nhưng các mô hình xử lý đơn phương thức truyền thống lại phân tích tách rời từng thành phần, dẫn tới nguy cơ bỏ sót ngữ cảnh tổng thể.

Bên cạnh đó, dữ liệu mạng xã hội thường thiếu cấu trúc, chứa nhiều nhiễu, tiếng lóng, từ viết tắt hoặc nội dung có chất lượng không đồng đều, khiến việc trích xuất thông tin chính xác trở nên phức tạp hơn. Đặc biệt, tốc độ lan truyền thông tin gần như tức thời trên môi trường số đòi hỏi các hệ thống AI phải có khả năng phân tích đồng thời nhiều loại dữ liệu và xử lý theo thời gian thực để kịp thời phát hiện xu hướng hoặc cảnh báo rủi ro.

Trước yêu cầu đó, các nhà khoa học thuộc Viện Hàn lâm Khoa học và Công nghệ Việt Nam gồm Tiến sĩ Phạm Ngọc Minh; Phó Giáo sư, Tiến sĩ Nguyễn Long Giang, Phó Giáo sư, Tiến sĩ Nguyễn Việt Anh (Viện Công nghệ thông tin) và Tiến sĩ Ngô Duy Tân (Trung tâm Vũ trụ Việt Nam) đã triển khai nghiên cứu về ứng dụng AI đa phương thức trong hỗ trợ phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin và phân tích mạng xã hội. Nghiên cứu được kỳ vọng mở ra hướng tiếp cận mới trong giám sát xu hướng thông tin và nâng cao hiệu quả phát hiện tin giả trên không gian mạng.

Chia sẻ về nghiên cứu này, Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa (Viện Công nghệ thông tin) cho biết: AI đa phương thức là mô hình trí tuệ nhân tạo có khả năng tiếp nhận và xử lý đồng thời nhiều dạng dữ liệu như văn bản, hình ảnh, âm thanh và video. Điểm nổi bật của công nghệ này nằm ở khả năng liên kết và phân tích mối quan hệ giữa các phương thức dữ liệu, thay vì xử lý tách rời từng thành phần như các mô hình truyền thống.

Một hệ thống AI đa phương thức thường gồm ba thành phần chính: mô-đun đầu vào để trích xuất đặc trưng từ từng loại dữ liệu; mô-đun hợp nhất nhằm kết nối và đồng bộ các đặc trưng; cùng mô-đun đầu ra phục vụ các tác vụ như phân loại, dự đoán hoặc tạo nội dung. Sự phát triển của mô hình này được hỗ trợ bởi nhiều công nghệ nền tảng như học sâu, xử lý ngôn ngữ tự nhiên, thị giác máy tính và xử lý âm thanh. Trong đó, các công nghệ nhận diện giọng nói và phân tích cảm xúc giúp AI hiểu sâu hơn nội dung từ video, podcast hay các dữ liệu đa phương tiện khác.

Nhằm đáp ứng yêu cầu xử lý khối lượng dữ liệu lớn từ mạng xã hội, nhóm nghiên cứu đã xây dựng hệ thống theo mô hình phân tầng, cho phép mở rộng linh hoạt và tăng khả năng xử lý đồng thời. Hệ thống kết hợp các giao diện lập trình ứng dụng (API) chính thống với cơ chế thu thập dữ liệu công khai để khai thác thông tin từ nhiều nền tảng mạng xã hội khác nhau. Dữ liệu sau đó được đưa vào nền tảng xử lý theo thời gian thực như Apache Kafka nhằm giảm độ trễ và nâng cao tốc độ phân tích.

Ở tầng lưu trữ, hệ thống được thiết kế theo hướng kết hợp nhiều mô hình cơ sở dữ liệu nhằm đáp ứng đặc thù đa dạng của dữ liệu mạng xã hội. Các dữ liệu đặc trưng được lưu trữ dưới dạng vector để phục vụ quá trình tìm kiếm và đối chiếu thông tin với tốc độ cao. Tuy nhiên, do dữ liệu trên không gian mạng thường thiếu đồng nhất và chứa nhiều nhiễu, hệ thống phải trải qua bước tiền xử lý trước khi đưa vào phân tích.

Cụ thể, với dữ liệu văn bản, hệ thống tiến hành chuẩn hóa ngôn ngữ, xử lý biểu tượng cảm xúc và loại bỏ những thành phần dư thừa; với hình ảnh, các kỹ thuật tăng cường và chuẩn hóa dữ liệu được áp dụng nhằm nâng cao chất lượng đầu vào. Đối với video, hệ thống chỉ lựa chọn những khung hình quan trọng để tối ưu tài nguyên xử lý, trong khi dữ liệu âm thanh được khử nhiễu và phân đoạn nhằm nâng cao độ chính xác trong phân tích. Mỗi loại dữ liệu sẽ được xử lý bằng các mô hình chuyên biệt phù hợp với đặc trưng riêng.

anh-2-tin-gia.jpg
Tiến sĩ Phạm Ngọc Minh, Phó trưởng phòng Kỹ thuật điều khiển và Tự động hóa chia sẻ về nghiên cứu ứng dụng AI đa phương thức trong phát hiện thông tin sai lệch và phân tích mạng xã hội. (Ảnh: TL)

Theo nhóm nghiên cứu, hệ thống có thể triển khai trên các nền tảng mã nguồn mở như Apache Spark, PyTorch hay Milvus, qua đó hỗ trợ xử lý dữ liệu quy mô lớn với chi phí tối ưu. Một trong những ứng dụng nổi bật của mô hình là hỗ trợ đa phương thức để phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin. Hệ thống có khả năng phát hiện các dấu hiệu không nhất quán giữa nội dung văn bản và hình ảnh, đồng thời phân tích cảm xúc từ nhiều nguồn dữ liệu nhằm đánh giá mức độ xác thực của thông tin. Bên cạnh đó, quy trình vận hành và cập nhật mô hình học máy cũng được tích hợp, giúp hệ thống liên tục học hỏi từ dữ liệu mới và duy trì khả năng hoạt động ổn định.

Nhóm nghiên cứu cũng đề xuất áp dụng kỹ thuật “chưng cất tri thức” (Knowledge Distillation) nhằm giảm chi phí tính toán nhưng vẫn bảo đảm hiệu quả xử lý, tạo điều kiện triển khai hệ thống trên quy mô lớn.

Theo Tiến sĩ Phạm Ngọc Minh, việc kết hợp mô hình xử lý tiếng Việt PhoBERT, mô hình thị giác máy tính Vision Transformer cùng cơ chế chú ý chéo đã cho thấy tiềm năng lớn trong giải quyết bài toán phân mảnh dữ liệu giữa văn bản, hình ảnh, âm thanh và video. Việc hợp nhất các nguồn dữ liệu không chỉ nâng cao độ chính xác trong phân tích thông tin mà còn hỗ trợ hiệu quả cho các hệ thống giám sát xu hướng truyền thông, hỗ trợ phát hiện, đánh giá mức độ đáng tin cậy hoặc khả năng sai lệch của thông tin và phản ứng nhanh trước các biến động xã hội. Đồng thời, kết quả phân tích của AI cần được kết hợp với chuyên gia hoặc hệ thống kiểm chứng để bảo dảm độ tin cậy của mô hình.

Trong bối cảnh AI thế hệ mới phát triển mạnh mẽ, mô hình này được đánh giá là nền tảng quan trọng cho việc xây dựng các hệ thống quản trị nội dung số thông minh trong tương lai.

Có thể bạn quan tâm

Nhiều hành vi thường xuất hiện trong các vụ lừa đảo công nghệ cao tăng mạnh mức xử phạt.

Tăng mức xử phạt hàng loạt thủ đoạn lừa đảo công nghệ cao

Từ 1/7/2026, Nghị định 174/2026/NĐ-CP có hiệu lực, thay thế nhiều quy định của Nghị định 15/2020/NĐ-CP về xử phạt vi phạm hành chính trong lĩnh vực bưu chính, viễn thông, công nghệ thông tin và giao dịch điện tử. Đáng chú ý, nhiều hành vi thường xuất hiện trong các vụ lừa đảo công nghệ cao... đã tăng mạnh mức xử phạt.

Ngăn chặn tội phạm mạng lợi dụng chủ trương số hóa dữ liệu. (Hình ảnh có sự hỗ trợ của AI)

[Video] Ngăn chặn tội phạm mạng lợi dụng chủ trương số hóa dữ liệu

Chỉ bằng một cuộc gọi tự xưng là cán bộ địa chính hoặc công an địa phương, nhiều người dân đã tin rằng mình đang thực hiện một thủ tục hành chính cần thiết để cập nhật thông tin đất đai trên ứng dụng VNeID. Thế nhưng, phía sau lời đề nghị "hỗ trợ tích hợp sổ đỏ" lại là một kịch bản lừa đảo được dàn dựng tinh vi.

 Người dân cần nâng cao cảnh giác trước các thủ đoạn lợi dụng lòng tốt để thu thập dữ liệu cá nhân, sinh trắc học. (Hình ảnh có sự hỗ trợ của AI)

Lòng tốt cần đi cùng sự cảnh giác trong kỷ nguyên số

Trong thời đại chuyển đổi số, các phương thức lừa đảo không ngừng biến đổi với mức độ tinh vi ngày càng cao. Nếu trước đây tội phạm mạng chủ yếu sử dụng các cuộc gọi giả mạo, tin nhắn chứa đường dẫn độc hại, thì hiện nay đã xuất hiện những thủ đoạn mới lợi dụng chính lòng tốt của người dân tại các địa điểm công cộng.

Ngăn chặn từ sớm nguy cơ hình thành "đại bản doanh lừa đảo"

Ngăn chặn từ sớm nguy cơ hình thành "đại bản doanh lừa đảo"

Nếu trước đây, tội phạm công nghệ cao chủ yếu ẩn mình sau màn hình máy tính, thì nay chúng đang bước thêm một bước nguy hiểm hơn: mang cả con người, thiết bị, dữ liệu và mô hình vận hành vào tận lãnh thổ của các quốc gia để xây dựng những “công xưởng lừa đảo”.

Nhận diện sớm các chiêu trò lừa đảo bằng trí tuệ nhân tạo

Nhận diện sớm các chiêu trò lừa đảo bằng trí tuệ nhân tạo

Sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) đang mang lại nhiều tiện ích cho đời sống và công việc. Tuy nhiên, bên cạnh những lợi ích tích cực, công nghệ này cũng đang bị các đối tượng xấu lợi dụng để thực hiện các hành vi lừa đảo ngày càng tinh vi.

Người dân cần cảnh giác với các cuộc gọi giả mạo người thân, cơ quan chức năng.

Cuộc gọi hiện đúng tên người thân vẫn có thể là lừa đảo

Nhờ công nghệ giả mạo số điện thoại kết hợp trí tuệ nhân tạo mô phỏng giọng nói, các đối tượng lừa đảo có thể khiến cuộc gọi hiển thị đúng tên người thân, bạn bè hoặc cơ quan, tổ chức uy tín. Thủ đoạn này đã khiến không ít người mất cảnh giác, cung cấp thông tin cá nhân hoặc chuyển tiền theo yêu cầu của kẻ lừa đảo.

Các đối tượng trong đường dây cá độ bị công an thành phố Đà Nẵng triệu tập, làm việc và tạm giữ hình sự. (Nguồn: Bộ Công an)

Xử lý nghiêm hành vi cá độ bóng đá trên không gian mạng

Giải Vô địch bóng đá thế giới (World Cup 2026) đang đầy kịch tính bởi những chiến thắng của các đội tuyển vốn được đánh giá thấp hơn. Lợi dụng sự hấp dẫn của môn thể thao "vua" này, nhiều trang web, đường dây cá độ bóng đá trái phép đã nở rộ trên không gian mạng khiến nhiều người mê "đỏ đen" rơi vào cảnh "tan cửa, nát nhà"...

Một “thế trận lòng dân” vững chắc sẽ là “lá chắn” tư tưởng trên mặt trận không gian mạng.

“Lá chắn” tư tưởng trên mặt trận không gian mạng

Trong dòng chảy của lịch sử và đời sống xã hội, “sự thật” luôn là nền tảng tối cao quyết định nhận thức, dẫn dắt niềm tin và định hình hành động của quần chúng nhân dân. Chúng ta đang sống trong một kỷ nguyên mà sự bùng nổ thông tin đang bị các thế lực đen tối lợi dụng để làm mờ ranh giới giữa cái thật và cái giả.

Nhận diện thủ đoạn lừa đảo “sở hữu kỳ nghỉ”

Nhận diện thủ đoạn lừa đảo “sở hữu kỳ nghỉ”

Nhiều người dân đã trở thành nạn nhân của các vụ lừa đảo liên quan đến “sở hữu kỳ nghỉ” (timeshare) với số tiền thiệt hại từ vài chục triệu đến hàng tỷ đồng. Núp bóng các sản phẩm nghỉ dưỡng cao cấp hoặc cơ hội đầu tư sinh lời, nhiều đối tượng đã dựng nên các kịch bản tinh vi để lừa đảo, chiếm đoạt tài sản của khách hàng.

Khi trại hè trở thành “cái bẫy”.

[Video] Khi trại hè trở thành “cái bẫy”

Mùa hè là thời điểm nhiều phụ huynh tìm kiếm các khóa học kỹ năng, trại hè hay chương trình trải nghiệm thực tế để giúp con em có thêm môi trường rèn luyện và phát triển.

Các em nhỏ tại điểm trường Hát Khoang, xã Mường Mùn, tỉnh Điện Biên. (Ảnh: Thuỷ Nguyên)

Lừa đảo công nghệ cao nhắm vào trẻ em dịp hè

Mùa hè đến là khoảng thời gian học sinh có nhiều thời gian tiếp xúc với điện thoại, mạng xã hội, trò chơi trực tuyến. Đây cũng là thời điểm các đối tượng xấu gia tăng hoạt động trên không gian mạng với nhiều thủ đoạn tinh vi nhằm chiếm đoạt tài sản, đánh cắp thông tin hoặc xâm hại trẻ em.

Tội phạm "ôm" tiền tỷ, nạn nhân "ôm" nợ xấu suốt đời

Tội phạm "ôm" tiền tỷ, nạn nhân "ôm" nợ xấu suốt đời

Không đánh cắp mật khẩu. Không chiếm đoạt mã OTP. Không cần trực tiếp hack tài khoản ngân hàng. Một hình thức lừa đảo mới đang bùng phát với mức độ nguy hiểm đặc biệt: Nạn nhân chính là người tự tay thực hiện toàn bộ quy trình vay vốn để... dâng tiền cho kẻ xấu.

Từ ngày 1/7/2026, tăng mức xử phạt với hành vi giả mạo trên mạng xã hội.

Tăng mức xử phạt với hành vi giả mạo trên mạng xã hội

Các hình thức lợi dụng mạng xã hội để giả mạo tài khoản, fanpage, hội nhóm nhằm phát tán thông tin giả, sai sự thật hoặc lừa đảo người dùng ngày càng phổ biến. Từ ngày 1/7/2026, quy định xử phạt đối với các hành vi này tiếp tục được siết chặt với mức phạt tăng cao hơn trước.

Cuộc gọi rác. (Ảnh minh họa)

Siết xử phạt tin nhắn rác, cuộc gọi rác

Tin nhắn chứa đường dẫn giả mạo, cuộc gọi rác hay phần mềm độc hại vẫn là những thủ đoạn phổ biến được các đối tượng sử dụng để tiếp cận người dùng trên môi trường mạng. Pháp luật hiện hành quy định nhiều chế tài xử lý đối với các hành vi này nhằm bảo đảm an toàn thông tin và quyền lợi của người sử dụng dịch vụ viễn thông.

Vì sao website giả mạo dịch vụ công vẫn còn “đất sống”?

Vì sao website giả mạo dịch vụ công vẫn còn “đất sống”?

Hàng trăm nghìn website giả mạo dịch vụ công đã được phát hiện trong nhiều năm gần đây. Nhưng số lượng website giả mạo này vẫn chưa có dấu hiệu dừng lại và còn có xu hướng tăng lên cả về mức độ tinh vi và số lượng nạn nhân. Vậy vì sao website giả mạo dịch vụ công vẫn còn “đất sống”?

Ảnh minh hoạ.

Cảnh báo gia tăng tình trạng cá độ bóng đá trên mạng trước World Cup 2026

Giải vô địch bóng đá World Cup 2026 sắp diễn ra, thu hút sự quan tâm của nhiều người hâm mộ trên thế giới. Lợi dụng sức “nóng” của sự kiện này, các đối tượng tổ chức đánh bạc đã dùng nhiều phương thức, thủ đoạn tinh vi lôi kéo người dân tham gia cá độ trái phép trên mạng, gây ảnh hưởng đến tình hình an ninh - trật tự địa phương.

Cơ quan chức năng khuyến cáo người dân chỉ đăng nhập tại địa chỉ chính thức của Cổng Dịch vụ công Quốc gia.

Cẩn trọng với tin nhắn giả mạo cổng dịch vụ công

Thời gian gần đây, người dân liên tục nhận được tin nhắn thông báo “phạt nguội”, “xác minh thông tin cư trú” kèm đường link yêu cầu đăng nhập Cổng dịch vụ công. Đây là thủ đoạn lừa đảo  không còn mới nhưng vẫn tiếp tục được tội phạm sử dụng ở nhiều thời điểm khác nhau nhằm vào sự lơ là, mất cảnh giác của người dân dân...

Điểm tin an ninh mạng tháng 5/2026.

[Video] Điểm tin an ninh mạng tháng 5/2026

Từ ngày 15/4 đến 15/5/2026, hàng loạt vụ án công nghệ cao tiếp tục bị bóc gỡ trong cả nước. Nhưng nếu nhìn sâu hơn, đây không còn là những vụ lừa đảo riêng lẻ mà là dấu hiệu cho thấy: tội phạm công nghệ cao đang thay đổi.

Cơ quan chức năng khuyến cáo người tiêu dùng không nên giao dịch chỉ dựa vào video quảng cáo, livestream.

Cảnh báo lừa đảo công nghệ cao khi mua hàng online

Ủy ban Cạnh tranh quốc gia vừa phát đi cảnh báo về việc các đối tượng sử dụng trí tuệ nhân tạo (AI), nội dung giả mạo bằng trí tuệ nhân tạo (deepfake) để giả mạo người nổi tiếng, chuyên gia, cơ quan chức năng nhằm quảng cáo sai sự thật, lừa đảo người tiêu dùng trên môi trường mạng.