Khả năng nhận biết tin giả của ChatGPT và các mô hình ngôn ngữ lớn

Mới đây, một nhà khoa học tại Đại học Wisconsin-Stout (Mỹ) đã thực hiện một nghiên cứu nhằm đánh giá khả năng nhận biết tin giả của các các mô hình ngôn ngữ lớn phổ biến trên thế giới hiện nay. Những phát hiện của ông cung cấp cái nhìn sâu sắc có giá trị, góp phần vào triển vọng sử dụng các mô hình tinh tế này để đối phó với vấn nạn tin giả, tin thất thiệt trong tương lai.
Theo kết quả nghiên cứu, mô hình GPT-4.0 của OpenAI vượt trội các mô hình khác trong thực hiện nhiệm vụ kiểm chứng thông tin. (Ảnh minh họa: Getty Images)
Theo kết quả nghiên cứu, mô hình GPT-4.0 của OpenAI vượt trội các mô hình khác trong thực hiện nhiệm vụ kiểm chứng thông tin. (Ảnh minh họa: Getty Images)

Mô hình ngôn ngữ lớn (LLMs) là sự phát triển của các kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) có thể nhanh chóng tạo ra những đoạn văn bản gần giống với văn bản do con người viết và hoàn thành một số tác vụ đơn giản khác liên quan đến ngôn ngữ.

Những mô hình này ngày càng trở nên phổ biến sau màn ra mắt bùng nổ của ứng dụng chatbot Chat GPT, một LLM hiệu suất cao do công ty khởi nghiệp OpenAI phát triển.

Cho đến nay, các nghiên cứu về LLMs chủ yếu tập trung vào đánh giá khả năng của chúng trong việc tạo văn bản, giải thích các thuật ngữ, viết luận hay tạo code máy tính. Tuy nhiên, những mô hình này còn có thể giúp con người giải quyết nhiều vấn đề khác trong thế giới thực, bao gồm phát hiện tin tức giả mạo và thông tin sai lệch.

Kevin Matthe Caramancion, một nhà khoa học tại Đại học Wisconsin-Stout (Mỹ) gần đây đã thực hiện một nghiên cứu nhằm xem xét khả năng nhận biết tin giả của các LLM phổ biến trên thế giới hiện nay. Những phát hiện của ông cung cấp cái nhìn sâu sắc có giá trị, góp phần vào việc sử dụng các mô hình tinh tế này để đối phó với vấn nạn tin giả, tin thất thiệt trong tương lai.

Chia sẻ với Tech Xplore, ông Caramancion cho biết: “Mục đích của nghiên cứu là đánh giá kỹ lưỡng tính hiệu quả của các LLM trong việc phân biệt tin thật với tin giả, sử dụng một trình mô phỏng có kiểm soát và dựa trên tiêu chuẩn là các cơ quan chuyên về kiểm chứng thông tin”.

Theo đó, nhóm nghiên cứu kiểm tra hiệu suất của các mô hình này bằng cách sử dụng bộ thử nghiệm gồm 100 đầu mục tin tức đã được kiểm chứng bởi các tổ chức kiểm chứng độc lập.

“Chúng tôi đưa từng đầu mục tin tức vào các LLM trong điều kiện được kiểm soát, phân loại những phản hồi thành một trong ba loại: Đúng, Sai và Đúng/Sai một phần. Hiệu quả của các mô hình được đo lường dựa trên mức độ chính xác mà chúng phân loại các đầu mục tin tức so với thông tin thực tế đã được xác minh do các cơ quan kiểm chứng độc lập cung cấp”, ông Caramancion cho hay.

Thông tin sai lệch đã trở thành một thách thức lớn trong những thập kỷ gần đây, khi internet và mạng xã hội khiến thông tin được lan truyền một cách nhanh chóng, bất kể thông tin đó là đúng hay sai. Do đó, nhiều nhà khoa học máy tính đã cố gắng tạo ra các công cụ và nền tảng kiểm chứng tốt hơn, cho phép người dùng kiểm tra tính xác thực của tin tức mà họ đọc trực tuyến.

Mặc dù cho đến nay đã có nhiều công cụ kiểm chứng thông tin được tạo ra và thử nghiệm, nhưng vẫn còn thiếu một mô hình đáng tin cậy và có thể áp dụng rộng rãi để chống lại việc đưa thông tin thất thiệt. Là một phần trong nghiên cứu của mình, ông Caramancion bắt đầu xác định xem liệu các LLM hiện có có thể giải quyết vấn đề toàn cầu này một cách hiệu quả hay không.

Nhà nghiên cứu thuộc Đại học Wisconsin-Stout đánh giá cụ thể hiệu suất của 4 LLM gồm: Chat GPT-3.0 và Chat GPT-4.0 của OpenAI, Bard/LaMDA của Google, và Bing AI của Microsoft. Ông cung cấp cho các mô hình này những mẩu tin tức giống nhau đã được kiểm chứng, sau đó so sánh khả năng phân loại Đúng, Sai hay Đúng/Sai một phần của 4 LLM nói trên.

Theo kết quả thu được, mô hình GPT-4.0 của OpenAI vượt trội so với các mô hình khác về thực hiện các nhiệm vụ kiểm chứng, điều này cho thấy sự tiến bộ trong các phiên bản LLM mới hơn. Tuy nhiên, tất cả các mô hình đều không đạt được hiệu quả như các cơ quan kiểm chứng, qua đó nhấn mạnh giá trị không thể thay thế của nhận thức con người.

“Những phát hiện này có thể thu hút sự quan tâm lớn hơn đối với việc phát triển các khả năng của trí tuệ nhân tạo (AI) trong lĩnh vực kiểm chứng thông tin trong khi vẫn bảo đảm sự tích hợp cân bằng, cộng sinh với các kỹ năng của con người”, ông Caramancion nói.

Có thể bạn quan tâm

Đào tạo an ninh mạng tại CyRadar giúp doanh nghiệp nâng cao năng lực phòng thủ.

Tăng năng lực phòng vệ của doanh nghiệp

Chuyển đổi số đang mở ra nhiều cơ hội tăng trưởng cho doanh nghiệp Việt Nam nhưng cũng kéo theo những rủi ro an ninh mạng phức tạp. Khi dữ liệu trở thành tài sản chiến lược, khả năng bảo vệ hệ thống và thông tin không còn là vấn đề kỹ thuật mà trở thành năng lực phòng vệ quan trọng đối với mỗi doanh nghiệp.

Hoạt động nghiên cứu tại Phòng Thí nghiệm trọng điểm Công nghệ Lọc, Hóa dầu (Viện Hóa học công nghiệp Việt Nam).

Đầu tư hạ tầng nghiên cứu cho công nghệ chiến lược

Phát triển hệ thống phòng thí nghiệm trọng điểm quốc gia là một trong những giải pháp để hiện thực hóa mục tiêu đột phá về khoa học, công nghệ và đổi mới sáng tạo theo Nghị quyết 57-NQ/TW. Thực trạng lạc hậu về công nghệ đặt ra yêu cầu cấp thiết phải tổ chức lại hạ tầng nghiên cứu theo hướng tập trung, đồng bộ và hiệu quả.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an thành phố Đà Nẵng đấu tranh tội phạm trên không gian mạng. (Ảnh: Công Vinh)

Nâng cao ý thức làm chủ, bảo vệ không gian mạng

Tại Hội nghị Trung ương 2 khóa XIV, Tổng Bí thư Tô Lâm tiếp tục khẳng định chủ trương của Đảng về bảo đảm quốc phòng, an ninh, đối ngoại, hội nhập quốc tế trong giai đoạn mới, khi nhấn mạnh yêu cầu: Tự chủ chiến lược, có năng lực kiểm soát rủi ro, có thể chế vững, có trật tự xã hội ổn định, có sự hội nhập quốc tế sâu rộng...

UAV được thử nghiệm phun thuốc cho cây cà-phê tại xã Mường Ảng, tỉnh Điện Biên.

Cơ chế sandbox đã sang giai đoạn triển khai thực tế

Bộ Khoa học và Công nghệ cho biết, bên cạnh chuẩn bị cấp phép mô hình thử nghiệm có kiểm soát đầu tiên về phát triển kinh tế tầm thấp, ứng dụng phương tiện bay không người lái (UAV) tại tỉnh Điện Biên, một số địa phương, doanh nghiệp cũng bày tỏ quan tâm đến việc triển khai thử nghiệm mô hình sandbox.

Định vị vị thế Việt Nam trên bản đồ sở hữu trí tuệ toàn cầu

Định vị vị thế Việt Nam trên bản đồ sở hữu trí tuệ toàn cầu

Trong tiến trình hội nhập kinh tế quốc tế, sở hữu trí tuệ ngày càng khẳng định vai trò là một trụ cột quan trọng của nền kinh tế tri thức. Những năm qua, Việt Nam đã chủ động hoàn thiện thể chế, từng bước xây dựng hệ thống sở hữu trí tuệ tương thích với chuẩn mực quốc tế và đạt được nhiều kết quả tích cực.

Bảo đảm pháp lý khi chuyển chất xám trí tuệ thành dòng vốn trên thị trường

Bảo đảm pháp lý khi chuyển chất xám trí tuệ thành dòng vốn trên thị trường

Luật Sở hữu trí tuệ sửa đổi 2025 được thông qua cho thấy những vấn đề pháp lý sở hữu trí tuệ đã được điều chỉnh gần và sát thực tiễn hiện nay. Trong đó, việc định giá tài sản sở hữu trí tuệ làm tài sản bảo đảm đang là nội dung thu hút sự quan tâm của đông đảo dư luận, nhất là với giới khởi nghiệp liên quan đổi mới sáng tạo.