Tin tức Sản phẩm Câu chuyện phát triển Multimedia Hỏi/Đáp

Khoa học - Công nghệ

Khả năng nhận biết tin giả của ChatGPT và các mô hình ngôn ngữ lớn

Mới đây, một nhà khoa học tại Đại học Wisconsin-Stout (Mỹ) đã thực hiện một nghiên cứu nhằm đánh giá khả năng nhận biết tin giả của các các mô hình ngôn ngữ lớn phổ biến trên thế giới hiện nay. Những phát hiện của ông cung cấp cái nhìn sâu sắc có giá trị, góp phần vào triển vọng sử dụng các mô hình tinh tế này để đối phó với vấn nạn tin giả, tin thất thiệt trong tương lai.
Theo kết quả nghiên cứu, mô hình GPT-4.0 của OpenAI vượt trội các mô hình khác trong thực hiện nhiệm vụ kiểm chứng thông tin. (Ảnh minh họa: Getty Images)
Theo kết quả nghiên cứu, mô hình GPT-4.0 của OpenAI vượt trội các mô hình khác trong thực hiện nhiệm vụ kiểm chứng thông tin. (Ảnh minh họa: Getty Images)

Mô hình ngôn ngữ lớn (LLMs) là sự phát triển của các kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) có thể nhanh chóng tạo ra những đoạn văn bản gần giống với văn bản do con người viết và hoàn thành một số tác vụ đơn giản khác liên quan đến ngôn ngữ.

Những mô hình này ngày càng trở nên phổ biến sau màn ra mắt bùng nổ của ứng dụng chatbot Chat GPT, một LLM hiệu suất cao do công ty khởi nghiệp OpenAI phát triển.

Cho đến nay, các nghiên cứu về LLMs chủ yếu tập trung vào đánh giá khả năng của chúng trong việc tạo văn bản, giải thích các thuật ngữ, viết luận hay tạo code máy tính. Tuy nhiên, những mô hình này còn có thể giúp con người giải quyết nhiều vấn đề khác trong thế giới thực, bao gồm phát hiện tin tức giả mạo và thông tin sai lệch.

Kevin Matthe Caramancion, một nhà khoa học tại Đại học Wisconsin-Stout (Mỹ) gần đây đã thực hiện một nghiên cứu nhằm xem xét khả năng nhận biết tin giả của các LLM phổ biến trên thế giới hiện nay. Những phát hiện của ông cung cấp cái nhìn sâu sắc có giá trị, góp phần vào việc sử dụng các mô hình tinh tế này để đối phó với vấn nạn tin giả, tin thất thiệt trong tương lai.

Kiểm chứng thông tin

Chia sẻ với Tech Xplore, ông Caramancion cho biết: “Mục đích của nghiên cứu là đánh giá kỹ lưỡng tính hiệu quả của các LLM trong việc phân biệt tin thật với tin giả, sử dụng một trình mô phỏng có kiểm soát và dựa trên tiêu chuẩn là các cơ quan chuyên về kiểm chứng thông tin”.

Theo đó, nhóm nghiên cứu kiểm tra hiệu suất của các mô hình này bằng cách sử dụng bộ thử nghiệm gồm 100 đầu mục tin tức đã được kiểm chứng bởi các tổ chức kiểm chứng độc lập.

“Chúng tôi đưa từng đầu mục tin tức vào các LLM trong điều kiện được kiểm soát, phân loại những phản hồi thành một trong ba loại: Đúng, Sai và Đúng/Sai một phần. Hiệu quả của các mô hình được đo lường dựa trên mức độ chính xác mà chúng phân loại các đầu mục tin tức so với thông tin thực tế đã được xác minh do các cơ quan kiểm chứng độc lập cung cấp”, ông Caramancion cho hay.

Thông tin sai lệch đã trở thành một thách thức lớn trong những thập kỷ gần đây, khi internet và mạng xã hội khiến thông tin được lan truyền một cách nhanh chóng, bất kể thông tin đó là đúng hay sai. Do đó, nhiều nhà khoa học máy tính đã cố gắng tạo ra các công cụ và nền tảng kiểm chứng tốt hơn, cho phép người dùng kiểm tra tính xác thực của tin tức mà họ đọc trực tuyến.

Mặc dù cho đến nay đã có nhiều công cụ kiểm chứng thông tin được tạo ra và thử nghiệm, nhưng vẫn còn thiếu một mô hình đáng tin cậy và có thể áp dụng rộng rãi để chống lại việc đưa thông tin thất thiệt. Là một phần trong nghiên cứu của mình, ông Caramancion bắt đầu xác định xem liệu các LLM hiện có có thể giải quyết vấn đề toàn cầu này một cách hiệu quả hay không.

Nhà nghiên cứu thuộc Đại học Wisconsin-Stout đánh giá cụ thể hiệu suất của 4 LLM gồm: Chat GPT-3.0 và Chat GPT-4.0 của OpenAI, Bard/LaMDA của Google, và Bing AI của Microsoft. Ông cung cấp cho các mô hình này những mẩu tin tức giống nhau đã được kiểm chứng, sau đó so sánh khả năng phân loại Đúng, Sai hay Đúng/Sai một phần của 4 LLM nói trên.

Theo kết quả thu được, mô hình GPT-4.0 của OpenAI vượt trội so với các mô hình khác về thực hiện các nhiệm vụ kiểm chứng, điều này cho thấy sự tiến bộ trong các phiên bản LLM mới hơn. Tuy nhiên, tất cả các mô hình đều không đạt được hiệu quả như các cơ quan kiểm chứng, qua đó nhấn mạnh giá trị không thể thay thế của nhận thức con người.

“Những phát hiện này có thể thu hút sự quan tâm lớn hơn đối với việc phát triển các khả năng của trí tuệ nhân tạo (AI) trong lĩnh vực kiểm chứng thông tin trong khi vẫn bảo đảm sự tích hợp cân bằng, cộng sinh với các kỹ năng của con người”, ông Caramancion nói.

ChatGPT tạo ra "cơn sốt" AI trên toàn thế giới

VĂN TOẢN

Theo Tech Xplore

Tin liên quan

AI trên thế giới ChatGPT mô hình ngôn ngữ lớn LLM kiểm chứng thông tin nhận biết tin giả Bard/LaMDA Bing AI

Có thể bạn quan tâm

Bên lề Đại hội, các đại biểu tham quan gian hàng của Công ty cổ phần Khoa học công nghệ Việt Nam (Busadco).

Doanh nghiệp khoa học-công nghệ: Củng cố nội lực để bứt phá

Trong bối cảnh đất nước bước vào kỷ nguyên kinh tế tri thức, với những đột phá mạnh mẽ về trí tuệ nhân tạo, chuyển đổi số và chuyển đổi xanh, cộng đồng doanh nghiệp khoa học-công nghệ đang đứng trước yêu cầu phải đổi mới tư duy, tái cấu trúc nguồn lực và đầu tư chiều sâu để tạo ra năng lực cạnh tranh mới.

[Video] Việt Nam tiên phong xây dựng khung pháp lý cho trí tuệ nhân tạo

[Video] Việt Nam tiên phong xây dựng khung pháp lý cho trí tuệ nhân tạo

Dự thảo Luật Trí tuệ nhân tạo không chỉ là khung pháp lý cho một công nghệ mới mà là bước đi chiến lược giúp Việt Nam chủ động nắm bắt cơ hội của kỷ nguyên số. Khi được ban hành, luật sẽ tạo nền tảng để AI phát triển an toàn nhân văn và hiệu quả, góp phần nâng cao năng lực cạnh tranh quốc gia và thúc đẩy đổi mới sáng tạo.

Các diễn giả trao đổi tại Diễn đàn. (Ảnh: Ủy ban Nhà nước về người Việt Nam ở nước ngoài)

Thúc đẩy hợp tác khoa học-công nghệ, kinh tế xanh và chuyển đổi số vì tương lai bền vững

Diễn đàn Tây Australia -Việt Nam “Tăng cường hợp tác khoa học và công nghệ vì tương lai bền vững” là cơ hội để lãnh đạo, chuyên gia, doanh nghiệp Việt Nam và Australia chia sẻ tầm nhìn, tăng cường hiểu biết và thúc đẩy hợp tác trong các lĩnh vực khoa học-công nghệ, kinh tế xanh, năng lượng tái tạo và chuyển đổi số.

Đại biểu tham dự hội thảo.

Vĩnh Long: Phối hợp chuyển giao ứng dụng khoa học-công nghệ phục vụ phát triển kinh tế-xã hội

Chiều 4/12, Văn phòng Bộ Khoa học và Công nghệ tại miền nam phối hợp Sở Khoa học và Công nghệ Vĩnh Long tổ chức Hội thảo với chủ đề “Phối hợp giữa Bộ Chủ trì Chương trình Khoa học-công nghệ cấp quốc gia với các địa phương trong chuyển giao ứng dụng kết quả nghiên cứu phục vụ phát triển kinh tế- xã hội khu vực phía nam”.

Ảnh minh họa.

Cảnh báo chiến dịch ‘Hanoi Thief’ tấn công mạng doanh nghiệp Việt Nam

Hàng loạt email giả mạo hồ sơ xin việc, đính kèm tệp “Le Xuan Son CV.zip”, được gửi đến các doanh nghiệp lớn, nhỏ tại Việt Nam. Đây là lớp vỏ ngụy trang cho chiến dịch tấn công mạng mang tên Hanoi Thief, với mục tiêu xâm nhập mạng nội bộ, chiếm quyền hệ thống và đánh cắp dữ liệu khách hàng, bí mật doanh nghiệp.

Toàn cảnh tọa đàm.

Những nghiên cứu mới hỗ trợ ngành nông nghiệp giảm phát thải, chăn nuôi bền vững

Các giải pháp đổi mới trong nông nghiệp và chăn nuôi bền vững, bao gồm việc áp dụng công nghệ gene, hệ vi sinh vật, nông nghiệp chính xác, AI và IoT để cải thiện năng suất, giảm hóa chất và phát thải, nâng cao khả năng chống chịu với biến đổi khí hậu vừa được giới thiệu tại tọa đàm “Đổi mới trong nông nghiệp và thực phẩm”.

Lễ khai mạc triển lãm “Tỏa V-Điểm chạm khoa học”.

Chín nghệ sĩ tiêu biểu của nghệ thuật đương đại Việt Nam trưng bày tác phẩm tại triển lãm "Tỏa V-Điểm chạm khoa học"

Triển lãm “Tỏa V-Điểm chạm khoa học” tôn vinh những thành tựu khoa học và ứng dụng sáng tạo vì sự phát triển bền vững và tương lai của nhân loại. Sự kiện nghệ thuật đặc biệt đánh dấu cột mốc kỷ niệm 5 năm Giải thưởng VinFuture cũng như 5 mùa triển lãm "Tỏa" của VCCA.

Lãnh đạo Thành phố Hồ Chí Minh chụp hình lưu niệm cùng các đại biểu dự hội nghị.

Khai mạc Hội nghị thượng đỉnh toàn cầu Diễn đàn cộng đồng thông minh thế giới 2025

Sáng 3/12, tại phường Bình Dương (Thành phố Hồ Chí Minh), đã diễn ra Lễ khai mạc Hội nghị thượng đỉnh toàn cầu Diễn đàn cộng đồng thông minh thế giới (ICF Global Summit 2025) do Ủy ban nhân dân Thành phố Hồ Chí Minh phối hợp Diễn đàn cộng đồng thông minh thế giới (ICF) và Tập đoàn Becamex đăng cai tổ chức.