Giới nghiên cứu thông tin sai lệch đưa ra cảnh báo về chatbot trí tuệ nhân tạo

Ngay sau khi ChatGPT được ra mắt vào cuối năm 2022, các nhà nghiên cứu đã phân tích nội dung loại chatbot này sẽ viết để trả lời những câu hỏi chứa nhiều thuyết âm mưu và thông tin sai sự thật. Dù được trình bày dưới dạng bài báo, tiểu luận hay kịch bản truyền hình thì kết quả mà ChatGPT đưa ra đều khiến các nhà nghiên cứu lo lắng đến mức phải lên tiếng một cách thẳng thắn.
ChatGPT được đánh giá sẽ trở thành công cụ lan truyền thông tin sai lệch mạnh mẽ nhất từng xuất hiện trên internet. (Ảnh minh họa: Reuters)
ChatGPT được đánh giá sẽ trở thành công cụ lan truyền thông tin sai lệch mạnh mẽ nhất từng xuất hiện trên internet. (Ảnh minh họa: Reuters)

Ông Gordon Crovitz, đồng Giám đốc điều hành của NewsGuard, một công ty theo dõi thông tin sai sự thật trên internet đánh giá: "Đây sẽ là công cụ lan truyền thông tin sai lệch mạnh mẽ nhất từng xuất hiện trên internet".

“Giờ đây việc dựng lên một câu chuyện giả có thể được thực hiện ở quy mô lớn và thường xuyên hơn nhiều. Nó giống như việc có nhiều công ty trí tuệ nhân tạo góp phần tạo ra thông tin sai lệch”, ông Gordon Crovitz nói.

Ngày 30/11/2022, OpenAI - một công ty khởi nghiệp về trí tuệ nhân tạo có trụ sở tại thành phố San Francisco (Mỹ) đã chính thức cho người dùng đăng ký trải nghiệm miễn phí ChatGPT, một ứng dụng phần mềm được thiết kế để mô phỏng cuộc trò chuyện của con người.

Việc giải quyết các thông tin sai sự thật rất khó khăn trong trường hợp những thông tin này do con người tạo ra bằng cách “thủ công”. Giới nghiên cứu cũng dự báo, ChatGPT có thể làm cho thông tin sai sự thật trở nên rẻ hơn và dễ sản xuất hơn bởi số lượng lớn những người tin vào thuyết âm mưu và những người lan truyền thông tin sai lệch.

Theo các nhà nghiên cứu, các chatbot được thực hiện theo thời gian thực và đã được cá nhân hóa có thể lan truyền các thuyết âm mưu bằng những cách càng ngày càng đáng tin cậy và thuyết phục hơn; loại bỏ những lỗi sai con người thường mắc phải như lỗi cú pháp, dịch sai... Các nhà khoa học cũng cho biết, hiện chưa có biện pháp nào có thể ngăn chặn nguy cơ này một cách hiệu quả.

Trong nhiều năm qua, những chatbot ra đời trước ChatGPT đã được sử dụng để đưa bình luận và thư rác vào các diễn đàn trực tuyến và nền tảng mạng xã hội. Microsoft đã phải tạm dừng hoạt động của Tay trong vòng 24 giờ sau khi chatbot này được giới thiệu trên Twitter vào năm 2016 do có người đã cố tình “dạy” nó dùng ngôn ngữ phân biệt chủng tộc...

ChatGPT mạnh mẽ và tinh vi hơn nhiều so với các chatbot trước đây. Đối với những câu hỏi chứa nhiều thông tin sai lệch, nó có thể tạo ra các biến thể rõ ràng, thuyết phục về nội dung trong vòng vài giây mà không tiết lộ nguồn thông tin.

Mới đây, Microsoft và OpenAI đã giới thiệu công cụ tìm kiếm Bing và trình duyệt web mới có thể sử dụng công nghệ chatbot để lên kế hoạch cho các kỳ nghỉ, dịch văn bản hoặc làm nghiên cứu.

Từ lâu, các nhà nghiên cứu của OpenAI đã lo lắng về việc chatbot rơi vào tay những kẻ xấu. Trong một bài báo năm 2019, họ đã bày tỏ quan ngại về “những năng lực của chatbot có thể hạ chi phí của các chiến dịch thông tin sai lệch” và giúp theo đuổi mục tiêu ác ý như gây hỗn loạn hoặc hiểu nhầm...

Vào năm 2020, các nhà nghiên cứu tại Trung tâm Chính sách khủng bố, chủ nghĩa cực đoan và chống khủng bố tại Viện Nghiên cứu quốc tế Middlebury (Mỹ) đã phát hiện rằng, GPT-3 - công nghệ cơ bản của ChatGPT, có “kiến thức rất sâu sắc về các cộng đồng cực đoan”.

Tháng 12/2022, Arvind Narayanan, Giáo sư khoa học máy tính tại Đại học Princeton, đã viết trên Twitter rằng, ông đã hỏi ChatGPT một số câu hỏi cơ bản về bảo mật thông tin mà ông đã đặt ra cho các sinh viên trong một kỳ thi và chatbot này đã đưa ra những câu trả lời có vẻ hợp lý nhưng thực ra lại vô nghĩa.

“Điều nguy hiểm là bạn không thể biết khi nào nó sai trừ phi bạn đã biết câu trả lời. Thật đáng lo ngại, tôi đã phải xem xét các giải pháp tham khảo của mình để chắc chắn rằng tôi không bị mất trí”, Arvind Narayanan chia sẻ.

Một số công ty đã sử dụng chatbot đa ngôn ngữ để hỗ trợ khách hàng mà không cần đến người phiên dịch. (Ảnh minh họa: Reuters)

Một số công ty đã sử dụng chatbot đa ngôn ngữ để hỗ trợ khách hàng mà không cần đến người phiên dịch. (Ảnh minh họa: Reuters)

Các nhà nghiên cứu cũng lo lắng rằng công nghệ này có thể bị lợi dụng từ nước ngoài với ý định lan truyền thông tin sai lệch bằng tiếng Anh. Trên thực tế, một số công ty đã sử dụng chatbot đa ngôn ngữ để hỗ trợ khách hàng mà không cần đến người phiên dịch.

Theo phát hiện của Check Point Research, nhóm cung cấp thông tin tình báo về mối đe dọa mạng, tội phạm mạng đã thử nghiệm sử dụng ChatGPT để tạo ra phần mềm độc hại. Ông Mark Ostrowski, Trưởng nhóm kỹ thuật của Check Point cho biết, mặc dù việc tấn công mạng thường đòi hỏi kiến ​​thức lập trình ở trình độ cao, nhưng ChatGPT có thể hỗ trợ những lập trình viên mới vào nghề.

Một người phát ngôn của OpenAI cho biết, công ty này sử dụng các loại máy móc và con người để giám sát nội dung do ChatGPT sản xuất. Công ty dựa vào cả người huấn luyện trí tuệ nhân tạo và phản hồi từ người dùng để xác định và lọc ra dữ liệu độc hại trong khi dạy ChatGPT nhằm tạo ra phản hồi chứa thông tin tốt hơn.

Các chính sách của OpenAI cấm sử dụng công nghệ của họ để làm gia tăng sự không trung thực, lừa dối, thao túng người dùng hoặc cố gắng gây ảnh hưởng đến chính trị. Công ty này cung cấp một công cụ kiểm duyệt miễn phí để xử lý nội dung kích động thù hận, tự gây hại cho bản thân, bạo lực hoặc tình dục.

Tuy nhiên, hiện tại, công cụ này mới chỉ hỗ trợ phần nào đó cho các ngôn ngữ ngoài tiếng Anh và chưa nhận biết được các tài liệu chính trị, thư rác, lừa đảo hoặc phần mềm độc hại. Bản thân ChatGPT cũng cảnh báo người dùng rằng “đôi khi nó có thể tạo ra các hướng dẫn gây hại hoặc nội dung sai lệch”.

Tuần trước, OpenAI đã công bố một công cụ riêng lẻ giúp phân biệt khi nào văn bản được viết bởi con người chứ không phải trí tuệ nhân tạo, với mục tiêu phần nào nhận diện các chiến dịch lan truyền thông tin sai lệch tự động hóa. Công ty đã cảnh báo công cụ của họ không hoàn toàn đáng tin cậy và có thể bị "qua mặt". Ngoài ra, công cụ này cũng gặp khó khăn với các văn bản có ít hơn 1.000 ký tự hoặc được viết bằng các ngôn ngữ không phải tiếng Anh.

The New York Times

Có thể bạn quan tâm

Bí thư Tỉnh ủy Đắk Lắk Lương Nguyễn Minh Triết phát biểu tại hội thảo.

Đắk Lắk đẩy mạnh chuyển đổi số và phát triển hệ sinh thái doanh nghiệp bền vững

Trong khuôn khổ chuỗi sự kiện công bố điều chỉnh quy hoạch tỉnh Đắk Lắk thời kỳ 2021-2030, tầm nhìn đến năm 2050 và xúc tiến đầu tư năm 2026, sáng 26/6, Sở Khoa học và Công nghệ tỉnh Đắk Lắk phối hợp các cơ quan, đơn vị tổ chức Hội thảo chuyên đề “Chuyển đổi số và phát triển hệ sinh thái doanh nghiệp bền vững”.

Hội thảo Việt Nam-Lào về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số trong các lĩnh vực.

Việt Nam-Lào hợp tác về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số

Chiều 25/6, tại thủ đô Vientiane (Lào), Trung tâm Chứng thực điện tử quốc gia Việt Nam (NEAC), Bộ Khoa học và Công nghệ Việt Nam phối hợp Trung tâm Internet quốc gia Lào (LANIC), Bộ Công nghệ và Truyền thông Lào tổ chức Hội thảo Việt Nam-Lào về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số trong các lĩnh vực.

Nhóm nghiên cứu của Viettel AI xây dựng mới bộ dữ liệu các khuôn mặt bị che khuất để huấn luyện mô hình AI. (Ảnh: Quỳnh Trang)

Giải pháp Viettel AI được bảo hộ tại Hoa Kỳ nhờ bài toán nhận diện khuôn mặt bị che khuất

Ngày 26/6, Tập đoàn Công nghiệp-Viễn thông Quân đội Viettel cho biết, năng lực nghiên cứu công nghệ lõi của Viettel AI được khẳng định khi Văn phòng Sáng chế và Nhãn hiệu Hoa Kỳ (USPTO) vừa cấp bằng sáng chế hữu ích cho phương pháp “Nhận diện khuôn mặt có đeo khẩu trang qua hình ảnh sử dụng công nghệ trí tuệ nhân tạo”.

Diễn đàn đối thoại chiến lược 2026 tại Hà Nội bàn cách xác lập mô hình tăng trưởng mới dựa trên công nghệ chiến lược, đổi mới sáng tạo và nguồn nhân lực chất lượng cao.

Phát huy công nghệ chiến lược, xác lập mô hình tăng trưởng mới

Ngày 25/6, tại Hà Nội, Bộ Ngoại giao phối hợp Phòng Thương mại Hoa Kỳ tại ASEAN, Tổ chức Hợp tác và Phát triển kinh tế (OECD) cùng các đối tác tổ chức Diễn đàn đối thoại chiến lược với chủ đề “Xác lập mô hình tăng trưởng mới: Phát huy các công nghệ chiến lược để nâng cao năng lực cạnh tranh và tăng trưởng bền vững”. 

Triển lãm Quốc tế Vietnam ICTCOMM 2026 diễn ra từ 24-26/6 tại Thành phố Hồ Chí Minh.

Doanh nghiệp vận hành trên nền tảng AI – Tương lai của chuyển đổi số

Diễn ra từ ngày 24-26/6/2026 tại Thành phố Hồ Chí Minh, Vietnam ICTCOMM 2026 quy tụ hàng trăm doanh nghiệp công nghệ trong các lĩnh vực ICT, AI, IoT, Cloud, Data Center và Cybersecurity. Theo Ban tổ chức, ngày khai mạc đã thu hút hơn 2.000 lượt khách tham quan cùng nhiều hội thảo chuyên đề về chuyển đổi số và trí tuệ nhân tạo.

Báo chí thế giới tái định vị giữa "gọng kìm" của AI và người sáng tạo nội dung

Báo chí thế giới tái định vị giữa "gọng kìm" của AI và người sáng tạo nội dung

Sự trỗi dậy của các “bộ máy trả lời bằng AI” làm bốc hơi lưu lượng truy cập truyền thống. Làn sóng người sáng tạo nội dung đang cướp đi sự chú ý cũng như nhân tài của báo chí chính thống. Phản ứng chiến lược được nhiều cơ quan báo chí lựa chọn là tập trung vào những thứ máy móc không thể sao chép.

Tăng cường bảo mật ngân hàng. (Đồ họa: HỒNG ANH)

Chống lừa đảo AI trong ngành ngân hàng

Sự phát triển của trí tuệ nhân tạo (AI) đang mở ra nhiều cơ hội cho ngành ngân hàng trong việc nâng cao hiệu quả vận hành, quản trị rủi ro và cải thiện trải nghiệm khách hàng. Tuy nhiên, chính công nghệ này cũng đang bị tội phạm mạng lợi dụng để tạo ra các hình thức lừa đảo ngày càng tinh vi.

Hoạt động nghiên cứu, thí nghiệm thực hành của sinh viên Trường đại học Việt Nhật. (Ảnh: DIỆP NGỌC)

Chuyển đổi số trong quản trị đại học: Đột phá đào tạo song hành và lực lượng lao động kỷ nguyên mới

Giáo dục nước ta đang đứng trước bước ngoặt mang tính cách mạng về cấu trúc thể chế, triết lý vận hành thích ứng kỷ nguyên số. Áp lực toàn cầu hóa và cách mạng công nghiệp lần thứ tư đã định hình hệ thống giáo dục đại học và nghề nghiệp theo hướng song hành thực học, thực nghiệp thay thế mô hình hàn lâm truyền thống.

Các đồng chí Thường trực Tỉnh ủy Cà Mau chủ trì hội nghị.

Cà Mau đẩy mạnh chuyển đổi số, đột phá công nghệ để định hình tương lai

Tỉnh Cà Mau vừa tổ chức hội nghị sơ kết 1 năm 6 tháng thực hiện Nghị quyết số 57 của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia. Những kết quả bước đầu cho thấy tư duy và hành động mạnh mẽ của địa phương trong việc đi tắt đón đầu để định hình tương lai.

Việc phối hợp đào tạo nhân lực theo nhu cầu của thị trường sẽ góp phần “tạo nguồn” để cơ cấu lại lao động.

AI định hình thế hệ lao động mới

Việt Nam đang đứng trước một giai đoạn chuyển đổi rất mạnh của thị trường lao động: Dân số bắt đầu già hóa, lao động giá rẻ không còn là lợi thế, trí tuệ nhân tạo (AI) đã đi vào mọi ngành nghề...

Nhiều bài toán lớn vẫn chờ "nhạc trưởng"

Nhiều bài toán lớn vẫn chờ "nhạc trưởng"

Cùng với việc trao quyền mạnh mẽ hơn cho các tổng công trình sư, vẫn còn một câu hỏi khác: đâu là những bài toán thật sự cần mô hình này? Nếu danh mục nhiệm vụ được mở rộng quá mức, trong khi nguồn nhân lực dẫn dắt còn hạn chế, nguy cơ phân tán nguồn lực và chồng lấn trách nhiệm là điều khó tránh khỏi.

Đào tạo những kỹ năng AI không thể thay thế

Đào tạo những kỹ năng AI không thể thay thế

Khi khả năng viết tin, biên tập văn bản, dựng hình ảnh, sản xuất video hay phân tích dữ liệu của trí tuệ nhân tạo (AI) ngày càng vượt trội, câu hỏi đặt ra với các cơ sở đào tạo báo chí trở nên trực diện và cũng thiết thực hơn - đó là “đào tạo điều gì để phóng viên trẻ không bị đào thải bởi chính AI?”.

Sáng 15/6, Tổng Bí thư, Chủ tịch nước Tô Lâm chủ trì buổi làm việc với ngành giáo dục và đào tạo, các cơ quan liên quan về công tác chuẩn bị năm học mới 2026-2027, kết quả thực hiện nghị quyết 71 của Bộ Chính trị về đột phá phát triển giáo dục đào tạo. (Ảnh: ĐĂNG KHOA)

Phát triển đại học tinh hoa và công nghệ chiến lược: Lời giải cho những "điểm nghẽn" nguồn nhân lực

Tại buổi làm việc với ngành giáo dục mới đây, Tổng Bí thư, Chủ tịch nước Tô Lâm nhấn mạnh yêu cầu chuyển từ tư duy 'quản lý giáo dục' sang 'quản trị phát triển giáo dục'. Giáo dục phải đi trước một bước trong chuẩn bị nguồn nhân lực cao, nhất là nhân lực khoa học công nghệ, chuyển đổi số và trí tuệ nhân tạo (AI).

Những khoảnh khắc không thể lặp lại

Những khoảnh khắc không thể lặp lại

Trong thời đại công nghệ đa phương tiện phát triển mạnh mẽ, các hình thức kể chuyện bằng video, đồ họa, dữ liệu ngày càng phổ biến, nhưng phóng viên ảnh vẫn giữ một vị trí riêng với ảnh báo chí, thể loại mà giá trị thời sự chân thực tại hiện trường mang lại là không thể thay thế.

Nền tảng tái cấu trúc cách thức quốc gia vận hành

Nền tảng tái cấu trúc cách thức quốc gia vận hành

Sau Kỳ họp thứ nhất Quốc hội khóa XVI, Tổng Bí thư, Chủ tịch nước Tô Lâm khi tiếp xúc cử tri Hà Nội đã nhấn mạnh yêu cầu xây dựng các xã, phường theo mô hình “xã/phường xã hội chủ nghĩa” - những đơn vị quản trị hiện đại, gần dân, phục vụ dân tốt hơn trên nền tảng dữ liệu và công nghệ số.

Người dân sử dụng ví điện tử để thanh toán thay cho tiền mặt ngày càng phổ biến. (Ảnh: Phạm Việt)

Đưa chuyển đổi số đến từng hộ kinh doanh

Chuyển đổi số tại Việt Nam đang lan tỏa tới khu vực kinh tế cơ sở, từ các cửa hàng bán lẻ, hộ kinh doanh đến doanh nghiệp nhỏ. Trong bối cảnh kinh tế số phát triển nhanh, việc ứng dụng công nghệ giúp mở rộng thị trường, nâng cao năng suất, đồng thời trở thành yêu cầu để tăng sức cạnh tranh.

Hoạt động nghiên cứu khoa học tại Trường đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội (Ảnh: HÀ LINH)

Xây dựng nguồn nhân lực cho nghiên cứu cơ bản

Để xây dựng nền khoa học cơ bản mạnh, Việt Nam cần một đội ngũ nhà khoa học đủ năng lực theo đuổi các hướng nghiên cứu dài hạn. Tuy nhiên, việc nhiều tổ chức nghiên cứu đang gặp khó khăn trong việc thu hút và duy trì đội ngũ nghiên cứu trẻ đã đặt ra yêu cầu cấp thiết về xây dựng lực lượng kế cận cho các lĩnh vực khoa học cơ bản.

Trường đại học Kinh tế, Đại học Huế vinh danh 14 sinh viên/nhóm sinh viên đạt thành tích xuất sắc trong hoạt động nghiên cứu khoa học giai đoạn 2025-2026. (Ảnh: PH.THẢO)

Sinh viên Đại học Huế: Bám thực tiễn để nghiên cứu khoa học

Hội nghị sinh viên nghiên cứu khoa học năm học 2025-2026 do Trường đại học Kinh tế, Đại học Huế tổ chức là diễn đàn học thuật quan trọng, ghi nhận tinh thần sáng tạo của sinh viên, đồng thời cho thấy nhiều đề tài nghiên cứu có giá trị thực tiễn cao, bám sát các vấn đề kinh tế-xã hội hiện nay.