Cảnh giác với mặt trái của AI

Mặc dù mang lại nhiều lợi ích không thể bàn cãi, nhưng trí tuệ nhân tạo (AI) đang đặt ra những yêu cầu cấp thiết liên quan vấn đề đạo đức. Đáng chú ý là trong nghiên cứu khoa học, đã có nhiều thống kê cho thấy lạm dụng AI có thể dẫn đến những sai lệch khó lường.

Hội thảo góp ý hoàn thiện dự thảo Luật Trí tuệ nhân tạo (AI). (Ảnh: HƯƠNG NGUYÊN)
Hội thảo góp ý hoàn thiện dự thảo Luật Trí tuệ nhân tạo (AI). (Ảnh: HƯƠNG NGUYÊN)

Những sự việc gần đây liên quan thiên kiến, ngụy tạo tài liệu khiến các học giả phải cân nhắc lại về mức độ tham gia của AI thế nào trong công tác nghiên cứu cho phù hợp.

Mới đây, trên trang cá nhân của mình, Giáo sư, Tiến sĩ Ngôn ngữ học Nguyễn Văn Hiệp đã chia sẻ một câu chuyện khiến người đọc sửng sốt. Ông phát hiện AI đã ngụy tạo tài liệu của ông trong thông tin gửi tới từ một người bạn. Ông cũng tình cờ phát hiện thêm bài viết của Phó Giáo sư, Tiến sĩ Khoa học Trần Văn Cơ cũng là do AI ngụy tạo tài liệu.

AI đã trở thành một phần tất yếu của đời sống con người, tuy nhiên, các chuyên gia luôn nhấn mạnh rằng, chúng ta chỉ nên xem AI như một công cụ trợ giúp. Người sử dụng AI luôn cần tỉnh táo và hiểu biết để xử lý dữ liệu và đánh giá các kết quả thu được sau khi “hợp tác” với AI. Riêng trong nghiên cứu khoa học, nhiều nghiên cứu đã cho thấy, vấn đề lớn nhất cần cảnh giác, chính là sự thiên lệch trong dữ liệu và mô hình. AI có thể thiên vị, làm méo mó các kết quả phân tích, tạo ra định kiến hoặc kỳ thị, thao túng thông tin nếu không được kiểm soát tốt.

Đặc biệt, việc sử dụng AI trong nghiên cứu khoa học xã hội cần thận trọng hơn rất nhiều. Bởi các lĩnh vực trong khoa học xã hội như triết học, ngôn ngữ học, dân tộc học, sử học… đều lấy hành vi, văn hóa, ứng xử của con người làm đối tượng nghiên cứu, do đó các dữ liệu thường gắn chặt với bối cảnh văn hóa xã hội Việt Nam, có chiều sâu và tính chuyên biệt. Nếu dữ liệu huấn luyện AI phản ánh các định kiến lịch sử thì điều nguy hại có thể xảy ra, là AI có thể đưa ra những kết luận làm trầm trọng thêm các vấn đề bất bình đẳng giới, giai cấp, chủng tộc, hoặc khu vực địa lý. Nguy cơ lớn hơn nữa khi AI được sử dụng để phân tích hành vi con người, phản hồi các khảo sát mở hay tham gia vào các nội dung truyền thông.

Theo nhận định của một số chuyên gia khoa học xã hội, hiện AI khó có thể truy cập vào các nguồn dữ liệu có bản quyền hoặc phải trả phí dẫn đến các thông tin cung cấp không cập nhật đầy đủ.

Hiện tượng ngụy tạo tư liệu nhằm tạo ra những câu chuyện có vẻ hợp lý thường xảy ra ở các chủ đề ít phổ biến, trong các ngôn ngữ có nguồn dữ liệu hạn chế như tiếng Việt, cần được khuyến cáo để người sử dụng cảnh giác. Hệ thống AI nói chung hiện nay còn rất hạn chế trong việc hiểu ngữ cảnh xã hội và văn hóa, do đó, việc trợ giúp diễn giải các tri thức khoa học xã hội đa nghĩa, giàu ẩn dụ không thật sự đáng tin cậy.

Dù mang lại nhiều tiềm năng trong nghiên cứu khoa học, nhưng việc ứng dụng AI cần hết sức thận trọng, có giới hạn và luôn luôn phải đi kèm với năng lực phản biện của người làm nghiên cứu.

Có thể thấy, dù mang lại nhiều tiềm năng trong nghiên cứu khoa học, nhưng việc ứng dụng AI cần hết sức thận trọng, có giới hạn và luôn luôn phải đi kèm với năng lực phản biện của người làm nghiên cứu. Chủ thể sử dụng AI bắt buộc phải nhận diện rõ các hạn chế này trong sử dụng AI, bảo đảm AI không làm thay đổi các giá trị cốt lõi của khoa học. Muốn bảo vệ tính liêm chính trong nghiên cứu khoa học, vai trò, trách nhiệm của nhà khoa học phải được nâng lên một bước. Ngoài ra, cần đề ra một khung đạo đức AI mang tính pháp lý ràng buộc đặt trong bối cảnh văn hóa, truyền thống và chuẩn mực xã hội Việt Nam.

Chúng ta đã có hệ thống chín nguyên tắc nhằm thúc đẩy nghiên cứu và phát triển hệ thống AI an toàn, có trách nhiệm, hạn chế ảnh hưởng tiêu cực và kiểm soát rủi ro của Bộ Khoa học và Công nghệ đề ra, trong đó nhấn mạnh tính bảo mật dữ liệu cũng như tôn trọng quyền và phẩm giá con người, trách nhiệm giải trình của người sử dụng AI. Riêng trong nghiên cứu khoa học, Hội đồng Giáo sư Nhà nước cũng đã có Công văn số 25/HĐGSNN năm 2023, yêu cầu các hội đồng chức danh giáo sư ngành, cơ sở thẩm định chất lượng các công trình khoa học đặc biệt lưu ý phát hiện và đánh giá những công trình có sử dụng hoặc được công nghệ AI trợ giúp. Những yêu cầu này nhằm bảo đảm kết quả nghiên cứu dùng AI vẫn đáp ứng chuẩn mực khoa học, ngăn ngừa hiện tượng lạm dụng AI trong nghiên cứu và công bố khoa học.

Thời gian tới, khi Luật Trí tuệ nhân tạo được ban hành, với các quy định chặt chẽ liên quan đạo đức, trách nhiệm sử dụng AI sẽ góp phần kiến tạo một môi trường lành mạnh để AI phát triển, hỗ trợ tích cực hơn và trách nhiệm hơn cho các nhà khoa học trong công tác nghiên cứu.

Có thể bạn quan tâm

[Infographic] Xu hướng vi phạm và các phương thức, thủ đoạn mới trong lĩnh vực sở hữu trí tuệ

[Infographic] Xu hướng vi phạm và các phương thức, thủ đoạn mới trong lĩnh vực sở hữu trí tuệ

Trong bối cảnh chuyển đổi số diễn ra mạnh mẽ, các hành vi vi phạm quyền sở hữu trí tuệ đang có xu hướng gia tăng với nhiều phương thức, thủ đoạn ngày càng tinh vi, gây nhiều khó khăn cho công tác phát hiện, xử lý và bảo vệ quyền lợi người tiêu dùng cũng như môi trường cạnh tranh lành mạnh.

[Video] Còn khoảng 34 triệu thuê bao chưa xác nhận chính chủ

[Video] Còn khoảng 34 triệu thuê bao chưa xác nhận chính chủ

Theo Bộ Khoa học và Công nghệ, việc triển khai Thông tư 08/2026 hướng dẫn việc xác thực thông tin thuê bao di động mặt đất trong tháng 4 vừa qua đã phát hiện có gần 900.000 thuê bao không chính chủ, 60 triệu thuê bao đã xác nhận sử dụng chính chủ và còn khoảng 34 triệu thuê bao vẫn chưa xác nhận.

Công tác dự báo và cảnh báo sớm chính là “tuyến phòng thủ” đầu tiên, giữ vai trò quyết định trong bảo vệ tính mạng người dân và tài sản. (Ảnh: TRỌNG TÙNG)

Rút ngắn thời gian phản ứng với thiên tai

Việc cảnh báo thiên tai sẽ chỉ thật sự hiệu quả khi thông tin nguy hiểm đến đúng người, đúng nơi và đúng thời điểm. Các mô hình tháp báo lũ thông minh và mạng quan trắc tự động đang giúp việc đưa dữ liệu về ngập lụt tới cộng đồng nhanh hơn, rút ngắn thời gian phản ứng của người dân khi thiên tai xảy ra.

Đào tạo an ninh mạng tại CyRadar giúp doanh nghiệp nâng cao năng lực phòng thủ.

Tăng năng lực phòng vệ của doanh nghiệp

Chuyển đổi số đang mở ra nhiều cơ hội tăng trưởng cho doanh nghiệp Việt Nam nhưng cũng kéo theo những rủi ro an ninh mạng phức tạp. Khi dữ liệu trở thành tài sản chiến lược, khả năng bảo vệ hệ thống và thông tin không còn là vấn đề kỹ thuật mà trở thành năng lực phòng vệ quan trọng đối với mỗi doanh nghiệp.

Hoạt động nghiên cứu tại Phòng Thí nghiệm trọng điểm Công nghệ Lọc, Hóa dầu (Viện Hóa học công nghiệp Việt Nam).

Đầu tư hạ tầng nghiên cứu cho công nghệ chiến lược

Phát triển hệ thống phòng thí nghiệm trọng điểm quốc gia là một trong những giải pháp để hiện thực hóa mục tiêu đột phá về khoa học, công nghệ và đổi mới sáng tạo theo Nghị quyết 57-NQ/TW. Thực trạng lạc hậu về công nghệ đặt ra yêu cầu cấp thiết phải tổ chức lại hạ tầng nghiên cứu theo hướng tập trung, đồng bộ và hiệu quả.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an thành phố Đà Nẵng đấu tranh tội phạm trên không gian mạng. (Ảnh: Công Vinh)

Nâng cao ý thức làm chủ, bảo vệ không gian mạng

Tại Hội nghị Trung ương 2 khóa XIV, Tổng Bí thư Tô Lâm tiếp tục khẳng định chủ trương của Đảng về bảo đảm quốc phòng, an ninh, đối ngoại, hội nhập quốc tế trong giai đoạn mới, khi nhấn mạnh yêu cầu: Tự chủ chiến lược, có năng lực kiểm soát rủi ro, có thể chế vững, có trật tự xã hội ổn định, có sự hội nhập quốc tế sâu rộng...

UAV được thử nghiệm phun thuốc cho cây cà-phê tại xã Mường Ảng, tỉnh Điện Biên.

Cơ chế sandbox đã sang giai đoạn triển khai thực tế

Bộ Khoa học và Công nghệ cho biết, bên cạnh chuẩn bị cấp phép mô hình thử nghiệm có kiểm soát đầu tiên về phát triển kinh tế tầm thấp, ứng dụng phương tiện bay không người lái (UAV) tại tỉnh Điện Biên, một số địa phương, doanh nghiệp cũng bày tỏ quan tâm đến việc triển khai thử nghiệm mô hình sandbox.

Định vị vị thế Việt Nam trên bản đồ sở hữu trí tuệ toàn cầu

Định vị vị thế Việt Nam trên bản đồ sở hữu trí tuệ toàn cầu

Trong tiến trình hội nhập kinh tế quốc tế, sở hữu trí tuệ ngày càng khẳng định vai trò là một trụ cột quan trọng của nền kinh tế tri thức. Những năm qua, Việt Nam đã chủ động hoàn thiện thể chế, từng bước xây dựng hệ thống sở hữu trí tuệ tương thích với chuẩn mực quốc tế và đạt được nhiều kết quả tích cực.