OpenAI lo ngại người dùng nảy sinh tình cảm với ChatGPT

Mới đây, OpenAI bày tỏ lo ngại rằng tính năng giọng nói chân thực của trí tuệ nhân tạo (AI) của hãng này có thể khiến con người hình thành mối quan hệ gần gũi với AI, gây ảnh hưởng tương tác xã hội giữa con người với nhau.
Biểu tượng của OpenAI và ChatGPT. (Ảnh tư liệu: AFP/TTXVN)
Biểu tượng của OpenAI và ChatGPT. (Ảnh tư liệu: AFP/TTXVN)

Công ty có trụ sở tại San Francisco đã dẫn chứng các nghiên cứu cho thấy việc trò chuyện với AI như thể đang nói chuyện với một con người có thể dẫn đến sự tin tưởng không đúng chỗ. Họ cũng cho rằng chất lượng giọng nói cao của GPT-4o có thể làm gia tăng tác động này.

"Nhân hóa là quá trình gán những hành vi và đặc điểm của con người cho các thực thể phi nhân, chẳng hạn như các mô hình AI", OpenAI cho biết trong một báo cáo về độ an toàn của phiên bản ChatGPT-4o. "Rủi ro này có thể gia tăng bởi khả năng âm thanh của GPT-4o, giúp các tương tác với mô hình trở nên giống con người hơn".

OpenAI nhận thấy những người thử nghiệm trò chuyện với AI theo cách thể hiện mối quan hệ gần gũi, chẳng hạn như than thở rằng đó là ngày cuối cùng họ có thể nói chuyện với AI. Họ cho rằng những trường hợp này có vẻ vô hại nhưng cần được nghiên cứu kỹ hơn để xem chúng có thể phát triển như thế nào trong thời gian dài.

Theo dự đoán của Open AI, việc giao tiếp xã hội với AI cũng có thể khiến người dùng trở nên kém khéo léo hoặc ít muốn tương tác với con người hơn.

"Việc tương tác kéo dài với mô hình này có thể ảnh hưởng các chuẩn mực xã hội", báo cáo cho biết. "Chẳng hạn, các mô hình của chúng tôi thường rất lịch sự, cho phép người dùng ngắt lời và 'chiếm mic' bất cứ lúc nào, điều này là bình thường đối với AI, nhưng sẽ không đúng chuẩn mực trong tương tác giữa con người". Ngoài ra, khả năng AI ghi nhớ chi tiết trong quá trình trò chuyện và thực hiện các nhiệm vụ cũng có thể khiến con người trở nên phụ thuộc quá mức vào công nghệ.

Alon Yamin, đồng sáng lập kiêm CEO của nền tảng phát hiện đạo văn bằng AI, Copyleaks cho biết: "Những lo ngại gần đây mà OpenAI chia sẻ về khả năng phụ thuộc vào chế độ giọng nói của ChatGPT cho thấy một câu hỏi mà nhiều người đã bắt đầu đặt ra: Đã đến lúc phải dừng lại và xem xét công nghệ này ảnh hưởng thế nào đến tương tác và mối quan hệ giữa con người?" Ông nhấn mạnh rằng, AI không bao giờ nên thay thế tương tác thực tế giữa con người.

OpenAI cho biết họ sẽ tiếp tục thử nghiệm để hiểu rõ hơn về cách mà khả năng giọng nói trong AI có thể khiến con người trở nên gắn bó về mặt cảm xúc.

Các nhóm thử nghiệm tính năng giọng nói của ChatGPT-4o cũng đã phát hiện rằng mô hình này có thể bị kích hoạt để lặp lại thông tin sai lệch và tạo ra các thuyết âm mưu, gây lo ngại rằng AI có thể thuyết phục người dùng tin vào những điều sai sự thật.

Vào tháng 6, OpenAI đã buộc phải xin lỗi nữ diễn viên Scarlett Johansson sau khi công ty sử dụng một giọng nói rất giống với giọng của cô trong phiên bản chatbot mới nhất. Mặc dù OpenAI phủ nhận rằng giọng nói họ sử dụng là của Johansson, tình hình trở nên phức tạp khi CEO Sam Altman đã đăng một thông điệp duy nhất trên mạng xã hội để giới thiệu mô hình mới này - "Her" (Cô ấy).

Johansson đã lồng tiếng cho một nhân vật AI trong bộ phim "Her", bộ phim mà Altman đã từng chia sẻ là tác phẩm yêu thích nhất của ông về trí tuệ nhân tạo.

Bộ phim năm 2013 có sự tham gia của Joaquin Phoenix. Tài tử nổi tiếng này thủ vai một người đàn ông nảy sinh tình yêu với một trợ lý giọng nói AI sau khi ly hôn.

Có thể bạn quan tâm

Các đại biểu tham dự hội thảo quốc tế do Trường đại học Intracom phối hợp các đơn vị tổ chức. (Ảnh: NHẬT MINH)

Ứng dụng khoa học và công nghệ vào cuộc sống - Từ lý luận đến thực tiễn

Ngày 28/1, tại Hà Nội, Trường đại học Intracom phối hợp Tạp chí Pháp luật và Phát triển, Viện khoa học và Bổ trợ Tư pháp (Liên hiệp Hội Người khuyết tật Việt Nam), Tạp chí Vận động, Nghiên cứu và Giáo dục (JARE)… tổ chức hội thảo quốc tế “Thúc đẩy ứng dụng khoa học và công nghệ vào cuộc sống - Từ lý luận đến thực tiễn”.

Người dân đến giải quyết thủ tục hành chính tại Trung tâm Phục vụ Hành chính công-Chi nhánh số 3-phường Đống Đa, Hà Nội. (Ảnh: nhandan.vn)

Khai thác hiệu quả cơ sở dữ liệu quốc gia

Cơ sở dữ liệu quốc gia về cán bộ, công chức, viên chức có vai trò thống nhất và chuẩn hóa thông tin nhân sự trong toàn bộ hệ thống cơ quan nhà nước, từ đó có cái nhìn toàn diện về số lượng, chất lượng, cơ cấu đội ngũ nhằm đưa ra các quyết định quản lý và sử dụng nhân sự một cách khoa học, hợp lý.

Sinh viên Trường đại học Khoa học xã hội và nhân văn Thành phố Hồ Chí Minh thực hành nghiên cứu khoa học.

Đổi mới nghiên cứu liên ngành trong lĩnh vực khoa học xã hội

Trong thời đại ngày nay, nhiều vấn đề không chỉ là sự quan tâm của một quốc gia đơn lẻ, mà trở thành vấn đề chung của cả khu vực và thế giới. Theo đó, thúc đẩy nghiên cứu đa ngành là con đường tất yếu để giải quyết các vấn đề thực tiễn một cách toàn diện và hiệu quả.

100% cử tri có mặt tại Hội nghị nhất trí giới thiệu đồng chí Vũ Hải Quân, Ủy viên Trung ương Đảng, Thứ trưởng Thường trực Bộ Khoa học và Công nghệ ứng cử đại biểu Quốc hội khóa XVI.

Bộ Khoa học và Công nghệ giới thiệu Thứ trưởng Thường trực Vũ Hải Quân ứng cử Đại biểu Quốc hội khóa XVI

150/150 cử tri có mặt tại hội nghị lấy ý kiến cử tri nơi công tác đối với người được dự kiến giới thiệu ứng cử Đại biểu Quốc hội khóa XVI của Bộ Khoa học và Công nghệ đã nhất trí giới thiệu Thứ trưởng Thường trực Bộ Khoa học và Công nghệ Vũ Hải Quân ứng cử Đại biểu Quốc hội khóa XVI.

Đông đảo người dân tham dự triển lãm.

Đẩy mạnh ứng dụng khoa học tiên tiến để bảo tồn và phát triển dược liệu

Sáng 23/1, Viện Dược liệu phối hợp UBND phường Cửa Nam (Hà Nội) tổ chức Triển lãm Sách và Dược liệu Việt Nam với chủ đề “Kết nối tri thức vì sức khỏe cộng đồng” tại Phố Sách Hà Nội. Triển lãm nhằm chào mừng Đại hội đại biểu toàn quốc lần thứ XIV của Đảng, kỷ niệm 96 năm Ngày thành lập Đảng và 71 năm Ngày Thầy thuốc Việt Nam.

Người dân cần kiểm tra kỹ thông tin trước khi nộp tiền phạt qua mã QR để tránh bị lừa.

Nhận diện chiêu thức lừa đảo nộp phạt “nguội” qua Zalo

Lợi dụng việc mã QR được sử dụng rộng rãi trong các thủ tục hành chính, nhiều đối tượng xấu đã giả mạo thông báo “phạt nguội”, yêu cầu người dân chuyển tiền qua mã QR trên Zalo. Người dân cần nhận diện rõ quy trình nộp phạt hợp pháp và nâng cao cảnh giác để tránh bị lừa.

Cán bộ Sở Khoa học và Công nghệ Thái Nguyên khảo sát để cấp chỉ dẫn địa lý cho gạo nếp Khẩu Nua Lếch. (Ảnh: THU HIỀN)

Đổi mới sáng tạo ở Thái Nguyên

Tỉnh Thái Nguyên đã và đang khẳng định quyết tâm biến khoa học, công nghệ trở thành khâu đột phá để thúc đẩy kinh tế-xã hội. Với hệ sinh thái đổi mới sáng tạo, Thái Nguyên từng bước đẩy nhanh phát triển kinh tế số, nâng cao năng suất, chất lượng và sức cạnh tranh của nền kinh tế.

Thủ tướng Chính phủ Phạm Minh Chính và các đồng chí lãnh đạo Đảng, Nhà nước tham quan các khu vực bên lề lễ khởi công nhà máy chế tạo chip bán dẫn Hòa Lạc.

Việt Nam sẽ bước vào nhóm số ít quốc gia sở hữu năng lực chế tạo chip bán dẫn

Chip bán dẫn hiện là “đòn bẩy” của những nước chi phối công nghệ sản xuất, sử dụng như công cụ chính trị để kiểm soát, kìm hãm kinh tế, công nghiệp an ninh quốc phòng. Việt Nam xác định bán dẫn là một trong những công nghệ chiến lược cần làm chủ, với mắt xích then chốt vừa được công bố: nhà máy sản xuất chip tại Hòa Lạc.

Ứng dụng khoa học, công nghệ là giải pháp hiệu quả để quản lý, bảo vệ tài nguyên biển.

Ứng dụng công nghệ trong quản lý các khu bảo tồn biển

Đến năm 2030, Việt Nam có 27 khu bảo tồn biển, trong đó có 16 khu bảo tồn biển cấp quốc gia, 11 cấp tỉnh với khoảng 20 hệ sinh thái, 11.000 loại thủy sản, khoảng 3.000 đảo. Đây là địa điểm lý tưởng để thực hiện nhiệm vụ lưu giữ, bảo tồn giống, nguồn gen, đa dạng sinh học; phát triển kinh tế, du lịch; phục vụ nghiên cứu khoa học…