Một bà mẹ ở Mỹ cáo buộc chatbot AI khiến con mình tự tử

Bà Megan Garcia cho biết, cậu con trai 14 tuổi của bà đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.
(Nguồn: Bloomberg/Getty Images)
(Nguồn: Bloomberg/Getty Images)

Ngày 23/10, bà Megan Garcia, ở Florida (Mỹ) đã khởi kiện Character.AI với cáo buộc công ty khởi nghiệp trí tuệ nhân tạo (AI) này đã gây ra vụ tự tử của Sewell Setzer - cậu con trai 14 tuổi của bà hồi tháng 2.

Trong đơn kiện đệ trình ngày 23/10 lên tòa án liên bang Orlando, Florida, bà Garcia cho biết, Setzer đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.

Theo bà, Sewell bắt đầu sử dụng Character.AI vào tháng 4/2023, nhanh chóng thu mình, ở lỳ một mình trong phòng nhiều hơn và bắt đầu tự ti, thậm chí bỏ cả đội bóng rổ ở trường.

Sewell đã trở nên gắn bó với "Daenerys" - một nhân vật chatbot được tạo ra dựa trên nhân vật trong loạt phim nổi tiếng "Game of Thrones" (Trò chơi vương quyền).

Theo cáo buộc, nhân vật “Daenerys” này không chỉ nói lời yêu Sewell mà còn có các cuộc trò chuyện về chủ đề tình dục với cậu bé.

Bà Garcia cho rằng, Character.AI đã lập trình để chatbot “tự nhận mình là một người thật, một nhà trị liệu tâm lý được cấp phép và là một người tình trưởng thành”, khiến Sewell không còn muốn sống với thế giới bên ngoài của dịch vụ này nữa. Đơn kiện cho biết, cậu bé từng nhiều lần bày tỏ ý định tự tử với chatbot và chatbot đã nhiều lần nhắc lại điều này.

Tháng 2 vừa qua, Sewell đã tự tử bằng một khẩu súng lục.

Trong một tuyên bố, Character.AI đã bày tỏ sự đau buồn trước sự việc trên, gửi lời chia buồn sâu sắc tới gia đình Sewell.

Theo Character.AI, công ty đã giới thiệu các tính năng an toàn mới, trong đó có hộp thoại dẫn người dùng đến Đường dây nóng phòng chống tự tử quốc gia nếu họ bày tỏ suy nghĩ tự làm hại bản thân, hoặc thực hiện các thay đổi để giảm khả năng gặp phải nội dung hoặc gợi ý nhạy cảm đối với người dùng dưới 18 tuổi.

Đơn kiện cũng đề cập tới Google vì theo bà Garcia, công ty này đã đóng góp rất nhiều vào quá trình phát triển công nghệ của Character.AI, thậm chí có thể coi là “đồng sáng tạo”.

Người phát ngôn của Google cho biết, công ty không tham gia vào quá trình phát triển các sản phẩm của Character.AI.

Character.AI cho phép người dùng tạo nhân vật trên nền tảng của mình và phản hồi các cuộc trò chuyện trực tuyến theo cách bắt chước người thật.

Công nghệ này dựa vào trên cái gọi là công nghệ mô hình ngôn ngữ lớn - được các công ty khác sử dụng, trong đó có ChatGPT.

Thống kê của Character.AI hồi tháng trước cho biết khoảng 20 triệu người dùng sử dụng dịch vụ của công ty.

Có thể bạn quan tâm

Chỉ cần quét mã QR, cử tri Hà Nội tìm hiểu các thông tin về bầu cử một cách thuận lợi. (Ảnh: KIM CHI)

Tăng cường sự tương tác giữa chính quyền với người dân

Với sự chủ động và linh hoạt trong ứng dụng công nghệ số, công tác chuẩn bị bầu cử tại nhiều địa phương đang được triển khai thuận lợi, góp phần hướng tới mục tiêu tổ chức một cuộc bầu cử dân chủ, đúng luật, an toàn và thành công.

Tiến sĩ Nguyễn Nhật Linh hướng dẫn sinh viên kiểm tra mẫu sản phẩm hạt nano vàng thu được từ quá trình tổng hợp plasma. (Ảnh: MINH ĐỨC)

Làm chủ công nghệ plasma lạnh cho vật liệu nano

Đề tài “Nghiên cứu chế tạo nguồn phát plasma lạnh ứng dụng trong tổng hợp vật liệu nano kim loại có hiệu ứng cộng hưởng plasmon bề mặt (Au, Ag)” đã mở ra hướng tiếp cận xanh, an toàn trong tổng hợp nano kim loại quý, góp phần nâng cao năng lực làm chủ công nghệ plasma và vật liệu tiên tiến trong nước.

Thủ tướng Phạm Minh Chính trao Quyết định cho đồng chí Trần Hồng Thái giữ chức Chủ tịch Viện Hàn lâm Khoa học và Công nghệ Việt Nam.

[Ảnh] Thủ tướng Phạm Minh Chính trao Quyết định bổ nhiệm Chủ tịch Viện Hàn lâm Khoa học và Công nghệ Việt Nam

Chiều 12/3, tại Hà Nội, Bí thư Đảng ủy Chính phủ, Thủ tướng Chính phủ Phạm Minh Chính đã trao Quyết định bổ nhiệm đồng chí Trần Hồng Thái, Ủy viên Ban Chấp hành Trung ương Đảng, Phó Chủ tịch Thường trực Viện Hàn lâm Khoa học và Công nghệ Việt Nam, giữ chức Chủ tịch Viện Hàn lâm Khoa học và Công nghệ Việt Nam.

Các doanh nghiệp công nghệ được vinh danh tại Lễ biểu dương Top Công nghiệp 4.0 Việt Nam lần thứ tư.

Tìm kiếm và vinh danh những thành tựu công nghệ xuất sắc của hệ sinh thái số

Chương trình “Biểu dương thành tựu tác động vì Việt Nam số (Vietnam I4 Impact Awards) 2026” đã chính thức được khởi động với cách tiếp cận mới nhấn mạnh yếu tố “impact”- giá trị thực tiễn của công nghệ; được kỳ vọng trở thành nơi các doanh nghiệp công nghệ khẳng định năng lực đổi mới sáng tạo, lan tỏa các mô hình chuyển đổi số.

Phố phường khu vực Lâm Đồng ngàn hoa rực rỡ cờ hoa, pa-nô chào mừng ngày hội non sông.

Phường Lâm Viên-Đà Lạt chủ động xây dựng phần mềm phục vụ bầu cử

Chuẩn bị cho ngày bầu cử đại biểu Quốc hội khóa XVI và đại biểu Hội đồng nhân dân các cấp vào ngày 15/3, phường Lâm Viên-Đà Lạt, tỉnh Lâm Đồng đã chủ động xây dựng phần mềm quản lý danh sách cử tri và theo dõi tiến độ bầu cử theo thời gian thực, góp phần nâng cao hiệu quả điều hành trong ngày bầu cử.

Hiệu năng mạnh mẽ trên Galaxy S26 series là nền tảng cho các tác vụ Galaxy AI hoạt động trơn tru.

Galaxy S26: Khi Samsung định nghĩa lại “AI Phone tích hợp” từ phần cứng

AI trên smartphone ngày càng phổ biến nhưng không phải lúc nào cũng thực sự hữu ích. Với Galaxy S26, Samsung tiếp cận theo hướng khác: xây dựng một Galaxy AI Phone tích hợp, nơi phần cứng, hệ điều hành và Galaxy AI được phát triển song song để AI hoạt động ổn định và liền mạch hơn trong sử dụng hằng ngày.

Năm 2025, lượng chất thải rắn sinh hoạt phát sinh ở Việt Nam vào khoảng 70 nghìn tấn mỗi ngày, chủ yếu từ khu vực đô thị. Ảnh minh họa.

Giảm phát thải khí mê-tan từ chất thải

Năm 2025, lượng chất thải rắn sinh hoạt phát sinh ở Việt Nam vào khoảng 70 nghìn tấn mỗi ngày, chủ yếu từ khu vực đô thị. Bức tranh chất thải cho thấy rác sinh hoạt có thành phần rất đa dạng nhưng rác thải thực phẩm chiếm tỷ lệ lớn nhất, phần còn lại là các nhóm có thể tái chế, chất thải nguy hại và các loại khác.

Đại diện VNPT Cyber Immunity và BIC ký kết hợp tác chiến lược phân phối sản phẩm bảo hiểm rủi ro giao dịch

Giảm thiểu thiệt hại trước lừa đảo trực tuyến

Các hình thức lừa đảo trực tuyến và rò rỉ dữ liệu cá nhân ngày càng gia tăng, gây thiệt hại hàng nghìn tỷ đồng mỗi năm khiến người dùng cá nhân đang phải đối mặt với nhiều rủi ro hơn trong môi trường số. Thực tế này đặt ra yêu cầu cấp thiết về các giải pháp phòng ngừa và hỗ trợ người dùng giảm thiểu thiệt hại khi sự cố xảy ra.