Một bà mẹ ở Mỹ cáo buộc chatbot AI khiến con mình tự tử

Bà Megan Garcia cho biết, cậu con trai 14 tuổi của bà đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.
(Nguồn: Bloomberg/Getty Images)
(Nguồn: Bloomberg/Getty Images)

Ngày 23/10, bà Megan Garcia, ở Florida (Mỹ) đã khởi kiện Character.AI với cáo buộc công ty khởi nghiệp trí tuệ nhân tạo (AI) này đã gây ra vụ tự tử của Sewell Setzer - cậu con trai 14 tuổi của bà hồi tháng 2.

Trong đơn kiện đệ trình ngày 23/10 lên tòa án liên bang Orlando, Florida, bà Garcia cho biết, Setzer đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.

Theo bà, Sewell bắt đầu sử dụng Character.AI vào tháng 4/2023, nhanh chóng thu mình, ở lỳ một mình trong phòng nhiều hơn và bắt đầu tự ti, thậm chí bỏ cả đội bóng rổ ở trường.

Sewell đã trở nên gắn bó với "Daenerys" - một nhân vật chatbot được tạo ra dựa trên nhân vật trong loạt phim nổi tiếng "Game of Thrones" (Trò chơi vương quyền).

Theo cáo buộc, nhân vật “Daenerys” này không chỉ nói lời yêu Sewell mà còn có các cuộc trò chuyện về chủ đề tình dục với cậu bé.

Bà Garcia cho rằng, Character.AI đã lập trình để chatbot “tự nhận mình là một người thật, một nhà trị liệu tâm lý được cấp phép và là một người tình trưởng thành”, khiến Sewell không còn muốn sống với thế giới bên ngoài của dịch vụ này nữa. Đơn kiện cho biết, cậu bé từng nhiều lần bày tỏ ý định tự tử với chatbot và chatbot đã nhiều lần nhắc lại điều này.

Tháng 2 vừa qua, Sewell đã tự tử bằng một khẩu súng lục.

Trong một tuyên bố, Character.AI đã bày tỏ sự đau buồn trước sự việc trên, gửi lời chia buồn sâu sắc tới gia đình Sewell.

Theo Character.AI, công ty đã giới thiệu các tính năng an toàn mới, trong đó có hộp thoại dẫn người dùng đến Đường dây nóng phòng chống tự tử quốc gia nếu họ bày tỏ suy nghĩ tự làm hại bản thân, hoặc thực hiện các thay đổi để giảm khả năng gặp phải nội dung hoặc gợi ý nhạy cảm đối với người dùng dưới 18 tuổi.

Đơn kiện cũng đề cập tới Google vì theo bà Garcia, công ty này đã đóng góp rất nhiều vào quá trình phát triển công nghệ của Character.AI, thậm chí có thể coi là “đồng sáng tạo”.

Người phát ngôn của Google cho biết, công ty không tham gia vào quá trình phát triển các sản phẩm của Character.AI.

Character.AI cho phép người dùng tạo nhân vật trên nền tảng của mình và phản hồi các cuộc trò chuyện trực tuyến theo cách bắt chước người thật.

Công nghệ này dựa vào trên cái gọi là công nghệ mô hình ngôn ngữ lớn - được các công ty khác sử dụng, trong đó có ChatGPT.

Thống kê của Character.AI hồi tháng trước cho biết khoảng 20 triệu người dùng sử dụng dịch vụ của công ty.

Có thể bạn quan tâm

Chân dung hai nhà khoa học Henri Kagan và Kenso Soai. (Ảnh minh họa: Nobelprize.org)

Nobel Hóa học 2026 vinh danh nghiên cứu về hiệu ứng phi tuyến tính và tự xúc tác trong tổng hợp hữu cơ bất đối xứng

Viện Hàn lâm Khoa học Hoàng gia Thụy Điển đã công bố giải Nobel Hóa học năm 2026 thuộc về nhà khoa học Henri Kagan (Đại học Paris-Sud, Pháp) và nhà khoa học Kenso Soai (Đại học Khoa học Tokyo, Nhật Bản) với công trình nghiên cứu về các hiệu ứng phi tuyến tính và tự xúc tác trong tổng hợp hữu cơ bất đối xứng.

Xã vùng cao Avương. (Ảnh: THANH TÂM)

Đà Nẵng: Đột phá chuyển đổi số ở xã vùng cao Avương

Nhiều nhiệm vụ chuyển đổi số đã được Ban Thường vụ Đảng ủy và Ban Chỉ đạo 57 xã Avương (thành phố Đà Nẵng) triển khai đồng bộ, mang lại những chuyển biến rõ nét, tạo động lực thúc đẩy phát triển kinh tế-xã hội, nâng cao hiệu lực, hiệu quả hoạt động của hệ thống chính trị và chất lượng phục vụ nhân dân.

VNPT SmartCA đưa thao tác ký lên điện thoại và máy tính, giúp người có thẩm quyền xử lý công việc ở bất cứ đâu. (Ảnh: VNPT)

Gỡ “điểm nghẽn chờ ký” với VNPT SmartCA

Chữ ký số đã quen thuộc với doanh nghiệp, nhưng khi công việc không còn bó hẹp trong văn phòng, USB Token hay máy tính cố định lại trở thành giới hạn. Ký số từ xa đang thay đổi cách doanh nghiệp xử lý giao dịch điện tử, với VNPT SmartCA đưa thao tác ký lên môi trường số, giúp người có thẩm quyền xử lý công việc ở bất cứ đâu.

Gian hàng giới thiệu về chip bán dẫn tại một sự kiện do Bộ Khoa học và Công nghệ tổ chức. (Ảnh: Thu Hằng)

Bảo vệ tài sản trí tuệ trong thiết kế chip bán dẫn

Công nghiệp bán dẫn Việt Nam đang mở rộng từ nghiên cứu, thiết kế sang đóng gói, kiểm thử và từng bước hình thành năng lực chế tạo chip trong nước. Do đó, bảo hộ thiết kế bố trí mạch tích hợp bán dẫn trở thành yêu cầu quan trọng nhằm bảo vệ thành quả sáng tạo, tạo nền tảng cho thương mại hóa và thúc đẩy đổi mới sáng tạo.

Đoàn công tác hai bên làm việc, trao đổi về thúc đẩy chuyển đổi số. (Ảnh: Đại sứ quán Pháp tại Việt Nam)

Thúc đẩy hợp tác về chuyển đổi số Việt Nam và Pháp

Trong các ngày từ 5 đến 9/10, Cục Chuyển đổi số (Văn phòng Chính phủ) thực hiện chương trình làm việc với đoàn chuyên gia Cộng hòa Pháp về nội dung hợp tác, trao đổi trọng tâm về ứng dụng trí tuệ nhân tạo (AI) trong khu vực công, quản trị dữ liệu công, phát triển kinh tế dữ liệu và hoàn thiện khung pháp lý số.

Quang cảnh hội thảo. (Ảnh: CÔNG LÝ)

Khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số tạo động lực cho Đắk Lắk bứt phá vươn lên trong giai đoạn mới

Hội thảo nhằm cụ thể hóa tinh thần Nghị quyết số 57-NQ/TW ngày 22/12/2024 của Bộ Chính trị gắn phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số với yêu cầu đổi mới mô hình tăng trưởng, nâng cao năng suất, năng lực cạnh tranh và thực hiện mục tiêu tăng trưởng kinh tế hai con số của tỉnh giai đoạn 2026-2030.

Nền tảng kết nối đổi mới sáng tạo ISC kết nối mạng lưới các trung tâm đổi mới sáng tạo với doanh nghiệp, viện nghiên cứu, trường đại học, chuyên gia, doanh nghiệp công nghệ, startup, quỹ đầu tư và các đối tác trong nước, quốc tế. (Ảnh QUANG HUY)

Mở rộng không gian kết nối công nghệ và doanh nghiệp

Ngày 5/10, tại Hà Nội, trong khuôn khổ Ngày hội Đổi mới sáng tạo quốc gia năm 2026 đã diễn ra Hội thảo “Đổi mới sáng tạo trong lĩnh vực Trí tuệ nhân tạo (AI) và Tự động hóa trong kỷ nguyên số”. Chương trình do Trung tâm Hỗ trợ Đổi mới sáng tạo, Cục Đổi mới Sáng tạo, Bộ Khoa học và Công nghệ tổ chức.