Một bà mẹ ở Mỹ cáo buộc chatbot AI khiến con mình tự tử

Bà Megan Garcia cho biết, cậu con trai 14 tuổi của bà đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.
(Nguồn: Bloomberg/Getty Images)
(Nguồn: Bloomberg/Getty Images)

Ngày 23/10, bà Megan Garcia, ở Florida (Mỹ) đã khởi kiện Character.AI với cáo buộc công ty khởi nghiệp trí tuệ nhân tạo (AI) này đã gây ra vụ tự tử của Sewell Setzer - cậu con trai 14 tuổi của bà hồi tháng 2.

Trong đơn kiện đệ trình ngày 23/10 lên tòa án liên bang Orlando, Florida, bà Garcia cho biết, Setzer đã “nghiện” chatbot và chìm sâu vào thế giới cùng nhân vật trợ lý ảo do Character.AI tạo ra.

Theo bà, Sewell bắt đầu sử dụng Character.AI vào tháng 4/2023, nhanh chóng thu mình, ở lỳ một mình trong phòng nhiều hơn và bắt đầu tự ti, thậm chí bỏ cả đội bóng rổ ở trường.

Sewell đã trở nên gắn bó với "Daenerys" - một nhân vật chatbot được tạo ra dựa trên nhân vật trong loạt phim nổi tiếng "Game of Thrones" (Trò chơi vương quyền).

Theo cáo buộc, nhân vật “Daenerys” này không chỉ nói lời yêu Sewell mà còn có các cuộc trò chuyện về chủ đề tình dục với cậu bé.

Bà Garcia cho rằng, Character.AI đã lập trình để chatbot “tự nhận mình là một người thật, một nhà trị liệu tâm lý được cấp phép và là một người tình trưởng thành”, khiến Sewell không còn muốn sống với thế giới bên ngoài của dịch vụ này nữa. Đơn kiện cho biết, cậu bé từng nhiều lần bày tỏ ý định tự tử với chatbot và chatbot đã nhiều lần nhắc lại điều này.

Tháng 2 vừa qua, Sewell đã tự tử bằng một khẩu súng lục.

Trong một tuyên bố, Character.AI đã bày tỏ sự đau buồn trước sự việc trên, gửi lời chia buồn sâu sắc tới gia đình Sewell.

Theo Character.AI, công ty đã giới thiệu các tính năng an toàn mới, trong đó có hộp thoại dẫn người dùng đến Đường dây nóng phòng chống tự tử quốc gia nếu họ bày tỏ suy nghĩ tự làm hại bản thân, hoặc thực hiện các thay đổi để giảm khả năng gặp phải nội dung hoặc gợi ý nhạy cảm đối với người dùng dưới 18 tuổi.

Đơn kiện cũng đề cập tới Google vì theo bà Garcia, công ty này đã đóng góp rất nhiều vào quá trình phát triển công nghệ của Character.AI, thậm chí có thể coi là “đồng sáng tạo”.

Người phát ngôn của Google cho biết, công ty không tham gia vào quá trình phát triển các sản phẩm của Character.AI.

Character.AI cho phép người dùng tạo nhân vật trên nền tảng của mình và phản hồi các cuộc trò chuyện trực tuyến theo cách bắt chước người thật.

Công nghệ này dựa vào trên cái gọi là công nghệ mô hình ngôn ngữ lớn - được các công ty khác sử dụng, trong đó có ChatGPT.

Thống kê của Character.AI hồi tháng trước cho biết khoảng 20 triệu người dùng sử dụng dịch vụ của công ty.

Có thể bạn quan tâm

Nhận diện sớm các chiêu trò lừa đảo bằng trí tuệ nhân tạo

Nhận diện sớm các chiêu trò lừa đảo bằng trí tuệ nhân tạo

Sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI) đang mang lại nhiều tiện ích cho đời sống và công việc. Tuy nhiên, bên cạnh những lợi ích tích cực, công nghệ này cũng đang bị các đối tượng xấu lợi dụng để thực hiện các hành vi lừa đảo ngày càng tinh vi.

Lãnh đạo Ủy ban nhân dân thành phố Hà Nội và Tập đoàn Công nghệ CMC ký kết bản ghi nhớ hợp tác giai đoạn 2026-2030, thúc đẩy chuyển đổi số, chuyển đổi AI và đổi mới sáng tạo.

Hà Nội đẩy mạnh hợp tác chiến lược phát triển chính quyền số và thành phố AI

Trong khuôn khổ hội nghị công bố quy hoạch tổng thể Thủ đô Hà Nội tầm nhìn 100 năm và xúc tiến đầu tư năm 2026, Ủy ban nhân dân thành phố Hà Nội và Sở Khoa học và Công nghệ Hà Nội đã ký nhiều biên bản ghi nhớ hợp tác với các doanh nghiệp công nghệ, tổ chức nghiên cứu, đào tạo và các đối tác trong nước, quốc tế.

Một sản phẩm công nghệ mới trưng bày tại triển lãm công nghệ năng lượng mặt trời và hệ thống lưu trữ Solar & Storage Live 2024 tại thành phố Johannesburg, Nam Phi. (Ảnh: TTXVN)

Thúc đẩy tự chủ chiến lược về hạ tầng công nghệ

Bốn nền kinh tế công nghệ lớn nhất châu Phi đã soạn thảo các chiến lược về trí tuệ nhân tạo (AI) trong bối cảnh họ thừa nhận phụ thuộc quá nhiều vào các công ty công nghệ Mỹ về cơ sở hạ tầng. Với sự hỗ trợ của công nghệ phương Tây, các công ty châu Phi đang bắt đầu xây dựng cơ sở hạ tầng AI. 

Nghiên cứu phát triển khoa học và công nghệ là một trong những nhiệm vụ trọng tâm trong giai đoạn hiện nay.

Nâng cao năng lực khoa học và công nghệ quốc gia, góp phần làm chủ công nghệ chiến lược

Chính phủ vừa ban hành Nghị định số 229/2026/NĐ-CP ngày 25/6/2026 quy định về tổ chức và hoạt động của Quỹ Phát triển khoa học và công nghệ quốc gia. Nghị định gồm 8 chương và 39 điều, tập trung tháo gỡ những vướng mắc về tổ chức, cơ chế hoạt động; đồng thời để Quỹ thực hiện chức năng, nhiệm vụ phù hợp các quy định mới. 

Sự kiện thu hút hơn 300 đối tác chiến lược và đại diện các doanh nghiệp công nghệ trong khu vực.

Khai mạc Hội nghị thượng đỉnh Đối tác Đông Nam Á 2026

Ngày 26/6, tại Thành phố Hồ Chí Minh, Hội nghị thượng đỉnh Đối tác Đông Nam Á 2026 (Huawei SEA Partner Summit 2026) đã chính thức khai mạc với chủ đề “Hợp tác để khai phóng tương lai xanh và thông minh” (Partnering To Ignite The Intelligent và Green Future).

Bí thư Tỉnh ủy Đắk Lắk Lương Nguyễn Minh Triết phát biểu tại hội thảo.

Đắk Lắk đẩy mạnh chuyển đổi số và phát triển hệ sinh thái doanh nghiệp bền vững

Trong khuôn khổ chuỗi sự kiện công bố điều chỉnh quy hoạch tỉnh Đắk Lắk thời kỳ 2021-2030, tầm nhìn đến năm 2050 và xúc tiến đầu tư năm 2026, sáng 26/6, Sở Khoa học và Công nghệ tỉnh Đắk Lắk phối hợp các cơ quan, đơn vị tổ chức Hội thảo chuyên đề “Chuyển đổi số và phát triển hệ sinh thái doanh nghiệp bền vững”.

Hội thảo Việt Nam-Lào về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số trong các lĩnh vực.

Việt Nam-Lào hợp tác về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số

Chiều 25/6, tại thủ đô Vientiane (Lào), Trung tâm Chứng thực điện tử quốc gia Việt Nam (NEAC), Bộ Khoa học và Công nghệ Việt Nam phối hợp Trung tâm Internet quốc gia Lào (LANIC), Bộ Công nghệ và Truyền thông Lào tổ chức Hội thảo Việt Nam-Lào về phát triển hạ tầng tin cậy số và ứng dụng chữ ký số trong các lĩnh vực.

Nhóm nghiên cứu của Viettel AI xây dựng mới bộ dữ liệu các khuôn mặt bị che khuất để huấn luyện mô hình AI. (Ảnh: Quỳnh Trang)

Giải pháp Viettel AI được bảo hộ tại Hoa Kỳ nhờ bài toán nhận diện khuôn mặt bị che khuất

Ngày 26/6, Tập đoàn Công nghiệp-Viễn thông Quân đội Viettel cho biết, năng lực nghiên cứu công nghệ lõi của Viettel AI được khẳng định khi Văn phòng Sáng chế và Nhãn hiệu Hoa Kỳ (USPTO) vừa cấp bằng sáng chế hữu ích cho phương pháp “Nhận diện khuôn mặt có đeo khẩu trang qua hình ảnh sử dụng công nghệ trí tuệ nhân tạo”.

Diễn đàn đối thoại chiến lược 2026 tại Hà Nội bàn cách xác lập mô hình tăng trưởng mới dựa trên công nghệ chiến lược, đổi mới sáng tạo và nguồn nhân lực chất lượng cao.

Phát huy công nghệ chiến lược, xác lập mô hình tăng trưởng mới

Ngày 25/6, tại Hà Nội, Bộ Ngoại giao phối hợp Phòng Thương mại Hoa Kỳ tại ASEAN, Tổ chức Hợp tác và Phát triển kinh tế (OECD) cùng các đối tác tổ chức Diễn đàn đối thoại chiến lược với chủ đề “Xác lập mô hình tăng trưởng mới: Phát huy các công nghệ chiến lược để nâng cao năng lực cạnh tranh và tăng trưởng bền vững”. 

Triển lãm Quốc tế Vietnam ICTCOMM 2026 diễn ra từ 24-26/6 tại Thành phố Hồ Chí Minh.

Doanh nghiệp vận hành trên nền tảng AI – Tương lai của chuyển đổi số

Diễn ra từ ngày 24-26/6/2026 tại Thành phố Hồ Chí Minh, Vietnam ICTCOMM 2026 quy tụ hàng trăm doanh nghiệp công nghệ trong các lĩnh vực ICT, AI, IoT, Cloud, Data Center và Cybersecurity. Theo Ban tổ chức, ngày khai mạc đã thu hút hơn 2.000 lượt khách tham quan cùng nhiều hội thảo chuyên đề về chuyển đổi số và trí tuệ nhân tạo.

Báo chí thế giới tái định vị giữa "gọng kìm" của AI và người sáng tạo nội dung

Báo chí thế giới tái định vị giữa "gọng kìm" của AI và người sáng tạo nội dung

Sự trỗi dậy của các “bộ máy trả lời bằng AI” làm bốc hơi lưu lượng truy cập truyền thống. Làn sóng người sáng tạo nội dung đang cướp đi sự chú ý cũng như nhân tài của báo chí chính thống. Phản ứng chiến lược được nhiều cơ quan báo chí lựa chọn là tập trung vào những thứ máy móc không thể sao chép.

Tăng cường bảo mật ngân hàng. (Đồ họa: HỒNG ANH)

Chống lừa đảo AI trong ngành ngân hàng

Sự phát triển của trí tuệ nhân tạo (AI) đang mở ra nhiều cơ hội cho ngành ngân hàng trong việc nâng cao hiệu quả vận hành, quản trị rủi ro và cải thiện trải nghiệm khách hàng. Tuy nhiên, chính công nghệ này cũng đang bị tội phạm mạng lợi dụng để tạo ra các hình thức lừa đảo ngày càng tinh vi.

Hội nghị sơ kết công tác quản lý lĩnh vực thông tin điện tử 6 tháng đầu năm 2026.

Tăng cường xử lý vi phạm trên không gian mạng

Chiều 24/6, tại Hà Nội, Cục Phát thanh, Truyền hình và Thông tin điện tử (Bộ Văn hóa, Thể thao và Du lịch) tổ chức Hội nghị sơ kết công tác quản lý lĩnh vực thông tin điện tử 6 tháng đầu năm 2026.

Hoạt động nghiên cứu, thí nghiệm thực hành của sinh viên Trường đại học Việt Nhật. (Ảnh: DIỆP NGỌC)

Chuyển đổi số trong quản trị đại học: Đột phá đào tạo song hành và lực lượng lao động kỷ nguyên mới

Giáo dục nước ta đang đứng trước bước ngoặt mang tính cách mạng về cấu trúc thể chế, triết lý vận hành thích ứng kỷ nguyên số. Áp lực toàn cầu hóa và cách mạng công nghiệp lần thứ tư đã định hình hệ thống giáo dục đại học và nghề nghiệp theo hướng song hành thực học, thực nghiệp thay thế mô hình hàn lâm truyền thống.