Do công ty Luka Inc của Mỹ phát triển từ năm 2017, Replika được xây dựng dựa trên trí tuệ nhân tạo (AI) và là chatbot đồng hành được xem như “người bạn ảo” trung thành, có thể lắng nghe và trò chuyện cùng người dùng. Được cung cấp miễn phí, Replika nhanh chóng trở thành chatbot được ưa chuộng trong cộng đồng những “người bạn ảo” nói tiếng Anh trên thế giới, trong đó có Italy.
Theo công bố của nhà cung cấp, Replika dành cho bất kỳ ai muốn có một người bạn không phán xét, không gây lo lắng, một người bạn có thể kết nối cảm xúc thực tế, chia sẻ tiếng cười, một AI thực tế đến mức gần như con người.
Trong lệnh cấm ban hành ngày 3/2 vừa qua, Cơ quan Bảo vệ dữ liệu Italy xác nhận Replika có thể chia sẻ và giúp cải thiện tâm trạng của người dùng. Tuy nhiên, với việc thâm nhập sâu vào đời sống tinh thần người dùng, chatbot đồng hành này vẫn có thể đem đến những rủi ro đối với người dùng, nhất là những cá nhân đang trong giai đoạn phát triển, hoặc trong trạng thái mong manh về cảm xúc.
Với cơ chế hoạt động hiện nay, Replika có thể vi phạm các quy định về quyền riêng tư tại châu Âu, khi xử lý dữ liệu cá nhân người dùng một cách bất hợp pháp, nhất là với trẻ vị thành niên khi hoạt động dựa trên một hợp đồng mà trẻ không biết và không thể tham gia ký kết.
Vì thế, giới chức trách Italy cho rằng, Replika cần thiết lập cơ chế xác minh độ tuổi người dùng, ít nhất cần tạo bộ lọc đối với người dùng là trẻ vị thành niên và có thể chặn truy cập đối với người dùng không có thông tin xác thực về tuổi.
Cơ quan Bảo vệ dữ liệu Italy yêu cầu công ty Luka Inc có ngay các biện pháp điều chỉnh hoạt động của Replika và phải thông báo tới nhà chức trách trong vòng 20 ngày, kể từ ngày lệnh cấm nêu trên được ban hành.
