Theo Reuters, Cơ quan Bảo vệ dữ liệu (GPDP) của Italy đã phạt chính quyền thành phố Trento 50.000 euro (khoảng 54.200 USD) vì vi phạm quy tắc bảo vệ dữ liệu, khi cho phép AI sử dụng hình ảnh và tiếng nói của người dân trong hai dự án do Liên minh châu Âu (EU) tài trợ. GPDP là cơ quan phụ trách giám sát quyền riêng tư ở Italy, cho biết họ công nhận chính quyền thành phố đã hành động có thiện chí, nhưng nhận thấy rằng dữ liệu được thu thập không đủ ẩn danh, cũng như không được chia sẻ chính xác với bên thứ ba.
Theo đó, sau khi điều tra kỹ lưỡng các dự án giám sát an ninh của chính quyền thành phố Trento, GPDP đã phát hiện nhiều hành vi vi phạm các quy định về quyền riêng tư. Ngoài mức phạt 50.000 euro, GPDP cũng yêu cầu chính quyền thành phố Trento xóa tất cả dữ liệu thu thập được. Đáp lại, giới chức thành phố Trento chỉ ra rằng quyết định của GPDP cho thấy thực trạng thiếu các quy định pháp lý về việc sử dụng AI. Địa phương thừa nhận đã dùng AI để phân tích lượng lớn dữ liệu, song đây là hoạt động nhằm cải thiện an ninh thành phố.
GPDP là một trong những cơ quan thực hiện giám sát nghiêm ngặt nhất trong EU về việc tuân thủ quy tắc bảo mật dữ liệu của khối, cũng như ứng phó sự phát triển của AI. Hồi năm 2021, GPDP từng cảnh báo hệ thống nhận dạng khuôn mặt do Bộ Nội vụ Italy thử nghiệm đã không tuân thủ quy tắc về quyền riêng tư. Vào tháng 3/2023, Italy là quốc gia đầu tiên đưa ra lệnh cấm đối với ChatGPT khi ứng dụng AI đình đám này của Công ty OpenAI mới lan truyền. Mặc dù đã dỡ bỏ lệnh cấm ít lâu sau đó, song “đất nước hình chiếc ủng” vẫn luôn giám sát công nghệ mới này.
Tháng 5/2023, giới chức Rome đã đề nghị thành lập một quỹ trị giá hàng triệu USD chi trả cho những người lao động có nguy cơ bị AI thay thế. Quan điểm về việc sử dụng AI cũng đã trở thành đề tài tranh luận nghiêm túc giữa các chính trị gia trong nước. Từ cuối năm ngoái, các cơ quan quản lý của Italy đã bắt đầu điều tra về hoạt động bảo mật của những trang web công cộng và tư nhân nhằm ngăn chặn việc thu thập dữ liệu AI. Gần đây nhất, Thủ tướng Giorgia Meloni đã cam kết sẽ coi quy định về AI là một trong những ưu tiên chính khi nước này giữ chức chủ tịch luân phiên Nhóm các nước công nghiệp phát triển (G7) vào tháng 6 tới.
Những tiến bộ nhanh chóng về công nghệ AI đang làm dấy lên mối lo ngại về vấn đề quyền riêng tư và bảo mật dữ liệu cá nhân. Tháng 12 năm ngoái, giới chức EU đã đồng ý các điều khoản tạm thời để quản lý những hệ thống AI như ChatGPT, nằm trong nỗ lực thiết lập một bộ quy tắc quản lý công nghệ. Song, thỏa thuận tạm thời về AI nói trên vẫn chưa thể ngăn chặn tình trạng tin tặc lợi dụng sự phát triển của các mô hình AI mới để tăng cường khả năng tiến công mạng và vi phạm quyền riêng tư.
Ngày càng có nhiều ghi nhận về các vụ việc vi phạm thông tin cá nhân, lạm dụng hình ảnh phụ nữ, trẻ em, trong đó có cả hình ảnh nghệ sĩ hay người nổi tiếng… để phát tán tin giả hay phim ảnh khiêu dâm. Đồng thời, do chưa có một hành lang pháp lý để kiểm soát những dữ liệu đầu vào của AI nên các công ty công nghệ vẫn tự do phát triển và thử nghiệm những dịch vụ của mình, trong khi những nhóm tin tặc có thể dễ dàng “hack” vào các hệ thống dữ liệu và gây thiệt hại.
Bởi vậy, cơ quan an ninh của nhiều nước trên thế giới vẫn đang tìm cách tăng cường năng lực bảo vệ quyền riêng tư cho người sử dụng internet, cũng như ứng phó trước những nguy cơ an ninh tiềm ẩn mà những mô hình AI mới có thể gây ra.
