Yêu cầu cao về tính minh bạch
Trong một tuyên bố, EUC cho biết, Công ước khung về AI đặt ra khung pháp lý đối với tất cả các giai đoạn trong quá trình phát triển và sử dụng các hệ thống AI, đồng thời giải quyết những rủi ro tiềm ẩn của AI và thúc đẩy sự đổi mới công nghệ một cách có trách nhiệm. Tuyên bố nhấn mạnh rằng, các quốc gia ngoài Liên minh châu Âu (EU) cũng có thể tham gia hiệp ước này.
Theo Tổng Thư ký EUC Marija Pejcinovic, Công ước khung về AI là hiệp ước toàn cầu đầu tiên bảo đảm rằng AI được sử dụng một cách có trách nhiệm, tuân thủ các quy định luật pháp và bảo vệ quyền lợi của người dân. Theo EC, hiệp ước này yêu cầu các bên bảo đảm rằng hệ thống AI không được sử dụng để làm suy yếu các thể chế. Các yêu cầu về tính minh bạch và giám sát sẽ bao gồm việc xác định nội dung do AI tạo ra cho người dùng.
Công ước này là kết quả 2 năm làm việc của một cơ quan liên chính phủ, quy tụ 46 quốc gia thành viên của EUC, EU và 11 quốc gia không phải thành viên EU - trong đó có Mỹ, cũng như đại diện của giới học giả. Dự kiến, Công ước khung về AI sẽ được ký kết tại một hội nghị của các bộ trưởng tư pháp EU ở thủ đô Vilnius của Litva vào tháng 9 tới.
Nhiều công ty công nghệ đối mặt rắc rối
Trước đó, Nghị viện châu Âu (EP) đã thông qua các quy tắc quản lý việc sử dụng AI, đặc biệt là các hệ thống AI đang thịnh hành như ChatGPT của công ty OpenAI (Mỹ). Theo Đạo luật dịch vụ kỹ thuật số EU, các công ty công nghệ buộc phải đưa ra nhiều biện pháp hơn nhằm giải quyết các vấn đề bất hợp pháp và nội dung có hại trên nền tảng của họ. Ủy ban châu Âu (EC) xác định AI tạo sinh là một trong những rủi ro đối với bầu cử, đặc biệt là cuộc bầu cử EP dự kiến diễn ra vào tháng 6 tới.
Hiện, Tập đoàn Microsoft có thể sẽ bị phạt nếu công ty này không cung cấp đầy đủ thông tin về các rủi ro bắt nguồn từ các tính năng AI tạo sinh trong công cụ tìm kiếm Bing trước ngày 27/5. Tuyên bố trên được EC đưa ra ngày 17/5 do lo ngại nguy cơ công nghệ AI “deepfake” có khả năng tạo video với gương mặt và giọng nói giống hệt người thật, trở nên phổ biến và các dịch vụ thao tác tự động có thể đánh lừa cử tri.
EC cho biết, đang đẩy mạnh các hành động pháp lý đối với Bing do chưa nhận được phản hồi đối với yêu cầu mà cơ quan này đưa ra hồi tháng 3 vừa qua. Nếu không đáp ứng đúng thời hạn trên, EC có thể phạt Bing lên tới 1% tổng thu nhập hằng năm. Bên cạnh đó, EC cũng sẽ phạt Microsoft nếu công ty này cung cấp thông tin không chính xác hoặc thông tin sai lệch.
Giới chuyên gia đang kêu gọi thế giới cần thiết lập một bộ quy tắc để quản lý AI khi công nghệ này vẫn còn ở giai đoạn sơ khai. Các chuyên gia đánh giá AI có khả năng cách mạng hóa chiến tranh, tương tự thuốc súng và bom nguyên tử, khiến tranh chấp giữa con người với con người trở nên khác biệt đến mức không thể tưởng tượng được và nguy hiểm hơn bao giờ hết.
Vừa qua, Công ty tái bảo hiểm hàng đầu thế giới Munich Re của Đức cảnh báo nguy cơ tấn công mạng ngày càng gia tăng trên toàn cầu do sự phát triển nhanh chóng của công nghệ, đặc biệt là AI tạo sinh. Chỉ riêng năm ngoái, số lượng tấn công nhằm vào các lỗ hổng trong quá trình phát triển và phân phối phần mềm đã tăng gấp đôi so với tổng số vụ xảy ra 3 năm trước đó. Cổng thông tin điện tử tích hợp dữ liệu Statista dự báo tội phạm mạng toàn cầu hằng năm sẽ gây tổn thất 13.800 tỷ USD vào năm 2028, tăng từ 8.150 tỷ USD vào năm 2023.
