Làm thế nào để bảo vệ thế hệ tương lai trong thời đại AI?

Trí tuệ nhân tạo (AI) đang làm thay đổi thế giới, cách tương tác giữa con người và máy móc, và cả giữa người với người.

Trẻ em có thể coi là thế hệ AI - lớn lên cùng sự phát triển của AI và sẽ là những chủ thể chính trong thế giới tương lai, khi AI - với đà phát triển hiện nay - trở thành một phần quan trọng không thể thiếu.

Là “người thụ hưởng” chính từ những cơ hội do AI mang lại, nhưng trẻ em cũng đối mặt với nhiều nhất các nguy cơ từ công nghệ này.

“Trẻ em đang trong quá trình phát triển về thể chất, trí lực và cảm xúc, vì thế các em rất dễ bị định hình,” Chuyên gia chính sách về kết nối số của Quỹ Nhi đồng Liên hợp quốc (UNICEF) Steve Vosloo đã giải thích như vậy khi nói về lý do trẻ em cần được bảo vệ đặc biệt trước những tác động của AI và thế giới cần quan tâm đến vấn đề này.

Trong báo cáo mới nhất về cơ hội và nguy cơ đối với trẻ em trong thời đại AI, UNICEF và Diễn đàn Kinh tế thế giới (WEF) đã nêu ra những nguy cơ đối với trẻ em, cả về thể chất và tâm lý, cả trước mắt và trong dài hạn.

Những nguy cơ được chia thành 4 nhóm, trong đó rõ nhất là mối rủi ro về quyền riêng tư, an ninh và an toàn trong thời đại mà các thông tin cá nhân được kết nối lưu giữ trên nền tảng số.

Cảnh báo những nguy cơ từ trí tuệ nhân tạo đối với trẻ em

27/03/2023 20:26

Các thuật toán dựa trên AI học và lưu trữ những nội dung mà trẻ em hay bất kỳ ai tìm kiếm và tương tác, ngay cả khi nội dung đó có thể gây hại cho trẻ hoặc những người chung quanh.

Trẻ em cũng có thể bất cẩn hơn khi chia sẻ thông tin cá nhân trên mạng, thậm chí chỉ qua đồ chơi AI có kết nối mạng, do đó dễ trở thành nạn nhân của các vụ xâm nhập dữ liệu trái phép. Vì thế, một số nước trên thế giới, như Đức, đã cấm các đồ chơi có sử dụng AI.

Thứ hai là cơ hội tiếp cận dịch vụ một cách công bằng và bao trùm. Chênh lệch về trình độ phát triển công nghệ khiến trẻ em ở những đất nước và khu vực khác nhau có mức độ nhận thức và khả năng ứng dụng công nghệ AI khác nhau.

Nguy hiểm hơn, khi máy móc được giao quyền ra quyết định dựa trên các thông số, tiêu chuẩn cố định để đánh giá mức độ phù hợp của con người.

Báo cáo của UNICEF/WEF đưa ra những thí dụ như việc các trường sử dụng công nghệ AI và máy học để sắp xếp các đơn dự tuyển sinh của học sinh, sinh viên có thể vô tình nhưng theo một cách có hệ thống loại trừ một số nhóm ứng viên.

Ông Seth Bergeson, nghiên cứu sinh thuộc WEF dẫn thí dụ về việc một thuật toán AI mới đánh giá không chính xác bài kiểm tra Chứng chỉ giáo dục phổ thông bậc cao của học sinh, làm tiêu tan hy vọng của nhiều học sinh muốn dự tuyển vào các trường đại học hàng đầu.

Về dài hạn, UNICEF và WEF cảnh báo thế hệ tương lai có thể đối mặt với nguy cơ thất nghiệp khi máy móc sử dụng AI làm thay phần việc của con người. Đây là rủi ro thuộc nhóm nguy cơ về kế sinh nhai.

Một số nước trên thế giới, trong đó có Đức, đã cấm các đồ chơi có sử dụng AI.

Theo dự báo của McKinsey&Company, máy móc sử dụng công nghệ AI và robot sẽ thay thế khoảng 30% lực lượng lao động vào năm 2030. 65% học sinh tiểu học ngày nay sẽ làm những công việc mà hiện nay chưa hề có, trong khi nhiều môn học mà trường học trang bị hiện nay sẽ không còn hữu dụng khi các em trưởng thành.

Các chuyên gia của UNICEF và WEF cũng cảnh báo về khả năng trẻ em sau này sẽ không còn đến lớp học, bởi mọi thứ đều có thể học trên máy tính, học từ xa, tự học. Rõ ràng, đây không phải điều tích cực xét dưới góc độ xã hội.

Cuối cùng là những tác động về tâm-sinh lý và hành vi của trẻ. Việc tương tác quá nhiều với máy móc công nghệ có thể dẫn đến tình trạng trầm cảm, lo lắng bất an hoặc mất kỹ năng xã hội do ngày càng ít tương tác với người khác. Quá phụ thuộc vào AI làm giảm khả năng học tập, nghiên cứu và làm việc chủ động của trẻ.

Giới chuyên gia cũng đề cập vấn đề liên quan đến quyền tự chủ và ra quyết định, theo đó, AI gắn chặt với đời sống đến mức khó có thể không phụ thuộc vào công nghệ này.

Tất nhiên không thể phủ nhận những cơ hội mà AI mang lại cho xã hội nói chung và trẻ em nói riêng.

Theo định nghĩa của Tổ chức Hợp tác và Phát triển kinh tế (OECD), AI là các hệ thống dựa trên máy móc, căn cứ vào các mục đích do con người xác định, có thể đưa ra những dự đoán, khuyến nghị hoặc quyết định có thể ảnh hưởng đến môi trường ảo hoặc thực tế. Nói cách khác, con người tạo ra AI để “giúp việc” cho mình.

Việc ứng dụng ChatGPT phát triển rầm rộ thời gian gần đây, thậm chí tạo làn sóng trên khắp toàn cầu, là một minh chứng cho thấy con người được hỗ trợ ra sao từ AI.

Kể cả những việc trước đây không ai nghĩ máy móc có thể làm được, thí dụ như làm thơ, viết luận văn…, nay ChatGPT đều có thể làm được.

Có thể thời gian đầu vẫn còn những ngây ngô, in dấu “máy học,” nhưng với sự phát triển rất nhanh của công nghệ, với việc người dùng từ khắp nơi liên tục chia sẻ “đầu vào,” sẽ đến một ngày khó mà phân biệt sản phẩm nào của con người, sản phẩm nào do các công nghệ AI như ChatGPT tạo ra.

Các công cụ học tập có ứng dụng AI đã được chứng minh giúp trẻ tăng cường khả năng phân tích và giải quyết vấn đề, tạo điều kiện cho việc tự học tập, nghiên cứu. Hay những ứng dụng nhận diện khuôn mặt, giọng nói có thể giúp cho việc bảo vệ trẻ em tốt hơn trước nguy cơ bị bắt cóc hay buôn người.

Trong Hướng dẫn chính sách về AI đối với trẻ em, UNICEF đã nhấn mạnh những yêu cầu cần cân nhắc khi phát triển công nghệ AI lấy trẻ em làm trung tâm.

Lá chắn bảo vệ trẻ em trên không gian mạng

29/03/2023 07:15

Đó là phải hỗ trợ cho trẻ phát triển toàn diện và hết khả năng, bảo đảm tính bao trùm cho tất cả trẻ em, nhấn mạnh sự công bằng và không phân biệt đối xử, bảo đảm tính riêng tư, an toàn, bảo đảm các em nhận thức rõ tác động của AI và trách nhiệm của bản thân, giúp cơ quan quản lý và doanh nghiệp hiểu rõ về AI và quyền trẻ em; chuẩn bị cho trẻ em sẵn sàng trước sự phát triển của AI trong tương lai.

UNICEF hiện đã triển khai nhiều chương trình thử nghiệm với nhiều nước đối tác khác nhau để đánh giá mức độ thực tế và hiệu quả của hướng dẫn chính sách trong các điều kiện khác nhau.

Tại Trung Quốc, Bộ Khoa học và Công nghệ đã thành lập nhóm công tác với các đại diện từ một số công ty hàng đầu về chiến lược AI của nước này như công ty công nghệ giáo dục TAL, công ty điện tử tiêu dùng Xiaomi, công ty máy tính Megvii và “ông lớn” công nghệ Baidu, cùng xây dựng các nguyên tắc bảo đảm an toàn cho trẻ em trong các sản phẩm AI của họ, đồng thời tác động đến các công ty và tổ chức khác cùng thực hiện mục tiêu tương tự.

Dự thảo Đạo luật AI của Liên minh châu Âu (EU) cũng đề cập đến tác động của công nghệ này đối với trẻ em, đối tượng được xác định thuộc nhóm dễ bị tổn thương nhất trong thời đại AI. Dự luật phân loại các hệ thống AI theo mức độ nguy cơ trẻ em.

Thí dụ, các hệ thống AI sử dụng trong đồ chơi, phục vụ giáo dục, hướng nghiệp; thiết bị AI giúp xác định sinh trắc học trong hệ thống thực thi pháp luật, quản lý xuất nhập cảnh…được coi là những hệ thống nguy cơ cao. Những hệ thống này phải xin cấp phép trước khi sử dụng trong EU, phải trải qua quá trình đánh giá rủi ro.

Việc sử dụng những hệ thống AI không được thiết kế theo nguyên tắc lấy trẻ em làm trung tâm có thể bị cấm nếu như bị đánh giá vi phạm quyền riêng tư của trẻ hay mang tính phân biệt đối xử.

Mặc dù các tiêu chuẩn đề ra vẫn bị các chuyên gia đánh giá là chưa rõ ràng đối với riêng đối tượng trẻ em, song những đề xuất phần nào phản ánh mong muốn của EU về một tương lai số hóa mà trẻ em được sống an toàn và phát triển.

AI đang trên đà phát triển. Để giảm thiểu nguy cơ từ xu thế này đối với trẻ, điều quan trọng nhất là tập trung vào các hệ thống AI vì sự phát triển và cuộc sống tốt đẹp cho trẻ.

Bên cạnh đó, điều quan trọng là phải trang bị cho các em kiến thức để hiểu về AI, từ đó biết cách sử dụng AI một cách trách nhiệm, an toàn và có đạo đức, vì sự phát triển của bản thân và xã hội.

Các em cần hiểu cách thức hoạt động của những công nghệ này để có thể nắm được những lợi ích, rủi ro tiềm ẩn và cách sử dụng hiệu quả những công cụ đó; cần hiểu rằng AI có mặt hạn chế, còn nhiều sai sót nghiêm trọng và có thể đưa ra những kết quả thiên vị và định kiến, từ đó có thể suy nghĩ nghiêm túc, quyết định cách thức cũng như mức độ sử dụng công nghệ AI trong cuộc sống.

Theo chuyên gia Vosloo, để trẻ em hiểu về AI không chỉ bảo vệ các em mà còn “trao quyền” cho các em, cho các em công cụ để định hình tương lai của chính mình.

Ngoài lợi ích không thể phủ nhận, AI có thể phát triển vượt quá tầm kiểm soát của con người, và đó là thách thức mà những lứa trẻ em hiện nay và tương lai sẽ phải phòng ngừa.

Việc xây dựng những chiến lược phát triển AI, cả ở cấp quốc gia và doanh nghiệp, quan tâm đến quyền của trẻ em và những tác động từ AI đến trẻ em là bước đi cần thiết để chuẩn bị cho các thế hệ sau có thể “sống chung an toàn” với AI, để AI và những công nghệ tiếp sau thực sự phục vụ cho sự phát triển và tốt đẹp của thế giới tương lai.