Nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI

Ngày 5/12, lần đầu tiên các chuyên gia công nghệ cùng các sinh viên, lãnh đạo doanh nghiệp được trực tiếp cập nhật những kiến thức tiên tiến nhất về trí tuệ nhân tạo (AI) từ thiên tài AI thế giới - Giáo sư Yoshua Bengio tại Việt Nam.

Hoạt động này nằm trong khuôn khổ Hội thảo công nghệ cấp cao “AI an toàn – Định hình đổi mới có trách nhiệm” (AI Safety – Shaping Responsible Innovation) do FPT tổ chức. Sự kiện thu hút hơn 200 người tham dự trực tiếp và hơn 15.000 người theo dõi livestream.

Trong khuôn khổ của sự kiện, Giáo sư Yoshua Bengio đã có bài chia sẻ về chủ đề “An toàn AI” và tham gia “đối thoại” với ông Trương Gia Bình, Chủ tịch HĐQT FPT về “AI có trách nhiệm và tầm quan trọng của AI trong giáo dục” cũng như cùng chứng kiến lễ ra mắt Ủy ban Đạo đức AI trực thuộc Hiệp hội Phần mềm và Dịch vụ Công nghệ thông tin Việt Nam (VINASA).

Chia sẻ mở đầu sự kiện, ông Trương Gia Bình, Chủ tịch HĐQT FPT cho rằng những người tham dự sự kiện này thực sự là những người may mắn khi có được cơ hội gặp gỡ và học hỏi trực tiếp từ một trong những ngôi sao sáng nhất, “ông tổ” - người đặt nền móng cho sự phát triển AI của thế giới - Giáo sư Yoshua Bengio, Nhà sáng lập, Viện trưởng Viện nghiên cứu AI hàng đầu thế giới, Mila. Vì theo ông Bình, “từ chính kinh nghiệm của cá nhân tôi cho thấy, “tọa độ bay” của một người phụ thuộc vào thầy của người đó là ai”.

Định hình tương lai sáng tạo AI có trách nhiệm

Là một trong những nhà nghiên cứu quan tâm đến tác động xã hội và mục tiêu AI mang lại lợi ích cho tất cả mọi người, Giáo sư Yoshua Bengio cho rằng điều quan trọng nhất là việc phát triển công nghệ cần phải đi đôi với việc bảo vệ quyền lợi của con người và sự phát triển bền vững của xã hội.

Chia sẻ tại sự kiện, Giáo sư Yoshua Bengio cho rằng, “AI đang phát triển vượt bậc: hiệu quả sử dụng dữ liệu tăng 30%, hiệu suất thuật toán tăng gấp ba lần, đầu tư vào lĩnh vực này trung bình đạt 100 tỷ USD/năm, và các đánh giá chuẩn mực cho thấy năng lực AI đã vượt qua khả năng của con người, đặc biệt là trong việc làm chủ ngôn ngữ và xử lý dữ liệu".

Tuy nhiên, theo ông, sự tiến bộ nhanh chóng này đặt ra câu hỏi đáng lo ngại về khả năng kiểm soát những hệ thống AI thông minh hơn con người. Trong bối cảnh đó, một câu hỏi đạo đức lớn được đặt ra: Ai sẽ quyết định mục tiêu của AI? Sự cấp bách của việc hiểu rõ và hành động đúng đắn không chỉ là trách nhiệm, mà còn là yếu tố sống còn đối với tương lai nhân loại.

Một trong những nguyên tắc quan trọng được Giáo sư Yoshua Bengio đưa ra là AI cần được xây dựng như công cụ phục vụ con người, không phải như những "tác nhân" có khả năng tự đặt ra mục tiêu và hành động để đạt được mục tiêu đó, vì các mục tiêu của AI có thể mâu thuẫn hoặc vượt ngoài ý định ban đầu của con người.

Không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ...

Giáo sư Yoshua Bengio

Do đó, theo Giáo sư Yoshua Bengio nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI. Điều đó có nghĩa là không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ, vì trí thông minh của chúng có thể nhanh chóng vượt qua con người và có thể trở thành những AI lừa đảo, thúc đẩy những lợi ích, mục tiêu không hoàn toàn vì hạnh phúc của nhân loại.

Giáo sư Yoshua Bengio kể lại, ông Alan Turing là một trong những người sáng lập ngành khoa học máy tính. Ông là một thiên tài và đã suy nghĩ trước thời đại vào những năm 1940-1950. Ông lo ngại rằng một ngày nào đó, chúng ta sẽ tạo ra những cỗ máy thông minh hơn chúng ta, và có thể chúng ta sẽ không tìm được cách kiểm soát những hệ thống này.

"Thật không may, chúng ta đang dần tiến gần đến những lo ngại này. Chúng ta đang xây dựng những cỗ máy ngày càng gần gũi hơn với khả năng của con người trong nhiều lĩnh vực. Nhưng chúng ta vẫn chưa biết làm thế nào để kiểm soát chúng khi chúng trở nên thông minh hơn chúng ta. Đó là một vấn đề lớn", Giáo sư Yoshua Bengio nhận định

Giáo sư Yoshua Bengio cho biết, ông đang chủ trì một báo cáo quốc tế được lấy cảm hứng từ Ủy ban Liên Chính phủ về Biến đổi khí hậu (IPCC). Báo cáo này tập trung vào AI và sử dụng AI an toàn.

Ông cho biết: "Chúng tôi đã công bố báo cáo tạm thời đầu tiên vào tháng 5 tại Seoul và dự kiến sẽ ra mắt phiên bản cuối cùng vào tháng 2 tại Paris. Trong phiên bản tháng 5, chúng tôi đã viết: Khi các khả năng của trí tuệ nhân tạo đa năng tiếp tục phát triển, các rủi ro như tác động quy mô lớn đến thị trường lao động (người mất việc do tự động hóa với AI), tấn công mạng sử dụng AI (những người không phải chuyên gia có thể thực hiện tấn công mạng với sự hỗ trợ của AI), tấn công sinh học (thiết kế vũ khí sinh học có thể giết chết hàng triệu người vì virus sẽ tự sinh). Hoặc thậm chí tồi tệ hơn, đó là xã hội mất kiểm soát đối với AI. Tất cả những điều này đều có thể xảy ra".

"Chúng chưa xảy ra, nhưng chúng ta đã thấy ngày càng nhiều cuộc tấn công mạng, mặc dù chưa đến mức hoàn toàn làm gián đoạn xã hội, nhưng chúng ta đã thấy những mối nguy hiểm này đang nổi lên. Hiện tại, nó vẫn ở quy mô nhỏ. Nhưng sẽ thế nào trong hai năm, năm năm, mười năm nữa?", "bố giá" AI cảnh báo.

AI không cướp việc của con người

Giáo sư Yoshua Bengio cho rằng: "Thay vì tạo ra một loài mới, liệu chúng ta có thể chọn một con đường khác. Đó là hãy tập trung vào việc phát triển các công cụ thông minh – những công cụ được thiết kế để phục vụ con người, chỉ đơn thuần là vật thể để phục vụ chúng ta, không phải sinh thể, và thậm chí không mang đặc tính của một trợ lý".

Theo ông, trợ lý là một thực thể có trạng thái tồn tại liên tục, sở hữu mục tiêu và hành động để đạt được những mục tiêu đó. Chúng ta có thể tạo ra một AI biết và hiểu rất nhiều thứ nhưng không có mục tiêu cá nhân.

Theo Giáo sư Yoshua Bengio, làn sóng sa thải trong ngành công nghệ không hoàn toàn là do hệ quả của sự phát triển AI, mà còn bị ảnh hưởng bởi các yếu tố điều chỉnh kinh tế.

“AI thể hiện sự tiến bộ xuất sắc trong nhiều lĩnh vực nhưng chưa hoàn toàn thay thế được con người, đặc biệt ở những công đoạn đòi hỏi tư duy chiến lược, nghiên cứu …”, Giáo sư Yoshua Bengio chia sẻ.

Một thống kê năm 2023 về Tương lai của thị trường Lao động của Diễn đàn Kinh tế thế giới cho biết, đến năm 2025, AI dự kiến sẽ tạo ra 12 triệu việc làm mới trên toàn cầu. Một nghiên cứu khác của McKinsey cũng cho thấy, AI có thể đóng góp vào việc tạo ra từ 20 triệu đến 50 triệu việc làm mới trên thế giới vào năm 2030.

Theo Chủ tịch Tập đoàn FPT, ông Trương Gia Bình, AI cần được coi là một “đồng minh” chứ không phải một mối đe dọa lấy mất việc làm của con người. Việc học hỏi và ứng dụng AI là vô cùng quan trọng để duy trì tính cạnh tranh trên thị trường lao động; bao gồm những hiểu biết cơ bản về AI, học máy, khoa học dữ liệu, cũng như các kỹ năng giải quyết vấn đề và phân tích để làm việc hiệu quả với các hệ thống AI.