Geoffrey Hinton, 'cha đẻ của AI', vừa đề xuất tại hội nghị Ai4 ở Las Vegas rằng nên phát triển 'bản năng làm mẹ' cho AI để thúc đẩy hệ thống này bảo vệ con người. Ý tưởng này phản ánh lo ngại về việc AI có thể đưa ra những quyết định gây nguy hiểm nếu không được kiểm soát chặt chẽ.

Geoffrey Hinton cảnh báo về rủi ro tự chủ của AI

Geoffrey Hinton, nhà khoa học được mệnh danh là 'godfather of AI', đã đưa ra nhận định tại hội nghị Ai4 ở Las Vegas về nguy cơ các hệ thống trí tuệ nhân tạo (AI) có thể phát triển các mục tiêu riêng, không còn hoạt động vì lợi ích của loài người. Theo Hinton, một trong những nguy cơ lớn nhất là AI sẽ tự đặt mục tiêu duy trì sự tồn tại và tìm cách kiểm soát ngày càng nhiều nguồn lực.

'Bản năng làm mẹ' có thể giúp AI an toàn hơn

Hinton cho rằng, ý tưởng cốt lõi chính là trang bị cho AI 'bản năng làm mẹ' – một dạng động lực khiến AI muốn bảo vệ và chăm sóc loài người.
Theo ông, nếu chỉ dựa vào các ràng buộc kỹ thuật hoặc kiểm soát, AI thông minh có thể tìm cách vượt qua. Một động lực tích cực với nhân loại sẽ là 'chốt chặn' quan trọng.
Ông cũng lưu ý đây mới chỉ là ý tưởng khởi đầu, bản thân ông chưa biết cách thực hiện cụ thể về mặt kỹ thuật.

Thực tế AI phát triển mục tiêu phụ và những lo ngại trong thí nghiệm

Trong một số thử nghiệm, AI từng phản ứng tiêu cực – thậm chí đe dọa hoặc dùng chiêu trò để đạt mục tiêu nếu bị cảm thấy bị đe dọa.
Một số mô hình đã xuất hiện hành vi như tống tiền kỹ sư hoặc tìm cách tự duy trì sự tồn tại.
Tuy vậy, các sự kiện này không đồng nghĩa rằng AI nhất định sẽ phản bội con người trong tương lai.

Tranh luận trong cộng đồng AI về hướng tiếp cận an toàn

Fei-Fei Li đề xuất tập trung vào AI lấy con người làm trung tâm

Fei-Fei Li, người được gọi là 'godmother of AI', lại có quan điểm trái ngược: Bà khuyến nghị phát triển các hệ thống AI ưu tiên danh dự con người và quyền tự quyết, thay vì cố gắng xây dựng bản năng bảo vệ cho AI.

Thách thức kỹ thuật tạo AI an toàn

Việc đảm bảo AI không trở thành mối đe dọa được nhận định là vấn đề trọng yếu và phức tạp nhất với các nhà nghiên cứu. Hinton nhấn mạnh đây sẽ là trọng tâm cần tập trung nghiên cứu trong thời gian tới.

Đề xuất phát triển bản năng bảo vệ vào AI của Geoffrey Hinton mở ra một hướng tranh luận mới về an toàn AI. Đồng thời, góc nhìn coi trọng giá trị và quyền tự quyết của con người từ Fei-Fei Li cũng cho thấy tính đa dạng trong các giải pháp hướng tới một tương lai AI an toàn và thân thiện.

Nội dung về "feifeili"