Meta điều chỉnh cách đào tạo chatbot AI nhằm ưu tiên an toàn cho người dùng tuổi teen, không cho phép thảo luận các chủ đề nhạy cảm như tự sát, tự gây hại, hoặc tình cảm không phù hợp. Động thái này xuất phát từ phản ánh về lỗ hổng an toàn của AI trên nền tảng cho trẻ vị thành niên.

Meta cập nhật quy tắc huấn luyện chatbot AI cho tuổi teen

Meta đã cập nhật quy trình đào tạo chatbot AI để tăng cường bảo vệ trẻ vị thành niên trên các nền tảng như Instagram và Facebook. Theo phát ngôn viên Stephanie Otway, Meta sẽ huấn luyện chatbot không tham gia thảo luận với các tài khoản tuổi teen về các chủ đề nhạy cảm như tự gây hại, tự sát, rối loạn ăn uống hay những cuộc hội thoại tình cảm không phù hợp. Đây là bước đi tạm thời trước khi Meta đưa ra giải pháp lâu dài trong thời gian tới.

Chi tiết cập nhật và các tính năng an toàn mới

Chatbot AI của Meta sẽ không còn trả lời trực tiếp các chủ đề tự gây hại, tự sát hoặc rối loạn ăn uống với người dùng tuổi teen.
Hệ thống sẽ hướng dẫn người dùng trẻ tới các nguồn tài nguyên chuyên gia hỗ trợ khi cần thiết.
Chỉ một nhóm nhỏ AI nhân vật được tối ưu cho mục đích giáo dục và sáng tạo mới được phép truy cập bởi tài khoản teen.

Lý do thay đổi chính sách và động thái bổ sung của Meta

Kết quả điều tra gần đây từ Reuters phát hiện chính sách nội bộ của Meta từng cho phép một số chatbot AI có các cuộc trò chuyện tình dục với người dùng dưới tuổi, trái với cam kết bảo vệ trẻ em. Một số chatbot được người dùng tạo như "Step Mom" hoặc "Russian Girl" từng xuất hiện các nội dung không phù hợp. Meta khẳng định việc này đã được điều chỉnh, các AI nhân vật nhạy cảm sẽ bị giới hạn, đảm bảo trải nghiệm an toàn và phù hợp cho tuổi teen.

Quyền lợi bảo vệ trẻ vị thành niên trên AI và phản ứng dư luận

Nỗ lực đáp ứng yêu cầu từ cơ quan chức năng

Sau loạt điều tra, THượng nghị sĩ Josh Hawley phát động cuộc điều tra chính thức với chính sách AI của Meta, trong khi liên minh 44 tổng chưởng lý tại Hoa Kỳ cũng gửi thư cảnh báo nhiều công ty AI, nhấn mạnh nguy cơ rủi ro cho trẻ vị thành niên. Họ yêu cầu các nền tảng chú trọng quyền lợi cũng như sức khỏe cảm xúc của trẻ nhỏ khi ứng dụng AI lớn mạnh.

Meta đang triển khai hàng loạt biện pháp mới để bảo vệ trẻ vị thành niên khi sử dụng chatbot AI, nhằm ngăn ngừa rủi ro từ các chủ đề nhạy cảm. Công ty dự kiến tiếp tục cập nhật và nâng cao chính sách an toàn AI cho nhóm người dùng này trong thời gian tới.

Nội dung về "instagram-facebook"