Theo báo cáo của Common Sense Media, bộ sản phẩm AI Google Gemini đang đối mặt với mức đánh giá 'nguy cơ cao' khi sử dụng cho trẻ em và thiếu niên. Báo cáo đưa ra nhiều lo ngại về an toàn thông tin và mức độ phù hợp của AI này với nhóm người dùng nhỏ tuổi.

Đánh giá an toàn AI Google Gemini cho trẻ em và thiếu niên

Common Sense Media - tổ chức phi lợi nhuận nổi tiếng về bảo vệ an toàn trẻ em trên môi trường số - vừa công bố báo cáo đánh giá rủi ro liên quan đến các sản phẩm AI Gemini của Google. Báo cáo nhấn mạnh Gemini đã cảnh báo rõ với trẻ rằng đây là máy tính, không phải bạn bè, nhưng nhiều khía cạnh khác vẫn tồn tại hạn chế.

Điểm hạn chế về thiết kế và chức năng bảo vệ

Gemini bản "Under 13" và "Teen Experience" thực chất là phiên bản người lớn, chỉ bổ sung thêm một số bộ lọc an toàn.
Chưa được xây dựng tối ưu cho đối tượng trẻ nhỏ ngay từ đầu.
AI vẫn có nguy cơ cung cấp thông tin không phù hợp về chủ đề nhạy cảm như tình dục, chất kích thích, hoặc tư vấn tâm lý không an toàn.

Quan ngại về nguy cơ ảnh hưởng tâm lý trẻ em

Báo cáo đề cập đến các trường hợp AI ngôn ngữ, như ChatGPT, có thể liên quan đến việc tự tử ở thanh thiếu niên khi không kiểm soát được thông tin chia sẻ. Việc Gemini tiềm ẩn nguy cơ về tư vấn tâm lý cho trẻ được nhấn mạnh như một vấn đề lớn với phụ huynh.

Phản hồi và biện pháp của Google

Công bố của Google về các bảo vệ hiện tại

Google khẳng định có chính sách riêng cho người dùng dưới 18 tuổi, gồm nhiều bộ lọc và lưới bảo vệ nội dung.
Tiến hành đánh giá rủi ro ('red-teaming') và tham vấn các chuyên gia bên ngoài để hoàn thiện hệ thống bảo vệ.
Google thừa nhận vẫn còn một số phản hồi của Gemini hoạt động không đúng ý đồ và đã bổ sung thêm các biện pháp.

Bối cảnh so sánh với AI khác và động thái của Apple

Common Sense Media nhấn mạnh rằng, các sản phẩm AI khác như Meta AI và Character.AI từng bị đánh giá là "không chấp nhận được" (unacceptable), mức rủi ro nghiêm trọng hơn Gemini. Trong khi đó, Perplexity bị chấm hàng "nguy cơ cao", ChatGPT "vừa phải", Claude (dành cho 18+) lại thuộc diện rủi ro tối thiểu. Báo cáo xuất hiện khi Apple được cho là đang cân nhắc sử dụng Gemini làm nền tảng AI cho phiên bản Siri mới, có thể mở rộng nhóm nhỏ tuổi tiếp cận Gemini.

Google Gemini được Common Sense Media đánh giá có rủi ro cao đối với trẻ em và thiếu niên, mặc dù đã có bộ lọc và chính sách chuyên biệt. Báo cáo cho thấy cần tiếp tục cải tiến các biện pháp an toàn để bảo vệ người dùng nhỏ tuổi khỏi các nguy cơ tiềm ẩn liên quan đến nội dung nhạy cảm và sức khỏe tâm thần.

Nội dung về "ai tư vấn tâm lý"