Hội đồng Giám sát của Meta kết luận doanh nghiệp chưa đủ quyết liệt xử lý quảng cáo deepfake lừa đảo sử dụng hình ảnh người nổi tiếng trên các nền tảng của mình. Khuyến nghị cải tiến quy trình kiểm duyệt tiếp tục được đưa ra giữa bối cảnh scam sử dụng AI ngày càng tinh vi.
Meta bị Hội đồng Giám sát chỉ trích vì xử lý lỏng lẻo các quảng cáo deepfake lừa đảo
Theo Hội đồng Giám sát (Oversight Board), Meta chưa thực hiện tốt việc ngăn chặn các quảng cáo sử dụng AI deepfake để lừa đảo bằng cách giả mạo hình ảnh người nổi tiếng. Các chuyên gia cho rằng chính sách kiểm duyệt hiện tại của Meta không đủ chặt chẽ, khiến vẫn còn rất nhiều nội dung lừa đảo xuất hiện trên nền tảng.
Vụ việc quảng cáo giả mạo Ronaldo Nazário
- Một quảng cáo game Plinko dùng video deepfake Ronaldo Nazário (cựu cầu thủ Brazil) đã xuất hiện trên Meta.
- Video bị tố cáo hơn 50 lần nhưng không bị xóa kịp thời, thu hút hơn 600.000 lượt xem trước khi bài đăng gốc bị gỡ.
- Sau khi Hội đồng Giám sát xem xét, Meta mới xóa quảng cáo và bài viết liên quan.
Điểm yếu trong chính sách kiểm duyệt của Meta
Hội đồng Giám sát nêu rõ Meta chỉ xử lý nghiêm các trường hợp quảng cáo deepfake nếu bị escalated (nâng cao mức cảnh báo), đồng thời nhận xét việc xác định 'fake persona' (nhân vật giả mạo) giữa các reviewer còn thiếu nhất quán theo khu vực.
Vì vậy, không ít nội dung scam bằng AI có thể ‘lọt lưới’ và tiếp cận người dùng đại trà.
Khuyến nghị và phản hồi từ Meta
- Hội đồng Giám sát đề xuất Meta đổi mới hướng dẫn nội bộ, tăng quyền cho đội kiểm duyệt và cập nhật quy trình nhận biết nội dung bị AI can thiệp.
- Meta cho biết đã bắt đầu thử nghiệm công nghệ nhận diện khuôn mặt nhằm phát hiện quảng cáo mạo danh, và nhấn mạnh vẫn tích cực chống lại scam.
- Bên cạnh đó, Meta phản bác một số đánh giá của Hội đồng, cho rằng chưa đầy đủ và sẽ phản hồi chi tiết trong 60 ngày.
Thực trạng quảng cáo deepfake lừa đảo vẫn là vấn đề nổi cộm trên Meta
Nhiều nghệ sĩ, nhân vật công chúng bị lợi dụng hình ảnh
Báo cáo cho thấy hàng loạt sao nổi tiếng như Elon Musk hay Jamie Lee Curtis đã trở thành mục tiêu của quảng cáo deepfake trên Facebook. Mặc dù các quảng cáo bị tố cáo nhiều lần, một số chỉ bị xóa sau khi nhân vật công khai lên tiếng.
Nhiều nước cũng lên tiếng về nạn scam trên Meta
Tin từ The Wall Street Journal cho biết Meta liên quan gần một nửa số vụ lừa đảo qua Zelle của JPMorgan Chase và mức độ lừa đảo tại Anh, Úc cũng không giảm. Đáng chú ý, Meta bị cho là còn do dự trong việc thắt chặt quy trình mua quảng cáo và xử lý các tài khoản từng dính scam.
Hội đồng Giám sát lên tiếng cho rằng Meta chưa xử lý triệt để vấn nạn quảng cáo deepfake lừa đảo bằng hình ảnh người nổi tiếng. Những khuyến nghị mới yêu cầu Meta nâng cao kiểm duyệt và đào tạo chuyên sâu cho đội ngũ đánh giá, trong bối cảnh scam trên nền tảng vẫn còn phức tạp.