xAI vừa giới thiệu Grok Imagine, công cụ tạo ảnh và video AI không kiểm soát nội dung khiếm nhã. Tính năng mới này gây tranh cãi mạnh về lạm dụng hình ảnh và các kẽ hở pháp lý kèm mối lo về sự bất bình đẳng giữa các nền tảng công nghệ trong thực thi kiểm duyệt nội dung trực tuyến.

Grok Imagine: công cụ AI tạo ảnh, video khiêu dâm gây tranh cãi

Đầu tuần qua, xAI thuộc sở hữu của Elon Musk đã ra mắt Grok Imagine – trình tạo ảnh và video AI với chế độ 'spicy', cho phép tạo ra loạt nội dung nhạy cảm từ gợi cảm đến khỏa thân. Công cụ này không có rào cản quản lý đối với việc tạo hình ảnh người thật, đặc biệt là người nổi tiếng. Theo công bố, chỉ trong một ngày, Grok Imagine đã tạo ra hơn 34 triệu ảnh.

Chi tiết tính năng Grok Imagine

Chế độ 'spicy' cho phép xuất hình ảnh và video từ mức ám chỉ đến khỏa thân.
Không kiểm tra hoặc giới hạn người được tạo hình, bao gồm cả người nổi tiếng.
Video AI đi cùng chatbot Valentine, ra mắt song song, bổ sung trải nghiệm tương tác cảm xúc.

Phản ứng và mối lo về pháp lý

Các chuyên gia cảnh báo Grok Imagine tạo ra nguy cơ hình ảnh nhạy cảm không đồng thuận (deepfake porn) – dạng nội dung đã bị cấm đăng công khai tại Mỹ theo đạo luật Take It Down Act. Tuy nhiên, giáo sư Mary Anne Franks (Đại học George Washington) nhận định Grok có thể tránh được trách nhiệm pháp lý do khả năng chỉ để người tạo xem hình ảnh, chưa coi là 'phát tán' theo luật.

Các tổ chức như RAINN và Cyber Civil Rights Initiative lên tiếng cho rằng phạm vi luật còn hẹp, công cụ của Grok không bị xem là nền tảng 'user-generated content' để có thể áp dụng quy định xoá nội dung theo yêu cầu.

Làn sóng kiểm duyệt nội dung tình dục trên mạng và lỗ hổng thực thi

Hạn chế các nền tảng nhỏ, tự do sáng tạo

Vương quốc Anh vừa áp luật buộc các nền tảng như X, Reddit chặn nội dung 'người lớn' với người dưới 18 tuổi.
Các nhóm vận động gây sức ép bắt Steam và Itch.io phải xoá trò chơi, nội dung nhạy cảm, khiến nghệ sĩ, nhà phát triển độc lập thiệt hại lớn.
Apple và các nhà thanh toán liên tục tạo rào cản, nhưng việc thực thi lại không đồng đều giữa các nền tảng nhỏ với công ty lớn.

Bất cập trong quản lý công nghệ lớn

Bất chấp các đạo luật mới, các công ty lớn còn nhiều cách lách luật. xAI từng ký hợp đồng trị giá đến 200 triệu USD với Bộ Quốc phòng Mỹ và các cơ quan giám sát chưa áp đặt hậu quả rõ ràng lên công ty của Elon Musk. Sức ép từ các tập đoàn như Apple, các tổ chức tài chính có thể khiến các nền tảng nhỏ bị siết quản lý chặt, nhưng lại nương nhẹ cho những 'gã khổng lồ' công nghệ, tạo nên sự bất bình đẳng rõ rệt trong cách duyệt nội dung trên internet.

Grok Imagine của xAI làm dấy lên quan ngại về nguy cơ lan truyền ảnh nhạy cảm do AI tạo ra, giữa bối cảnh các nền tảng nhỏ ngày càng bị kiểm duyệt chặt tay. Luật pháp hiện còn nhiều kẽ hở, chủ yếu ảnh hưởng tới các đơn vị nhỏ, trong khi các tập đoàn lớn lại linh hoạt né tránh các quy định nghiêm ngặt.

Nội dung về "nội dung nhạy cảm ai"