Các nhà nghiên cứu quốc tế đang sử dụng prompt AI ẩn trong bài báo khoa học trên arXiv, nhằm điều chỉnh phản hồi từ công cụ AI khi dùng cho phản biện. Phát hiện này do Nikkei Asia báo cáo, liên quan tới nhiều trường đại học lớn toàn cầu.
Phát hiện prompt AI ẩn trong các bài báo khoa học
Theo Nikkei Asia, trong quá trình rà soát các bản preprint đăng tiếng Anh trên nền tảng arXiv, các phóng viên phát hiện 17 bài báo chứa dạng prompt AI bị ẩn. Hầu hết các bài này liên quan đến lĩnh vực khoa học máy tính.
Cách thức che giấu prompt AI trong bài viết
- Prompt thường chỉ từ 1-3 câu ngắn.
- Giấu bằng chữ trắng trên nền trắng hoặc dùng cỡ chữ cực nhỏ để không bị phát hiện khi đọc thông thường.
- Nội dung prompt hướng dẫn AI đưa ra nhận xét tích cực, ca ngợi đóng góp và độ mới lạ của bài báo.
Những trường đại học liên quan và phản ứng
- Các tác giả đến từ 14 tổ chức học thuật khác nhau, thuộc 8 quốc gia như Nhật (Waseda University), Hàn Quốc (KAIST), Mỹ (Columbia University, University of Washington).
- Một giáo sư của Waseda cho rằng prompt là biện pháp đáp trả những reviewer "lười biếng" dùng AI mà không kiểm tra kỹ, trong khi nhiều hội nghị lại cấm sử dụng AI để đánh giá bài báo.
Thực trạng sử dụng AI trong quy trình phản biện bài báo
Các khía cạnh khác
- Việc chèn prompt AI ẩn đặt ra câu hỏi về tính liêm chính học thuật trong kỷ nguyên AI.
- Hiện tại chưa rõ có bao nhiêu bài báo khác cũng sử dụng thủ thuật này mà chưa bị phát hiện.
Việc giấu prompt AI trong bài báo khoa học mở ra tranh luận mới về công bằng và minh bạch trong đánh giá học thuật. Thực trạng này nhấn mạnh sự cần thiết cập nhật quy trình phản biện phù hợp với sự phát triển của AI.