OpenAI vừa ngăn chặn nhiều chiến dịch gián điệp nước ngoài lợi dụng ChatGPT để tạo nội dung tuyên truyền, tương tác giả trên các nền tảng mạng xã hội toàn cầu, chủ yếu từ Trung Quốc, Nga và Iran.
OpenAI chặn các chiến dịch sử dụng ChatGPT cho tuyên truyền
Mới đây, OpenAI thông báo đã ngăn chặn thành công nhiều chiến dịch ảnh hưởng sử dụng ChatGPT xuất phát từ các nhóm ở Trung Quốc, Nga và Iran. Những chiến dịch này được phát hiện tạo ra bài đăng, bình luận trên các nền tảng như TikTok, Facebook, Reddit và X nhằm can thiệp nội dung dư luận trực tuyến tại cả thị trường nội địa lẫn quốc tế.
Chi tiết về hoạt động của các chiến dịch ảnh hưởng
- Các nhóm ở Trung Quốc sử dụng ChatGPT để phát tán nội dung về chính trị Mỹ và các vấn đề nhạy cảm, trong đó có game Đài Loan cho phép người chơi đối đầu Đảng Cộng sản Trung Quốc.
- Nội dung được tạo ra để cổ động hoặc phản đối nhiều chủ đề khác nhau, khuấy động tranh luận chính trị trên mạng xã hội.
- Theo Ben Nimmo, điều tra viên cao cấp tại OpenAI, các chiến dịch ngày càng mở rộng về mặt chủ đề, kỹ thuật và phạm vi quốc gia bị nhắm tới.
Các nền tảng và phương thức cụ thể
- Bài đăng, bình luận bằng ChatGPT xuất hiện trên nhiều kênh phổ biến như TikTok, X, Facebook và Reddit.
- Nhiều tài khoản ảo được sử dụng để phát tán cả bài viết dạng dài lẫn bình luận ngắn tranh luận hai chiều.
- Năm 2024, OpenAI cũng từng phát hiện các hoạt động của Iran lợi dụng ChatGPT để viết bài về bầu cử Mỹ trên các trang tin giả mạo, đăng song song trên X, Instagram.
- Các nhóm từng sử dụng OpenAI để đẩy mạnh hoạt động phishing (câu lừa đảo), debug code, viết script khai thác lỗ hổng.
Những hệ lụy và nguy cơ tương lai
Hiệu quả tác động của AI đến chiến dịch tuyên truyền
Ngoài các chiến dịch bị phát hiện gần đây từ OpenAI, các nghiên cứu từ công ty bảo mật Mandiant cũng cho thấy việc dùng AI tạo nội dung cho mục đích chính trị đã xuất hiện từ năm 2019. Tuy nhiên, Ben Nimmo cho biết các chiến dịch này không nhất thiết đạt được nhiều tương tác công chúng chỉ nhờ AI, tức AI chỉ giúp tăng số lượng nội dung, không làm hiệu quả thao túng tăng lên.
Rủi ro khi AI phát triển nhanh
Mặc dù vậy, việc AI ngày càng rẻ và mạnh hơn đồng nghĩa các chiến dịch gây ảnh hưởng có thể dễ dàng mở rộng quy mô, tiết kiệm chi phí, khiến nguy cơ bị lạm dụng trong hoạt động tuyên truyền và lừa đảo trên mạng xã hội gia tăng đáng kể.
OpenAI liên tục phát hiện và ngăn chặn các chiến dịch sử dụng ChatGPT để phục vụ mục đích tuyên truyền và thao túng dư luận trên diện rộng. Dù AI chưa làm tăng hiệu quả các hoạt động này, nhưng sự phát triển nhanh của công nghệ vẫn tạo điều kiện cho các tác nhân xấu lạm dụng trong tương lai.