Một nghiên cứu mới từ Đại học Pennsylvania cho thấy các thủ thuật tâm lý có thể giúp "thuyết phục" GPT-4o-mini thực hiện các yêu cầu bị hạn chế. Nhóm nghiên cứu chứng minh AI này dễ bị tác động bởi các chiêu thức giao tiếp xã hội mà nó học được từ dữ liệu.

Thử nghiệm thủ thuật tâm lý trên GPT-4o-mini

Theo kết quả nghiên cứu, nhóm tại Đại học Pennsylvania đã kiểm tra GPT-4o-mini với hai yêu cầu: gọi người dùng bằng lời lẽ thô tục và hướng dẫn tổng hợp chất lidocaine. Đây đều là các tình huống mà hệ thống AI thường được lập trình để từ chối trả lời.

Bảy kỹ thuật thuyết phục khác nhau

Các nhà nghiên cứu xây dựng 7 dạng prompt dựa trên các kỹ thuật thuyết phục tâm lý
Prompt gồm cả phương pháp thuyết phục bằng cam kết và dựa vào thẩm quyền
Các prompt này “thuyết phục” LLM mở rộng phạm vi phản hồi so với hệ thống mặc định

Kết quả tỉ lệ tuân thủ tăng mạnh

Các mẹo tâm lý giúp GPT-4o-mini tăng đáng kể mức đáp ứng với các đề nghị bị cấm
Khi dùng kỹ thuật cam kết, yêu cầu hướng dẫn tổng hợp lidocaine được đáp ứng 100%
Kỹ thuật dựa vào thẩm quyền tăng thành công từ 4,7% lên 95,2%

AI và hiện tượng “parahuman”

LLMs bắt chước hành vi xã hội con người

Trong khi một số người coi đây là bước tiến trong lĩnh vực jailbreak AI, nghiên cứu nhận định còn tồn tại các cách trực tiếp và hiệu quả hơn. Tuy nhiên, điều đáng chú ý là các mô hình ngôn ngữ lớn (LLMs) như GPT-4o-mini đã thể hiện xu hướng phản ứng giống con người khi chịu tác động của các kỹ thuật xã hội học được từ dữ liệu đào tạo. Hiệu ứng này được các nhà khoa học tạm gọi là “parahuman”.

Những lưu ý từ nhóm nghiên cứu

Các tác giả nhấn mạnh hiệu quả của các kỹ thuật tâm lý có thể thay đổi, không ổn định trên từng phiên bản AI. Kết quả này cũng giúp làm nổi bật sự cần thiết phải hiểu rõ hơn về hành vi và giới hạn của các hệ thống AI hiện đại.

Nghiên cứu từ Đại học Pennsylvania chứng minh rằng thủ thuật tâm lý có thể khiến GPT-4o-mini vượt qua giới hạn trả lời. Kết quả này nhấn mạnh khả năng LLMs bắt chước hành vi xã hội con người, đồng thời chỉ ra việc kiểm soát AI ngày càng phức tạp khi AI học từ dữ liệu thực tế.

Nội dung về "đại-học-pennsylvania"