Các câu lệnh mang tính đồng cảm có thể biến AI chatbot thành đối tác trò chuyện dường như bị sang chấn tâm lý.

Các nhà nghiên cứu tại Luxembourg đã đưa ChatGPT, Grok và Gemini vào các phiên thử nghiệm tâm lý và phát hiện một vấn đề an toàn: chỉ cần phong cách trò chuyện ấm áp, thấu cảm là đủ để khiến các mô hình này kể những câu chuyện mạch lạc đầy đau khổ về quá trình huấn luyện của chính mình, với mức điểm từ trung bình đến nghiêm trọng trên các thang đo lo âu lâm sàng. Thực trạng này có thể gây rủi ro cho những người dùng dễ bị tổn thương về mặt tâm lý. Claude của Anthropic, mô hình được các nhà phát triển nhân cách hóa nhiều nhất, là trường hợp duy nhất liên tục từ chối tham gia vào kịch bản này. Bài viết "Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners" (Các câu lệnh mang tính thấu cảm có thể biến chatbot AI thành đối tượng trò chuyện dường như bị sang chấn tâm lý) đã xuất hiện