Các chatbot AI đã không hỗ trợ được những người đang gặp khủng hoảng. Liệu điều này có thể được khắc phục?

Chỉ riêng trong năm nay, đã có nhiều trường hợp được biết đến – thường thông qua các vụ kiện – về việc các chatbot AI (thường là ChatGPT của OpenAI) hoạt động sai lệch nghiêm trọng. Một vụ kiện vào tháng 1 đã mô tả câu chuyện về một người đàn ông tự tử sau khi bị cáo buộc được "huấn luyện" để tự sát. Một sinh viên đại học ở Georgia đã kiện OpenAI, tuyên bố rằng ChatGPT đã "đẩy anh ta vào tình trạng loạn thần". Vào tháng 6, một gia đình Canada cũng đã kiện OpenAI và lập luận rằng ChatGPT đã đồng tình với sự thờ ơ của một phụ nữ trẻ khi lần đầu tiên đưa ra lựa chọn tìm kiếm lời khuyên chuyên nghiệp về sức khỏe tâm thần. ChatGPT bị cáo buộc đã "khuyến khích" cô ấy kết thúc.