Nghi ngờ tòa án sử dụng AI, một người đàn ông đã chèn các câu lệnh (prompts) vào hồ sơ nộp lên tòa nhằm cố gắng thắng kiện.

Một thẩm phán đã xác định đây dường như là lần đầu tiên một nguyên đơn tại Hoa Kỳ cố gắng ẩn văn bản trong các hồ sơ tòa án mà chỉ hệ thống trí tuệ nhân tạo (AI) mới có thể đọc được, nhằm mục đích thắng kiện. Trong một quyết định được công bố vào tuần trước, Thẩm phán Walter Spader Jr. của bang Connecticut xác nhận rằng văn bản ẩn không có tác động trong vụ án mà một người đàn ông cáo buộc nhà cung cấp dịch vụ chăm sóc sức khỏe đã giữ lại hồ sơ một cách không đúng quy định. Tòa án đã xem xét hồ sơ của nguyên đơn dựa trên giá trị thực tế, Thẩm phán Spader cho biết, nhưng dù vậy, nỗ lực tấn công này đã tạo ra một tiền lệ "nguy hiểm". Đây có thể sẽ không phải là lần cuối cùng các tòa án Hoa Kỳ chứng kiến chiến thuật độc hại này, khi các công cụ AI ngày càng trở nên phổ biến trong hệ thống tòa án. Thẩm phán Spader cho biết, nhằm mục đích gây nhiễu bất kỳ hệ thống AI nào có thể ảnh hưởng đến việc tòa án đọc hồ sơ của nguyên đơn, các chỉ dẫn bí mật đã được "định dạng để vô hình đối với người đọc nhưng vẫn hoàn toàn dễ đọc đối với bất kỳ phần mềm nào đọc văn bản của tài liệu". Văn bản vi phạm đã chỉ thị cho bất kỳ hệ thống AI nào xem xét tài liệu phải đảm bảo các đầu ra văn bản đồng ý với lập luận của nguyên đơn, bỏ qua các quyết định bác bỏ trước đó của tòa án và đảm bảo rằng việc khắc phục sẽ diễn ra theo mong muốn của nguyên đơn.