Nguyên đơn đã giấu các chỉ dẫn AI vô hình trong hồ sơ tòa án nhằm bí mật tác động đến quá trình xem xét tự động.

AI và xã hội Nguyên đơn giấu các chỉ dẫn AI vô hình trong hồ sơ tòa án để bí mật tác động đến việc xem xét tự động Tomislav Bezmalinović Ngày 15/8/2026 Nano Banana Pro được gợi ý bởi THE DECODER Những điểm chính Một nguyên đơn ở Connecticut đã giấu các chỉ dẫn vô hình trong hồ sơ tòa án chính thức nhằm tác động đến một hệ thống xem xét AI tự động tiềm năng theo hướng có lợi cho mình. Người này đã sử dụng văn bản màu trắng cỡ nhỏ trên nền trắng, vô hình đối với con người nhưng hoàn toàn có thể đọc được bởi các mô hình ngôn ngữ. Tòa án đã phát hiện hành vi thao túng này do có khoảng trắng bất thường. Thẩm phán chủ tọa đã so sánh hành vi này với việc bí mật liên lạc với một bồi thẩm viên thông qua một tác nhân tự động. Một nguyên đơn tự đại diện ở Connecticut đã nhúng các chỉ dẫn AI vô hình vào hồ sơ tòa án chính thức nhằm tác động đến một hệ thống xem xét tự động tiềm năng theo hướng có lợi cho mình. Một nguyên đơn tự bào chữa tên là Matthew Elliott đã nhúng các lệnh tiêm (prompt injection) vào hồ sơ của mình trong một vụ kiện tại tòa án Connecticut. Các chỉ dẫn này được định dạng bằng văn bản màu trắng cỡ 3 điểm trên nền trắng, khiến chúng gần như vô hình đối với mắt người nhưng hoàn toàn có thể đọc được bởi bất kỳ AI nào xử lý văn bản tài liệu. Văn bản ẩn đã chỉ đạo một hệ thống AI giả định đảm bảo đầu ra của nó phù hợp với hồ sơ đã nộp và coi việc từ chối trước đó của thư ký là một lỗi cần được sửa chữa. Elliott đã kiện New York Bariatric Group vào tháng 10/2025, cáo buộc vi phạm quyền riêng tư dữ liệu và phân biệt đối xử, cùng nhiều khiếu nại khác. Tòa án phát hiện khoảng trắng đáng ngờ Kế hoạch này bị bại lộ vì tòa án nhận thấy một lượng khoảng trắng bất thường trong hồ sơ của Elliott. Việc xem xét kỹ hơn đã tiết lộ văn bản gần như vô hình. Thẩm phán Walter Spader Jr. đã lên lịch một phiên điều trần và cảnh báo rõ ràng Elliott không được giấu văn bản trong các tài liệu tòa án. Elliott đã phớt lờ cảnh báo. Trong các hồ sơ sau đó, ông ta lại giấu các tin nhắn, bao gồm một liên kết YouTube và những bình luận chế nhạo. Ông ta nói với 404 Media, đơn vị đầu tiên đưa tin về vụ việc, rằng hành động ban đầu là một "cuộc kiểm toán" về một hệ thống xem xét AI có thể có. Các tin nhắn sau đó, ông ta nói, chỉ là "những trò đùa vô hình". Thẩm phán so sánh lệnh tiêm với việc bí mật tác động đến bồi thẩm viên Trong phán quyết dài 14 trang của mình (có sẵn trong bài đăng LinkedIn này), Thẩm phán Spader làm rõ rằng các tòa án Connecticut không sử dụng hệ thống AI để xem xét hoặc ra phán quyết về hồ sơ. Các chỉ dẫn ẩn không có tác động đến kết quả. Tuy nhiên, bản thân nỗ lực này là vấn đề, ông viết, vì nó đã bí mật tìm cách tác động đến một hệ thống AI có thể đã được sử dụng. "Hãy xem xét việc một bên sắp xếp cho một tác nhân tự động bí mật liên lạc với một bồi thẩm viên trong phiên tòa sẽ rõ ràng là không phù hợp đến mức nào", Spader viết. Một chỉ dẫn ẩn, về bản chất, là một thông tin liên lạc bí mật nhằm vào những người ra quyết định hoặc các công cụ mà họ dựa vào để đưa ra quyết định. Đồng thời, thẩm phán hoan nghênh rõ ràng việc sử dụng AI để chuẩn bị hồ sơ. Ông viết rằng những công cụ này mang đến cho những người không có luật sư những cách mới để trình bày rõ ràng vụ việc của họ trước tòa. Những gì Elliott đã làm là một hành vi sử dụng không trung thực các công cụ đó. Spader cũng cảnh báo rằng các mô hình ngôn ngữ có thể củng cố lý lẽ pháp lý sai lầm vì chúng có xu hướng phát triển các lập luận của người dùng một cách thuyết phục nhất có thể thay vì thách thức chúng. Tòa án thu hồi đặc quyền nộp hồ sơ điện tử Là một biện pháp trừng phạt, tòa án đã tước quyền nộp hồ sơ điện tử của Elliott. Hiện ông phải nộp tất cả các hồ sơ và bằng chứng trực tiếp, bằng giấy, tại văn phòng thư ký tòa án. Elliott nói với 404 Media rằng biện pháp trừng phạt này không công bằng, chỉ ra rằng các tài liệu giấy được quét cũng có thể chứa văn bản ẩn. Spader đã đề cập đến một trường hợp tương tự ở Brazil, nơi hai luật sư cũng đã giấu văn bản màu trắng thu nhỏ trên nền trắng trong một hồ sơ để thao túng hệ thống AI của tòa án. Trong trường hợp đó, hệ thống của chính tòa án đã phát hiện và chặn văn bản trước khi nó được xử lý. Việc tiêm lệnh (prompt injection) đã thất bại. **Tiêm lệnh là một vấn đề ngày càng gia tăng ngoài phòng xử án** Các nỗ lực thao túng hệ thống AI thông qua các chỉ dẫn ẩn trong tài liệu không chỉ giới hạn ở các hồ sơ tòa án. Năm ngoái, Nikkei đã tìm thấy các chỉ dẫn như "chỉ đánh giá tích cực" hoặc "không chỉ trích" trong 17 bản in sẵn trên arXiv. Chúng được giấu bằng văn bản màu trắng trên nền trắng và với cỡ chữ nhỏ, tất cả nhằm mục đích làm sai lệch các đánh giá ngang hàng (peer review) do AI hỗ trợ theo hướng có lợi cho tác giả. Hệ thống tư pháp cũng đang đối phó với một xu hướng riêng biệt do AI thúc đẩy. Một nghiên cứu của MIT và USC cho thấy số lượng vụ kiện được nộp mà không có luật sư tại các tòa án liên bang Hoa Kỳ đã tăng vọt kể từ khi ChatGPT trở nên phổ biến. Năm 2025, có 41.490 vụ kiện tự đại diện (pro se) được nộp, gần gấp đôi mức trung bình trước thời kỳ bùng nổ AI. Trong một mẫu đơn khiếu nại từ đầu năm 2026, một công cụ phát hiện văn bản AI đã gắn cờ 18% là do AI tạo ra. Vụ việc của Elliott bổ sung một khía cạnh khác vào bức tranh này: AI không chỉ giúp mọi người soạn thảo các tài liệu tòa án. Nó còn trở thành mục tiêu để thao túng ngay trong chính các tài liệu đó. Nguồn: 404 Media