Khi nghệ thuật AI không có tác giả: Nghiên cứu cho thấy hình ảnh được tạo ra thường không thể truy nguyên dữ liệu đào tạo

Khi một máy tạo hình ảnh trí tuệ nhân tạo tạo ra một bức chân dung, công việc của ai đã được thực hiện? Câu hỏi này nằm ở trung tâm của các vụ kiện, thỏa thuận cấp phép và các quy định được đề xuất trên toàn thế giới. Các nghệ sĩ muốn tín dụng. Các công ty muốn sự rõ ràng. Các nhà hoạch định chính sách muốn có một cách để phân công trách nhiệm. Công trình mới của nhóm các nhà nghiên cứu tại Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo (CSAIL) của MIT cho thấy rằng đối với các mô hình được đào tạo trên các tập dữ liệu lớn, câu hỏi thường có thể không có câu trả lời. Không phải là các công cụ để tìm kiếm nó không đầy đủ. Bản thân kết nối đã biến mất. Các nhà khoa học đã xác định được một hiện tượng mà họ gọi là phân rã phân bổ, trong đó mô hình tổng quát càng được đào tạo về nhiều dữ liệu thì ví dụ đào tạo riêng lẻ càng ít quan trọng đối với bất kỳ đầu ra cụ thể nào. Họ nhận thấy điều này có vẻ phản trực giác, nhưng ở quy mô đủ lớn, bạn thường có thể xóa bất kỳ hình ảnh nào khỏi dữ liệu huấn luyện hoặc mọi hình ảnh của một nghệ sĩ nhất định hoặc mọi bức ảnh của một người nhất định và mẫu được tạo ra không thay đổi. Và các nhà nghiên cứu lập luận rằng nếu việc loại bỏ thứ gì đó không thay đổi được gì thì không thể nói rằng nó chịu trách nhiệm cho bất cứ điều gì. Zheng Dai SM ’21, PhD ’24, cựu nhà nghiên cứu MIT CSAIL và tác giả chính của công trình, cho biết: “Nếu bạn lấy đi một phần dữ liệu và đầu ra của mô hình không thay đổi thì phần dữ liệu đó không ảnh hưởng đến đầu ra”. "Vì vậy, sẽ không có ý nghĩa gì khi quy kết quả đầu ra cho phần dữ liệu đó. Và nếu sau đó bạn thực hiện việc này lần lượt cho từng phần dữ liệu khác và nhận thấy rằng kết quả đầu ra cũng không thay đổi đối với bất kỳ phần dữ liệu nào trong số đó, thì việc quy kết quả đầu ra cho bất kỳ phần dữ liệu nào trong số đó cũng không có ý nghĩa gì nhiều." Giáo sư David Gifford của MIT, nhà nghiên cứu chính của MIT CSAIL, cho biết: “Tất cả các phương pháp trước đây đều gần đúng”. "Họ thực sự không thể chứng minh một cách tuyệt đối rằng việc xóa từng thứ riêng lẻ không làm thay đổi đầu ra. Bài viết này giới thiệu phương pháp đầu tiên mang tính tuyệt đối. Trên thực tế, bạn đang xóa các đầu vào và xóa mọi ảnh hưởng của đầu vào. Đây là phương pháp chính xác đầu tiên để thực hiện xóa quy mô lớn một cách hiệu quả và cho thấy rằng kết quả không thay đổi." Dự án của Dai và Gifford được mô tả trong một bài báo truy cập mở được xuất bản hôm nay trên tạp chí Nature Communications. Vấn đề đào tạo lại Việc thử nghiệm ý tưởng này trực tiếp có nghĩa là trả lời câu hỏi giả định. Mô hình này sẽ tạo ra cái gì nếu nó chưa bao giờ nhìn thấy hình ảnh đặc biệt này? Trả lời một cách trung thực có nghĩa là đào tạo lại mô hình từ đầu mà không có hình ảnh đó, sau đó thực hiện lại cho hình ảnh tiếp theo và hình ảnh tiếp theo. Với hàng triệu ví dụ đào tạo, phép toán nhanh chóng trở nên khó khăn, đó là lý do tại sao công việc trước đây trong lĩnh vực phân bổ thường dựa vào các phép tính gần đúng để ước tính mức độ ảnh hưởng của một ví dụ đào tạo thay vì thực sự loại bỏ nó. Cách giải quyết của họ là một kiến ​​trúc do họ tự xây dựng, được gọi là "tổ hợp khuếch tán". Thay vì một mô hình nguyên khối, nó được tạo thành từ nhiều thành phần nhỏ hơn, mỗi thành phần được huấn luyện trên một phần dữ liệu khác nhau. Bạn muốn biết người mẫu sẽ làm gì nếu không có một hình ảnh cụ thể? Chỉ cần tắt những phần đã nhìn thấy nó. Không đào tạo lại, không xấp xỉ. Những gì còn lại là một mô hình phản thực tế thực sự, không phải là ước tính của một mô hình. Tất nhiên, một kiến ​​trúc thông minh chỉ có ý nghĩa nếu nó vẫn hoạt động như một máy phát điện. Vì vậy, nhóm đã đối đầu với 24 mô hình khuếch tán thông thường được huấn luyện trên cùng một dữ liệu. Những hình ảnh được đưa ra có vẻ tốt theo các tiêu chuẩn đo lường. Một điều ngạc nhiên thú vị về các con số: Càng nhiều dữ liệu huấn luyện thì càng tốt các nhóm được tổ chức chống lại các đối tác mô hình đơn của họ, một gợi ý rằng chúng thực sự có thể hiệu quả hơn về dữ liệu. Dai nói: “Khi bạn có lượng dữ liệu thấp, chúng hoạt động rất kém. “Nhưng nếu bạn có nhiều dữ liệu hơn, nó thực sự có quy mô tốt hơn so với mô hình khuếch tán vani.” Khám phá một vũ trụ phản thực tế Khi quá trình cắt bỏ hoạt động, các nhà nghiên cứu cuối cùng có thể đặt câu hỏi của họ trên quy mô lớn. Lấy một hình ảnh được tạo, sau đó tưởng tượng mọi phiên bản thay thế của nó, mỗi phiên bản được tạo bằng cách loại bỏ một phần dữ liệu huấn luyện khác nhau. Nhóm nghiên cứu gọi đây là vũ trụ phản hiện thực của hình ảnh. Khoảng cách giữa dữ liệu ban đầu và dữ liệu thay thế khác biệt nhất của nó, bán kính phản thực, thể hiện rõ nhất mà bất kỳ phần dữ liệu huấn luyện đơn lẻ nào cũng có thể quan trọng. Họ đã đào tạo 24 nhóm trên các bộ dữ liệu từ 256 hình ảnh đến hơn 160.000, được lấy từ bảy bộ sưu tập công cộng bao gồm CIFAR-10, CelebA, MetFaces và ArtBench. Mô hình nhất quán: Tập huấn luyện càng lớn thì bán kính càng nhỏ, co lại theo định luật lũy thừa nghịch đảo. Nó quyết định xem sự khác biệt được đo theo từng pixel hay theo ý nghĩa ngữ nghĩa, có ý nghĩa thống kê theo cả hai cách. Nhóm nghiên cứu cũng căng thẳng kiểm tra kết quả của chính họ. Có lẽ chính sự cắt bỏ là thủ phạm? Họ làm lại nó theo cách mạnh mẽ ở quy mô nhỏ, đào tạo 1.282 mô hình riêng biệt và dù sao thì sự phân rã vẫn xuất hiện. Có lẽ các bộ dữ liệu lớn hơn chỉ làm cho mỗi lần xóa tương ứng nhỏ hơn? Họ ghim phần bị loại bỏ vào đúng vị trí và nó vẫn tồn tại. Đã sửa các kỷ nguyên, mô hình được nhắc bằng văn bản, mô hình có điều kiện theo lớp, bốn số liệu tương tự - phát hiện này vẫn tồn tại sau mọi thứ. Nghịch lý riêng tư Những hàm ý này đi theo hướng khiến chính các nhà nghiên cứu phải ngạc nhiên. Gifford coi phát hiện này liên quan trực tiếp đến câu hỏi pháp lý về việc liệu kết quả đầu ra của mô hình có phải là tác phẩm phái sinh hay không. "Một cách để nghĩ về điều này là các mô hình này rất sáng tạo. Chúng không chỉ đơn giản là sao chép những gì chúng được cung cấp mà còn tạo ra các kết quả đầu ra hoàn toàn mới. Nếu những kết quả đầu ra đó không liên quan gì đến bất kỳ phần dữ liệu đào tạo riêng lẻ nào, thì điều đó sẽ đặt ra câu hỏi về việc sử dụng hợp lý, về việc liệu bản thân các kết quả đầu ra có được cấp bản quyền như tác phẩm mới hay không và về cách các tác giả được trả thù lao khi những gì xuất hiện từ một mô hình không liên quan đến bất kỳ thứ gì trên internet." Gifford cũng lưu ý rằng công trình này cho thấy cách tạo ra các kết quả đầu ra được đảm bảo là không thể phân bổ được, một khả năng mà ông coi là nghĩa vụ đối với ngành chứ không phải là một kẽ hở. "Để các công ty này