Lập trình lại đối nghịch của máy tự động tế bào thần kinh

Lập trình lại đối nghịch của máy tự động tế bào thần kinh Chưng cất Giới thiệu giải thưởng Gửi Lập trình lại đối nghịch của máy tự động tế bào thần kinh Một cuộc điều tra về độ bền. tác giả Liên kết Ettore Randazzo Google Alexander Mordvintsev Google Eyvind Niklasson Google Michael Levin Trung tâm khám phá Allen tại Đại học Tufts Đã xuất bản Ngày 6 tháng 5 năm 2021 DOI 10.23915/distill.00027.004 Nội dung CA MNIST đối nghịch | Tiêm thuốc đối nghịch để phát triển CA | Tự phân loại, tồn tại và biến đổi Ổn định phân loại --> Làm xáo trộn các trạng thái của CA đang phát triển | Công việc liên quan Thảo luận Bài viết này là một phần của Chủ đề về hệ thống tự tổ chức có thể phân biệt được, một dạng thử nghiệm thu thập các bài viết ngắn được mời đi sâu vào các hệ thống tự tổ chức khác nhau, xen kẽ với các hệ thống quan trọng bình luận từ một số chuyên gia trong các lĩnh vực lân cận. Kết cấu tự tổ chức Bài viết này sử dụng mạnh mẽ màu sắc trong các hình và bản demo. Nhấn vào đây để điều chỉnh bảng màu. Trong một hệ thống phức tạp, dù là sinh học, công nghệ hay xã hội, làm thế nào chúng ta có thể khám phá các sự kiện báo hiệu sẽ thay đổi hành vi ở cấp độ hệ thống theo những cách mong muốn? Ngay cả khi đã biết các quy tắc chi phối các thành phần riêng lẻ của các hệ thống phức tạp này, vấn đề ngược lại - đi từ hành vi mong muốn đến thiết kế hệ thống - vẫn là tâm điểm của nhiều rào cản đối với sự tiến bộ của y sinh, robot và các lĩnh vực quan trọng khác đối với xã hội. Cụ thể, sinh học đang chuyển từ tập trung vào cơ chế (những gì cần thiết để hệ thống hoạt động) sang tập trung vào thông tin (thuật toán nào đủ để thực hiện hành vi thích ứng). Những tiến bộ trong học máy đại diện cho một nguồn cảm hứng và công cụ thú vị và phần lớn chưa được khai thác để hỗ trợ khoa học sinh học. Việc phát triển Máy tự động tế bào thần kinh và Chữ số MNIST tự phân loại đã giới thiệu mô hình Máy tự động tế bào thần kinh (CA thần kinh) và trình bày cách các nhiệm vụ yêu cầu tự tổ chức, chẳng hạn như tăng trưởng mẫu và tự phân loại các chữ số, có thể được đào tạo theo cách khác biệt từ đầu đến cuối. Các mô hình thu được rất mạnh mẽ trước nhiều loại nhiễu loạn khác nhau: CA ngày càng tăng thể hiện khả năng tái tạo khi bị hư hỏng; CA MNIST phản ứng nhanh với những thay đổi trong các chữ số cơ bản, kích hoạt phân loại lại bất cứ khi nào cần thiết. Các khung tính toán này đại diện cho các mô hình định lượng để hiểu các hiện tượng sinh học quan trọng, chẳng hạn như nhân rộng các quy tắc hành vi của tế bào đơn lẻ thành các giải phẫu cấp cơ quan đáng tin cậy. Loại thứ hai là một loại cân bằng nội môi giải phẫu, đạt được bằng các vòng phản hồi phải nhận ra những sai lệch so với hình thái mục tiêu chính xác và giảm dần lỗi giải phẫu. Trong công việc này, chúng tôi đào tạo những đối thủ có mục tiêu là lập trình lại CA để làm một việc khác ngoài những gì họ được đào tạo để làm. Để hiểu loại tín hiệu cấp thấp hơn nào làm thay đổi hành vi cấp hệ thống của CA của chúng ta, điều quan trọng là phải hiểu cách các CA này được xây dựng và nơi chứa thông tin cục bộ so với toàn cầu. Hành vi cấp hệ thống của CA thần kinh bị ảnh hưởng bởi: Trạng thái tế bào riêng lẻ. Các trạng thái lưu trữ thông tin được sử dụng cho cả mục đích đa dạng hóa hành vi của tế bào và để liên lạc với các tế bào lân cận. Các thông số mô hình Chúng mô tả hành vi đầu vào/đầu ra của một ô và được chia sẻ bởi mọi ô trong cùng một họ. Các tham số của mô hình có thể được coi là cách thức hoạt động của hệ thống. Lĩnh vực nhận thức. Đây là cách các tế bào nhận biết môi trường của chúng. Trong Neural CA, chúng tôi luôn giới hạn trường nhận thức là tám lân cận gần nhất và chính ô đó. Cách các tế bào nhận biết lẫn nhau là khác nhau giữa CA đang phát triển và MNIST CA. Trường nhận thức Growing CA là một tập hợp các trọng số được cố định cả trong quá trình huấn luyện và suy luận, trong khi trường nhận thức MNIST CA được học như một phần của tham số mô hình. Việc làm xáo trộn bất kỳ thành phần nào trong số này sẽ dẫn đến những thay đổi về hành vi ở cấp hệ thống. Chúng ta sẽ khám phá hai loại tấn công đối nghịch: 1) đưa một số ô đối nghịch vào lưới hiện có chạy mô hình được huấn luyện trước; và 2) làm xáo trộn trạng thái chung của tất cả các ô trên lưới. Đối với loại tấn công đối nghịch đầu tiên, chúng tôi huấn luyện một mô hình CA mới, khi được đặt trong môi trường chạy một trong các mô hình ban đầu được mô tả trong các bài viết trước, có thể chiếm quyền điều khiển hành vi của sự kết hợp chung giữa CA đối nghịch và không đối nghịch. Đây là ví dụ về việc đưa CA với các tham số mô hình khác nhau vào hệ thống. Trong sinh học, nhiều hình thức chiếm quyền điều khiển đã được biết đến, bao gồm vi-rút chiếm quyền điều khiển luồng thông tin di truyền và sinh hóa, vi khuẩn chiếm giữ cơ chế kiểm soát sinh lý và thậm chí cả hình thái tái tạo của toàn bộ cơ thể, cũng như nấm và toxoplasma điều chỉnh hành vi của vật chủ. Đặc biệt hấp dẫn là nhiều trường hợp về sinh học và ung thư phát triển tín hiệu không tự chủ của tế bào, cho thấy một số hành vi của tế bào có thể làm thay đổi đáng kể các đặc tính của vật chủ cả cục bộ và ở tầm xa. Ví dụ, các tế bào bất thường về điện sinh học có thể kích hoạt quá trình chuyển đổi di căn ở một cơ thể bình thường (không có khiếm khuyết di truyền), trong khi việc kiểm soát trạng thái điện sinh học ở một vùng của cơ thể có thể ngăn chặn sự hình thành khối u ở phía bên kia của sinh vật. Tương tự như vậy, tổn thương cắt cụt ở một chân bắt đầu thay đổi tính chất ion của các tế bào ở chân đối diện, trong khi kích thước của não đang phát triển một phần được quyết định bởi hoạt động của các tế bào ruột bụng. Tất cả những hiện tượng này cho thấy tầm quan trọng của việc hiểu cách các nhóm tế bào đưa ra quyết định tập thể và làm thế nào những quyết định ở cấp độ mô đó có thể bị phá hủy bởi hoạt động của một số lượng nhỏ tế bào. Đó là es