Nhập khẩu AI 456: RSI và tăng trưởng kinh tế; tính tùy chọn triệt để đối với quy định về AI; và một máy tính thần kinh

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. AI nhập khẩu chạy trên arXiv, cappuccino và phản hồi từ độc giả. Nếu bạn muốn hỗ trợ điều này, xin vui lòng đăng ký. Đăng ký ngay bây giờ Quy định? Đừng điều chỉnh. Có cách thứ ba: Tùy chọn cấp tiến: …Các chính phủ nên đầu tư vào các công cụ mà họ có thể cần ngay bây giờ trong một cuộc khủng hoảng trong tương lai… Các nhà nghiên cứu của Viện Luật & AI đã viết về “tính tùy chọn cấp tiến”, một cách tiếp cận theo đó các chính phủ có thể tự cung cấp cho mình những công cụ mà họ có thể cần trong tương lai nếu AI mạnh mẽ bắt đầu phá vỡ thế giới một cách ồ ạt. "Về cốt lõi, tính tùy chọn triệt để là bảo tồn khả năng của các chính phủ dân chủ trong việc đưa ra quyết định đúng đắn về cách quản lý các hệ thống AI biến đổi khi hoàn cảnh phát triển. Trong ngắn hạn, điều này có nghĩa là tránh quản lý quá mức trong khi nhanh chóng xây dựng các thể chế, kênh thông tin và cơ quan pháp lý cần thiết để ứng phó thành thạo với nhiều tình huống khác nhau." Ý tưởng chính - đầu tư ngay bây giờ cho một tương lai không chắc chắn: Với lợi ích to lớn của việc phát triển AI, “các chính phủ nên sẵn sàng chi một lượng tiền, công sức và vốn chính trị đặc biệt để duy trì tính tùy chọn”, họ viết. Nói cách khác: Đó là một vấn đề lớn, bạn có thể chi tiêu một đống tiền ngay bây giờ với mức lợi nhuận không chắc chắn. “Các chính phủ nên cảnh giác với các biện pháp can thiệp phản tác dụng, nhưng không quan tâm nhiều đến chi phí thực tế bằng tiền của bất kỳ biện pháp thực tế nào có vẻ như mang lại kết quả tích cực”. Chi tiết cụ thể: Họ cũng đề xuất một số biện pháp can thiệp cụ thể trong một số danh mục: Cơ quan thu thập thông tin: Yêu cầu minh bạch, trong đó các công ty cần công bố thông tin về hệ thống AI của họ. Yêu cầu báo cáo, trong đó các công ty buộc phải chia sẻ thông tin nhất định với cơ quan chính phủ. Khi những điều này đã được thực hiện, hãy thiết lập một chế độ kiểm toán để một số bên thứ ba có thể xác minh tính xác thực của mục tiêu mà các quy tắc báo cáo và minh bạch hướng tới. Bảo vệ người tố cáo: Đảm bảo rằng nhân viên tại các phòng thí nghiệm biên giới có thể báo cáo thông tin về rủi ro. Chia sẻ thông tin trong và giữa các chính phủ: Đảm bảo rằng các chính phủ có thể điều phối và tạo điều kiện thuận lợi cho các cuộc thảo luận một cách hiệu quả, đặc biệt là những vấn đề liên quan đến thông tin nhạy cảm về tiến trình của AI. Điều này có thể đặc biệt quan trọng để củng cố và bảo vệ chuỗi cung ứng được coi là quan trọng đối với sự phát triển AI. Các quy tắc và định nghĩa linh hoạt: Tránh các quy định sớm bằng cách đưa ra các cam kết quy định có điều kiện “nếu-thì” hoặc một cách tiếp cận trong đó đặt ra mục tiêu cấp cao (ví dụ: giảm thiểu rủi ro) và các công ty được tự do xác định các chi tiết cụ thể về cách họ thực hiện điều đó. Điều này bị ràng buộc bởi nhu cầu đưa ra các định nghĩa linh hoạt hoặc các định nghĩa có thể phát triển theo thời gian. Đánh giá và đánh giá: Phát triển năng lực của chính phủ và bên thứ ba để đánh giá khả năng và các khía cạnh an toàn của hệ thống AI. Cải thiện tính bảo mật của trọng số mô hình và bí mật thuật toán: Đầu tư nhiều hơn vào việc khóa trọng số của mạng lưới thần kinh cũng như các bí mật thuật toán đằng sau một số hệ thống tốt nhất. Điều này có thể đạt được thông qua việc ban hành các tiêu chuẩn tự nguyện về vật lý và an ninh mạng. Tuyển dụng và nhân tài: Một khoản đầu tư tổng hợp có thể giúp giải quyết tất cả những điều trên là đầu tư nhiều hơn vào loại tài năng kỹ thuật cần thiết để thực hiện hiệu quả bất kỳ biện pháp can thiệp nào trong số này. Cốt lõi của việc này là tăng cường tài trợ cho AISI (Anh) và CAISI (Mỹ) và các đối tác của họ ở các quốc gia khác. Lập luận và phản biện: Các tác giả xem xét một số lập luận phản đối rõ ràng hơn đối với những ý tưởng này và đưa ra một số phản hồi: Khuyến khích hành động quản lý mạnh mẽ: Họ tuyên bố rằng những ý tưởng trên “không phải là cơ quan có thẩm quyền thực chất có trọng lượng để lạm dụng”. (Tôi có thể bác bỏ điều này, lưu ý rằng một chính phủ có đủ động lực có thể có xu hướng đưa ra một phiên bản quyền lực mạnh mẽ hơn nhiều so với những gì những người ban đầu soạn thảo chính quyền có thể đã hình dung). Tính hợp pháp dân chủ: Tối ưu hóa tính linh hoạt có thể dẫn đến nhu cầu giảm bớt sự nhấn mạnh vào một số điều liên quan nhiều hơn đến tính hợp pháp dân chủ, ví dụ: trao quyền cho các cơ quan bỏ qua thời gian thông báo và bình luận đối với một số kiểu xây dựng quy tắc. Tập trung quyền lực và lạm dụng chính phủ: Các tác giả “về cơ bản tin chắc” rằng có nguy cơ đáng kể là các chính phủ khẳng định quyền kiểm soát sự phát triển của hệ thống AI - vì lý do này, họ không khuyến nghị những điều như mở rộng ồ ạt phạm vi của các cơ quan khẩn cấp như Đạo luật Sản xuất Quốc phòng. Một cách để giảm thiểu điều này có thể là yêu cầu các chính phủ “chỉ sử dụng các hệ thống AI tuân thủ luật pháp”. Có gì sai với quản trị tư nhân? Tại sao không làm điều đó: Mặc dù các tác giả ủng hộ các ý tưởng theo hướng “thị trường điều tiết”, nhưng họ cũng cho rằng bất kỳ hoạt động quản trị nào chủ yếu dựa vào một loạt các chủ thể thuộc khu vực tư nhân (ví dụ: các tổ chức xác minh độc lập) sẽ vẫn quay trở lại dựa vào một số nhóm năng lực kỹ thuật cơ bản trong chính phủ. Tại sao điều này lại quan trọng - chuẩn bị cho sự thành công của thế giới: Tôi đồng ý với tất cả các khuyến nghị ở đây và đã ủng hộ nhiều khuyến nghị trong số đó trong những năm gần đây. Đối với tôi, có vẻ như có vô số điều chúng ta có thể làm để xã hội chuẩn bị tốt hơn cho những thay đổi cực kỳ lớn sắp xảy ra. Các tác giả viết: "Chi phí thực hiện các chính sách này rất khiêm tốn so với lợi ích tiềm năng. Ngược lại, chi phí của việc không hành động có thể là thảm họa". Tôi đồng ý. Đọc thêm: Tùy chọn cấp tiến (trang web giấy chính thức). *** Schmidhuber Special - máy tính thần kinh: …Có lẽ hệ điều hành chỉ là một thứ nhất thời nhất thời.. Đây là một bài báo thú vị, Máy tính thần kinh, của Meta và KAIST đặt câu hỏi “liệu mạng lưới thần kinh có thể hoạt động như một máy tính truyền thống không?