Liệu rủi ro từ AI có đòi hỏi sự can thiệp đặc biệt của chính phủ?

Trong một bài luận gần đây, Derek Thompson đã đề cập đến AI như một Công nghệ Bình thường (AINT). Ông đồng tình với luận điểm của chúng tôi về tác động chậm của AI đối với thị trường lao động, dựa trên thực tế là tăng trưởng GDP cho đến nay vẫn ở mức trung bình, tỷ lệ thất nghiệp dưới 5%, và ngay cả những công việc tưởng chừng dễ bị tự động hóa cũng cho thấy sự gia tăng về việc làm và tiền lương. Ông kết luận rằng cho đến nay, bức tranh kinh tế vĩ mô phù hợp với những gì chúng ta mong đợi từ một công nghệ đa dụng "bình thường". Tuy nhiên, khi nói đến rủi ro của AI, ông lại bi quan hơn nhiều. Ông chỉ ra các ví dụ về rủi ro mạng và sinh học, đồng thời bày tỏ sự bi quan về việc AI nhanh chóng trở nên nguy hiểm trên nhiều lĩnh vực mới. Ông lập luận rằng các khả năng mới nổi của AI khiến nó khác biệt cơ bản so với các công nghệ trước đây, và sự khác biệt này biện minh cho các phản ứng "phi thường" của chính phủ, bao gồm các hạn chế đối với những gì các công ty có thể phát hành. Trong bài luận này, chúng tôi trình bày những mặt trái của sự can thiệp phi thường của chính phủ để đối phó với công nghệ mới. Chúng tôi thảo luận về các đề xuất nhằm cải thiện khả năng phục hồi mà không yêu cầu sự can thiệp như vậy. Chúng tôi cũng thảo luận lý do tại sao các chính phủ cho đến nay vẫn miễn cưỡng đầu tư vào khả năng phục hồi. Tóm lại, khả năng phục hồi đòi hỏi chúng ta phải làm tốt hơn trong quá trình hoạch định chính sách *bình thường*. Nhưng sự trì trệ trong chính phủ liên bang và sự dễ dàng trong việc biện minh cho các biện pháp can thiệp đối với các công ty AI thay vì xã hội nói chung khiến sự can thiệp phi thường trở nên hấp dẫn, bất chấp những hạn chế của nó. Điều gì sẽ xảy ra tiếp theo? Các nhà hoạch định chính sách có thể hoặc là hành động và đầu tư mạnh vào việc cải thiện khả năng phục hồi, hoặc bị buộc phải thực hiện các hành động phi thường (chẳng hạn như về không phổ biến AI) vốn khó khăn hơn và kém hiệu quả hơn. Không phổ biến là mong manh vì nó phụ thuộc vào một điểm nghẽn duy nhất. Khả năng phục hồi phân bổ các biện pháp phòng thủ trên toàn xã hội. Tóm tắt các lập luận của AINT và các điểm đồng thuận và bất đồng của Thompson Nhiều người, bao gồm cả Thompson, đã nhận thấy AI như Công nghệ Bình thường là một khuôn khổ hữu ích để suy nghĩ về các tác động kinh tế của AI, trong khi không bị thuyết phục bởi quan điểm của chúng tôi về an toàn. Trong bài tiểu luận AINT, chúng tôi đưa ra các lập luận khác nhau về tác động chậm của thị trường lao động và khả năng phục hồi trước các rủi ro lạm dụng. Lập luận về thị trường lao động dựa trên tốc độ khuếch tán: có nhiều giới hạn tốc độ giữa một khả năng AI mới và tác động kinh tế của nó, bao gồm nhu cầu xây dựng sản phẩm, thay đổi quy trình làm việc của tổ chức và điều hướng quy định. Điều này đã được chứng minh là hữu ích để hiểu tại sao các tuyên bố về sự dịch chuyển việc làm nhanh chóng và rộng khắp (chẳng hạn như tuyên bố của Amodei về một cuộc thảm sát lao động cổ cồn sắp xảy ra) khó có thể xảy ra, cũng như để xác định các nút thắt cổ chai đối với sự khuếch tán có thể cản trở việc áp dụng AI có lợi. Nhưng lập luận của chúng tôi về các rủi ro lạm dụng của AI phụ thuộc vào sự cân bằng giữa tấn công và phòng thủ: liệu những kẻ tấn công hay những người bảo vệ được hưởng lợi nhiều hơn từ một khả năng nhất định, và khả năng của chúng tôi để xây dựng khả năng phục hồi để đối phó với các rủi ro lạm dụng. Đáng chú ý, một kẻ tấn công không cần phải trải qua quá trình áp dụng chậm chạp của tổ chức để gây hại. Chúng tôi ủng hộ việc xây dựng khả năng phục hồi xã hội để can thiệp vào các rủi ro lạm dụng và xác định nhiều biện pháp can thiệp mà chúng ta nên thực hiện để giảm thiểu rủi ro AI. Ở đây, Thompson không đồng ý với chúng tôi. Một lý do ông không đồng ý là tất cả các công nghệ đa năng đều mang lại những rủi ro mới, khó suy luận từ các mô hình trước đây. Nhưng ngay cả trong lịch sử của các công nghệ đa năng, Thompson lập luận rằng AI dường như đặc biệt "bất thường" vì những rủi ro mới nổi và không xác định ngay cả đối với các nhà phát triển AI. Và điều này biện minh cho các kế hoạch của chính phủ để coi AI là một công nghệ bất thường, vì nó "buộc chính phủ phải tạo ra các quy định đặc biệt ngăn cản các công ty tư nhân bán sản phẩm và dịch vụ của họ với lý do chúng quá nguy hiểm." Thompson không định nghĩa chính xác những gì ông muốn nói bằng hành động phi thường của chính phủ, và các biện pháp can thiệp cụ thể mà ông hình dung vẫn còn hơi mơ hồ. Vì chúng tôi sẽ phản đối các biện pháp can thiệp như vậy, chúng tôi muốn làm rõ những gì chúng tôi muốn nói bằng thuật ngữ này. Chúng tôi coi các biện pháp can thiệp phi thường là một phổ được xác định bởi ba yếu tố áp dụng cho bất kỳ công nghệ mạnh mẽ nào, không chỉ AI. Thứ nhất, các biện pháp can thiệp phi thường có xu hướng mang tính phòng ngừa. Chúng hạn chế hoạt động dựa trên những tổn hại được dự đoán hơn là những tổn hại đã xảy ra hoặc đã được chứng minh. Điều này không có nghĩa là phòng ngừa không bao giờ được đảm bảo, nhưng nó có nghĩa là sự biện minh cần phải mạnh mẽ hơn, vì chúng ta đang hạn chế hoạt động mà không có bằng chứng rõ ràng rằng những tổn hại sẽ xảy ra (hoặc chúng sẽ xảy ra chính xác như chúng ta dự đoán). Ngay cả khi đó, một biện pháp can thiệp càng phi thường hơn khi có các lựa chọn thay thế khả thi có thể giải quyết các rủi ro trong khi ít hạn chế hơn, chẳng hạn như đầu tư vào khả năng phục hồi. Thứ hai, các biện pháp can thiệp phi thường áp đặt các hạn chế đối với quyền tự do của các tác nhân không trực tiếp chịu trách nhiệm về những tổn hại đang được đề cập. Khi chính phủ hạn chế những gì các công ty AI có thể phát hành, gánh nặng không thuộc về những tác nhân độc hại gây hại, mà thuộc về các công ty xây dựng các công cụ mà về nguyên tắc có thể bị lạm dụng. Điều này đặc biệt phù hợp với các công nghệ lưỡng dụng. Do những công cụ này có ứng dụng rộng rãi và mang lại lợi ích, các hạn chế đối với doanh nghiệp có thể cắt đứt khả năng tiếp cận có lợi cho công chúng rộng lớn, nhằm ngăn chặn việc lạm dụng bởi một số ít đối tượng xấu. Thứ ba, các biện pháp can thiệp đặc biệt bỏ qua các quy trình quản trị thông thường, thay vào đó dựa vào quyền lực đơn phương như tuyên bố tình trạng khẩn cấp hoặc sắc lệnh hành pháp, mặc dù các quy trình quản trị bị bỏ qua tồn tại để đảm bảo rằng các hạn chế về tự do phải chịu trách nhiệm dân chủ. Một biện pháp can thiệp không nhất thiết phải thỏa mãn cả ba tiêu chí này để được coi là đặc biệt. Tuy nhiên, càng có nhiều yếu tố này hiện diện, thì yêu cầu để biện minh cho nó càng cao. Hành động đặc biệt của Chính phủ gây tốn kém đặc biệt Chúng tôi đồng ý rằng A