Import AI 459: Giám sát AI là khó khăn; các quy luật mở rộng quy mô đối với mô hình gấp protein; và định giá rủi ro tuyệt chủng của các hệ thống AI

Chào mừng quý độc giả đến với Import AI, bản tin về nghiên cứu trí tuệ nhân tạo (AI). Import AI được xây dựng dựa trên arXiv, những tách cà phê cappuccino và phản hồi từ độc giả. Nếu quý vị muốn ủng hộ, xin vui lòng đăng ký. Đăng ký ngay Nền kinh tế AI tại Mỹ đang tăng trưởng 2.000% mỗi năm: ...Càng đo lường trực tiếp nền kinh tế AI, nó càng trở nên kỳ lạ và chưa từng có tiền lệ... Các nhà kinh tế học thuộc Đại học Virginia*, Anthropic và Ngân hàng Canada đã công bố một bài viết phác thảo cả sự tăng trưởng vượt bậc của "nền kinh tế AI" đang nổi lên tại Mỹ, và lý giải tại sao sự tăng trưởng này khó nhận thấy trong các số liệu GDP tổng hợp. "Nền kinh tế AI tại Hoa Kỳ đã tăng trưởng với tốc độ chưa từng có, nhưng sự tăng trưởng phi thường này phần lớn không thể nhìn thấy trong các số liệu GDP thông thường," họ viết. "Nếu coi lĩnh vực AI là một thực thể kinh tế thống nhất, các ước tính sơ bộ cho thấy GDP AI danh nghĩa đạt khoảng 250 tỷ USD vào năm 2025, tăng trưởng khoảng 2.600% mỗi năm theo giá trị thực đã điều chỉnh chất lượng." Lý do khó nhận thấy: Có một vài yếu tố ở đây – một là mặc dù sự bùng nổ xây dựng trung tâm dữ liệu là lớn nhưng vẫn chưa đủ lớn để thúc đẩy GDP đáng kể. Ngược lại, phần lớn tác động kinh tế của AI đang diễn ra trong suy luận AI – việc sử dụng các hệ thống AI – nhưng có những yếu tố gây nhiễu liên quan đến đo lường GDP: "Doanh thu AI danh nghĩa chỉ tăng trưởng vừa phải vì giá mỗi đơn vị cho bất kỳ mức độ năng lực AI nào giảm gần như nhanh bằng tốc độ tăng sản lượng đã điều chỉnh chất lượng," họ viết. Nếu chúng ta không thể đo lường điều này, chúng ta có thể bị bất ngờ theo cách khó phục hồi: "AI là công nghệ mới nhất trong một loạt các công nghệ phát triển nhanh đã gây ra những lo ngại về đo lường; chất bán dẫn và internet đã tạo ra những cuộc tranh luận tương tự vào thời của chúng," họ viết. Nhưng một điểm khác biệt chính là AI với tư cách là một công nghệ có thể có tác động lớn hơn nhiều đến lao động so với các công nghệ khác. "Trong các giai đoạn trước, công nghệ cải tiến nhanh chóng là một yếu tố bổ trợ cho lao động con người ở cấp độ tổng thể," họ viết. "AI là ứng cử viên khả thi đầu tiên cho việc đo lường sai lệch công nghệ quy mô lớn, trong đó lĩnh vực cải tiến nhanh chóng có thể trở thành yếu tố thay thế cho lao động con người". Ba cách đo lường nền kinh tế AI: Chi tiêu điện toán danh nghĩa: Chi tiêu điện toán của Mỹ tăng từ 37 tỷ USD vào năm 2023 lên 90 tỷ USD vào năm 2024 và 219 tỷ USD vào năm 2025. Năng lực điện toán thô: Do hiệu quả của các chip mới hơn, năng lực thực tế tăng nhanh hơn cả chi tiêu: "Năng lực điện toán AI của Mỹ tăng hơn 200% mỗi năm". Sản lượng AI đã điều chỉnh chất lượng: Nếu tính đến tiến bộ thuật toán thông qua giá suy luận ở hiệu suất chuẩn cố định cũng như các giả định về việc đào tạo mô hình ngày càng rẻ hơn, thì mọi thứ trở nên ấn tượng hơn nữa: "những cải thiện hiệu quả này ngụ ý rằng sản lượng AI đã điều chỉnh chất lượng tăng khoảng 2.290% vào năm 2024 và 2.271% vào năm 2025". Quy mô nền kinh tế AI lớn hơn nhiều so với các số liệu thông thường: “Các số liệu thống kê truyền thống cho thấy một lĩnh vực đang tăng trưởng chậm về mặt danh nghĩa; các số liệu của chúng tôi cho thấy một lĩnh vực có năng lực cơ bản tăng hơn gấp đôi hàng năm. Một Bộ Tài chính dựa trên các dự báo doanh thu mười năm từ dữ liệu thông thường sẽ đánh giá thấp đáng kể khả năng xảy ra cú sốc về cơ sở thuế lao động – và sẽ không chuẩn bị đầy đủ để thiết kế các biện pháp ứng phó như cải cách hệ thống thuế, quỹ tài sản có chủ quyền hoặc các chương trình chia sẻ lợi ích khác mà cú sốc đó có thể đòi hỏi. Một khoản lợi nhuận bất ngờ không thể nhìn thấy thì không thể chia sẻ.” Ba khuyến nghị: Các tác giả có ba ý tưởng về cách chúng ta có thể giải quyết thách thức đo lường này và định vị tốt hơn để nhìn thấy hình dạng thực sự của nền kinh tế AI. Tài khoản vệ tinh AI: Các cơ quan thống kê nên phát triển “tài khoản vệ tinh AI” để xây dựng các thước đo (ví dụ: chi tiêu tính toán danh nghĩa), có thể giúp cung cấp thông tin cho các tính toán GDP tổng thể. Tạo dữ liệu tốt hơn: Hợp tác giữa các cơ quan thống kê, công ty và giới học thuật để tạo ra dữ liệu sơ cấp tốt hơn, như phân bổ giữa tính toán đào tạo và suy luận. Yếu tố trong các dự báo: Các nhà hoạch định chính sách nên kết hợp các phép đo năng lực sản xuất AI vào các dự báo kinh tế trung hạn của họ. Tại sao điều này quan trọng – hãy im lặng và bật nhạc nền phim Jaws: Trong bộ phim kinh điển Jaws có một cảnh cá mập ở dưới nước và một bản nhạc rất căng thẳng vang lên cho thấy cá mập đang đến gần. Bạn, khán giả, gần như nhảy dựng lên khỏi ghế muốn hét lên CÓ MỘT CON CÁ MẬP CHẾT TIỆT DƯỚI NƯỚC BẠN ĐANG LÀM GÌ Ở ĐÓ VẬY? Đó là cảm giác khi làm việc với AI và nhìn vào hầu hết dữ liệu kinh tế hiện nay: phần lớn dữ liệu kinh tế cho thấy không có gì đặc biệt bất thường về nền kinh tế ngày nay (thực tế, mọi thứ có vẻ khá tốt ở Mỹ – tỷ lệ thất nghiệp thấp, tăng trưởng khá, v.v.). Nhưng trực giác của tất cả những người làm việc trong lĩnh vực AI – bao gồm cả tôi – là không thể dung hòa khả năng của công nghệ và cách nó đang được sử dụng với việc nền kinh tế vẫn bình thường. Trong phép ẩn dụ đau khổ này, cá mập là “hình dạng thực sự của nền kinh tế AI”, và những người còn lại trong phim là các nhà kinh tế và cộng đồng chính sách đồng thuận chung. Anton ở đây có thể là khán giả, viết một bài báo mô tả khả năng có một con cá mập ẩn mình dưới bề mặt. Mọi người hãy cẩn thận! Đọc thêm: AI ở đâu trong thống kê GDP? (PIIE). *Tuyên bố miễn trừ trách nhiệm: Mặc dù một trong các tác giả, Anton Korinek, có liên kết với Anthropic, nghiên cứu này được thực hiện chủ yếu trước khi ông gia nhập và ngoài công việc của ông tại công ty. *** Đây là lý do tại sao việc làm cho AI an toàn với sự giám sát của AI khó hơn bạn nghĩ: …Nghiên cứu căn chỉnh tự động không phải là một viên đạn bạc… Nhiều nhà nghiên cứu về an toàn AI nghĩ rằng cách tốt nhất để xây dựng thông minh