Đường cong năng lực không có bộ nhớ

Tuy nhiên, mọi người vẫn tiếp tục xây dựng. Chúng ta thực sự có lựa chọn nào khác? Anthropic kêu gọi tạm dừng phối hợp phát triển AI tiên tiến Tuần trước, Marina Favaro và Jack Clark đã công bố một báo cáo tiến độ mà tôi không ngừng suy nghĩ. Báo cáo này cho biết các hệ thống AI đang tăng tốc và có thể đạt đến "khả năng tự cải thiện đệ quy". https://www.anthropic.com/institute/recursive-self-improvement Không phải vì những con số tiêu đề, mặc dù chúng đủ ấn tượng. Claude đã tạo ra hơn 80% mã được hợp nhất vào cơ sở mã của Anthropic, và các công ty tiên phong khác cũng vậy. Các kỹ sư đang tạo ra sản lượng gấp tám lần mỗi quý so với hai năm trước. Một tác nhân hoàn thành các nhiệm vụ mà một người có kỹ năng phải mất mười sáu giờ làm việc liên tục, không cần chỉ dẫn một lần. Điều khiến tôi chú ý là biểu đồ thể hiện số dòng mã trên mỗi kỹ sư theo thời gian. Biểu đồ này đi ngang trong bốn năm. Sau đó, có một khúc cua sắc nét đi lên vào năm 2025 khi Claude bắt đầu chạy mã thay vì chỉ gợi ý, một con rắn ouroboros, một cỗ máy Gödel nhị phân tự đưa mã trở lại chính nó. Sau đó, biểu đồ lại dốc hơn vào năm 2026 khi các tác nhân bắt đầu hoạt động tự chủ trong thời gian dài hơn. Và dừng lại! Nhưng tôi không nghĩ ai sẽ làm vậy, ngay cả theo yêu cầu của Anthropic; công nghệ giống như một sinh vật; nó cứ tiếp tục phát triển. Anthropic là những người thông minh. Chỉ trong vài năm, họ đã huy động được 1 nghìn tỷ USD. Việc mua lại các mảnh ghép cơ sở hạ tầng còn thiếu như Vercept, Bun, Coefficient Biohealth, Fractional AI và Stainless, các chuyên gia SDK, mà Anthropic là một trong những khách hàng lớn nhất của họ, có ý nghĩa cộng sinh và chiến lược, rất tốt. Tôi không biết mọi thứ đang diễn ra bên trong Anthropic, nhưng Dario và nhóm của ông ấy đang bắt đầu trông giống như những đại kiện tướng cờ vua 4D. Tôi nhìn vào biểu đồ đó và cảm thấy hai điều cùng một lúc. Thực sự ấn tượng. Tôi thực sự thích Anthropic, và, nếu thành thật mà nói, tôi hơi lo lắng. Sự tập trung kiểm soát: gần như tất cả các bộ não và cơ sở hạ tầng trong AI sẽ được hợp nhất vào một số ít các công ty công nghệ ở Thung lũng Silicon, gợi nhớ đến những năm 80 khi Microsoft thỏa thuận với tất cả các nhà sản xuất phần cứng để Windows là hệ điều hành được cấp phép duy nhất. Đó là lý do tại sao Linux thông minh khi chuyển sang máy chủ và giữ 60% thị phần cho đến ngày nay, Ubuntu rất tuyệt; nó hoạt động và rất hiếm khi có bất kỳ vấn đề về độ tin cậy nào, cùng với Red Hat và Debian. Điểm uốn mà không ai có bản đồ Đây là những gì tôi nghĩ đang thực sự xảy ra và tại sao ý tưởng này hợp lý hơn là đáng báo động. Chúng ta đang tiếp cận một ngưỡng. Không phải dần dần, mà theo cách con ếch trong nước nóng tiếp cận điểm sôi mà không có gì đáng chú ý, sau đó mọi thứ diễn ra cùng một lúc. Một tác nhân có thể sao chép chu trình phát triển của chính nó một cách đáng tin cậy và duy trì độ chính xác mã trên 90% đối với các nhiệm vụ mở, bản chất công việc của con người không chỉ thay đổi. Nó tái cấu trúc từ gốc rễ; nó khuếch đại và tổng hợp. Bài viết của Anthropic cẩn thận trình bày đây là một sự phát triển tích cực, và họ không sai. Nhiều mã được xuất xưởng nhanh hơn, lỗi được phát hiện trước khi sản xuất, nghiên cứu mà con người phải mất hàng tháng đến hàng năm mới hoàn thành trong vài tuần. Những lợi ích thực sự cho những vấn đề thực sự. Tuy nhiên, đây là ý nghĩa thực tế đối với những người đang thực hiện công việc. Khối lượng công việc cần hoàn thành không giảm đi mà tăng lên gấp bội. Điều thay đổi là loại hình công việc. Việc thực hiện thủ công nhường chỗ cho chỉ đạo cấp cao. Viết mã nhường chỗ cho việc xem xét, định hình và quyết định những vấn đề chiến lược mà mã đó nên giải quyết. Vai trò của con người trở thành một lớp ủy quyền cấp cao trên một hệ thống tự động vốn đã có khả năng thực hiện hầu hết các tác vụ. Đó không phải là ít việc hơn; đó là một công việc phức tạp hơn, đòi hỏi tư duy nhiều hơn, đồng thời yêu cầu kinh nghiệm đa ngành và kỹ năng giải quyết vấn đề sâu sắc. Năng suất gấp mười lần có nghĩa là số lượng quyết định gấp mười lần, lượng ngữ cảnh cần nắm giữ gấp mười lần và trách nhiệm đối với những gì được triển khai chính xác gấp mười lần; đó là hiệu ứng kép. Và các bot tác nhân sẽ thực hiện tất cả những điều này cho chúng ta, một số đã và đang làm. Trở thành người đứng đầu HITL không hề dễ dàng; mọi thứ diễn ra quá nhanh. Bạn đã đọc 20 trang mã từ 20 dự án khác nhau và nhắn tin ngay lập tức trên điện thoại di động của mình và phê duyệt tất cả chưa? Bạn đã cần biết 100 điều Tôi cảm nhận sự thay đổi này một cách cá nhân và tôi cảm nhận nó liên tục. Xây dựng VEKTOR với tư cách là một nhà phát triển độc lập có nghĩa là tôi là một nhà phát triển, một quản lý sản phẩm, một kỹ sư bảo mật, một kỹ sư DevOps, một người viết nội dung, một người phát triển, một chức năng hỗ trợ khách hàng và một chủ doanh nghiệp, tất cả cùng một lúc. AI đã làm cho mỗi vai trò đó trở nên dễ tiếp cận hơn và thậm chí khả thi hơn. Nó cũng đã làm cho việc chạy tất cả chúng đồng thời trở nên khả thi về mặt kỹ thuật theo cách mà trước đây không thực tế, thông qua ủy quyền. Nếu bạn quay ngược thời gian, tôi nhớ chúng tôi có 5 hệ thống tại nơi làm việc: màn hình xanh Oracle Unix (nó chưa bao giờ gặp sự cố một lần nào), nhanh nhưng cần lặp lại trong đầu để học; một cơ sở dữ liệu; Outlook; Intranet; sau đó Salesforce xuất hiện và 20 ứng dụng khác được bổ sung. Kết quả không phải là ít tác vụ hơn. Đó là công việc phức tạp hơn, trải rộng trên nhiều lĩnh vực và nhiều hệ thống hơn với API, đăng nhập M2FA với rủi ro cao hơn ở mỗi hệ thống. Ngay cả con người cũng không thể giải quyết được captcha này, các bot tác nhân sẽ cần một hệ thống tiêu chuẩn hóa để điều hướng internet mà không bị chặn. Và vâng, những bộ óc vĩ đại nhất đang nghiên cứu vấn đề này ngay bây giờ. Giải quyết nhiều lớp bot tác nhân với hộ chiếu được cấp phép. Ai nghĩ ra ý tưởng này cần phải bị phạt ngay lập tức. Tuần này, tôi đang giữa phiên gỡ lỗi lỗi gia hạn certbot trên VPS thì rõ ràng vấn đề là do định dạng thông tin xác thực không khớp giữa phiên bản certbot cũ được cài đặt bằng apt và mã thông báo API của Cloudflare mong đợi định dạng mới hơn. Việc khắc phục yêu cầu hiểu hệ sinh thái gói snap, kiến trúc hook gia hạn certbot và mô hình quyền của mã thông báo API của Cloudflare, tất cả cùng một lúc. Claude đã xử lý nó một cách hoàn hảo bằng cách đăng nhập vào VPS thông qua Vektor Cloak S