Bài thuyết trình: Các nhóm nền tảng hỗ trợ AI - Công cụ MCP/Đa tác nhân trên LinkedIn

Trang chủ InfoQ Các bài thuyết trình Các nhóm nền tảng hỗ trợ AI - Công cụ MCP/Đa tác nhân trên LinkedIn AI, ML & Kỹ thuật dữ liệu Các nhóm nền tảng hỗ trợ AI - Công cụ MCP/Đa tác nhân trên LinkedIn Thích Danh sách đọc Xem bài thuyết trình Dọc Ngang Toàn màn hình Tốc độ: 1x 1.25x 1.5x 2x Tải xuống Các trang trình bày 41:37 Tóm tắt Karthik Ramgopal và Prince Valluri của LinkedIn thảo luận về việc tận dụng AI như một mô hình thực thi mới cho kỹ thuật quy mô lớn. Họ giải thích cách vượt qua các triển khai rời rạc bằng cách xây dựng các trừu tượng nền tảng cho điều phối, ngữ cảnh có cấu trúc và các công cụ an toàn như MCP. Họ chia sẻ những hiểu biết về kiến trúc từ các tác nhân kiểm thử mã hóa, quan sát và giao diện người dùng (UI) thực tế được xây dựng tại LinkedIn. Tiểu sử Karthik Ramgopal là Kỹ sư ưu tú và là trưởng nhóm kỹ thuật Uber cho nhóm Kỹ thuật sản phẩm tại LinkedIn. Prince Valluri là Kỹ sư chính, chuyên về Năng suất nhà phát triển trong hơn 10 năm. Trưởng nhóm kỹ thuật để tăng năng suất cho hơn 10.000 kỹ sư LinkedIn bằng AI. Về hội nghị QCon AI là một sự kiện do các chuyên gia thực hành dẫn dắt, tập trung hoàn toàn vào kỷ luật kỹ thuật cần thiết để mở rộng quy mô các khối lượng công việc này một cách an toàn. Sự kiện này cung cấp quyền truy cập trực tiếp vào các kế hoạch kiến trúc và số liệu thất bại mà các tổ chức đồng cấp sử dụng trong sản xuất. Karthik Ramgopal: Tôi là Karthik từ LinkedIn. Prince Valluri: Tôi là Prince từ LinkedIn. Karthik Ramgopal: Hôm nay chúng ta sẽ nói về cách chúng tôi sử dụng AI để đẩy nhanh quá trình kỹ thuật tại LinkedIn. Tại LinkedIn, tầm nhìn của chúng tôi là tạo ra cơ hội kinh tế cho mọi thành viên trong lực lượng lao động toàn cầu. Sứ mệnh của chúng tôi là kết nối các chuyên gia trên thế giới, giúp họ làm việc hiệu quả và thành công hơn. Điều này được thể hiện như thế nào? Quy mô khá lớn. Chúng tôi có 1,3 tỷ thành viên. Một tỷ lệ lớn dân số thế giới đang sử dụng LinkedIn. Chúng tôi tạo ra 17.000 kết nối mỗi phút trên LinkedIn. Chúng tôi có khoảng gần 2 triệu cập nhật nguồn cấp dữ liệu được phục vụ mỗi phút. Chúng tôi phục vụ trang web bằng 36 ngôn ngữ. Khi tôi nói trang web, tôi cũng bao gồm các ứng dụng. Điều này được thể hiện như thế nào trong quy mô kỹ thuật? Một lần nữa, khá lớn. Chúng tôi có khoảng 7.000 ứng dụng có thể triển khai. Chúng tôi phục vụ khoảng 3,2 triệu QPS (truy vấn mỗi giây) cao điểm. Chúng tôi trao đổi 45 nghìn tỷ tin nhắn Kafka mỗi ngày. Chúng tôi có hơn 10.000 kho lưu trữ. Chúng tôi gửi hơn một triệu PR (yêu cầu kéo) mỗi năm. Đây là trước khi một loạt các công cụ AI tác nhân này ra đời. Khá lớn. Điều này có nghĩa là nếu chúng tôi tăng cường hiệu quả kỹ thuật, chúng tôi có thể mở khóa rất nhiều giá trị kinh doanh, bởi vì kỹ thuật là trọng tâm và cốt lõi của những gì chúng tôi làm. Trong lịch sử, chúng tôi đã cố gắng khắc phục điều này như thế nào? Bằng những cách khá thông thường. Chúng tôi đã viết một số công cụ CLI (giao diện dòng lệnh). Chúng tôi nói rằng, đây là những tập lệnh đơn giản bạn có thể chạy để xây dựng công cụ, đến các công cụ tự động hóa khá phức tạp, và chạy chúng. Chúng tôi đã xây dựng các giao diện người dùng tự phục vụ để mọi người có thể truy cập chủ yếu vào các giao diện người dùng dựa trên web và làm những gì họ muốn. Cuối cùng nhưng không kém phần quan trọng, chúng tôi đã đầu tư rất nhiều vào tài liệu. Đây là các wiki và tài liệu và những thứ khác. Không có tài liệu nào hữu ích nếu bạn không thể tìm kiếm nó, vì vậy chúng tôi đã lập chỉ mục tất cả vào các hệ thống tìm kiếm. Vấn đề cơ bản với tất cả những điều này là hoàn toàn không có nhận thức trong bất kỳ điều gì trong số này. Con người vẫn đang thực hiện nhận thức. Con người vẫn đang thực hiện một loạt các công việc lặp đi lặp lại bằng tay bất cứ khi nào có các vòng lặp nhận thức liên quan, bởi vì ngay khi bạn có một vòng lặp nhận thức, bạn không thể tự động hóa nó trước đây. Với AI, chúng tôi có cơ hội thay đổi cách chúng tôi làm điều này. AI là mô hình thực thi mới cho kỹ thuật Prince Valluri: Phần khó nhất của kỹ thuật hiện nay không phải là viết mã. Đó là viết đúng mã, điều này đòi hỏi sự phối hợp giữa các công cụ, hệ thống và nhóm khác nhau. Chúng ta đang chuyển từ việc con người thực hiện tất cả công việc này một cách thủ công và kết nối mọi thứ, sang việc con người thể hiện ý định và các hệ thống thực hiện ý định đó một cách đáng tin cậy hơn. Ý định là những gì chúng ta muốn thay đổi, những gì chúng ta muốn sửa chữa, những gì chúng ta muốn di chuyển, những gì chúng ta muốn hiểu. Chúng tôi muốn nó khá rõ ràng và có cấu trúc. Một kế hoạch là một luồng từng bước được hệ thống dịch. Đó là về những hệ thống nào cần được chạm vào, theo thứ tự nào. Những công cụ nào cần thiết? Điều gì có thể thất bại, điều gì không nên thất bại? Thực thi là nơi điều phối, môi trường và quản trị trở nên cực kỳ quan trọng. Xác thực là nơi niềm tin thực sự được xây dựng. Nó đảm bảo rằng mọi bước đều được xác thực, cho dù thông qua các bản dựng, hoặc thử nghiệm, hoặc phân tích tĩnh, hoặc các loại kiểm tra an toàn khác như đánh giá. Cuối cùng, đầu ra là một phản hồi hoặc một tạo phẩm có thể xem xét, như một yêu cầu kéo (pull request) với khả năng truy xuất nguồn gốc đầy đủ. Hãy cùng phân tích tất cả những điều này. Trước đó, một khi chúng ta nói AI là một mô hình thực thi, câu hỏi tiếp theo là, chúng ta áp dụng điều này ở đâu? Chúng tôi tập trung vào các lĩnh vực mà Ba điều sau đây là đúng: công việc có thể lặp lại; chi phí phối hợp rất cao; kết quả có thể được xác thực tương đối dễ dàng. Điều này đã dẫn chúng tôi đến ba lĩnh vực chính. Phát triển. Ở đây, với việc lập trình, mục tiêu là giảm tải các tác vụ lập trình mang tính cơ học, lặp lại, có phạm vi rõ ràng. Di chuyển (migrations) rất phù hợp vì đây thực chất là cùng một thay đổi được lặp đi lặp lại. Kiểm thử đã khá có cấu trúc, vì vậy các tác nhân (agents) dễ dàng suy luận về chúng. Với các hoạt động, triển khai không có nghĩa là nhấn nút, mà là chuẩn bị mọi thứ xung quanh, như xác thực sự sẵn sàng, xem xét cấu hình, làm nổi bật rủi ro. Quản lý độ tin cậy và khả năng phục hồi là về nhận dạng mẫu. Các tác nhân có thể liên tục giám sát nhật ký và cảnh báo, đồng thời phát hiện các vấn đề. Trong các sự cố, con người dành nhiều thời gian để thu thập ngữ cảnh và các tác nhân thực sự có thể giúp rút ngắn thời gian đó bằng cách tập hợp