Thiết kế nền tảng AI đáng tin cậy: Công cụ đảm bảo, tác nhân khám phá

Trang chủ InfoQ Các bài thuyết trình Thiết kế nền tảng AI đáng tin cậy: Công cụ cho sự chắc chắn, tác nhân cho khám phá AI, ML & Kỹ thuật dữ liệu Thiết kế nền tảng AI đáng tin cậy: Công cụ cho sự chắc chắn, tác nhân cho khám phá Thích Danh sách đọc Xem bài thuyết trình Dọc Ngang Toàn màn hình Tốc độ: 1x 1.25x 1.5x 2x Tải xuống Slide 52:06 Tóm tắt Aaron Erickson thảo luận về sự phát triển của quy trình làm việc AI, chuyển từ việc "kiểm tra cảm tính" sang xây dựng các khung làm việc đa tác nhân đáng tin cậy. Ông giải thích cách kết hợp các rào chắn phần mềm xác định với khám phá tác nhân, tối ưu hóa hệ thống phân cấp tác nhân, tận dụng các mô hình nền tảng chuỗi thời gian và triển khai các kim tự tháp đánh giá nghiêm ngặt để đảm bảo kiến trúc mở rộng hiệu quả trong sản xuất. Tiểu sử Aaron Erickson đã thành lập Phòng thí nghiệm AI ứng dụng cho DGX Cloud tại NVIDIA, chuyên xây dựng các mô hình nền tảng và hệ thống tác nhân để giải quyết các vấn đề công nghiệp rộng lớn như phát hiện bất thường dựa trên chuỗi thời gian. Trước đây, ông đã giữ các vai trò lãnh đạo kỹ thuật tại ThoughtWorks và New Relic trước khi thành lập Orgspace. Về hội nghị QCon AI là một sự kiện do các chuyên gia thực hành dẫn dắt, tập trung hoàn toàn vào kỷ luật kỹ thuật cần thiết để mở rộng các khối lượng công việc này một cách an toàn. Sự kiện cung cấp quyền truy cập trực tiếp vào các kế hoạch kiến trúc và số liệu lỗi mà các tổ chức đồng cấp sử dụng trong sản xuất. Aaron Erickson: Tôi là Aaron Erickson. Chúng ta sẽ thảo luận lý do tại sao không phải tất cả đều là AI, nhưng đôi khi lại là AI. "Công cụ cho sự chắc chắn, Tác nhân cho sự khám phá" là tên của bài nói chuyện. Ai ở đây đã từng có câu hỏi này: "Tôi biết, nếu chúng ta quyết định thực hiện một số việc này bằng AI thì sao?" Có ai đã từng có ý nghĩ đó, và sau đó quyết định đó là một ý tưởng tồi tệ không? Tôi có đủ loại ý tưởng tồi tệ, một trong số đó là một điều gì đó, tôi biết, rõ ràng là GraphQL, một ý tưởng tồi tệ. Agile, thôi nào, đó là gì, những năm 2010? Tất cả chúng ta đều thực hiện Agile, và chúng ta phát hiện ra đó là một giấc mơ tồi tệ hoặc gì đó, có lẽ điều này sẽ trở thành một trong những điều đó. Có lẽ đây sẽ là một viên đá lát mới trên con đường dẫn đến địa ngục này, đầy rẫy những ý định tốt đẹp. **Các tác phẩm chính** Để đạt được mục tiêu đó, hãy để tôi nói về một điều tôi đã xây dựng. Trước cuộc sống hiện tại của tôi, tôi làm việc tại một công ty tên là Orgspace. Chúng tôi có ý tưởng rằng nếu bạn có thể viết phần mềm để thực hiện các cuộc tái cơ cấu thì sao? Ai đã từng thực hiện một cuộc tái cơ cấu? Ai đã từng là đối tượng của một cuộc tái cơ cấu? Ai đã từng có một trải nghiệm dễ chịu sau khi là đối tượng của một cuộc tái cơ cấu? Không, không ai có trải nghiệm dễ chịu sau khi là đối tượng của một cuộc tái cơ cấu. Đây là một số phần mềm chúng tôi đã xây dựng để giúp bạn thực hiện điều đó. Sau đó, năm 2023 đã đến, và có một sự thật bất biến về năm 2023. Nếu bạn đã thành lập một công ty khởi nghiệp và bạn muốn huy động một vòng vốn khác, nếu bạn không làm AI, bạn sẽ không còn là một công ty khởi nghiệp nữa. Có bao nhiêu công ty khởi nghiệp không phải AI đã được cấp vốn mà không phải là một quán cà phê kể từ năm 2023? Không nhiều lắm. Chúng tôi phải có một câu trả lời cho điều này. Tôi nghĩ, bạn biết điều gì sẽ tuyệt vời không, đó là thực hiện điều này, nơi chúng ta có thể yêu cầu ChatGPT thực hiện việc tái cơ cấu cho chúng ta. Tôi biết. Một số bạn đang nghĩ, Aaron có chỉ xem Black Mirror và nghĩ, đó là một ý tưởng hay không. Không, chúng ta có lẽ không nên phát triển sản phẩm theo cách đó. Chúng tôi đã tuyệt vọng. Chúng tôi sắp hết tiền. Chúng tôi nghĩ, nếu chúng ta làm plugin này thì sao? Ai còn nhớ các plugin của ChatGPT? Nó giống như MCP trước khi MCP trở nên phổ biến. Điều chúng tôi đang làm là, nếu bạn chỉ cần gõ, tôi nghe nói mọi người đang làm phẳng các tổ chức của họ, bạn có thể giúp tôi với điều đó không? Tôi nghĩ chúng ta nên làm kỹ thuật. Đó. Nó đã đưa ra một câu trả lời tốt. Nó đã lấy một số dữ liệu từ Orgspace, phần mềm tái cơ cấu của chúng tôi. Nó đã đưa ra một loại kế hoạch mà nếu bạn gọi một công ty tư vấn, họ có lẽ sẽ viết kế hoạch đó, bởi vì như chúng ta đã biết trong bài phát biểu chính, nó tạo ra kết quả trung bình nhất mà bạn có thể tưởng tượng. Ai ở đây đã từng nhận được một cuộc tái cơ cấu và từng nghĩ rằng kế hoạch tái cơ cấu không phải là kết quả trung bình nhất mà bạn có thể tưởng tượng? Nó chính xác nằm trong danh mục đó. Nó đã đưa ra điều đó và chúng ta có thể làm điều này, thật tuyệt, hãy thực sự thực hiện kế hoạch. Chúng ta sẽ thực hiện kế hoạch và nó sẽ tạo ra một tổ chức phẳng cho bạn. Nó sẽ thực sự phân nhánh tổ chức của bạn, tìm ra ai nên di chuyển, ai nên ở trong đội này hay đội kia theo bất cứ điều gì bạn gõ vào về cách bạn muốn thực hiện tái cơ cấu, và nó sẽ tạo ra nó. Sau đó, bạn sẽ quay lại phần mềm này, nơi nó sẽ viết email tái cơ cấu cho bạn. Nếu bạn muốn làm điều đó bằng thơ ngũ âm, bạn có thể làm điều đó. Nếu bạn muốn làm điều đó như một sử thi Homer, bạn có thể làm điều đó. Nếu bạn muốn một email tái cơ cấu dưới dạng haiku, bạn có thể làm điều đó. Đây là điều bạn sẽ làm vào năm 2023. **Quản trị đội GPU, tại NVIDIA** Tại sao tôi lại ở đây? Hóa ra chúng tôi đã không trở thành tương lai của HR. Mọi người có thể yên tâm rằng bạn không bị tái cơ cấu bởi một robot. Bạn bị tái cơ cấu bởi một nhà tư vấn, điều đó hoàn toàn không phải là một robot. Vâng, tôi biết. , thật kinh khủng. Tôi đã thất bại. Tôi đã làm việc tại một công ty chip ở đâu đó tại Santa Clara. Tôi nghe nói họ làm về AI. Thật tuyệt. Tôi nhìn thấy trụ sở chính, tôi nghĩ, đó là một trụ sở chính ư? Thật đáng kinh ngạc phải không? Chúng ta đã làm gì? Công việc đầu tiên của tôi ở đó không phải là làm AI. Công việc đầu tiên của tôi ở đó là xây dựng một hệ thống phân bổ GPU cho các sáng kiến. Chúng tôi có tất cả các nhà nghiên cứu nội bộ tại NVIDIA, và tất cả họ đều có những mô hình AI thực sự thú vị mà họ đang xây dựng, những thứ như Nemotron, những thứ như BioNeMo, những thứ như Cosmos, tất cả những thứ thú vị này. Trong thế giới cũ, tôi đang xây dựng phần mềm nhân sự, vì vậy chúng tôi có nguồn nhân lực. Chúng tôi cũng có các vị trí tuyển dụng trong phần mềm cũ. Chúng tôi cũng có nhân viên trong phần mềm cũ. Các hệ thống phân cấp phức tạp. Ai mà chưa từng thấy một tổ chức phức tạp với nhiều cấp báo cáo và những thứ tương tự? Quản lý hiệu suất, bạn có sự điều chỉnh tại đó.