Bài thuyết trình: Từ mili giây đến micro giây: Các mô hình kiến trúc OSS Valkey cho AI hiện đại

Trang chủ InfoQ Các bài thuyết trình Từ mili giây (ms) đến micro giây (µs): Các mô hình kiến trúc Valkey mã nguồn mở (OSS) cho AI hiện đại Kiến trúc & Thiết kế Từ mili giây (ms) đến micro giây (µs): Các mô hình kiến trúc Valkey mã nguồn mở (OSS) cho AI hiện đại Thích Danh sách đọc Xem bài thuyết trình Dọc Ngang Toàn màn hình Tốc độ: 1x 1.25x 1.5x 2x Tải xuống Các slide 50:54 Tóm tắt Ông Dumanshu Goyal thảo luận về việc tối ưu hóa các lớp dữ liệu cho các tác vụ có độ trễ thấp như kho tính năng AI. Rút ra bài học từ Tàu con thoi của NASA, ông giải thích cách các kiến trúc proxy gây ra chi phí CPU ẩn, độ trễ đuôi tăng cao và rủi ro phạm vi ảnh hưởng. Ông chứng minh cách các kiến trúc Valkey truy cập trực tiếp đạt được độ trễ micro giây, cải thiện khả năng phục hồi và giảm đáng kể chi phí cơ sở hạ tầng. Tiểu sử Ông Dumanshu Goyal phụ trách các ưu tiên dữ liệu trực tuyến tại Airbnb. Trước đây, ông đã lãnh đạo bộ phận bộ nhớ đệm trong bộ nhớ cho Google Cloud Databases, mang lại hiệu suất tăng gấp 10 lần về quy mô và giá thành cho Google Cloud Memorystore, một trong số ít lần "gấp 10 lần" không chỉ là lời hứa trên slide. Trước đó, ông đã làm việc 10 năm tại AWS với tư cách là kỹ sư sáng lập của AWS Timestream. Về hội nghị Phần mềm đang thay đổi thế giới. QCon San Francisco thúc đẩy phát triển phần mềm bằng cách tạo điều kiện truyền bá kiến thức và đổi mới trong cộng đồng nhà phát triển. Là một hội nghị do các chuyên gia thực hành tổ chức, QCon được thiết kế dành cho các trưởng nhóm kỹ thuật, kiến trúc sư, giám đốc kỹ thuật và quản lý dự án, những người có ảnh hưởng đến sự đổi mới trong các nhóm của họ. Dumanshu Goyal: Tôi xin phép bắt đầu bằng một câu chuyện. Câu chuyện này nói về chương trình Tàu con thoi của NASA. Những gì quý vị thấy ở đây là tầm nhìn ban đầu đằng sau tàu con thoi. Chương trình này bắt đầu vào những năm 1970, tiếp tục cho đến năm 2011 thì ngừng hoạt động. Đây là một tầm nhìn trên giấy. Ý tưởng là chế tạo một tàu vũ trụ có thể tái sử dụng. Ý tưởng là đi lại vào không gian và thực hiện điều đó với chi phí thấp. Đây về cơ bản là các thiết kế đằng sau tàu vũ trụ. Sau đó, từ khả năng tái sử dụng, họ đưa ra yêu cầu tương tự như các máy bay khác mà chúng ta thấy. Chúng ta muốn hạ cánh trên đường băng, tàu vũ trụ có thể hạ cánh trên đường băng. Việc hạ cánh trên đường băng từ khả năng tái sử dụng đã trở thành một yêu cầu, và đó là lúc họ đưa ra thiết kế này. Điều quan trọng về thiết kế này là do bị ảnh hưởng bởi các cấu trúc máy bay hiện có, họ đã thêm các cánh tam giác (delta wings) này. Những gì quý vị thấy ở đó về cơ bản được gọi là cánh tam giác lớn. Đây là một mô hình thực tế. Tên của nó là Atlantis. Nó đã thực hiện 33 nhiệm vụ không gian trong khoảng 25 năm, cho đến khi ngừng hoạt động. Atlantis này, một lần nữa, quý vị có thể thấy các cánh tam giác ở đó. Điều xảy ra là khi các tàu vũ trụ này tái nhập khí quyển, nhiệt độ cao được tạo ra. Sau đó, cánh về cơ bản xuyên qua nhiệt đó. Bây giờ, vì nó phải chịu nhiệt đó, nó cần được bảo vệ. Điều này dẫn đến yêu cầu lắp đặt các tấm gạch này. Đây là các tấm gạch silica. Những gì quý vị thấy trong hình, các cấu trúc nhỏ hình viên gạch, đây là các tấm gạch silica. Mô hình này có khoảng 24.000 tấm gạch silica trên đó. Ý tưởng là bảo vệ thân, cánh, bụng dưới của tàu vũ trụ và làm cho nó hoạt động. Khi họ thiết kế và chế tạo máy bay này, ước tính chi phí cho một chuyến đi khứ hồi là 10 triệu USD. Sau đó, nó sẽ yêu cầu một số bảo trì và sẽ sẵn sàng trong khoảng hai tuần. Đây là mục tiêu ban đầu. Khi họ bắt đầu sử dụng nó, trên thực tế, 10 triệu USD cuối cùng đã trở thành 1,5 tỷ USD. Chi phí tăng vọt. Thời gian quay vòng hai tuần để sẵn sàng cho nhiệm vụ tiếp theo đã trở thành hai tháng. Điều gì đã sai? Các tấm gạch silica, chúng phải được thay thế. Có những hư hỏng không mong muốn trong chuyến bay. Họ nghĩ rằng, chúng sẽ giữ tốt, nhưng không phải vậy. Nhiệt độ quá khắc nghiệt, rất nhiều khám phá mới. Vấn đề này cuối cùng cũng làm tăng thêm sự phức tạp trên mặt đất. Các hoạt động trên mặt đất, như quý vị thấy ở đây, trở nên thực sự phức tạp khi họ phải chuẩn bị cho nhiệm vụ tiếp theo. Sự phức tạp cũng tăng lên không chỉ về chi phí hay hiệu suất xung quanh thời điểm nó có thể được tái sử dụng. Năm 2011, khi NASA ngừng chương trình này, một chương trình khác đã bắt đầu, Chương trình Phi hành đoàn Thương mại (Commercial Crew Program). Đây là một chút về tư nhân hóa. Đây là nơi quý vị thấy Starliner của Boeing. Một mô hình hàng đầu khác được gọi là Dragon của SpaceX. Đây là những gì chúng ta gọi là thiết kế khoang (capsule designs). Họ quay trở lại yêu cầu cốt lõi về khả năng tái sử dụng. Có khả năng tái sử dụng. Quý vị muốn giữ an toàn cho tải trọng, phi hành đoàn. An toàn của phi hành đoàn là yêu cầu cốt lõi. Sau đó, họ về cơ bản đã thách thức yêu cầu hạ cánh trên đường băng. Điều đó có thực sự cần thiết không? Chúng ta có thực sự cần hạ cánh cái này trên đường băng không? Họ đã từ bỏ yêu cầu đó. Họ đã từ bỏ các tấm gạch. Họ đã từ bỏ các cánh. Họ đã đưa ra một thiết kế đơn giản hơn, một khoang. Tất cả những gì họ phải làm là bảo vệ mũi của khoang này, có tấm chắn nhiệt ở phía trên, để khi nó đi vào khí quyển, Nó có thể chịu được nhiệt độ cao. Không chỉ chịu được mà còn phải tản nhiệt ra khỏi thân tàu, để phần còn lại của tàu không bị ảnh hưởng. Thiết kế thân tù của viên nang này đã thành công và đang được phát triển. Đây là cách họ quay lại các yêu cầu, và sau đó về cơ bản đã định hình lại tầm nhìn về tàu vũ trụ xoay quanh việc làm thế nào để thực hiện du hành vũ trụ có thể tái sử dụng. Tôi muốn kể câu chuyện này xoay quanh một câu nói. Câu nói này nói về sự hoàn hảo. Đây là một câu nói cổ điển của Antoine de Saint-Exupery. Ông là một phi công, một kỹ sư, không phải là một nhà phát triển phần mềm như chúng ta, hoặc hầu hết chúng ta. Điều ông ấy đề cập, khi chúng ta nói về sứ mệnh tàu vũ trụ, bạn có tư duy này, tôi cần giải quyết vấn đề hạ cánh trên đường băng. Tôi sẽ thêm các tấm gạch vào hệ thống. Sau đó bạn tiếp tục sửa chữa nó.