Khóa huấn luyện chuyên sâu về An toàn AI kỹ thuật ML4Good: Những điều cần biết

Trang web này yêu cầu JavaScript để hoạt động đúng cách. Vui lòng cân nhắc kích hoạt JavaScript để truy cập đầy đủ chức năng của trang web. LESSWRONG LW Đăng nhập Bên trong Trại huấn luyện An toàn AI Kỹ thuật ML4Good: Những điều cần biết — LessWrong Blog cá nhân 7 Bên trong Trại huấn luyện An toàn AI Kỹ thuật ML4Good: Những điều cần biết bởi Igor Maljkovic Ngày 4/10/2026 Đọc 5 phút 0 7 TÓM TẮT i) ML4Good là một trại huấn luyện chuyên sâu kéo dài tám ngày về an toàn AI kỹ thuật, bao gồm các chủ đề như tác nhân AI, căn chỉnh (alignment), suy luận mô hình, đánh giá, khả năng giải thích và quản trị AI. ii) Chương trình cung cấp thông tin hữu ích về các học bổng, cơ hội nghề nghiệp, khởi nghiệp về an toàn AI và hệ sinh thái an toàn AI rộng lớn hơn. iii) Tôi khuyến khích những người quan tâm đến an toàn AI nộp đơn, bao gồm cả những người đã có nền tảng kỹ thuật vững chắc. Giới thiệu Xin chào thế giới! Tôi muốn chia sẻ kinh nghiệm có được từ trại huấn luyện ML4Good về an toàn AI kỹ thuật, được tổ chức gần Lyon, Pháp. Trong bài đăng này, tôi sẽ cố gắng tóm tắt mọi thứ một cách ngắn gọn, từ quá trình nộp đơn và phỏng vấn đến trải nghiệm trại huấn luyện. Quy trình nộp đơn Hãy bắt đầu với quy trình nộp đơn. Quy trình này khá đơn giản: truy cập trang web chính thức của ML4Good và nộp đơn cho khóa học bạn muốn tham gia. Xem phần “Tìm một trại huấn luyện”. Đơn đăng ký rất đơn giản. Bạn phải hoàn thành một biểu mẫu, trong đó bạn được yêu cầu trả lời các câu hỏi từ “Tại sao bạn nộp đơn vào chương trình này?” đến “Bạn nghĩ gì về rủi ro và lợi ích của AI?”. Sau khi nộp đơn, bạn phải chờ một thời gian để xem liệu bạn có vượt qua giai đoạn sơ tuyển hay không. Nếu có, bạn sẽ nhận được một email thông báo rằng bạn đã chuyển sang giai đoạn tiếp theo, cùng với một lịch trình để bạn có thể chọn ngày và giờ phù hợp nhất cho một cuộc phỏng vấn với người thật (không phải phỏng vấn AI 😂). Sau cuộc phỏng vấn, bạn có thể mong đợi nhận được kết quả trong vòng vài ngày. Quy trình phỏng vấn Bây giờ, hãy chuyển sang cuộc phỏng vấn. Tôi không được phép đăng các câu hỏi chính xác mà tôi đã được hỏi. Cuộc phỏng vấn ngắn gọn, kéo dài khoảng 10–15 phút. Bạn được hỏi năm câu hỏi tuần tự và bạn có khoảng 2–3 phút để trả lời mỗi câu. Nếu bạn nhận được một email tích cực sau cuộc phỏng vấn, XIN CHÚC MỪNG bạn đã được chọn! Cuộc phiêu lưu có thể bắt đầu. Các nhà tổ chức sẽ gửi cho bạn một email yêu cầu xác nhận tham gia, cùng với một số câu hỏi chung về thực phẩm, ví dụ như bạn có bất kỳ dị ứng hoặc hạn chế ăn uống nào không. Nếu bạn không được chọn, đừng nản lòng và hãy nộp đơn cho các khóa học tiếp theo! Chi phí và Chỗ ở Cần lưu ý rằng khóa huấn luyện này hoàn toàn MIỄN PHÍ. Ban tổ chức cung cấp chỗ ở và ba bữa ăn mỗi ngày. Người tham gia cũng có thể yêu cầu hoàn trả chi phí đi lại lên đến 180 euro. Do đó, tùy thuộc vào chi phí di chuyển, khóa huấn luyện có thể chi trả gần như toàn bộ các khoản phí của người tham gia. Trải nghiệm khóa huấn luyện Tiếp theo là phần trình bày về chính khóa huấn luyện. Trước khi giải thích chi tiết, cần nhấn mạnh rằng người viết là một nghiên cứu sinh tiến sĩ làm việc trong lĩnh vực an ninh và an toàn AI, đồng thời đã có khá nhiều kiến thức về lĩnh vực này. Nói cách khác, người viết không phải là người mới bắt đầu muốn chuyển sang lĩnh vực an toàn AI từ một ngành nghề khác. Người viết đã có kiến thức kỹ thuật khá sâu về lĩnh vực này. Lý do đưa ra thông tin này là gì? Bởi vì có thể có những người đang ở giai đoạn tương tự trong sự nghiệp của họ, còn băn khoăn không biết có nên đăng ký hay không vì họ không biết mình có thể đạt được gì từ khóa huấn luyện này. Dựa trên kinh nghiệm của người viết, vẫn khuyến khích mạnh mẽ họ đăng ký, bởi vì ngay cả khi đã có nền tảng kỹ thuật vững chắc, người tham gia vẫn có thể học được MỘT SỐ điều mới và trên hết, thu thập được nhiều thông tin hữu ích về các cơ hội trong lĩnh vực an toàn AI. Với những thông tin trên, chúng ta hãy bắt đầu. Đây là một khóa huấn luyện chuyên sâu kéo dài tám ngày, vì vậy các bài giảng thường được tổ chức từ 9 giờ sáng đến 7-7 giờ 30 tối, với nhiều giờ giải lao ngắn xen kẽ và một giờ nghỉ trưa dài từ 1 giờ chiều đến 2 giờ chiều. Ngoài ra còn có một giờ giải lao dài hơn khoảng 30 phút vào cuối buổi chiều. Ngay sau bài giảng buổi tối cuối cùng, bữa tối sẽ được phục vụ. Trong khóa ML4Good này, lịch trình được sắp xếp như trên, nhưng có thể khác nhau giữa các khóa. Các bài giảng Các bài giảng hoàn toàn ĐƯỢC CẬP NHẬT và PHÙ HỢP với tình hình hiện tại của công nghệ. Ví dụ, người tham gia sẽ không mất thời gian nghiên cứu CNN hoặc GAN. Các bài học kỹ thuật bao gồm các chủ đề như tác nhân AI (AI agents), tiền huấn luyện mô hình (model pre-training), các kỹ thuật căn chỉnh (alignment techniques) như RLHF, RLAIF và AI Hiến pháp (Constitutional AI), khả năng diễn giải (interpretability), lý luận mô hình (model reasoning) (bao gồm Chain-of-Thought (CoT) và ReAct), đánh giá (evaluations) và transformer như kiến trúc nền tảng đằng sau nhiều mô hình hiện đại. Cũng có nhiều buổi thực hành lập trình (coding sessions) nơi người tham gia làm việc trên Colab về các chủ đề như xây dựng tác nhân AI từ đầu, xây dựng transformer từ đầu, CoT và các chủ đề khác. LƯU Ý RẰNG người tham gia có thể bỏ qua bài tập lập trình nếu đã tự tin về chủ đề đó. Ví dụ, người viết đã bỏ qua bài tập lập trình transformer cùng với một vài người tham gia khác, và chúng tôi đã dành ba giờ nói chuyện với một giảng viên về các rủi ro mới nổi từ AI và cách giảm thiểu chúng. Mặt khác, cũng có các bài giảng về quản trị AI (AI governance), một chủ đề cực kỳ quan trọng hiện nay. Người viết thấy phần này đặc biệt thú vị vì trước khi tham gia khóa huấn luyện, người viết không biết nhiều về quản trị AI. Điều đặc biệt được đánh giá cao là chương trình không coi quản trị và an toàn AI kỹ thuật là những lĩnh vực hoàn toàn tách biệt. Cũng có một bài giảng về quản trị AI kỹ thuật, giúp thu hẹp khoảng cách giữa hai lĩnh vực này và cho thấy các phương pháp kỹ thuật có thể đóng góp như thế nào vào các nỗ lực quản trị rộng lớn hơn. Ngoài ra, khóa huấn luyện không chỉ dựa trên định dạng "tiếp thu bài giảng". Có nhiều buổi mà người tham gia tích cực thảo luận các chủ đề khác nhau với giảng viên và những người tham gia khác. Lời khuyên nghề nghiệp và học bổng Đối với người viết, đây là phần quan trọng nhất của khóa huấn luyện, bởi vì...