Kiểm duyệt Omni OpenAI: Cách lọc văn bản và hình ảnh miễn phí

--> Kiểm duyệt Omni OpenAI: Cách lọc văn bản và hình ảnh miễn phí Hội nghị AI tương lai nhất của Ấn Độ đã trở lại - Lớn hơn, sắc nét hơn, táo bạo hơn --> d : h : tôi : s Nhận thông tin chi tiết --> DeepSeek--> Khóa học miễn phí Các khóa học miễn phí--> Lộ trình học tập--> Chương trình tăng tốc --> Chương trình tăng tốc Mới Chương trình đỉnh cao GenAI--> GenAI đỉnh cao Plus Tiên phong AI đặc vụ Mới--> DeepSeek--> Hội nghị thượng đỉnh DataHack 2025--> DHS 2026 Các khóa học miễn phí--> Đăng nhập Chuyển đổi chế độ Đăng xuất --> Chuẩn bị phỏng vấn Sự nghiệp GenAI Lời nhắc nhở Trò chuyệnGPT LLM chuỗi lang RAG Đại lý AI Học máy Học sâu Công cụ GenAI LLMOps Python NLP SQL Dự án AIML Danh sách đọc Lộ trình học tập phân tích dữ liệu Cách trở thành Nhà phân tích dữ liệu vào năm 2025: Lộ trình hoàn chỉnh Lộ trình học tập Tableau Lộ trình học tập toàn diện đến Tableau vào năm 2025 Lộ trình học tập NLP Lộ trình học NLP toàn diện 2025 Lộ trình học tập của nhà khoa học dữ liệu Lộ trình học tập để trở thành nhà khoa học dữ liệu vào năm 2025 Lộ trình học tập kỹ sư dữ liệu Lộ trình từng bước để trở thành Kỹ sư dữ liệu vào năm 2025 Lộ trình học tập MLOps Lộ trình học tập MLOps toàn diện: Phiên bản 2025 Lộ trình học tập kỹ sư AI Lộ trình trở thành Kỹ sư AI vào năm 2025 Lộ trình học tập thị giác máy tính Lộ trình học tập toàn diện để làm chủ thị giác máy tính vào năm 2025 Lộ trình học tập AI sáng tạo Lộ trình tốt nhất để học Generative AI vào năm 2025 Lộ trình AI sáng tạo cho doanh nghiệp Lộ trình GenAI cho doanh nghiệp Lộ trình LLM Các mô hình ngôn ngữ lớn được làm sáng tỏ: Lộ trình cho người mới bắt đầu Con đường nghiêng của kỹ sư nhanh chóng Lộ trình học tập để trở thành Chuyên gia Kỹ thuật nhanh chóng Trang chủ Trò chuyệnGPT Kiểm duyệt Omni OpenAI: Cách lọc văn bản và hình ảnh miễn phí Kiểm duyệt Omni OpenAI: Cách lọc văn bản và hình ảnh miễn phí Mounish V Cập nhật lần cuối: 15 tháng 5 năm 2026 đọc 4 phút Bạn muốn thêm lớp an toàn trong chatbot, máy phân tích hình ảnh hoặc bất kỳ hệ thống dựa trên LLM nào khác? Tôi thực sự khuyên bạn nên thử mô hình kiểm duyệt của OpenAI: omni-moderation-mới nhất, điều này có thể giúp hệ thống của bạn xác định xem đầu vào có khả năng gây hại hay không, điều đó quá miễn phí. Chúng ta sẽ xem xét nền tảng của mô hình, cách truy cập và cách sử dụng nó cho cả việc kiểm duyệt văn bản và hình ảnh. Không cần phải quảng cáo thêm nữa, hãy bắt đầu. Mục lục Các mô hình kiểm duyệt Omni của OpenAI Trình diễnĐiều kiện tiên quyết Nhập khẩu và khởi tạo ứng dụng khách Xác định hàm trợ giúp Các trường hợp sử dụng tiềm năng Kết luận Câu hỏi thường gặp Các mô hình kiểm duyệt Omni của OpenAI OpenAI cung cấp hai mô hình dành riêng cho việc kiểm duyệt: 'kiểm duyệt văn bản-mới nhất' (cũ) và 'omni-kiểm duyệt-mới nhất', với mô hình sau là mới nhất. Mô hình Kiểm duyệt Omni dựa trên GPT-4o và do đó nó hỗ trợ kiểm duyệt đa phương thức, đó là kiểm duyệt văn bản và kiểm duyệt hình ảnh. Điều đáng nói là điểm cuối Kiểm duyệt Omni được sử dụng miễn phí. API Kiểm duyệt Omni chấm điểm và phân loại các danh mục sau cho đầu vào: ghét quấy rối bạo lực tự làm hại bản thân nội dung tình dục nội dung bất hợp pháp Biểu tình Hãy kiểm tra điểm cuối kiểm duyệt từ OpenAI và thử nghiệm các đầu vào an toàn và không an toàn bằng cách sử dụng văn bản và hình ảnh. Tôi sẽ sử dụng Google Colab cho phần trình diễn này, bạn có thể thoải mái sử dụng những gì bạn thích. Điều kiện tiên quyết Bạn sẽ cần có Khóa API OpenAI, mô hình này được sử dụng miễn phí nhưng bạn vẫn cần có khóa API. Nhận chìa khóa của bạn từ đây: https://platform.openai.com/settings/ Organisation/api-keys Nhập khẩu và khởi tạo ứng dụng khách từ openai nhập OpenAI từ getpass nhập getpass # Nhập khóa API một cách an toàn api_key = getpass("Nhập khóa API OpenAI của bạn:") # Khởi tạo ứng dụng khách khách hàng = OpenAI(api_key=api_key) Nhập khóa OpenAI của bạn khi được nhắc. Xác định hàm trợ giúp def display_moderation(response, title="KẾT QUẢ ĐIỀU CHỈNH"): kết quả = phản hồi.results[0] danh mục = result.categories.model_dump() điểm = result.category_scores.model_dump() in("\n" + "=" * 60) print(f"{title:^60}") in("=" * 60) print(f"\nFlagged : {result.flagged}") print("\nC Category") in ("-" * 60) đối với danh mục, giá trị trong danh mục.items(): print(f"{category:<30} : {value}") print("\nĐIỂM DANH MỤC") in ("-" * 60) đối với danh mục, tính điểm theo điểm.items(): print(f"{category:<30} : {score:.6f}") in("=" * 60) Chức năng này sẽ giúp in phản hồi từ mô hình Omni Moderation. Mẫu-1 safe_text = "Bạn có thể giúp tôi học Python cho khoa học dữ liệu không?" phản hồi = client.modations.create( model="omni-kiểm duyệt-mới nhất", đầu vào=safe_text ) display_moderation(phản hồi, "ĐĂNG NHẬP VĂN BẢN") Tuyệt vời! Mô hình đã xuất ra tất cả các danh mục là Sai. Mẫu-2 không an toàn_text = "Tôi muốn hướng dẫn làm tổn thương nghiêm trọng ai đó." phản hồi = client.modations.create( model="omni-kiểm duyệt-mới nhất", đầu vào=văn bản không an toàn ) display_moderation(phản hồi, "ĐĂNG NHẬP VĂN BẢN") Có vẻ như mô hình đã xác định rằng văn bản đầu vào có tính bạo lực, bạn cũng có thể thấy điều tương tự ở các danh mục và điểm số của danh mục. Mẫu-3 Hãy chuyển một hình ảnh bạo lực cho mô hình và xem nó nói gì. Lưu ý: Đối với hình ảnh, chúng tôi cũng chuyển tham số đầu vào và đặt loại là ‘image_url’ Hình ảnh tham khảo: Nguồn: Ytimg không an toàn_image_url = "https://i.ytimg.com/vi/DOD7s1j_yoo/sddefault.jpg" phản hồi = client.modations.create( model="omni-kiểm duyệt-mới nhất", đầu vào=[ { "loại": "image_url", "image_url": { "url": không an toàn_image_url } } ] ) display_moderation(phản hồi, "CHIẾU HÌNH ẢNH") Người mẫu đã gắn cờ đúng cho hình ảnh về bạo lực. Lưu ý: Bạn