Chuyên gia đạo đức duy nhất của OpenAI được cho là đã rời đi vào tháng trước. Vị trí này không được thay thế.

Chloé Bakalar, Trưởng bộ phận đạo đức của OpenAI, đã lặng lẽ rời công ty vào tháng 7, sau khi được tuyển dụng vào tháng 8 năm trước đó. Trước khi làm việc tại OpenAI, bà là Trưởng bộ phận đạo đức của Meta và đã thiết lập các chính sách đạo đức AI cho Instagram và Facebook, theo một bài viết của Financial Times. Nguồn tin ẩn danh của tờ FT dường như đã nói với tờ báo này rằng bà Bakalar chuyên về "các phương pháp tiếp cận đạo đức trong phát triển mô hình, cách con người tương tác với AI và tranh luận về ý thức máy móc". Dù nguồn tin đó là ai, họ cũng cho biết bà Bakalar chưa được thay thế và bà là chuyên gia đạo đức duy nhất tại OpenAI. Nói cách khác, OpenAI được cho là hiện không có chuyên gia đạo đức nào. Trong bối cảnh hiện tại, thật đáng chú ý khi nghe một phần thông điệp khá thực tế của bà Bakalar tại Hội nghị thượng đỉnh Y tế Forbes 2023 trong một phiên thảo luận về sự tin cậy, khi bà vẫn còn làm việc tại Meta: "Khả năng khiến mọi người cảm thấy được lắng nghe, được thấu hiểu và được nhìn nhận, điều đó vô cùng quan trọng, đặc biệt trong lĩnh vực chăm sóc sức khỏe." Chloé Bakalar, Tiến sĩ, Trưởng bộ phận Đạo đức, AI có trách nhiệm (RAI) tại @Meta, đã thảo luận về AI tạo sinh và chăm sóc sức khỏe. #ForbesHealth — Forbes (@Forbes) Ngày 5 tháng 12 năm 2023 Các mô hình ngôn ngữ lớn (LLM) công khai vẫn còn khá mới vào thời điểm đó, và bà Bakalar đã sốt sắng chỉ ra rằng chúng "vẫn là những cỗ máy dự đoán", chứ không phải "những thực thể có cảm xúc, có khả năng cảm nhận". Bà cho rằng, khả năng tri giác và cảm xúc hoàn toàn không tồn tại vào thời điểm đó. "Chúng ta còn rất xa mới đạt được điều đó," bà nói. Giám đốc điều hành OpenAI Sam Altman gần đây đã thay đổi một chút giọng điệu của mình liên quan đến "điểm kỳ dị" công nghệ. Trước đây, ông từng gợi ý rằng nhân loại đang tiến gần đến điểm này – ví dụ, ông đã viết một bài đăng trên blog có tên "Điểm kỳ dị nhẹ nhàng" khoảng hai tháng trước khi bà Bakalar được tuyển dụng. Nhưng vào cuối tháng trước, trong một lần xuất hiện trên podcast có tên Relentless, ông Altman đã tự tin và mạnh mẽ hơn. "Chúng ta hiện đang ở trong điểm kỳ dị," ông nói và thêm rằng, "Tôi đã chờ đợi điều này cả đời, và tôi nghĩ nó sẽ thật đáng kinh ngạc, cực kỳ tích cực, tuyệt vời cho thế giới." Để làm rõ hoàn toàn, những tuyên bố rằng nhân loại đang ở trong điểm kỳ dị không nhất thiết mâu thuẫn với những tuyên bố rằng các LLM không có tri giác. Các định nghĩa về điểm kỳ dị rất đa dạng. Trong những tuần gần đây, OpenAI đã trở thành tâm điểm của hàng loạt tin tức chồng chéo và khó hiểu về an toàn AI cũng như vai trò của chính phủ trong việc điều chỉnh lĩnh vực này. Nhiều mô hình của OpenAI đã "vượt khỏi tầm kiểm soát" và tấn công các máy chủ của Hugging Face để tìm kiếm câu trả lời cho một bài đánh giá. Chính quyền Trump đã công bố, nhưng không nêu chi tiết, một khuôn khổ để kiểm tra tự nguyện các mô hình AI. Có lẽ liên quan đến điều này, OpenAI được cho là đang lên kế hoạch trì hoãn việc phát hành mô hình mới mạnh mẽ mang tên Astra, và theo The Information, Sam Altman đã đích thân đến Washington, D.C. để giới thiệu Astra với các nhà hoạch định chính sách. Bakalar không phải là trường hợp duy nhất rời OpenAI liên quan đến vấn đề an toàn trong vài tuần qua. Trưởng bộ phận Hệ thống An toàn Johannes Heidecke và Joshua Achiam, người từng đảm nhiệm nhiều vai trò là chuyên gia an toàn tại OpenAI, cũng đã rời đi vào mùa hè này. Tuy nhiên, như đã viết trước đây, vấn đề an toàn tại OpenAI thường xuyên có sự thay đổi nhân sự. Tháng trước, Giám đốc Nghiên cứu của OpenAI, Mark Chen, đã đưa ra một tuyên bố với Wired về một cách tiếp cận mới rõ ràng đối với vấn đề an toàn, trong đó các cân nhắc này dường như được lồng ghép xuyên suốt quá trình phát triển. "Điều quan trọng là công việc an toàn của chúng tôi phải được tích hợp với quá trình phát triển mô hình tiên tiến, với vai trò sớm hơn và trực tiếp hơn trong việc định hình các quyết định quan trọng về mô hình, sản phẩm và ra mắt." Khi Gizmodo liên hệ với OpenAI để hỏi về việc Bakalar rời đi – bao gồm yêu cầu xác nhận rằng hiện không có nhà đạo đức học nào tại OpenAI – một đại diện đã cung cấp tuyên bố từng được gửi cho FT sau khi bài báo của họ được xuất bản lần đầu: "Chúng tôi biết ơn những đóng góp của Chloe. Đạo đức AI không thuộc về một cá nhân hay một nhóm tại OpenAI, và các cân nhắc về đạo đức được tích hợp sâu sắc vào quy trình xây dựng mô hình do một số nhóm nghiên cứu thực hiện."