Lời hứa và mối nguy hiểm khi sử dụng AI để tuyển dụng: Bảo vệ chống lại sự thiên vị dữ liệu

Bởi nhân viên xu hướng AI Mặc dù AI trong tuyển dụng hiện được sử dụng rộng rãi để viết mô tả công việc, sàng lọc ứng viên và tự động hóa các cuộc phỏng vấn, nhưng nó có nguy cơ bị phân biệt đối xử trên diện rộng nếu không được triển khai cẩn thận. Keith Sonderling, Ủy viên, Ủy ban Cơ hội Bình đẳng Hoa Kỳ Đó là thông điệp của Keith Sonderling, Ủy viên Ủy ban Cơ hội Bình đẳng Hoa Kỳ, phát biểu tại sự kiện Chính phủ Thế giới AI được tổ chức trực tiếp và ảo ở Alexandria, Va., vào tuần trước. Sonderling chịu trách nhiệm thực thi luật liên bang cấm phân biệt đối xử với người xin việc vì chủng tộc, màu da, tôn giáo, giới tính, nguồn gốc quốc gia, độ tuổi hoặc tình trạng khuyết tật. Ông nói: “Ý nghĩ rằng AI sẽ trở thành xu hướng chủ đạo trong các bộ phận nhân sự gần giống với khoa học viễn tưởng hai năm trước, nhưng đại dịch đã đẩy nhanh tốc độ sử dụng AI của các nhà tuyển dụng”. “Tuyển dụng ảo hiện vẫn còn tồn tại.” Đó là thời gian bận rộn của các chuyên gia nhân sự. Sonderling nói: “Số lượng nhân viên từ chức lớn đang dẫn đến số lượng tuyển dụng lại lớn và AI sẽ đóng một vai trò trong đó mà chúng tôi chưa từng thấy trước đây”. AI đã được sử dụng trong nhiều năm trong công tác tuyển dụng—“Điều đó không xảy ra trong một sớm một chiều.”—cho các nhiệm vụ bao gồm trò chuyện với các ứng viên, dự đoán liệu ứng viên có nhận công việc hay không, dự đoán loại nhân viên mà họ sẽ trở thành và vạch ra các cơ hội nâng cao và đào tạo lại kỹ năng. “Nói tóm lại, AI hiện đang đưa ra tất cả các quyết định từng do nhân viên nhân sự đưa ra,” điều mà anh ấy không mô tả là tốt hay xấu. Sonderling cho biết: “Được thiết kế cẩn thận và sử dụng hợp lý, AI có tiềm năng giúp nơi làm việc trở nên công bằng hơn”. “Nhưng nếu được triển khai một cách bất cẩn, AI có thể phân biệt đối xử ở quy mô mà chúng tôi chưa từng thấy trước đây đối với một chuyên gia nhân sự.” Bộ dữ liệu đào tạo cho các mô hình AI được sử dụng để tuyển dụng cần phản ánh sự đa dạng Điều này là do các mô hình AI dựa vào dữ liệu đào tạo. Ông nói, nếu lực lượng lao động hiện tại của công ty được sử dụng làm cơ sở cho việc đào tạo, "Nó sẽ tái tạo hiện trạng. Nếu chủ yếu là một giới tính hoặc một chủng tộc, nó sẽ tái tạo điều đó". Ngược lại, AI có thể giúp giảm thiểu rủi ro tuyển dụng thiên vị theo chủng tộc, dân tộc hoặc tình trạng khuyết tật. “Tôi muốn thấy AI cải thiện khả năng phân biệt đối xử ở nơi làm việc,” anh nói. Amazon bắt đầu xây dựng một ứng dụng tuyển dụng vào năm 2014 và dần dần nhận ra rằng ứng dụng này đã phân biệt đối xử với phụ nữ trong các đề xuất của mình, bởi vì mô hình AI được đào tạo dựa trên tập dữ liệu về hồ sơ tuyển dụng của chính công ty trong 10 năm trước đó, chủ yếu là nam giới. Các nhà phát triển của Amazon đã cố gắng sửa nó nhưng cuối cùng đã loại bỏ hệ thống này vào năm 2017. Theo một tài khoản từ Reuters, Facebook gần đây đã đồng ý trả 14,25 triệu USD để giải quyết các khiếu nại dân sự của chính phủ Hoa Kỳ rằng công ty truyền thông xã hội này đã phân biệt đối xử với người lao động Mỹ và vi phạm các quy tắc tuyển dụng của liên bang. Vụ việc tập trung vào việc Facebook sử dụng cái mà họ gọi là chương trình PERM để cấp chứng chỉ lao động. Chính phủ phát hiện ra rằng Facebook đã từ chối thuê nhân công Mỹ cho những công việc vốn dành cho những người có thị thực tạm thời theo chương trình PERM. Sonderling nói: “Việc loại trừ những người khỏi nhóm tuyển dụng là một hành vi vi phạm.  Ông nói: “Nếu chương trình AI “từ chối sự tồn tại của cơ hội việc làm đối với lớp đó, để họ không thể thực hiện các quyền của mình hoặc nếu nó hạ cấp một lớp được bảo vệ thì đó là quyền của chúng tôi”. Đánh giá việc làm, trở nên phổ biến hơn sau Thế chiến thứ hai, đã mang lại giá trị cao cho các nhà quản lý nhân sự và với sự trợ giúp từ AI, họ có khả năng giảm thiểu thành kiến ​​trong tuyển dụng. Sonderling nói: “Đồng thời, họ dễ bị cáo buộc phân biệt đối xử, vì vậy, người sử dụng lao động cần phải cẩn thận và không thể áp dụng cách tiếp cận lỏng lẻo”. "Dữ liệu không chính xác sẽ khuếch đại sự thiên vị trong việc ra quyết định. Người sử dụng lao động phải cảnh giác trước những kết quả mang tính phân biệt đối xử." Ông đề xuất nghiên cứu các giải pháp từ các nhà cung cấp kiểm tra dữ liệu về nguy cơ sai lệch dựa trên chủng tộc, giới tính và các yếu tố khác. Một ví dụ là từ HireVue ở Nam Jordan, Utah, công ty đã xây dựng một nền tảng tuyển dụng dựa trên Nguyên tắc thống nhất của Ủy ban Cơ hội Bình đẳng Hoa Kỳ, được thiết kế đặc biệt để giảm thiểu các hành vi tuyển dụng không công bằng, theo một tài khoản từ allWork. Một bài đăng về các nguyên tắc đạo đức AI trên trang web của họ nêu rõ một phần: "Vì HireVue sử dụng công nghệ AI trong các sản phẩm của mình nên chúng tôi tích cực nỗ lực ngăn chặn việc giới thiệu hoặc lan truyền thành kiến ​​chống lại bất kỳ nhóm hoặc cá nhân nào. Chúng tôi sẽ tiếp tục xem xét cẩn thận các tập dữ liệu chúng tôi sử dụng trong công việc và đảm bảo rằng chúng chính xác và đa dạng nhất có thể. Chúng tôi cũng tiếp tục nâng cao khả năng giám sát, phát hiện và giảm thiểu thành kiến. Chúng tôi cố gắng xây dựng các nhóm có nền tảng khác nhau với kiến ​​thức, kinh nghiệm và quan điểm đa dạng để đại diện tốt nhất cho những người mà hệ thống của chúng tôi phục vụ." Ngoài ra, "Các nhà khoa học dữ liệu và nhà tâm lý học IO của chúng tôi xây dựng các thuật toán Đánh giá HireVue theo cách loại bỏ dữ liệu khỏi quá trình xem xét của thuật toán góp phần gây ra tác động tiêu cực mà không ảnh hưởng đáng kể đến độ chính xác dự đoán của đánh giá. Kết quả là một đánh giá có giá trị cao, giảm thiểu thành kiến, giúp nâng cao khả năng ra quyết định của con người đồng thời tích cực thúc đẩy sự đa dạng và cơ hội bình đẳng bất kể giới tính, dân tộc, độ tuổi hoặc tình trạng khuyết tật." Tiến sĩ Ed Ikeguchi, Giám đốc điều hành, AiCure Vấn đề sai lệch trong các bộ dữ liệu được sử dụng để đào tạo các mô hình AI không chỉ giới hạn ở việc tuyển dụng. Tiến sĩ Ed Ikeguchi, Giám đốc điều hành của AiCure, một công ty phân tích AI hoạt động trong ngành khoa học đời sống, đã tuyên bố trong một tài khoản gần đây trên HealthcareITNews: "AI chỉ mạnh bằng dữ liệu mà nó cung cấp và gần đây, độ tin cậy của xương sống dữ liệu ngày càng bị nghi ngờ. Các nhà phát triển AI ngày nay thiếu quyền truy cập vào các tập dữ liệu lớn, đa dạng để đào tạo và xác thực các công cụ mới." Ông nói thêm: "Họ thường cần tận dụng các tập dữ liệu nguồn mở, nhưng nhiều người trong số này đã được đào tạo bằng cách sử dụng các tình nguyện viên lập trình máy tính, vốn chủ yếu là người da trắng. Bởi vì các thuật toán thường được đào tạo trên các mẫu dữ liệu có nguồn gốc duy nhất với độ đa dạng hạn chế, khi áp dụng trong rea."