Công cụ tuyển dụng bằng AI của Amazon không “thích” phụ nữ



Công cụ tuyển dụng bằng AI của Amazon không “thích” phụ nữ

Thanh Lam 0:15 11/10/2018

Các chuyên gia máy tính của Amazon đã phát hiện công cụ tuyển dụng bằng trí thông minh nhân tạo của họ không thích phụ nữ.

Nhóm nghiên cứu của Amazon đã xây dựng công cụ tuyển dụng AI (từ năm 2014) nhằm thực hiện việc đánh giá các ứng viên với những điểm số khác nhau theo thang bậc từ một đến năm sao, giống như việc đưa ra đánh giá tỷ lệ người mua sản phẩm trên trang web của Amazon.

Đại diện nhóm nghiên cứu cho biết: “Chúng tôi đều cho rằng nó khá hiệu quả. Nguyên tắc hoạt động là đưa cho công cụ này 100 hồ sơ. Sau đó, nó sẽ lọc ra 5 ứng viên chất lượng tốt nhất. Chúng tôi sẽ thuê những người đó".

Nhưng chỉ sau một năm (2015), những người phát triển công cụ này đã nhận ra điểm bất thường: việc xếp hạng ứng viên đối với vị trí phát triển phần mềm và phụ trách kỹ thuật đã cho ra kết quả với sự chênh lệch giữa ứng viên nam và nữ. Điều này được lí giải bằng nguyên nhân do các mô hình máy tính của Amazon được lập trình lọc bằng cách quan sát mẫu trong hồ sơ được gửi đến công ty trong khoảng thời gian 10 năm. Hầu hết mẫu này đều là lao động nam.

Điều này phần nào cho thấy nam giới đang “thống trị” lĩnh vực này. Nói đúng hơn, công cụ của Amazon đã tự mặc định rằng: Các ứng viên nam giới thích hợp hơn, nên sẽ bỏ qua các hồ sơ có xuất hiện yếu tố “nữ giới”.

Hiện tại, Amazon đã chỉnh sửa các chương trình để công cụ này trung lập với những thuật ngữ liên quan đến nữ giới. Nhưng chính những thành viên của nhóm nghiên cứu cũng không dám chắc công cụ AI sẽ không đưa ra những yếu tố khác có thể liên quan đến sự khác biệt giữa nam và nữ.

Các nhà tuyển dụng của Amazon cũng công bố họ chỉ xem xét các khuyến nghị do công cụ AI tạo ra khi tìm kiếm nhân viên mới, nhưng không hoàn toàn phụ thuộc. Amazon cũng từ chối bình luận về động cơ tuyển dụng hoặc những thách thức của công cụ AI. Nhưng công ty cho biết: Họ cam kết đa dạng hóa nơi làm việc và tạo lập môi trường bình đẳng.

Thử nghiệm của Amazon là nghiên cứu điển hình cho thấy những hạn chế của trí thông minh nhân tạo. Nó cũng mang lại bài học đắt giá cho các các công ty lớn đang có ý định tự động hóa khâu tuyển dụng bao gồm Hilton Worldwide Holdings Inc (HLT.N) và Goldman Sachs Group Inc (GS.N).

Các nhà tuyển dụng trên thế giới từ lâu đã mơ ước khai thác công nghệ để mở rộng mạng lưới tuyển dụng và giảm sự phụ thuộc vào các ý kiến ​​chủ quan của người phụ trách tuyển dụng. Theo cuộc khảo sát của Công ty phần mềm tài năng CareerBuilder thực hiện năm 2017, khoảng 55% nhà quản lý nhân sự Mỹ cho biết: Khoảng 5 năm tới, trí thông minh nhân tạo (AI) sẽ xuất hiện thường xuyên hơn trong công việc của họ .

Nhưng các nhà khoa học máy tính như Nihar Shah - Giảng viên tại Đại học Carnegie Mellon - lại không lạc quan như vậy. Ông cho biết: "Làm thế nào để đảm bảo rằng thuật toán là công bằng. Điều đó khá xa vời”.

Không chỉ Amazon, nhiều tên nổi bật khác cũng cố gắng sử dụng AI để hỗ trợ tối đa cho mục tiêu tuyển dụng. Kevin Parker - CEO của HireVue, startup ngành nhân sự ở thành phố Salt Lake - cho biết: Tự động hóa giúp việc tuyển dụng trở nên đơn giản hơn. Công cụ mà công ty ông tạo ra sẽ phân tích giọng nói và nét mặt của ứng cử viên trong các video phỏng vấn để giảm sự phụ thuộc vào hồ sơ. Khách hàng của công ty ông bao gồm tập đoàn Unilever PLC và Hilton.

Trong khi đó, Goldman Sachs đã tạo ra công cụ phân tích sơ yếu lý lịch để cố gắng kết hợp các ứng cử viên với bộ phận mà họ sẽ "phù hợp nhất" trong công ty. Microsoft Corp's LinkedIn còn đi xa hơn khi cung cấp cho người sử dụng lao động bảng xếp hạng thuật toán của các ứng cử viên dựa trên sự phù hợp của họ cho công việc đăng trên trang web. Tuy nhiên, John Jersin - Phó Chủ tịch LinkedIn Talent Solutions - cho biết: Dịch vụ này không thể thay thế hoàn toàn các nhà tuyển dụng truyền thống. "Tôi sẽ không tin tưởng vào hệ thống AI để đưa ra quyết định thuê nhân công. Công nghệ này chưa phải là tối ưu”.

Một số nhà hoạt động xã hội cho biết: Họ lo ngại về tính minh bạch trong AI. Hiện tại, Liên minh Tự do Dân sự Hoa Kỳ cố gắng vận động việc thông qua đạo luật cho phép truy tố hình sự được đưa ra bởi các nhà nghiên cứu và nhà báo, những người đã kiểm tra và phát hiện có yếu tố phân biệt đối xử trong việc sử dụng các thuật toán trong tuyển dụng".

Tuy nhiên, Goodman và các nhà phê bình khác của AI thừa nhận rất khó để kiện chủ nhân AI của có hành vi phân biệt đối xử. Ứng viên có thể không bao giờ biết công cụ AI có được sử dụng hay không.

Với Amazon, sau thử nghiệm AI thất bại, chúng được được sử dụng để thực hiện một vài khâu của tuyển dụng bao gồm cả tiêu hủy hồ sơ ứng cử viên trùng lặp từ cơ sở dữ liệu. Một nhóm nghiên cứu mới cũng được thành lập ở Edinburgh để thử nghiệm mô hình AI sàng lọc mới, đa dạng hơn.

Theo Reuters


Thanh Lam