ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← An toàn & Đạo đức

AI Foundation

Thiên kiến & Công bằng trong Tuyển dụng

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Công cụ AI tuyển dụng của Amazon bị huỷ vì phân biệt đối xử với ứng viên nữ

lesson30 minAn toàn & Đạo đứcAI Foundation

Giới thiệu

Hãy tưởng tượng bạn nộp hồ sơ xin việc tại một trong những công ty công nghệ lớn nhất thế giới — nhưng trước khi bất kỳ nhà tuyển dụng nào đọc CV, một thuật toán đã âm thầm hạ điểm bạn. Lý do không phải vì bạn thiếu năng lực — mà vì cỗ máy “học” được rằng “ứng viên giỏi” nghĩa là “ứng viên nam”.

Đó chính xác là những gì đã xảy ra tại Amazon từ năm 2014 đến 2017. Một đội 12 kỹ sư tại Edinburgh xây dựng hệ thống chấm CV 1-5 sao — và mô hình học từ 10 năm dữ liệu đã trừ điểm mọi hồ sơ có từ “women’s” trong đó.

“Everyone wanted this holy grail. They literally wanted it to be an engine where I’m going to give you 100 résumés, it will spit out the top five, and we’ll hire those.” — Nguồn ẩn danh trong đội Amazon, trả lời Reuters 10/2018

Dòng thời gian

1 / 3
  1. 1. 2014 · Amazon

    Thành lập đội 12 người tại Edinburgh. Amazon tin tưởng có thể tự động hoá sàng lọc CV, chấm 1-5 sao như đánh giá sản phẩm.

Thiên kiến trong học máy xảy ra khi mô hình AI học và tái tạo các khuôn mẫu phân biệt đối xử có sẵn trong dữ liệu huấn luyện. Khi dữ liệu lịch sử phản ánh sự bất bình đẳng — ngành công nghệ có khoảng 77% nam giới trong lực lượng lao động kỹ thuật cao theo EEOC — thuật toán mã hoá sự mất cân bằng đó thành “tiêu chuẩn chất lượng”.

Kết quả là vòng lặp tự củng cố: dữ liệu thiên lệch tạo mô hình thiên lệch, mô hình đưa ra quyết định thiên lệch, và quyết định đó lại trở thành dữ liệu huấn luyện tiếp theo. Không phá vỡ được vòng lặp, AI không tự “khá lên” — nó càng lúc càng củng cố định kiến cũ.

Vì sao vòng lặp này xảy ra

Bốn bước của Amazon

1 / 4
  1. 1. Thu thập dữ liệu 10 năm

    Amazon lấy toàn bộ hồ sơ xin việc của công ty trong 10 năm qua làm dữ liệu huấn luyện — khoảng 500 mô hình riêng cho từng vị trí và địa điểm. Phần lớn những CV “thành công” trong quá khứ là của nam giới, vì ngành công nghệ vốn đã mất cân bằng giới.

So sánh: không audit vs có quy trình audit

Công ty không auditCông ty có quy trình audit
Kết quảChênh lệch tuyển nam-nữ 30-40 điểm % không ai phát hiện cho đến khi kiện tụngĐo chênh lệch tỷ lệ, TPR, FPR theo từng nhóm nhạy cảm hàng quý
Pháp lýVi phạm Điều 8 Bộ luật Lao động 2019 về phân biệt đối xử trong tuyển dụngCó DPIA theo Nghị định 13/2023 trước khi triển khai
Ứng viênKhông có cơ chế khiếu nại — ứng viên bị loại không biết vì saoKênh khiếu nại minh bạch — ứng viên được giải thích lý do từ chối
Quyết địnhKhi dính scandal, 3 năm đầu tư bị huỷ trong một ngày (giống Amazon 2017)Human-in-the-loop: mọi ứng viên bị loại đều được HR phúc tra

Cùng một công cụ AI — hai cách triển khai hoàn toàn khác nhau.

Kịch bản có audit và không audit

Thực tế (không audit)Kịch bản có audit
Dùng 10 năm dữ liệu thô — không kiểm tra cân bằng giới trong tập huấn luyện.Thực hiện DPIA trước khi huấn luyện — phát hiện mất cân bằng 77/23 ngay từ đầu.
Triển khai nội bộ sau khi test chức năng — không test công bằng.Cân bằng dữ liệu bằng oversampling hoặc reweighting — giảm 80% chênh lệch đầu vào.
Phát hiện bias sau khi kỹ sư tình cờ nhận ra — quá trễ, mô hình đã chạy nhiều tháng.Audit theo từng nhóm trước khi deploy — đo TPR, FPR, tỷ lệ chọn theo giới.
Cố sửa bằng cách xoá từ khoá — bias chui vào proxy mới.Human-in-the-loop cho mọi quyết định — AI chỉ đề xuất, HR ký duyệt.
Huỷ toàn bộ dự án — mất 3 năm, 12 kỹ sư, hình ảnh thương hiệu.Có kênh khiếu nại và phúc tra — bảo vệ uy tín khi AI sai.

Cùng dữ liệu đầu vào, hai quy trình khác nhau. Nếu đội ngũ Amazon đã áp dụng các nguyên tắc công bằng từ đầu, kịch bản có thể đã hoàn toàn khác.

Doanh nghiệp Việt — 5 bước triển khai

Năm bước

1 / 5
  1. 1. Xác định nhóm nhạy cảm

    Theo Điều 8 Bộ luật Lao động: giới, tuổi, dân tộc, tôn giáo, hoàn cảnh gia đình.

Ba kỹ thuật giảm bias phổ biến

Ba nhóm kỹ thuật

1 / 3
  1. 1. Pre-processing

    Cân bằng dữ liệu đầu vào — oversample nhóm thiểu số, reweighting, hoặc thu thập thêm dữ liệu mục tiêu.

Cần ghi nhớ

  • Không có AI “công bằng tuyệt đối” — chỉ có lựa chọn có chứng minh.
  • Khi AI sàng lọc ứng viên, trách nhiệm pháp lý vẫn thuộc doanh nghiệp, không phải vendor.
  • Audit phải trước và trong suốt vòng đời, không phải một lần.
  • Lưu lại quyết định “chọn tiêu chí công bằng nào” — đây là bảo vệ pháp lý của chính bạn.

Continue the path

Lesson 63 of 106