Giới thiệu
Thiên kiến trong AI không phải là “lỗi kỹ thuật hiếm gặp” — nó là hệ quả tất yếu khi máy học từ một quá khứ không hoàn hảo.
Evaluating routing across providers.
AI Foundation
Nhận diện cách AI học lại định kiến từ dữ liệu quá khứ, và các cách kiểm soát thiên kiến phù hợp với môi trường văn phòng Việt Nam.
Thiên kiến trong AI không phải là “lỗi kỹ thuật hiếm gặp” — nó là hệ quả tất yếu khi máy học từ một quá khứ không hoàn hảo.
Hãy hình dung AI như một tấm gương chiếu. Nó không tự tạo ra ai, không tự có ý kiến — nó chỉ phản chiếu lại những gì đã xảy ra trong dữ liệu 10 năm qua của công ty bạn.
Nếu 10 năm qua ngân hàng ít duyệt vay cho phụ nữ làm nội trợ, tấm gương sẽ nói: “nội trợ = rủi ro cao”. Nếu công ty công nghệ ít tuyển người trên 40 tuổi, tấm gương sẽ nói: “40+ = ít phù hợp”. Không phải vì tấm gương ác ý — mà vì đó là tất cả những gì nó từng thấy.
Nhiều công ty tin rằng bỏ cột giới tính khỏi dữ liệu là đủ. Thực tế, thông tin giới tính rò rỉ qua tên, trường học, nghề cũ.
| Cách làm sạch dữ liệu | Độ chính xác mô hình | Chênh lệch nam - nữ |
|---|---|---|
| Chỉ bỏ cột Giới tính | 87% | 28 điểm % |
| Bỏ Giới tính + Tên + Trường | 82% | 6 điểm % |
| Thông tin còn lại (cách bỏ chưa đủ) | Mô hình đoán giới tính qua đường vòng |
|---|---|
| Tên ứng viên | “Nguyễn Thị Mai — đoán 92% là nữ” |
| Trường học | “Đại học Phụ nữ” — đoán 99% là nữ |
| Công việc cũ | “Nội trợ trước 2018” — đoán 96% là nữ |
| Thông tin | Cách xử lý an toàn |
|---|---|
| Tên ứng viên | Đã mã hoá thành ID ẩn |
| Trường học | Nhóm thành “Top 100 / Top 500 / Khác” |
| Công việc cũ | Chuẩn hoá thành “3 năm kinh nghiệm ngành X” |
Chú ý cột nào vẫn còn 'rò rỉ' thông tin nhạy cảm. Xoá cột “giới tính” không làm cho AI công bằng hơn — mà chỉ làm cho sự thiên kiến khó phát hiện hơn. Công bằng thật sự đòi hỏi đo đạc kết quả, không phải giả vờ không nhìn thấy.
| Loại thiên kiến | Bản chất | Ví dụ |
|---|---|---|
| Sampling bias (thiên kiến lấy mẫu) | Dữ liệu huấn luyện không đại diện cho toàn bộ dân số thật. AI chỉ 'biết' những nhóm nó từng thấy. | Mô hình tuyển dụng train 90% từ ứng viên Hà Nội & TP.HCM, đoán sai với miền Trung. |
| Historical bias (thiên kiến lịch sử) | Dữ liệu chính xác, nhưng phản ánh một xã hội bất bình đẳng. AI tái tạo quá khứ đó. | Ngân hàng 10 năm qua duyệt vay ít cho phụ nữ — AI học rằng 'phụ nữ = rủi ro'. |
| Measurement bias (thiên kiến đo lường) | Cách đo 'kết quả' sai lệch giữa các nhóm. Thước đo không phải là sự thật. | Đánh giá năng suất bằng 'giờ online' — bất lợi cho ai làm việc hiệu quả nhưng ngắn thời gian. |
| Deployment bias (thiên kiến triển khai) | AI dùng đúng ở ngữ cảnh này lại sai ở ngữ cảnh khác. Train một nơi, dùng một nẻo. | Nhận diện khuôn mặt train ở Mỹ, lắp ở Việt Nam sai nhiều hơn với người bản địa. |
Không có một định nghĩa “công bằng” duy nhất. Có ba cách đo phổ biến, mỗi cách trả lời một câu hỏi khác nhau. Chúng hoạt động trên cùng một mô hình tuyển dụng.
| Tiêu chí | Câu hỏi | Kết quả trong bài |
|---|---|---|
| Đồng đều tỷ lệ (Demographic Parity) | Tỷ lệ được chọn bằng nhau, bất kể năng lực. 'Bạn có nhận đủ nam và nữ vào công ty không?' | Đạt: hai cột gần bằng nhau. Nhưng không đảm bảo AI chọn đúng người — có thể đang tuyển đủ số lượng nhưng sai chất lượng để 'bù đắp'. |
| Đồng đều cơ hội (Equal Opportunity) | Trong số người THẬT SỰ phù hợp, tỷ lệ được AI chọn bằng nhau. 'Trong số ứng viên xứng đáng, bao nhiêu % được AI chấp nhận?' | Đạt: 85% và 84% gần bằng nhau. Tỷ lệ tổng chênh vì nhóm B ít người xứng đáng — không phải bất công từ AI. |
| Đồng đều sai sót (Equalized Odds) | Cả tỷ lệ chọn đúng và chọn sai phải bằng nhau. 'AI có ưu ái một nhóm theo hai hướng — chọn nhiều hơn cả người xứng đáng LẪN người không xứng đáng?' | Chưa đạt: nhóm A cao hơn ở cả hai thanh — AI đang 'dễ tính' với A và 'khó tính' với B. Đây là tiêu chí nghiêm ngặt nhất. |
Nối từng kỹ thuật với tình huống phù hợp. Mỗi kỹ thuật giải quyết một lớp vấn đề khác nhau — không có viên đạn bạc.
Ba kỹ thuật giảm bias phổ biến
Cân bằng dữ liệu đầu vào — oversample nhóm thiểu số, reweighting, hoặc thu thập thêm dữ liệu mục tiêu.