Giới thiệu
Bạn nộp đơn vay mua nhà và bị từ chối. Khi bạn hỏi lý do, nhân viên ngân hàng đáp: “Thuật toán AI quyết định”. Không ai — kể cả chính nhân viên — có thể giải thích tại sao. Đây không phải kịch bản giả tưởng; đây là câu chuyện của hàng triệu người trên thế giới, và đã trở thành chủ đề của nhiều đạo luật lớn.
Chủ đề này không về một công ty duy nhất — nó về cơ quan quản lý: GDPR của Liên minh Châu Âu (EU), Cục Bảo vệ Tài chính Người tiêu dùng Mỹ (CFPB), và Nghị định 13/2023 của Việt Nam. Họ đã ra luật bắt buộc ngân hàng phải giải thích khi AI quyết định số phận tài chính của người dân.
Tháng 11/2019 — Đơn xin thẻ Apple Card của hai vợ chồng
| David (chồng) | Jennifer (vợ) | |
|---|---|---|
| Hồ sơ | Lập trình viên nổi tiếng · Tài khoản chung: Có · Lịch sử tín dụng: Sạch · Nộp thuế chung: Có | Điểm tín dụng cao hơn chồng · Tài khoản chung: Có · Lịch sử tín dụng: Sạch · Nộp thuế chung: Có |
| AI cấp hạn mức | Cao hơn 20× | Thấp hơn 20 lần |
Cùng tài sản, cùng đơn — AI ra kết quả khác nhau hoàn toàn. Khi David hỏi Apple “Vì sao?”, nhân viên đáp: “Đó là thuật toán quyết định.” Không ai — kể cả Goldman Sachs (ngân hàng đối tác) — giải thích được. Chuyện lan nhanh trên mạng xã hội, cơ quan giám sát tài chính New York mở điều tra.
Explainability (giải thích được — hay XAI, Explainable AI) là khả năng trình bày lý do cụ thể đằng sau mỗi quyết định của AI, bằng ngôn ngữ mà người bình thường có thể hiểu và kiểm chứng.
Nhưng nhiều mô hình chấm điểm tín dụng hiện đại sử dụng học sâu (deep learning) với hàng triệu, thậm chí hàng tỷ tham số. Những mô hình này có thể chính xác hơn — nhưng chúng là hộp đen: ngay cả chính đội ngũ kỹ sư xây dựng cũng khó nói chính xác vì sao mô hình cho người A vay mà từ chối người B.