AI Foundation
Giải thích được — AI trong suốt
Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.Các kỹ thuật giúp con người hiểu tại sao mô hình AI đưa ra một quyết định cụ thể.
The same lesson, opened from AI Foundation / An toàn & Đạo đức, AI Researcher / Huấn luyện & Alignment.
Trực giác ban đầu
Explainability (khả năng giải thích được) là việc AI không chỉ đưa ra kết quả mà còn cho con người biết vì sao kết quả đó ra đời. Khi AI nói “đồng ý” hay “từ chối”, nó phải chỉ ra yếu tố nào đã đẩy quyết định về phía đó và yếu tố nào kéo về phía ngược lại.
Vì sao cần giải thích
| Lý do | Ý nghĩa |
|---|---|
| Để bảo vệ người dùng | Không ai bị từ chối vay, từ chối khám bệnh, từ chối việc làm mà không biết lý do. |
| Để tuân thủ luật | EU AI Act, GDPR, Nghị định 13/2023 của Việt Nam đều có điều khoản về quyền được giải thích. |
| Để phát hiện lỗi | Khi nhìn thấy lý do, nhà phát triển mới biết AI đang dùng yếu tố đáng ngờ như địa chỉ hay giới tính. |
Yếu tố nào quan trọng đến đâu?
Hồ sơ xin vay của một khách hàng: AI cân 8 yếu tố. Mỗi yếu tố được cộng hoặc trừ điểm vào quyết định.
| Yếu tố | Hồ sơ | Tác động |
|---|---|---|
| Thu nhập/tháng | 35.000.000 ₫ | GIÚP — trên ngưỡng 25 triệu → mô hình tăng điểm tin cậy cho khả năng trả nợ. |
| Số tiền muốn vay | 800.000.000 ₫ | TRỪ — khoản vay lớn hơn 20× lương tháng → mô hình giảm điểm vì rủi ro trả chậm cao. |
| Lịch sử tín dụng | Không nợ quá hạn 5 năm | GIÚP — lịch sử sạch là tín hiệu mạnh nhất cho khả năng trả nợ tương lai. |
| Địa chỉ | Phường 12, Quận 8, TP.HCM | TRỪ — mã bưu chính này xuất hiện nhiều trong lịch sử nợ xấu của ngân hàng. Đây có thể là dấu hiệu của thiên kiến theo khu vực. |
| Nghề nghiệp | Kế toán trưởng | GIÚP — nghề văn phòng có hợp đồng dài hạn → thu nhập ổn định hơn nghề tự do. |
| Học vấn | Cử nhân | Có đóng góp nhỏ nhưng không thay đổi quyết định cuối. |
Tô màu đơn xin vay — cách LIME giải thích
LIME là một công cụ phổ biến. Nó tô xanh các ô “giúp duyệt” và đỏ các ô “bị trừ điểm”.
| Có giải thích | Không giải thích | |
|---|---|---|
| Thông tin nhận được | Từng yếu tố được tô xanh (giúp duyệt) hoặc đỏ (bị trừ điểm), kèm lý do | AI chỉ trả lời “có/không” — bạn không biết vì sao. |
| Bạn làm gì tiếp | Biết cần cải thiện yếu tố nào để lần sau được duyệt | Không biết phải sửa gì để lần sau được duyệt. |
Hộp trắng và hộp đen — hai loại AI
Không phải AI nào cũng như nhau. Một số mô hình tự nó đã rõ ràng, còn một số khác thì… chính kỹ sư làm ra cũng không đọc được.
| Loại | Ví dụ | Cách giải thích |
|---|---|---|
| Hộp trắng — dễ giải thích | Cây quyết định, hồi quy tuyến tính, luật if-then | Bạn đọc lại từng bước: “Thu nhập ≥ 25 triệu? Nếu có, kiểm tra lịch sử...” Kết quả được giải thích sẵn. |
| Hộp đen — khó giải thích | Mạng nơ-ron sâu, mô hình ngôn ngữ lớn, rừng ngẫu nhiên nhiều cây | Hàng triệu phép nhân nối tiếp — ngay cả kỹ sư cũng không đọc được. Cần công cụ riêng (SHAP, LIME…) để “soi”. |
Aha
Không phải AI nào cũng “giải thích được” một cách tự nhiên. Cây quyết định, luật if-then — giải thích sẵn trong chính cấu trúc. Nhưng mạng nơ-ron sâu, mô hình ngôn ngữ lớn (như ChatGPT) — là hộp đen. Để “hé lộ” chúng, chúng ta cần công cụ bên ngoài: SHAP, LIME, Grad-CAM, Attention Maps.
Giống như kính hiển vi không làm thay đổi vi khuẩn — nó chỉ giúp bạn nhìn thấy.
Thử thách nhanh
Đào sâu
Ba kiểu giải thích — ba góc nhìn khác nhau
| Kiểu giải thích | Câu hỏi | Dùng để |
|---|---|---|
| Local — 1 quyết định | “Vì sao TÔI bị từ chối?” | Giải thích cho từng trường hợp cá nhân — SHAP, LIME thường làm việc này. |
| Global — toàn mô hình | “Mô hình nói chung coi trọng yếu tố nào nhất?” | Kiểm tra tổng thể — mô hình có công bằng không, có quan tâm đúng yếu tố không. |
| Counterfactual — giả định | “Nếu thu nhập tôi tăng 5 triệu thì có được duyệt không?” | Giúp khách hàng biết phải làm gì để lần sau thành công. |
Khung pháp lý — bạn đang được bảo vệ như thế nào?
| Khung | Quy định |
|---|---|
| EU — GDPR Điều 22 | Bạn có quyền không bị “quyết định hoàn toàn tự động” nếu nó ảnh hưởng đáng kể. Tổ chức phải cung cấp “thông tin có ý nghĩa về logic”. |
| EU — AI Act (2024) | AI “rủi ro cao” (tín dụng, tuyển dụng, y tế, giáo dục) bắt buộc phải có giải thích “thực chất” — không chung chung. |
| Việt Nam — NĐ 13/2023 | Nghị định về bảo vệ dữ liệu cá nhân có điều khoản về quyền được biết khi dữ liệu bị xử lý tự động và được phản đối quyết định. |
Cạm bẫy: “giải thích giả” — nghe hay mà không thật
Không phải lời giải thích nào của AI cũng đáng tin. Đôi khi công cụ giải thích bịa ra một lý do nghe xuôi tai nhưng KHÔNG phản ánh đúng cách mô hình tính toán.
| Mô tả | |
|---|---|
| Giải thích giả | Công cụ gán lý do cho yếu tố “lịch sự” (thu nhập, học vấn…) trong khi mô hình thật sự lại đang dựa vào yếu tố nhạy cảm (khu vực, tên, giới tính). |
| Giải thích thật | Giải thích nhất quán khi thử trên nhiều ví dụ tương tự, có thể kiểm chứng bằng kiểm định độc lập, và được kỹ sư mô hình xác nhận. |
Gói gọn
5 ý cốt lõi
- Explainability = AI giải thích vì sao nó ra quyết định — như hóa đơn liệt kê từng khoản thanh toán.
- Có 3 kiểu giải thích: local (1 quyết định), global (toàn mô hình), counterfactual (nếu đổi X thì sao).
- Không phải AI nào cũng tự giải thích được — hộp đen (mạng nơ-ron sâu) cần công cụ bên ngoài như SHAP, LIME, Grad-CAM.
- Luật Việt Nam (NĐ 13/2023), EU (GDPR, AI Act), Mỹ (CFPB) đều yêu cầu giải thích cho AI ảnh hưởng đến quyền lợi con người.
- Coi chừng “giải thích giả” — một lý do nghe xuôi tai nhưng không phản ánh đúng mô hình bên trong.