ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Mạng nơ-ron

AI Foundation

Hàm mất mát — Điểm số của mô hình

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Loss là 'điểm số' của mô hình — càng thấp càng tốt. Chọn sai loss đồng nghĩa mô hình học sai mục tiêu. Kéo điểm dự đoán và thấy MSE, MAE, cross-entropy phản ứng rất khác nhau.

lesson50 minMạng nơ-ronAI Foundation

Thử đoán

Bạn bắn cung, mũi tên cách tâm 50 cm. Huấn luyện viên muốn bạn tiến bộ nhanh — nên phạt thế nào?

Loss là “điểm số” của mô hình — càng thấp càng tốt. Chọn sai loss đồng nghĩa mô hình học sai mục tiêu. Dưới đây là MSE, MAE, Huber và Cross-Entropy phản ứng khác nhau thế nào với cùng một dữ liệu.

Hiểu bằng hình ảnh — loss giống kim la bàn

Tưởng tượng mô hình đang đi tìm đáp án trong sương mù. Nó không nhìn thấy gì — chỉ nghe một tiếng la sau mỗi bước đi. Tiếng la đó là loss. Loss lớn = “đi sai đường!”. Loss nhỏ = “đang đúng hướng”. Gradient descent chỉ việc đi theo tiếng la nhỏ dần.

Nhưng “la” có nhiều kiểu. Một giáo viên khó tính phạt 5 điểm cho mỗi lỗi. Một giáo viên gắt gao nhân đôi hình phạt khi bạn sai nặng. Một giáo viên công tâm ngó lơ vài outlier. Chọn kiểu giáo viên tức là chọn loss function.

LossKiểuĐặc điểmDành cho
MSEHồi quyPhạt bình phương. Sai 2 lần → đau 4 lần.Số liên tục: giá nhà, nhiệt độ, doanh thu
MAERobustPhạt trị tuyệt đối. Sai 2 lần → đau 2 lần.Dữ liệu có outlier: thời gian giao hàng, ETA
CEPhân loạiTự tin đúng → loss 0. Tự tin sai → loss bùng nổ.Spam/không spam, chó/mèo, nhãn ảnh

Khám phá — cùng một lỗi, ba cách phạt

Bấm từng kiểu loss để xem cùng một sai lệch được “tính điểm” khác nhau ra sao. Ví dụ với mũi tên lệch 50 cm và 5 cm:

Sai lệchMAE (phạt tuyến tính)MSE (phạt bình phương)
5 cm525
50 cm502.500

Khoảnh khắc Aha

Loss không phải “một công thức toán”. Nó là định nghĩa của cái đúng mà bạn dạy cho mô hình.

Dạy bằng MSE — mô hình tránh mọi sai số lớn bằng mọi giá. Dạy bằng MAE — mô hình không hoảng vì vài outlier. Dạy bằng CE — mô hình thận trọng trước khi “chắc chắn”. Đổi loss là đổi giáo viên, mô hình sẽ có tính cách khác.

Đi sâu — khi nào dùng loss nào?

Kỹ sư ML có kinh nghiệm thường áp dụng một phản xạ đơn giản. Bốn trường hợp quan trọng nhất:

1. MSE — hồi quy dữ liệu sạch

Khi đầu ra là một con số liên tục (giá nhà, doanh thu, nhiệt độ) và dữ liệu không nhiều outlier. MSE cho gradient mượt, học nhanh, dễ tối ưu.

Ví dụ minh hoạ: dự đoán giá nhà, nhiệt độ ngày mai, lượng khách đặt bàn — dữ liệu sạch, không có siêu biệt thự làm rối.

2. Cross-Entropy — phân loại

Khi đầu ra là một nhãn (spam/không spam, chó/mèo/chim, hành động người dùng). CE ép mô hình học xác suất đúng, phạt nặng tự tin sai, và phối hợp mượt với Softmax.

Ví dụ minh hoạ: chặn thư rác, nhận diện nội dung vi phạm, gợi ý nhãn ngành hàng cho sản phẩm mới.

3. Huber — hồi quy có outlier

Khi dữ liệu có vài giá trị ngoại lệ rất lớn mà không muốn bỏ đi, nhưng cũng không muốn chúng chi phối mô hình. Huber hành xử như MSE ở vùng nhỏ (học nhanh) và như MAE ở vùng lớn (robust).

Ví dụ minh hoạ: dự đoán thời gian giao hàng — phần lớn đơn 20–40 phút, thỉnh thoảng một đơn 3 tiếng vì kẹt xe. Huber giữ mô hình ổn định.

4. Hinge Loss — SVM

Khi cần một biên quyết định rõ ràng giữa hai lớp, không cần xác suất, chỉ cần đúng hoặc sai với khoảng cách an toàn. Hinge không phạt khi dự đoán đã đủ chắc chắn đúng, chỉ phạt khi quá gần biên hoặc sai. Hiện nay hinge ít dùng độc lập nhưng vẫn xuất hiện trong ranking và recommendation.

Thử thách

Bài toán: dự đoán giá căn hộ tại Hà Nội, dữ liệu có vài biệt thự 100 tỷ (ngoại lai). Chọn loss nào?
Bài toán: phân loại ảnh chó và mèo (2 lớp). Chọn loss nào?
Bài toán: hệ thống xếp hạng kết quả tìm kiếm — item nào liên quan hơn thì xếp trước. Chọn loss nào?

Giải thích

Ba công thức dưới đây là ba “tiếng la” phổ biến nhất. Bạn không cần thuộc — chỉ cần đọc được đại ý để chọn loss đúng khi gặp bài toán mới.

1. MSE — bình phương trung bình sai số

MSE=1N∑i=1N(yi−y^i)2\text{MSE} = \frac{1}{N} \sum_{i=1}^{N} (y_i - \hat{y}_i)^2

Đọc: với mỗi điểm, lấy sai số (thực − dự đoán), bình phương, rồi lấy trung bình. Bình phương làm hai việc: bỏ dấu (sai trên hay sai dưới đều đáng lo) và phạt nặng sai số lớn. Nếu bạn đã học hồi quy tuyến tính, đây chính là loss mà OLS tối thiểu hoá.

2. MAE — trị tuyệt đối trung bình sai số

MAE=1N∑i=1N∣yi−y^i∣\text{MAE} = \frac{1}{N} \sum_{i=1}^{N} |y_i - \hat{y}_i|

Đọc: với mỗi điểm, lấy trị tuyệt đối sai số, rồi lấy trung bình. Không có bình phương nên mỗi điểm đóng góp tỉ lệ thuận với sai lệch, không có hình phạt bùng nổ. Vì thế MAE robust với outlier.

3. Binary Cross-Entropy — phạt tự tin sai

BCE=−[ylog⁡(y^)+(1−y)log⁡(1−y^)]\text{BCE} = -\big[y \log(\hat{y}) + (1 - y) \log(1 - \hat{y})\big]

Đọc: nếu nhãn thực y = 1, loss = −log(ŷ). Nếu y = 0, loss = −log(1 − ŷ). Khi mô hình đoán đúng và tự tin, loss gần 0. Khi đoán sai và tự tin, loss bùng nổ. Đây là cơ chế “phạt tự tin sai” mà MSE không có.

Bảng so sánh nhanh

LossBài toánĐiểm mạnhVí dụ minh hoạ
MSEHồi quyPhạt nặng sai số lớn, học nhanhDự đoán giá vàng, nhiệt độ Đà Lạt
MAEHồi quy có outlierRobust, không bị kéo lệchDự đoán thời gian giao hàng
HuberHồi quy cân bằngMSE + MAE, mượt và robustDự đoán ETA chuyến xe
Binary CEPhân loại 2 lớpPhạt nặng tự tin saiLọc thư rác tiếng Việt
Categorical CEPhân loại N lớpSoftmax và log phối hợp mượtGán nhãn chủ đề bài viết
Hinge / PairwiseSVM, rankingBiên cứng, tập trung vào mẫu khóXếp hạng kết quả tìm kiếm

Tại sao không gộp vài loss lại rồi cộng?

Thực tế người ta có gộp, gọi là multi-task loss. Ví dụ, một mô hình tự lái vừa học phân loại biển báo (CE) vừa học ước lượng khoảng cách (MSE). Loss tổng = α · CE + β · MSE, với α và β là hệ số cân bằng hai mục tiêu. Cân bằng này rất nhạy: chọn sai α/β, mô hình sẽ ưu tiên một mục tiêu và bỏ rơi mục tiêu kia. Vì vậy có cả một hướng nghiên cứu “loss balancing”.

Loss và metric — khác nhau thế nào?

Loss là thứ mô hình tối thiểu hoá — phải khả vi để gradient descent hoạt động. Metric là thước đo bạn báo cáo — có thể là accuracy, F1, RMSE, MAPE, AUC. Metric không cần khả vi. Ví dụ: bạn huấn luyện phân loại với Cross-Entropy (loss) nhưng báo cáo Accuracy (metric) cho sếp. Accuracy có đạo hàm bằng 0 ở hầu khắp nơi nên không thể làm loss, nhưng rất dễ hiểu nên phù hợp để báo cáo.

Loss đi tay trong tay với gradient descent: loss cho biết đang sai bao nhiêu, gradient cho biết phải đi theo hướng nào để sai ít hơn. Backpropagation đưa gradient của loss về từng tham số trong mạng. Ba khái niệm này làm thành bộ ba huấn luyện của mọi mô hình hiện đại.

Tóm tắt và kiểm tra

  • Loss là “điểm số” của mô hình — càng thấp càng tốt. Chọn sai loss = mô hình học sai mục tiêu.
  • Hồi quy dữ liệu sạch → MSE. Hồi quy có outlier → MAE hoặc Huber. Phân loại → Cross-Entropy. Xếp hạng → Hinge hoặc Pairwise.
  • MSE phạt bình phương: một outlier đóng góp rất nhiều. MAE phạt tuyến tính: outlier không thống trị được.
  • Cross-Entropy phạt tự tin sai bằng logarit — đạo hàm vẫn mạnh khi sigmoid ở biên, nên học nhanh hơn MSE trong phân loại.
  • Loss phải khả vi để gradient descent hoạt động. Metric (accuracy, F1...) là thứ bạn báo cáo, không phải thứ mô hình tối thiểu hoá.
Dữ liệu có outlier lớn và bạn cần một loss robust cho hồi quy. Chọn loss nào?

Continue the path

Lesson 84 of 106