ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Mạng nơ-ron

AI Foundation

Hàm mất mát trong hệ gợi ý — Shopee, TikTok, Spotify, YouTube

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Cùng một lịch sử người dùng, cùng một mô hình — đổi hàm mất mát thì bảng xếp hạng top 10 đổi hoàn toàn. Vì sao MSE thua pairwise/ranking loss ở Shopee, TikTok, Spotify, YouTube.

lesson50 minMạng nơ-ronAI Foundation

Giới thiệu

Mở Shopee bạn thấy “Gợi ý cho bạn” — 20 sản phẩm xếp theo thứ tự. Mở TikTok bạn lướt For You và 30 video đầu tiên đã chọn thứ tự rất kỹ. Mở Spotify, Discover Weekly sắp 30 bài theo đúng tuần tự bạn sẽ thích nhất — giảm dần. YouTube làm điều tương tự với hàng tỉ video mỗi ngày.

Bên trong cả bốn hệ gợi ý này là cùng một câu hỏi: “Mô hình nên học điều gì?” Câu trả lời nằm ở hàm mất mát (loss function) — thước đo cho biết mô hình đoán “đúng” đến đâu. Cùng một dữ liệu, đổi loss thì bảng xếp hạng top 10 đổi hoàn toàn. Đây là chỗ thú vị nhất của câu chuyện: không phải “bao nhiêu dữ liệu” mà là “dạy mô hình tối ưu điều gì” mới quyết định trải nghiệm của bạn.

Nền tảngMục tiêu tối ưu
E-commerce (SG)Gợi ý sản phẩm — ưu tiên mua thật, không chỉ click
TikTok For YouSắp xếp cho người xem lâu, không bỏ lướt
Spotify Discover Weekly30 bài theo đúng thứ tự yêu thích
YouTube Home & Up NextTối ưu watch time, chống clickbait

Hệ gợi ý không cần đoán “điểm” chính xác. Nó cần sắp xếp đúng thứ tự. Nhưng các hàm mất mát quen thuộc nhất từ trường lớp (MSE — sai số bình phương trung bình, MAE — sai số tuyệt đối) lại được thiết kế cho hồi quy: chúng phạt khoảng cách giữa con số dự đoán và con số thật.

LossCách họcPhù hợp khi
MSE — học con sốDự đoán rating 4.0 khi thật là 4.5 → mất 0.25. Phạt theo khoảng cách, không quan tâm thứ tự.Hồi quy giá nhà, nhiệt độ — có đáp án số thật.
Pairwise — học cặpSo từng cặp A vs B. Mô hình đặt A > B đúng → điểm tốt. Không cần biết số cụ thể.Hệ gợi ý có phản hồi ngầm (ai click, ai skip).
Listwise — học cả bảngNhìn top-K, phạt mạnh lỗi ở vị trí cao. Tối ưu trực tiếp metric đánh giá (NDCG).Ranking sản xuất — TikTok, YouTube, Shopee.

Ba thế hệ loss cho hệ gợi ý

Thời điểmThế hệĐiều xảy ra
Netflix Prize (2006–2009)MSE / RMSENetflix mở cuộc thi 1 triệu đô với metric là RMSE trên rating 1–5 sao. Toàn ngành học bằng MSE trong 3 năm. Bài báo thắng giải dùng tới 107 mô hình gộp lại, nhưng khi triển khai thật thì Netflix không dùng — vì metric tối ưu (RMSE trên sao) không phải thứ người xem quan tâm. Khách hàng không nhập sao, họ ấn play.
2009Pairwise (BPR)Rendle và cộng sự đề xuất: thay vì dự đoán số, hãy cho mô hình học từ cặp “A được click, B không được click”. Không cần rating rõ ràng — chỉ cần biết “user thích A hơn B”. Đây là nền tảng của gần như mọi hệ gợi ý hiện đại với phản hồi ngầm.
2010Listwise (LambdaRank)Burges et al. chỉ ra: pairwise đối xử mọi cặp như nhau, nhưng lỗi ở top 1–3 tệ hơn lỗi ở vị trí 18–20. LambdaRank đưa thêm trọng số NDCG vào gradient — phạt mạnh hơn khi lỗi xảy ra ở đỉnh bảng. Đây chính là thuật toán phía sau Bing search rank và lan ra hầu hết hệ gợi ý lớn.
2016Weighted logistic (YouTube)Trong paper RecSys 2016, Covington đưa ra cách “mượn” logistic regression để tối ưu thời gian xem: mỗi ví dụ positive được nhân trọng số bằng số giây đã xem. Loss function vẫn là cross-entropy, nhưng trọng số biến nó thành “xác suất người dùng sẽ xem bao lâu”. Kết quả: video clickbait bị hạ rank vì ai nhấp cũng thoát nhanh, trọng số thấp.
2022Multi-task loss (TikTok Monolith)ByteDance công bố: For You không chỉ tối ưu một mục tiêu. Mô hình có nhiều đầu ra (đã xem hết, like, comment, share) và cộng nhiều loss lại với trọng số riêng. Skip nhanh = tín hiệu negative mạnh, like = positive mạnh, share = cực mạnh. Cùng lúc tối ưu tất cả → ranking phản ánh nhiều dạng hài lòng hơn.

Shopee tối ưu xác suất mua (không phải click) với loss có trọng số doanh thu. Spotify Discover Weekly kết hợp collaborative filtering (gần như pairwise) với CNN phân tích phổ âm thanh. Dù app khác nhau, ý tưởng trung tâm đều giống: chọn loss phản ánh đúng giá trị thực sự muốn tối ưu, không phải một tín hiệu thay thế dễ đo.

So sánh cận cảnh: pointwise, pairwise, listwise

Ba loss xử lý cùng một cặp dữ liệu rất khác nhau. Cùng một video A được click và video B bị lướt qua — mỗi loss tạo ra một tín hiệu học khác biệt.

LossMô hình học gìCặp Minh: click A, lướt B
Pointwise (MSE)Đoán con số điểm. Số không phải thứ Minh cảm — Minh chỉ click A và lướt B.Phạt nặng vì mô hình đoán lệch số (dự đoán 7.9 cho B nhưng thật chỉ 1.5), dù thứ tự có thể đúng hoặc sai. MSE không cho mô hình biết “A nên xếp trên B”.
Pairwise (BPR)Chỉ hỏi: mô hình có đặt A (click) cao hơn B (skip) không? Loss là hàm sigmoid của chênh lệch điểm giữa A và B.Score(A) = 9.0, score(B) = 2.3 → chênh +6.7 → đúng thứ tự → loss rất thấp. BPR không quan tâm score tuyệt đối 9 hay 90.
Listwise (LambdaRank / NDCG)Chèn trọng số 1/log₂(rank+1) vào gradient. Vị trí #1 được ưu tiên gấp 4 lần vị trí #20.Mô hình được “kéo” tập trung sửa sai số ở đỉnh bảng — đúng với trải nghiệm người dùng, và đúng với cái YouTube, TikTok, Shopee đang tối ưu thực tế.

Cùng câu chuyện: Minh click A, lướt B — theo từng loss

Bốn bước của một lần cập nhật

1 / 4
  1. 1. Thu thập cặp

    Hệ thống log một cặp hành động: Minh click video A (bóng rổ, xem 4 phút 12 giây); Minh lướt video B (clickbait, rời sau 2 giây). Đây là dữ liệu “phản hồi ngầm” (implicit feedback). Không có ai gắn sao, không có rating rõ ràng.

Kết quả: top 3 của Minh = bóng rổ + lo-fi + bóng rổ. Không có clickbait, không có video lạc gu. Danh sách phản ánh đúng thứ tự ưu tiên thật.

Minh click video A (bóng rổ) và lướt bỏ video B (clickbait) chỉ sau 2 giây. Hàm mất mát nên thưởng mô hình điều gì?
Bạn là kỹ sư Shopee, cần chọn loss cho mô hình xếp hạng sản phẩm ở 'Gợi ý cho bạn'. Shopee kiếm tiền khi người dùng MUA (không phải chỉ click). Loss nào phù hợp nhất?
Trong danh sách 10 gợi ý, mô hình A đặt video hay nhất ở vị trí #1 nhưng video dở ở #5. Mô hình B đặt video hay nhất ở #3 nhưng toàn bộ #1–#5 đều ổn. Loss nào sẽ chấm mô hình A cao hơn mô hình B?
Spotify muốn gợi ý bài hát mà người dùng sẽ nghe HẾT (không bỏ ngang). Bạn có tín hiệu 'played > 30s' (positive) và 'skipped < 5s' (negative). Loss nào tự nhiên nhất?

Bốn điều cần nhớ về loss trong hệ gợi ý

  • Loss function định nghĩa “mô hình học điều gì”. Cùng data, khác loss → khác ranking — và khác trải nghiệm người dùng.
  • MSE hợp với hồi quy có đáp án số thật (giá nhà). Trong recommendation, nó tối ưu nhầm — học con số thay vì học thứ tự.
  • Pairwise loss (BPR) chỉ cần tín hiệu ngầm “A click, B skip” — đủ để học sắp xếp đúng. Đây là chuẩn mực từ 2009 đến nay.
  • Listwise (LambdaRank, NDCG) phạt mạnh lỗi ở top — đúng với trải nghiệm: người ta chỉ nhìn top 3–10. Đây là thứ YouTube, TikTok, Shopee đang tối ưu thật.
  • Câu chuyện YouTube chuyển từ CTR-loss sang watch-time-weighted loss là minh chứng kinh điển: loss function không phải chi tiết kỹ thuật, nó quyết định chất lượng sản phẩm.

Nếu Shopee, TikTok, Spotify, YouTube đều giữ nguyên MSE trên rating, trang chủ của bạn hôm nay sẽ rất khác. Video clickbait sẽ tràn ngập Up Next vì chúng nhận nhiều click. Playlist Discover Weekly sẽ chỉ có bài phổ biến nhất thay vì bài phù hợp với gu bạn.

Câu chuyện lớn hơn: loss function không phải chi tiết kỹ thuật. Nó là quyết định sản phẩm quan trọng bậc nhất của hệ gợi ý. Chuyển từ MSE sang pairwise sang listwise-with-watch-time không thay đổi lượng dữ liệu, không đổi kiến trúc mạng, không cần GPU mạnh hơn — nhưng thay đổi hoàn toàn thứ mô hình được thưởng vì học. Và mô hình học gì thì trải nghiệm bạn có sẽ là vậy.

Tương tự với mọi ML system: bạn đo gì là thứ bạn tối ưu. Nếu metric đánh giá và loss function khác nhau, mô hình sẽ giỏi ở metric và dở ở trải nghiệm thật. Một trong những kỹ năng quan trọng nhất của kỹ sư ML là biết loss đang thực sự tối ưu cái gì — và điều đó có khớp với mục tiêu sản phẩm không.

Continue the path

Lesson 85 of 106