ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Nền tảng toán

AI Foundation

Giải tích trong huấn luyện mô hình

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Bên trong một vòng lặp huấn luyện: weights ngẫu nhiên → dự đoán → loss → gradient → cập nhật. Mỗi bước là một phép tính đạo hàm.

lesson53 minNền tảng toánAI Foundation

Giới thiệu

Tháng 1 năm 2024, Meta bắt đầu huấn luyện LLaMA 3.1 405B — mô hình ngôn ngữ có 405 tỉ tham số. 16.384 GPU H100 chạy liên tục 54 ngày. Mỗi giây trôi qua, mỗi tham số đều được hỏi một câu duy nhất: “Nếu tôi nhích một tí, loss thay đổi bao nhiêu?”

Đó chính là đạo hàm. Và để trả lời câu hỏi đó cho cả 405 tỉ tham số trong vài trăm mili-giây, Meta dùng một vòng lặp 5 bước không thay đổi từ thời Rosenblatt.

LLaMA 3.1 405B phải học từ 15,6 nghìn tỉ token (đơn vị văn bản). Mỗi lần đi qua một batch, mô hình cần điều chỉnh 405 tỉ tham số — cộng lại là con số khổng lồ.

Vấn đề gốc rễ: không thể thử từng tham số một. Nếu mỗi lần muốn biết gradient của một tham số, ta phải chạy lại forward pass, thì sẽ cần 405 tỉ forward pass cho một bước cập nhật duy nhất — không thể nào xong trong một đời người. Chain rule biến bài toán đó từ không khả thi thành khả thi.

Con sốÝ nghĩa
405 tỉ tham sốMỗi tham số là một weight cần được điều chỉnh theo gradient của nó.
126 lớp nối tiếpMạng sâu → chain rule nhân hàng trăm đạo hàm cục bộ xuyên qua các lớp.
3,8 × 10²⁵ FLOPTổng phép tính. Không có chain rule + song song hoá, bài toán là bất khả thi.

Vòng lặp huấn luyện

Một vòng lặp huấn luyện gồm các bước sau. Mỗi bước có vai trò riêng trong việc đưa weight về phía tốt hơn.

Các bước của một vòng lặp

1 / 5
  1. 1. Forward pass — dự đoán từ weights hiện tại

    Đưa một batch dữ liệu (hàng triệu token) qua 126 lớp Transformer. Mỗi lớp thực hiện phép nhân ma trận rồi hàm kích hoạt. Cuối cùng, cross-entropy ra một con số duy nhất L — sai lệch hiện tại.

Bên trong một vòng lặp

Từ forward đến update

1 / 4
  1. 1. 1 · Forward

    Một batch (ví dụ 4 triệu token của LLaMA) chảy qua các lớp. Mỗi lớp nhận vector từ lớp trước, nhân ma trận, kích hoạt, đẩy sang lớp sau. Cuối chuỗi: đầu ra ŷ.

Thử thách

Trong thí nghiệm, bạn kéo learning rate η lên 0.9. Loss đầu tiên giảm, nhưng sau đó loss NHẢY TUNG lên rồi phân kỳ. Tại sao?

Ba dấu hiệu loss đang kêu cứu

Triệu chứngNguyên nhân và cách xử lý
Gradient phát nổGiảm η, bật gradient clipping, kiểm tra khởi tạo weight.
Loss đứng yênη quá nhỏ hoặc vanishing gradient. Tăng η, đổi activation sang ReLU, thêm residual.
Loss giảm → tăng lạiη đột ngột quá lớn (thường do dữ liệu batch dị thường). Thêm gradient clipping, kiểm tra pipeline.

Điều bạn thấy rõ

  • Vòng lặp huấn luyện là 5 bước lặp đi lặp lại: init → forward → loss → backward → update.
  • Backward là nơi ĐẠO HÀM và CHAIN RULE thực sự làm việc — tính gradient cho 405 tỉ tham số trong vài trăm mili-giây.
  • Learning rate là tham số hiệu chỉnh quan trọng nhất: quá to → nổ, quá nhỏ → không bao giờ tới đáy, vừa phải → hội tụ.
  • Mọi trick tiên tiến (AdamW, gradient checkpointing, mixed precision, gradient clipping, warmup) đều phục vụ một mục tiêu duy nhất: giữ vòng lặp trên ổn định khi scale lên tỉ tham số.

Không có chain rule, không có cách nào tính gradient cho 405 tỉ tham số qua 126 lớp. Mỗi tham số sẽ phải được thử sai riêng lẻ — cần hàng trăm tỉ lần forward pass cho một bước cập nhật duy nhất, biến bài toán 54 ngày thành hàng triệu năm.

Backpropagation biến chi phí tính gradient từ O(n) forward pass xuống O(1) — chỉ cần một lần lan truyền ngược. Kết hợp với AdamW, gradient checkpointing, song song hoá 16.384 GPU và mixed precision BF16, giải tích là nền tảng toán học duy nhất khiến việc huấn luyện mô hình hàng trăm tỉ tham số trở nên khả thi.

Bài học rút ra: learning rate không phải hyperparameter “tùy hứng”. Nó là nút chỉnh cỡ bước của gradient descent, và sai 10× có thể hỏng 54 ngày GPU. Đó là lý do các đội huấn luyện mô hình lớn chi hàng triệu đô-la để tinh chỉnh đúng giá trị η trước khi bấm nút “start”.

Continue the path

Lesson 26 of 106