AI Foundation
Mạng nơ-ron
Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.Hiểu kiến trúc mạng nơ-ron từ perceptron đến MLP Nắm forward propagation và backpropagation Biết gradient descent và cách chọn hàm mất mát
Format
Guided module
Duration
15h
Lessons
18
What you will practice
- Hiểu kiến trúc mạng nơ-ron từ perceptron đến MLP
- Nắm forward propagation và backpropagation
- Biết gradient descent và cách chọn hàm mất mát
Lesson order
18 lessonsMạng nơ-ron là gì — bộ não nhỏ trong máy tính
Nhiều nơ-ron đơn giản kết nối lại thành một mạng thông minh. Kéo slider, bấm vào từng nơ-ron, xem tín hiệu lan truyền — bạn sẽ hiểu vì sao ý tưởng này thay đổi cả thế giới AI.
Mạng nơ-ron trong trợ lý giọng nói
Cách Google Assistant và Siri dùng mạng nơ-ron sâu để nhận diện giọng nói, giảm tỉ lệ lỗi từ hơn 23% xuống dưới 5%
Perceptron — Nơ-ron đơn giản nhất
Một nơ-ron nhân tạo có thể làm gì? Cộng có trọng số mọi đầu vào, rồi quyết định 'có' hay 'không'. Bạn sẽ tự tay chỉnh trọng số và nhìn đường quyết định xoay theo.
Perceptron nhận diện ảnh — chữ số 0 hay 1?
Một perceptron nhìn vào ảnh 28×28 pixel và quyết định đó là chữ số '0' hay '1'. Bạn tô pixel bằng chuột và thấy dự đoán đổi ngay lập tức — rồi khám phá vì sao một nơ-ron là chưa đủ cho ảnh phức tạp.
MLP — Xếp nhiều perceptron thành mạng
Một perceptron chỉ vẽ được đường thẳng. Xếp chúng thành nhiều lớp, bạn sẽ có được đường cong — chìa khoá cho gần như mọi mô hình hiện đại.
MLP chấm tín dụng
Bạn nộp hồ sơ vay trên app ngân hàng Việt. MLP nhìn hàng trăm biến số, bắt được pattern mà hồi quy logistic bỏ lỡ, rồi trả về xác suất vỡ nợ chỉ trong vài giây.
Hàm kích hoạt — Cái uốn cong của mạng nơ-ron
Không có hàm kích hoạt, cả một mạng nơ-ron chỉ là một phép tính tuyến tính khổng lồ. Kéo, thử, so sánh để thấy vì sao 5 đường cong nhỏ lại thay đổi mọi thứ.
Hàm kích hoạt trong AlphaGo
AlphaGo thắng kỳ thủ hàng đầu thế giới — mỗi nước đi là hàng triệu nơ-ron với ReLU và softmax phối hợp. Bấm một ô trên bàn cờ để thấy mạng chính sách nghĩ gì.
Lan truyền thuận
Dữ liệu đi qua mạng như tin nhắn qua các trạm — mỗi trạm xử lý rồi chuyển cho trạm sau.
Lan truyền thuận trong trợ lý chat
Bạn gõ một câu, 20 mili-giây sau ChatGPT đáp. Mở từng giai đoạn của lượt lan truyền thuận để thấy điều gì xảy ra trong khoảnh khắc đó.
Lan truyền ngược — truy ngược lỗi qua từng lớp
Mạng đoán sai — lỗi đến từ lớp nào, weight nào cần sửa bao nhiêu? Backprop dùng quy tắc chuỗi để truy ngược lỗi từ đầu ra về từng trọng số, chỉ trong một lần duyệt.
Lan truyền ngược — khi Google Translate học từ lỗi
Mỗi câu dịch sai là một lần Google Translate tự chỉnh trọng số. Xem một cặp câu Anh–Việt đi qua forward, loss, backward và update.
Thuật toán Gradient Descent — xoay trọng số (weight) để giảm mất mát (loss)
Bạn đã hiểu gradient là mũi tên chỉ đường. Giờ áp vào bài toán huấn luyện thật: xoay các trọng số (weight) theo từng bước để mất mát (loss) giảm dần. So sánh ba cách bước: Vanilla, Momentum, Adam.
Gradient Descent trong huấn luyện mô hình
Huấn luyện GPT-3 tốn ~12 triệu USD chỉ cho tính toán, phần lớn là chạy gradient descent. Vặn thử learning rate, momentum, batch size — xem loss hội tụ, dao động hay nổ tung.
Hàm mất mát — Điểm số của mô hình
Loss là 'điểm số' của mô hình — càng thấp càng tốt. Chọn sai loss đồng nghĩa mô hình học sai mục tiêu. Kéo điểm dự đoán và thấy MSE, MAE, cross-entropy phản ứng rất khác nhau.
Hàm mất mát trong hệ gợi ý — Shopee, TikTok, Spotify, YouTube
Cùng một lịch sử người dùng, cùng một mô hình — đổi hàm mất mát thì bảng xếp hạng top 10 đổi hoàn toàn. Vì sao MSE thua pairwise/ranking loss ở Shopee, TikTok, Spotify, YouTube.
Epoch và batch — Chia nhỏ đề thi để mô hình không ngộp
Máy học không nhồi cả 1000 đề thi một phát. Nó chia thành nhiều buổi (epoch), mỗi buổi nhiều đợt nhỏ (batch). Xem sự thay đổi của đường loss khi bạn kéo thanh batch size.
Epoch và batch khi huấn luyện GPT
GPT-4 đọc khoảng 13 nghìn tỉ token — một lượt duy nhất, chia thành hàng triệu batch. Xem cách các lab AI vặn batch size, lên lịch epoch và tránh hết RAM GPU.