AI Builder
LLM & NLP
Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.Prompt; GPT vs BERT; tokenization Temperature, top-k/top-p, beam search; KV cache; context window
Format
Guided module
Duration
15h
Lessons
10
What you will practice
- Prompt; GPT vs BERT; tokenization
- Temperature, top-k/top-p, beam search; KV cache; context window
Lesson order
10 lessonsKỹ thuật viết prompt
Nghệ thuật thiết kế prompt rõ ràng để AI cho ra kết quả đúng ý — dành cho dân văn phòng, không cần lập trình.
GPT - Mô hình ngôn ngữ tự hồi quy
Mô hình ngôn ngữ sinh văn bản bằng cách dự đoán từ tiếp theo dựa trên các từ trước đó, nền tảng của ChatGPT.
BERT - Biểu diễn mã hoá hai chiều
Mô hình ngôn ngữ tiền huấn luyện hai chiều, hiểu ngữ cảnh từ cả trái lẫn phải để biểu diễn ngôn ngữ sâu sắc.
Tokenization - Tách từ
Quá trình chia văn bản thành các đơn vị nhỏ hơn (token) để máy tính có thể xử lý ngôn ngữ tự nhiên.
So sánh Tokenizer
So sánh BPE, SentencePiece và WordPiece — ưu nhược điểm và ứng dụng của từng phương pháp
Bộ nhớ đệm KV
Kỹ thuật lưu trữ key-value đã tính để tránh tính lại khi sinh token mới, tăng tốc suy luận LLM.
Temperature — Nút sáng tạo của AI
Nút chỉnh độ ngẫu nhiên của AI: khi nào nên vặn thấp để có câu trả lời chắc chắn, khi nào vặn cao để có ý tưởng mới.
Top-K và Top-P — Lấy mẫu có chọn lọc
Hai kỹ thuật lọc từ vựng trước khi chọn token tiếp theo, giúp kiểm soát chất lượng và đa dạng.
Beam Search — tìm kiếm chùm tia
Thuật toán giải mã giữ lại k ứng viên tốt nhất ở mỗi bước, cân bằng giữa chất lượng và chi phí tính toán.
Cửa sổ ngữ cảnh
Giới hạn số lượng token mà mô hình có thể xử lý cùng lúc — ảnh hưởng đến khả năng hiểu và nhớ ngữ cảnh.