AI Builder
GPT - Mô hình ngôn ngữ tự hồi quy
Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.Mô hình ngôn ngữ sinh văn bản bằng cách dự đoán từ tiếp theo dựa trên các từ trước đó, nền tảng của ChatGPT.
Khám phá — sinh văn bản từng token
GPT sinh văn bản theo kiểu autoregressive: mỗi bước đọc toàn bộ context đã có, tính attention, xuất ra phân phối xác suất trên toàn bộ từ vựng (khoảng 50 nghìn token với GPT-2, khoảng 100 nghìn với GPT-4), lấy mẫu một token, rồi lặp lại.
Một bước sinh
1. 1. Context
Prompt gốc cộng các token đã sinh tạo thành chuỗi đầu vào.
Điều khiển sampling
| Tham số | Tác dụng | Ví dụ khi cần |
|---|---|---|
| Temperature T | T thấp: phân phối sắc, gần greedy. T cao: phân phối phẳng, đa dạng hơn | Code: T thấp. Sáng tạo: T cao hơn |
| Top-k | Chỉ xét k token có xác suất cao nhất | Cắt bớt token rất hiếm |
| Top-p (nucleus) | Giữ các token có tổng xác suất tích luỹ đạt p | Thích ứng: đoạn đầu ít token, đoạn không chắc nhiều token |
Chuỗi xử lý: logit → chia temperature → softmax → lọc top-k → lọc top-p → lấy mẫu. Với T gần 0, gần như luôn chọn token số 1 (greedy). Với T = 2,0 và top-p = 0,95, mô hình có thể chọn những token bất ngờ hơn.
Khoảnh khắc A-ha
GPT chỉ làm một việc: dự đoán token tiếp theo. Nhưng khi được huấn luyện trên hàng tỷ câu với mục tiêu tối đa log P(wₜ | w<ₜ), nó học ngôn ngữ đủ sâu để viết văn, trả lời câu hỏi, viết code, giải toán, và thậm chí suy luận qua nhiều bước.
Như người kể chuyện giỏi: chỉ dựa vào những gì đã nói để tiếp tục, nhưng nhờ đọc hàng tỷ câu chuyện nên kể rất mạch lạc. Khi đủ lớn, mô hình xuất hiện những khả năng mà không ai lập trình trực tiếp; đó là emergent abilities.
Thử thách nhanh
Sampling sâu hơn
T tiến tới 0: phân phối sắc, gần argmax (greedy). T = 1: softmax chuẩn. T tiến tới vô cực: phân phối đều, chọn ngẫu nhiên.
Khi nào dùng gì?
- T = 0 (greedy): trích xuất thông tin, code completion, cần ổn định.
- T khoảng 0,7, top-p 0,9: cấu hình cân bằng giữa mạch lạc và đa dạng; theo nguồn bài, đây là mặc định của ChatGPT (chưa kiểm chứng).
- T = 1,0 trở lên, top-p 0,95: brainstorm, viết văn sáng tạo, chấp nhận điều bất ngờ.
- T = 2,0 trở lên: thường tạo văn bản vô nghĩa, tránh trừ khi đang nghiên cứu.
Scaling law
Một trong những khám phá quan trọng nhất của NLP hiện đại: perplexity giảm theo luật lũy thừa với kích thước mô hình, khi dữ liệu và compute tương xứng. Bảng dưới liệt kê các thế hệ GPT để đối chiếu:
| Mô hình | Số tham số (theo nguồn bài) | Ghi chú |
|---|---|---|
| GPT-1 | 117 triệu | Pre-train trên BooksCorpus |
| GPT-2 | 1,5 tỷ | 48 lớp, WebText |
| GPT-3 | 175 tỷ | 96 lớp, Common Crawl đã lọc |
| GPT-4 | Ước tính trên 1 nghìn tỷ (MoE) | Số liệu không công bố chính thức, cần kiểm chứng |
Luật Kaplan (2020)
Kaplan và cộng sự (2020) cho thấy loss tuân theo luật lũy thừa với số tham số N:
Tương tự cho kích thước dữ liệu D và compute C. Nếu cả ba tăng cùng tỷ lệ, loss tiếp tục giảm theo luật lũy thừa trên ít nhất bảy bậc độ lớn, đó là nền tảng để các phòng thí nghiệm liên tục xây dựng mô hình lớn hơn.
Chinchilla (Hoffmann và cộng sự, 2022) tinh chỉnh thêm: với ngân sách compute cố định, tỷ lệ tối ưu giữa tham số và token khoảng 1:20. Chinchilla 70 tỷ tham số dùng 1,4 nghìn tỷ token cho kết quả tốt hơn GPT-3 175 tỷ.
Emergent abilities
Wei và cộng sự (2022) quan sát: một số tác vụ như cộng ba chữ số, sắp xếp lại từ, suy luận nhiều bước có hiện tượng chuyển pha. Mô hình nhỏ gần như ngẫu nhiên; mô hình trung bình vẫn gần ngẫu nhiên; nhưng khi vượt một ngưỡng khoảng 10 tỷ tham số, hiệu năng nhảy vọt. Theo nguồn bài, GPT-2 (1,5 tỷ) không giải được phép cộng 25 + 37 và GPT-3 (175 tỷ) giải được khoảng 85% bài cộng ba chữ số (số liệu cần kiểm chứng).
Từ đó xuất hiện: in-context learning (few-shot), chain-of-thought reasoning, sinh code (Codex, Copilot), và tuân theo chỉ dẫn sau RLHF. Có tranh luận cho rằng đây là artifact của cách đo (Schaeffer và cộng sự, 2023). Dù vậy, thực tế cho thấy scale tạo ra khả năng mà mô hình nhỏ không có.
Thử thách nâng cao
Lý thuyết
GPT (Generative Pre-trained Transformer, OpenAI, 2018) dùng Transformer decoder với self-attention có mask nhân quả để sinh văn bản tự hồi quy: dự đoán token tiếp theo dựa trên mọi token trước đó. Văn bản được chia bằng tokenization (BPE hoặc SentencePiece) trước khi vào mô hình. So với BERT (encoder hai chiều), GPT tối ưu cho việc sinh văn bản thay vì hiểu toàn câu.
Với mỗi token, mô hình xuất ra phân phối xác suất trên toàn bộ vocab (50–100 nghìn token). Loss là cross-entropy giữa phân phối dự đoán và one-hot của đáp án đúng. Gradient truyền ngược qua mọi lớp.
Hành trình scale: GPT đến GPT-4
- GPT-1 (2018): 117 triệu tham số, 12 lớp, BooksCorpus khoảng 5 GB. Chứng minh pre-training và fine-tuning vượt trội.
- GPT-2 (2019): 1,5 tỷ tham số, 48 lớp, 40 GB WebText. Sinh văn bản giống người; OpenAI ban đầu không công bố đầy đủ vì lo ngại lạm dụng.
- GPT-3 (2020): 175 tỷ tham số, 96 lớp, 570 GB Common Crawl đã lọc. Xuất hiện few-shot learning, viết code, giải toán đơn giản.
- GPT-3.5 và ChatGPT (2022): thêm RLHF; mô hình biết tuân theo chỉ dẫn và từ chối câu hỏi độc hại.
- GPT-4 (2023): theo nguồn bài ước tính trên 1 nghìn tỷ tham số (MoE), đa phương thức, suy luận phức tạp (số liệu cần kiểm chứng).
Mã sinh văn bản với Hugging Face
gpt2_generation_demo.py
"""
Sinh văn bản tiếng Việt với Hugging Face Transformers.
Yêu cầu: pip install transformers torch
"""
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
# ─── 1. Load model và tokenizer ───
# Dùng GPT-2 (nếu có Vietnamese version: VietAI/gpt-neo-1.3B-vietnamese-news)
model_name = "gpt2" # hoặc "VietAI/gpt-j-6B-vietnamese-news"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)
model.eval()
# ─── 2. Tokenize prompt ───
prompt = "Tôi yêu"
input_ids = tokenizer.encode(prompt, return_tensors="pt")
print(f"Token IDs: {input_ids.tolist()}")
print(f"Tokens: {tokenizer.convert_ids_to_tokens(input_ids[0])}")
# ─── 3. Generation với các strategy khác nhau ───
# 3a. Greedy decode (deterministic, lặp lại)
with torch.no_grad():
out_greedy = model.generate(
input_ids,
max_length=30,
do_sample=False, # greedy
)
print("Greedy:", tokenizer.decode(out_greedy[0], skip_special_tokens=True))
# 3b. Temperature + top-k + top-p (ChatGPT style)
with torch.no_grad():
out_sampled = model.generate(
input_ids,
max_length=30,
do_sample=True,
temperature=0.7, # cân bằng
top_k=50, # chỉ xét 50 token cao nhất
top_p=0.9, # nucleus sampling
num_return_sequences=3, # tạo 3 biến thể
)
for i, seq in enumerate(out_sampled):
print(f"Sample {i+1}:", tokenizer.decode(seq, skip_special_tokens=True))
# 3c. Beam search (ổn định hơn, cho dịch/tóm tắt)
with torch.no_grad():
out_beam = model.generate(
input_ids,
max_length=30,
num_beams=5,
early_stopping=True,
no_repeat_ngram_size=2, # tránh lặp bigram
)
print("Beam:", tokenizer.decode(out_beam[0], skip_special_tokens=True))Tự cài đặt sampling
manual_sampling.py
"""
Tự implement softmax sampling với temperature + top-k + top-p.
Giúp hiểu rõ chuyện gì xảy ra bên trong .generate().
"""
import torch
import torch.nn.functional as F
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("gpt2")
model = AutoModelForCausalLM.from_pretrained("gpt2")
model.eval()
def sample_next_token(logits, temperature=1.0, top_k=50, top_p=0.9):
"""Áp dụng sampling pipeline chuẩn."""
# Chia temperature
logits = logits / temperature
# Top-k: giữ k token cao nhất
if top_k > 0:
top_k_vals, _ = torch.topk(logits, top_k)
thresh = top_k_vals[..., -1, None]
logits = torch.where(logits < thresh, torch.full_like(logits, -float("inf")), logits)
# Top-p (nucleus)
sorted_logits, sorted_idx = torch.sort(logits, descending=True)
sorted_probs = F.softmax(sorted_logits, dim=-1)
cum_probs = torch.cumsum(sorted_probs, dim=-1)
sorted_mask = cum_probs > top_p
sorted_mask[..., 1:] = sorted_mask[..., :-1].clone()
sorted_mask[..., 0] = False
idx_to_remove = sorted_mask.scatter(-1, sorted_idx, sorted_mask)
logits = logits.masked_fill(idx_to_remove, -float("inf"))
# Softmax → sample
probs = F.softmax(logits, dim=-1)
next_token = torch.multinomial(probs, num_samples=1)
return next_token
# ─── Autoregressive loop ───
prompt = "Tôi yêu"
input_ids = tokenizer.encode(prompt, return_tensors="pt")
generated = input_ids.clone()
for step in range(20):
with torch.no_grad():
outputs = model(generated)
# logits của token cuối cùng
logits = outputs.logits[:, -1, :] # shape: [batch, vocab]
# Sample
next_token = sample_next_token(logits, temperature=0.8, top_k=40, top_p=0.95)
generated = torch.cat([generated, next_token], dim=-1)
# Dừng nếu gặp EOS
if next_token.item() == tokenizer.eos_token_id:
break
print(tokenizer.decode(generated[0], skip_special_tokens=True))
# Ví dụ output: "Tôi yêu em rất nhiều và mãi mãi bên em..."Tóm tắt
- GPT là Transformer decoder một chiều (trái sang phải) với causal mask, tối đa P(wₜ | w<ₜ): autoregressive language modeling.
- Mỗi bước sinh: context → self-attention → logit → softmax(l/T) → lọc top-k và top-p → lấy mẫu → lặp lại đến EOS hoặc max_length.
- Causal mask là ma trận tam giác dưới với −∞ phía trên đường chéo, nên token hiện tại không nhìn thấy token tương lai.
- Temperature điều khiển độ sáng tạo: T thấp cho code và trích xuất; T cao cho viết sáng tạo. Top-k và top-p cắt phần đuôi dài.
- Scaling law: loss giảm theo luật lũy thừa với số tham số, dữ liệu và compute. Tăng quy mô cũng mở ra khả năng mới (emergent).
- GPT giỏi sinh; BERT giỏi hiểu. ChatGPT = GPT + SFT + RLHF.