Ý nghĩa thực tế: năm 2022 AI chỉ đọc được một email dài. Ba năm sau, cùng một mô hình có thể đọc hết cuốn "Chiến tranh và Hòa bình" (hơn 1.200 trang) trong một lần.
Cửa sổ ngữ cảnh (context window) là giới hạn số lượng token — đơn vị chữ nhỏ nhất, mỗi từ tiếng Anh khoảng 1,3 token — mà mô hình có thể "nhìn thấy" cùng lúc. Quan trọng: con số này bao gồm cả câu hỏi, tài liệu bạn gửi lẫn câu trả lời của AI.
GPT-3.5 năm 2022 chỉ có cửa sổ 4.096 token — tương đương khoảng 6 trang A4. Khi bạn là nhân viên văn phòng cần AI phân tích một hợp đồng 80 trang, một báo cáo tài chính quý hay một email chuỗi dài, mô hình đơn giản không đủ "bàn làm việc" để đọc hết.
Thời GPT-3.5 (4K token)
- **Cách làm bắt buộc:** chia 500 trang thành 10 phần, gửi từng phần riêng lẻ, nhận 10 bản tóm tắt nhỏ, rồi tự gộp thành một bản tóm tắt cuối.
- Ít nhất **10 prompt riêng** cho cùng một file
- Mỗi phần AI không biết phần khác nói gì → dễ mâu thuẫn
- Bạn phải tự làm "biên tập viên" gộp kết quả
- Mất 60–90 phút; dễ bỏ sót khi phần hay nằm ở giữa file
Thời Claude / Gemini (1M token)
- **Cách làm mới:** kéo toàn bộ PDF 500 trang vào một prompt duy nhất với Claude hoặc Gemini. Đặt câu hỏi trực tiếp: "Tóm tắt, so sánh biên lợi nhuận theo quý, nêu 3 rủi ro lớn nhất".
- **1 prompt duy nhất**, AI đọc cả 500 trang
- AI hiểu mạch liên kết giữa các chương — không mâu thuẫn
- Bạn chỉ cần đọc và xác nhận bản tóm tắt cuối
- Mất 3–8 phút; có thể hỏi tiếp tự nhiên dựa trên cùng bối cảnh
Cùng một công việc thật: tóm tắt báo cáo tài chính 500 trang.
Trước năm 2023, thói quen "cắt tài liệu thành mảnh vừa ăn" là kỹ năng bắt buộc khi làm việc với AI. Hàng triệu nhân viên văn phòng, luật sư, kế toán, nhân viên chăm sóc khách hàng đều rơi vào quy trình này mỗi ngày — tốn thời gian và dễ mất ý.
Claude 2 mở đường với 100K token (2023). Anthropic ra mắt mô hình thương mại đầu tiên có cửa sổ 100.000 token — khoảng 75.000 từ, tương đương một cuốn tiểu thuyết ngắn hoặc một bản hợp đồng dày. Lần đầu tiên người dùng có thể tải toàn bộ tài liệu pháp lý hay báo cáo nghiên cứu và đặt câu hỏi xuyên suốt mà không cần cắt nhỏ.
Trước đó, GPT-4 bản phổ thông chỉ có 8K token, bản 32K phải đăng ký riêng. Bước nhảy lên 100K là một trật tự độ lớn — lần đầu "AI đọc tài liệu" trở thành thao tác ai cũng dùng được.
Gemini 1.5 Pro nâng lên 1 triệu token (2024–2025). Google công bố Gemini 1.5 Pro hỗ trợ cửa sổ 1 triệu token (bản nghiên cứu thử nghiệm tới 2 triệu), cho phép phân tích:
| Lượng | Tương đương |
|---|
| 1.500 trang A4 | tài liệu hay sách |
| 11 giờ | audio ghi âm cuộc họp |
| 60 phút | video có lời thoại |
| 30.000 dòng | mã nguồn phần mềm |
trong cùng một cửa sổ. Không còn phải chọn giữa âm thanh, văn bản hay mã nguồn — AI đọc chung tất cả.
Claude Sonnet 4 / Opus 4.6 mở rộng 1 triệu token với giá cố định (2025–2026). Anthropic mở rộng dòng Claude lên 1 triệu token, với một điểm khác biệt quan trọng cho doanh nghiệp: giá mỗi token không tăng khi cửa sổ lớn hơn — token thứ 900.000 có giá bằng token thứ 100.
Cũ: giá tăng theo độ dài
- Nhiều nhà cung cấp trước đây tính phí "long context" cao hơn 2–4 lần. Một tác vụ 500K token có thể mất **vài USD mỗi lần chạy** — không đủ rẻ để dùng hằng ngày.
Mới: giá cố định mỗi token
- Với giá cố định, 500K token có giá bằng 500K token bình thường. Phòng pháp chế, kế toán, nhân sự có thể **đưa AI đọc tài liệu dài như một quy trình hằng ngày**, không phải sự kiện đặc biệt.
Cùng một tác vụ: phân tích 800 trang báo cáo (≈ 560K token).
Độ chính xác truy xuất đạt 90%. Anthropic báo cáo Claude Opus 4.6 đạt độ chính xác truy xuất — khả năng tìm đúng thông tin cụ thể trong tài liệu rất dài — ở mức 90% trên toàn bộ cửa sổ 1 triệu token, giảm đáng kể vấn đề "mất thông tin ở phần giữa" mà nhiều mô hình trước đây gặp phải.