Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.
Mô hình hay không nằm ở việc bạn đưa cho nó dữ liệu thô hay đã chế biến thành đặc trưng có ý nghĩa. Chạm vào từng cột để xem phép biến đổi thực sự làm gì.
lesson107 minKỹ năng thực hànhAI Foundation
Thử đoán
Hãy nghĩ feature engineering như nấu ăn. Cá tươi, gạo ngon, rau sạch thì bếp bình thường cũng nấu ra món ngon. Nguyên liệu hỏng thì đầu bếp giỏi cỡ nào cũng khó cứu. Theo nguồn bài, Andrew Ng từng nói khoảng 80% thời gian của dự án ML là chế biến dữ liệu.
Loại dữ liệu
Biến đổi thường gặp
Datetime
Tuổi, giờ, ngày trong tuần
Giá thô
Log, bin, scale
Text và category
One-hot, TF-IDF
Hiểu bằng hình — raw data và feature khác nhau thế nào
Raw data là những gì người dùng nhập hoặc hệ thống ghi lại: ngày sinh, địa chỉ dài, số tiền, nhãn chữ. Feature là phiên bản đã được mô hình hiểu: tuổi là số nguyên, quận đã tách khỏi địa chỉ, log của giá, và cột 0/1 cho mỗi danh mục.
Raw — mô hình KHÔNG hiểu
Sau khi engineer — mô hình ĐÃ hiểu
dob = "1995-05-30"
age = 30, gen = "Millennial"
price = 8.500.000
log_price = 15,96, price_bin = "cao"
address = "12 Nguyễn Huệ, Q1, TP HCM"
city = "TP HCM", district = "Q1"
category = "electronics"
cat_electronics = 1, cat_food = 0
Khám phá — bốn loại biến đổi
Bảng dưới đây có năm hàng, ba cột thô: ngày sinh, địa chỉ và danh mục. Mỗi phép biến đổi cho cột thô sinh ra những tín hiệu mới để mô hình học.
Ngày sinh
Địa chỉ
Danh mục
1995-05-30
42 Lý Thường Kiệt, Hoàn Kiếm, Hà Nội
food
2003-11-02
12 Nguyễn Huệ, Quận 1, TP HCM
electronics
1988-07-14
7 Trần Phú, Hải Châu, Đà Nẵng
food
2010-02-20
25 Hùng Vương, Huế
fashion
1999-09-09
88 Trần Hưng Đạo, Quận 5, TP HCM
food
Datetime decomposition: một timestamp thành ba tín hiệu
Thời điểm
Giờ
Thứ
Cuối tuần
2025-05-31 08:15
8
Thứ Bảy
Có
2025-06-02 12:40
12
Thứ Hai
Không
2025-06-03 19:05
19
Thứ Ba
Không
Binning: biến giá liên tục thành nhóm
Nhóm
Khoảng giá
Rẻ
dưới 200 nghìn
Vừa
200 nghìn – 1 triệu
Khá
1 triệu – 5 triệu
Cao
trên 5 triệu
Một cột số liên tục thành bốn nhóm có ý nghĩa. Mô hình học từ nhóm, không phải từng số lẻ.
One-hot: chuỗi thành ma trận 0/1
Danh mục
cat_food
cat_electronics
cat_fashion
food
1
0
0
electronics
0
1
0
food
1
0
0
fashion
0
0
1
Aggregation: gộp nhiều giao dịch thành hành vi của user
Mỗi hàng trước đây là một giao dịch, giờ là một user với số giao dịch 30 ngày gần đây, chi trung bình và số ngày từ lần mua cuối. Đây là RFM kinh điển trong e-commerce (Recency, Frequency, Monetary).
Log: nén cột có đuôi dài
Trước: giá thô tính bằng VND — một hàng lấn át tất cả và kéo hết trung bình. Sau: log(1 + giá) — các cột đều đặn hơn, và mô hình tuyến tính học ổn định.
Khoảnh khắc Aha
Mô hình không biết “1995” là năm, không biết “electronics” là danh mục, không biết “Hoàn Kiếm” là một quận đắt đỏ.
Feature engineering là bước dịch ngôn ngữ của con người sang ngôn ngữ của mô hình. Và cũng như nấu ăn, người dịch giỏi thường thắng người có bếp đắt tiền.
Thử thách
Giải thích — bốn nhóm dữ liệu
Feature engineering xoay quanh ba câu hỏi: mô hình cần loại tín hiệu nào, raw data đang ở dạng gì, và phép biến đổi nào ép nó về dạng mô hình tiêu hoá được. Bốn nhóm dữ liệu phổ biến có bộ kỹ thuật riêng.
Số (numerical)
Feature số là dễ nhất vì mô hình đã hiểu số. Nhưng “hiểu” không có nghĩa là “học tốt”: vẫn cần nén, chuẩn hoá hoặc phân nhóm.
Kỹ thuật
Ý nghĩa
Ví dụ
Scaling
StandardScaler (mean 0, std 1) hoặc MinMax (0–1). Bắt buộc cho tuyến tính và neural net
Chuẩn hoá tuổi và log giá
Log / Box-Cox
Nén đuôi dài (giá, thu nhập, lượt xem), không đổi thứ tự, giảm ảnh hưởng outlier
log(1 + x)
Binning
Chia số liên tục thành nhóm
Tuổi → nhóm tuổi; giá → rẻ, vừa, cao
Interaction
Kết hợp hai cột thành một. Mô hình tuyến tính cần, tree-based tự học
Một timestamp chứa nhiều tín hiệu: giờ trong ngày, ngày trong tuần, mùa, chu kỳ. Đừng đưa datetime nguyên thuỷ vào mô hình; hãy tách thành tín hiệu cụ thể.
Kỹ thuật
Ý nghĩa
Hour / day / month
Giờ cho cao điểm, ngày trong tuần cho cuối tuần, tháng cho mùa
Sinusoidal
sin(2π·h/24) và cos(2π·h/24) để 23h và 0h gần nhau
Lag / rolling
y(t−1) và rolling mean 7 ngày cho chuỗi thời gian; dùng shift() để tránh leak tương lai
Event-based
days_since_last_purchase, days_to_next_holiday — mạnh cho bài toán churn
Khi một cột số có phân phối lệch phải mạnh (giá, thu nhập, lượt xem), dùng log(1 + x). log1p an toàn với 0 và nén đuôi dài về gần đối xứng:
x′=log(1+x)
Ví dụ: 1 nghìn và 10 nghìn cách nhau 9 nghìn; sau khi lấy log, khoảng cách chỉ còn khoảng 2,3. Mô hình tuyến tính không còn bị vài giao dịch rất lớn nuốt chửng trung bình.
Công thức 2 — target encoding có smoothing
Khi category có quá nhiều giá trị (vài trăm quận), one-hot không còn hợp. Thay mỗi category bằng trung bình target tại category đó, pha thêm trung bình toàn cục để category hiếm không bị lệch:
y^te(x)=nx+mnx⋅yˉx+m⋅yˉ
n_x là số lần category x xuất hiện; ȳ_x là trung bình target trong category; ȳ là trung bình toàn cục; m là sức mạnh của prior (thường 10–30). Category xuất hiện nhiều dùng giá trị riêng; category hiếm được kéo về trung bình toàn cục để chống overfit.
Vì sao tree-based ít cần scaling?
Decision tree chia node bằng threshold (ví dụ price < 500k), nên thứ tự giá trị mới quan trọng, không phải thang đo. Do đó StandardScaler và MinMaxScaler không thay đổi kết quả với XGBoost, Random Forest hay LightGBM. Ngược lại, hồi quy tuyến tính và neural net cộng weighted sum: nếu một feature có thang 1e6 và feature khác từ 0 đến 1, gradient bị feature to đè và huấn luyện mất ổn định.
Tiếp theo, xem feature engineering chạy thực tế trong bài chống lừa đảo ngân hàng — nơi mỗi feature đúng giúp bắt hàng trăm giao dịch gian lận mỗi giây.
Tóm tắt
Mô hình không hiểu chuỗi, không hiểu ngày, không hiểu địa chỉ dài. Phải biến chúng thành số hoặc ma trận 0/1.
Bốn nhóm kỹ thuật chính: numerical (log, bin, scale), categorical (one-hot, target encode), datetime (hour, dow, age), text (TF-IDF, embedding).
Thêm feature vô tội vạ làm mô hình overfit. Thêm ít feature có ý nghĩa luôn thắng.
Đóng gói toàn bộ pipeline bằng sklearn.Pipeline và ColumnTransformer để tránh leak và tái lập được.