ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Kỹ năng thực hành

AI Foundation

Xây dựng đặc trưng — Chọn nguyên liệu cho AI

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Mô hình hay không nằm ở việc bạn đưa cho nó dữ liệu thô hay đã chế biến thành đặc trưng có ý nghĩa. Chạm vào từng cột để xem phép biến đổi thực sự làm gì.

lesson107 minKỹ năng thực hànhAI Foundation

Thử đoán

Bạn có bảng khách hàng với cột “Ngày sinh = 1995-05-30”. Mô hình học máy sẽ làm gì với con số này?

Hãy nghĩ feature engineering như nấu ăn. Cá tươi, gạo ngon, rau sạch thì bếp bình thường cũng nấu ra món ngon. Nguyên liệu hỏng thì đầu bếp giỏi cỡ nào cũng khó cứu. Theo nguồn bài, Andrew Ng từng nói khoảng 80% thời gian của dự án ML là chế biến dữ liệu.

Loại dữ liệuBiến đổi thường gặp
DatetimeTuổi, giờ, ngày trong tuần
Giá thôLog, bin, scale
Text và categoryOne-hot, TF-IDF

Hiểu bằng hình — raw data và feature khác nhau thế nào

Raw data là những gì người dùng nhập hoặc hệ thống ghi lại: ngày sinh, địa chỉ dài, số tiền, nhãn chữ. Feature là phiên bản đã được mô hình hiểu: tuổi là số nguyên, quận đã tách khỏi địa chỉ, log của giá, và cột 0/1 cho mỗi danh mục.

Raw — mô hình KHÔNG hiểuSau khi engineer — mô hình ĐÃ hiểu
dob = "1995-05-30"age = 30, gen = "Millennial"
price = 8.500.000log_price = 15,96, price_bin = "cao"
address = "12 Nguyễn Huệ, Q1, TP HCM"city = "TP HCM", district = "Q1"
category = "electronics"cat_electronics = 1, cat_food = 0

Khám phá — bốn loại biến đổi

Bảng dưới đây có năm hàng, ba cột thô: ngày sinh, địa chỉ và danh mục. Mỗi phép biến đổi cho cột thô sinh ra những tín hiệu mới để mô hình học.

Ngày sinhĐịa chỉDanh mục
1995-05-3042 Lý Thường Kiệt, Hoàn Kiếm, Hà Nộifood
2003-11-0212 Nguyễn Huệ, Quận 1, TP HCMelectronics
1988-07-147 Trần Phú, Hải Châu, Đà Nẵngfood
2010-02-2025 Hùng Vương, Huếfashion
1999-09-0988 Trần Hưng Đạo, Quận 5, TP HCMfood

Datetime decomposition: một timestamp thành ba tín hiệu

Thời điểmGiờThứCuối tuần
2025-05-31 08:158Thứ BảyCó
2025-06-02 12:4012Thứ HaiKhông
2025-06-03 19:0519Thứ BaKhông

Binning: biến giá liên tục thành nhóm

NhómKhoảng giá
Rẻdưới 200 nghìn
Vừa200 nghìn – 1 triệu
Khá1 triệu – 5 triệu
Caotrên 5 triệu

Một cột số liên tục thành bốn nhóm có ý nghĩa. Mô hình học từ nhóm, không phải từng số lẻ.

One-hot: chuỗi thành ma trận 0/1

Danh mụccat_foodcat_electronicscat_fashion
food100
electronics010
food100
fashion001

Aggregation: gộp nhiều giao dịch thành hành vi của user

Mỗi hàng trước đây là một giao dịch, giờ là một user với số giao dịch 30 ngày gần đây, chi trung bình và số ngày từ lần mua cuối. Đây là RFM kinh điển trong e-commerce (Recency, Frequency, Monetary).

Log: nén cột có đuôi dài

Trước: giá thô tính bằng VND — một hàng lấn át tất cả và kéo hết trung bình. Sau: log(1 + giá) — các cột đều đặn hơn, và mô hình tuyến tính học ổn định.

Khoảnh khắc Aha

Mô hình không biết “1995” là năm, không biết “electronics” là danh mục, không biết “Hoàn Kiếm” là một quận đắt đỏ.

Feature engineering là bước dịch ngôn ngữ của con người sang ngôn ngữ của mô hình. Và cũng như nấu ăn, người dịch giỏi thường thắng người có bếp đắt tiền.

Thử thách

Bạn dự đoán khách Shopee có mua hàng trong 7 ngày tới. Dữ liệu có: user_id, giới tính, ngày đăng ký và danh sách đơn hàng gần đây (mỗi đơn có ngày và số tiền). Feature nào mạnh nhất?

Giải thích — bốn nhóm dữ liệu

Feature engineering xoay quanh ba câu hỏi: mô hình cần loại tín hiệu nào, raw data đang ở dạng gì, và phép biến đổi nào ép nó về dạng mô hình tiêu hoá được. Bốn nhóm dữ liệu phổ biến có bộ kỹ thuật riêng.

Số (numerical)

Feature số là dễ nhất vì mô hình đã hiểu số. Nhưng “hiểu” không có nghĩa là “học tốt”: vẫn cần nén, chuẩn hoá hoặc phân nhóm.

Kỹ thuậtÝ nghĩaVí dụ
ScalingStandardScaler (mean 0, std 1) hoặc MinMax (0–1). Bắt buộc cho tuyến tính và neural netChuẩn hoá tuổi và log giá
Log / Box-CoxNén đuôi dài (giá, thu nhập, lượt xem), không đổi thứ tự, giảm ảnh hưởng outlierlog(1 + x)
BinningChia số liên tục thành nhómTuổi → nhóm tuổi; giá → rẻ, vừa, cao
InteractionKết hợp hai cột thành một. Mô hình tuyến tính cần, tree-based tự họcdiện tích × số tầng = tổng diện tích sàn

numerical_fe.py

import numpy as np, pandas as pd
from sklearn.preprocessing import StandardScaler

df["log_price"] = np.log1p(df["price"])
df["age_bin"] = pd.cut(
    df["age"],
    bins=[0, 18, 30, 45, 120],
)
scaler = StandardScaler()
df[["age_s", "log_price_s"]] = scaler.fit_transform(
    df[["age", "log_price"]]
)

Phân loại (categorical)

Mô hình tuyến tính không hiểu chữ, phải chuyển về số. Tuỳ số lượng giá trị (cardinality), chọn kỹ thuật khác nhau.

Kỹ thuậtKhi nào dùng
One-hotDưới 20 giá trị: mỗi category thành một cột 0/1. Đơn giản, an toàn
Target encodingCardinality cao (quận, mã sản phẩm): thay category bằng trung bình target, cần smoothing
Frequency encodingThay category bằng tần suất xuất hiện. Đơn giản, mạnh với tree-based
Entity embeddingHọc vector dày cho mỗi category bằng neural net. Dành cho cardinality cực cao

categorical_fe.py

import pandas as pd
from category_encoders import TargetEncoder

onehot = pd.get_dummies(df["category"], prefix="cat")

te = TargetEncoder(smoothing=15)
df["district_te"] = te.fit_transform(
    df["district"], y_train,
)

freq = df["district"].value_counts(normalize=True)
df["district_freq"] = df["district"].map(freq)

Thời gian (datetime)

Một timestamp chứa nhiều tín hiệu: giờ trong ngày, ngày trong tuần, mùa, chu kỳ. Đừng đưa datetime nguyên thuỷ vào mô hình; hãy tách thành tín hiệu cụ thể.

Kỹ thuậtÝ nghĩa
Hour / day / monthGiờ cho cao điểm, ngày trong tuần cho cuối tuần, tháng cho mùa
Sinusoidalsin(2π·h/24) và cos(2π·h/24) để 23h và 0h gần nhau
Lag / rollingy(t−1) và rolling mean 7 ngày cho chuỗi thời gian; dùng shift() để tránh leak tương lai
Event-baseddays_since_last_purchase, days_to_next_holiday — mạnh cho bài toán churn

datetime_fe.py

import numpy as np, pandas as pd

df["ts"] = pd.to_datetime(df["ts"])
df["hour"] = df["ts"].dt.hour
df["dow"] = df["ts"].dt.dayofweek
df["is_weekend"] = df["dow"].isin([5, 6]).astype(int)

df["hour_sin"] = np.sin(2 * np.pi * df["hour"] / 24)
df["hour_cos"] = np.cos(2 * np.pi * df["hour"] / 24)

df["rolling_7"] = df["y"].shift(1).rolling(7).mean()

Văn bản (text)

Text là loại dữ liệu khó nhất vì không có thứ tự số và không có phân phối. Phải vector hoá, biến mỗi đoạn text thành một vector cố định chiều.

Kỹ thuậtÝ nghĩa
Bag of wordsĐếm mỗi từ xuất hiện bao nhiêu lần. Đơn giản, mạnh cho baseline
TF-IDFNhân tần suất với inverse document frequency: phạt từ phổ biến như “the”, thưởng từ đặc trưng
EmbeddingsSentence-BERT, OpenAI embeddings: vector 768 hoặc 1024 chiều, ngữ nghĩa mạnh
Meta featuresĐộ dài, số ký tự hoa, số dấu chấm than, sentiment score

text_fe.py

from sklearn.feature_extraction.text import TfidfVectorizer

tfidf = TfidfVectorizer(
    ngram_range=(1, 2),
    max_features=200,
    lowercase=True,
    stop_words="english",
)
X_text = tfidf.fit_transform(df["description"])

df["desc_len"] = df["description"].str.len()
df["desc_words"] = df["description"].str.split().str.len()

Công thức 1 — log transform

Khi một cột số có phân phối lệch phải mạnh (giá, thu nhập, lượt xem), dùng log(1 + x). log1p an toàn với 0 và nén đuôi dài về gần đối xứng:

x′=log⁡(1+x)x' = \log(1 + x)

Ví dụ: 1 nghìn và 10 nghìn cách nhau 9 nghìn; sau khi lấy log, khoảng cách chỉ còn khoảng 2,3. Mô hình tuyến tính không còn bị vài giao dịch rất lớn nuốt chửng trung bình.

Công thức 2 — target encoding có smoothing

Khi category có quá nhiều giá trị (vài trăm quận), one-hot không còn hợp. Thay mỗi category bằng trung bình target tại category đó, pha thêm trung bình toàn cục để category hiếm không bị lệch:

y^te(x)=nx⋅yˉx+m⋅yˉnx+m\hat{y}_{\text{te}}(x) = \frac{n_x \cdot \bar{y}_x + m \cdot \bar{y}}{n_x + m}

n_x là số lần category x xuất hiện; ȳ_x là trung bình target trong category; ȳ là trung bình toàn cục; m là sức mạnh của prior (thường 10–30). Category xuất hiện nhiều dùng giá trị riêng; category hiếm được kéo về trung bình toàn cục để chống overfit.

Vì sao tree-based ít cần scaling?

Decision tree chia node bằng threshold (ví dụ price < 500k), nên thứ tự giá trị mới quan trọng, không phải thang đo. Do đó StandardScaler và MinMaxScaler không thay đổi kết quả với XGBoost, Random Forest hay LightGBM. Ngược lại, hồi quy tuyến tính và neural net cộng weighted sum: nếu một feature có thang 1e6 và feature khác từ 0 đến 1, gradient bị feature to đè và huấn luyện mất ổn định.

Tiếp theo, xem feature engineering chạy thực tế trong bài chống lừa đảo ngân hàng — nơi mỗi feature đúng giúp bắt hàng trăm giao dịch gian lận mỗi giây.

Tóm tắt

  • Mô hình không hiểu chuỗi, không hiểu ngày, không hiểu địa chỉ dài. Phải biến chúng thành số hoặc ma trận 0/1.
  • Bốn nhóm kỹ thuật chính: numerical (log, bin, scale), categorical (one-hot, target encode), datetime (hour, dow, age), text (TF-IDF, embedding).
  • Thêm feature vô tội vạ làm mô hình overfit. Thêm ít feature có ý nghĩa luôn thắng.
  • Đóng gói toàn bộ pipeline bằng sklearn.Pipeline và ColumnTransformer để tránh leak và tái lập được.

Kiểm tra

Nếu không tách, mô hình hiểu gì từ giá trị “1995-05-30”?
Vì sao user_id không nên đưa vào mô hình như một feature?

Continue the path

Lesson 100 of 106