Phân tích thành phần chính (PCA) — tìm trục chính của dữ liệu
Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.
Nếu phải mô tả một đám đông bằng một câu, bạn nói gì? PCA tìm 'trục chính' — hướng mà dữ liệu trải ra nhiều nhất.
lesson53 minNền tảng toánAI Foundation
Thử đoán
Predict first
Bạn phải mô tả cả một đám đông bằng MỘT câu duy nhất. Cách nào giữ được nhiều thông tin nhất?
Bài này bạn sẽ đi qua một đám mây điểm 2D. Nhiệm vụ: xoay một thanh thẳng sao cho các điểm khi chiếu xuống nó trải ra nhiều nhất. Đó chính là PC1 — trục chính thứ nhất. PCA mở rộng trò chơi này lên 100 hay 10.000 chiều và làm tự động trong mili-giây.
Hiểu bằng hình ảnh
PCA = tìm “góc chụp ảnh” đẹp nhất của dữ liệu
Hãy tưởng tượng bạn có một tác phẩm điêu khắc 3D và chỉ được chụp một bức ảnh 2D. Bạn chọn góc nào? Chắc chắn không phải góc trực diện (chi tiết chồng lên nhau), mà là góc bạn thấy được nhiều chiều sâu nhất. PCA làm chính xác vậy — nhưng cho dữ liệu hàng trăm chiều.
Ý tưởng cốt lõi
1 / 3
1. Đám mây điểm
Một đám mây điểm. Mỗi điểm là một bạn sinh viên với hàng chục con số (điểm môn, giờ học, chiều cao…).
Khám phá
Xoay trục, tìm PC1
Đường thẳng đi đúng hướng mà dữ liệu trải ra nhiều nhất chính là PC1. Hướng đó có phương sai lớn nhất khi chiếu dữ liệu lên nó.
Đi sâu
Thuật toán PCA thực tế chạy 3 bước:
Ba bước của PCA
1 / 3
1. Bước 1: Trung tâm hoá dữ liệu
**Trung tâm hoá = đưa trọng tâm đám mây về gốc toạ độ.** Tính điểm trung bình (x̄, ȳ), rồi trừ nó ra khỏi mỗi điểm. Sau bước này, đám mây vẫn có đúng hình dáng cũ, chỉ là “dọn về giữa” để các trục sau đi qua tâm. Giống việc đặt cân nặng của bức tượng ngay tâm bàn trước khi đo các góc nghiêng của nó.
Thử thách
Nhớ lại: PC1 là hướng dữ liệu trải ra xa nhất, chứ không phải theo trục nền x hoặc y. Máy tính không đứng đó “thử xoay từng góc”. Nó giải một phương trình đại số — tìm eigenvector của ma trận hiệp phương sai — và ra ngay kết quả.
Giải thích
Bạn đã thấy PCA hoạt động. Giờ hãy nhìn hai công thức đứng đằng sau — và hiểu chúng bằng tiếng Việt trước khi nhìn tiếng toán.
Công thức 1: Ma trận hiệp phương sai
C=n1i=1∑n(xi−xˉ)(xi−xˉ)T
Đọc bằng tiếng Việt: “Lấy mỗi điểm trừ đi trung bình (trung tâm hoá), rồi gom tất cả lại thành một bảng số vuông cho biết mỗi cặp đặc trưng thay đổi cùng nhau đến đâu”. Nếu Cij dương, đặc trưng i và j tăng cùng nhau. Bằng 0: chúng không liên quan. Âm: khi i tăng thì j giảm.
Cặp đặc trưng
Quan hệ
Ý nghĩa
Chiều cao và cân nặng
Tăng cùng nhau
Cao thường nặng hơn.
Số giày và điểm văn
Không liên quan
Không ảnh hưởng lẫn nhau — thay đổi độc lập.
Giờ ngủ và giờ chơi game
Ngược chiều
Ngủ nhiều → chơi ít. Một tăng thì một giảm.
Công thức 2: Phương trình vector riêng (eigenvalue)
Cv=λv
Đọc bằng tiếng Việt: “Có những hướng đặc biệt mà ma trận C tác động vào chỉ kéo giãn, không xoay. Chúng gọi là vector riêng (eigenvector). Hệ số kéo giãn gọi là trị riêng (eigenvalue)”. Trong PCA:
Eigenvector của C = các trục PC.
Eigenvalue λ = lượng phương sai trục đó giữ được.
Sắp λ từ lớn đến nhỏ → chọn vài λ đầu là đã giữ gần hết thông tin.
Khi nào dùng PCA, khi nào không?
Nên dùng PCA
Tránh PCA
Muốn vẽ dữ liệu đa chiều xuống biểu đồ 2D/3D
Dữ liệu nằm trên đường cong (vòng tròn, xoắn ốc)
Các đặc trưng tương quan mạnh với nhau
Đặc trưng có đơn vị khác nhau và chưa chuẩn hoá
Cần nén embedding (từ 300 xuống 50 chiều)
Cần diễn giải rõ trục mới thành gì
Loại bỏ nhiễu (trục PC cuối thường là nhiễu)
Chỉ có vài chục điểm ít chiều
Tại sao phải sắp xếp eigenvalue từ lớn đến nhỏ?
Vì eigenvalue chính là “lượng phương sai” mỗi trục giữ được. Trục có eigenvalue lớn giữ nhiều thông tin hơn. Khi giảm chiều từ d xuống k, ta chọn k trục ứng với k eigenvalue lớn nhất — vứt bỏ những trục ít thông tin. Giống khi bạn tóm tắt một cuốn sách: giữ chương quan trọng, bỏ chương phụ.
Một ứng dụng thú vị: PageRank
Google xếp hạng các trang web bằng cách tìm eigenvector của ma trận link giữa các trang. Trang nào có “giá trị” cao trong eigenvector ấy là trang quan trọng nhất. Ý tưởng y hệt PCA, chỉ khác dữ liệu là web thay vì đám điểm. Đại số tuyến tính lặng lẽ làm nhiều việc hơn bạn nghĩ.
Tóm tắt
Năm điều cần nhớ về PCA
PCA trả lời câu hỏi: 'Nếu phải mô tả dữ liệu bằng ít chiều hơn, nên chọn trục nào?'
Trục PC1 là hướng dữ liệu trải ra nhiều nhất. PC2 vuông góc với PC1, trải nhiều nhất trong phần còn lại. Cứ thế tiếp.
Bước 1: trung tâm hoá (đưa trọng tâm về gốc). Bước 2: tìm eigenvector của ma trận hiệp phương sai. Bước 3: chiếu dữ liệu xuống các trục PC.
Eigenvalue = lượng phương sai mỗi trục giữ. Tổng λ đầu / tổng tất cả λ = phần trăm thông tin giữ lại.