ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Hạ tầng & Vận hành

AI Builder

MLOps — DevOps cho máy học

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Tập hợp thực hành và công cụ để tự động hoá vòng đời phát triển, triển khai và giám sát mô hình máy học.

lesson120 minHạ tầng & Vận hànhAI Engineer

Dự đoán

Team ML của bạn train model trong Jupyter notebook, copy file .pkl lên server bằng SCP, không có version data hay model. Tuần sau model cho kết quả tệ hơn. Vấn đề ở đâu?

Đúng! Không có MLOps = không biết model version nào đang chạy, data nào đã train, khi nào model bắt đầu kém. Giống xây nhà không có bản vẽ — mọi thứ rối khi cần sửa.

Khoảnh khắc Aha

87% model ML không bao giờ lên production! Lý do chính: thiếu MLOps. Data scientist giỏi train model nhưng không biết deploy, monitor, retrain. MLOps chính là cầu nối giữa notebook thí nghiệm và sản phẩm thực tế — giống DevOps đã cách mạng hoá software, MLOps đang cách mạng hoá ML.

Thử thách

Model gợi ý sản phẩm trên Shopee đột nhiên gợi ý toàn áo ấm dù đang mùa hè. Code không thay đổi. Nguyên nhân có thể là gì?

Data drift điển hình! Model train trên data cũ (có mùa đông) không phản ánh context hiện tại (mùa hè). MLOps monitoring phát hiện drift sớm và trigger retrain tự động với data gần nhất.

Vì sao ML cần Ops riêng

MLOps (Machine Learning Operations) là tập hợp thực hành và công cụ tự động hoá toàn bộ vòng đời ML: từ data đến production và quay lại.

Tại sao ML cần Ops riêng?

Software truyền thống: Code→Product\text{Code} \rightarrow \text{Product}. ML có thêm chiều dữ liệu:

Product=f(Code,Data,Model,Config)\text{Product} = f(\text{Code}, \text{Data}, \text{Model}, \text{Config})

Bất kỳ thành phần nào thay đổi đều ảnh hưởng kết quả. MLOps quản lý tất cả.

5 trụ cột MLOps

5 trụ cột MLOps:

  • Data Management: Versioning (DVC), lineage tracking, quality checks — xem thêm data pipelines
  • Experiment Tracking: Log metrics, params, artifacts (MLflow, W&B)
  • Model Registry: Version models, staging/production promotion
  • CI/CD for ML: Auto test data quality, model performance trước deploy, triển khai qua container
  • Monitoring: Phát hiện data drift, model degradation — chi tiết ở giám sát AI, trigger retrain

Deployment strategies

Deployment strategies:

  • Shadow: Model mới chạy song song, chỉ log không serve — an toàn nhất
  • Canary: Chuyển 5% traffic sang model mới, tăng dần nếu OK
  • Blue-Green: Hai môi trường, switch traffic nguyên khối
  • A/B Test: Chia user thành nhóm, đo business metric khác biệt

Pipeline mẫu và thực tế tại Việt Nam

MLOps Pipeline với GitHub Actions + MLflow

# .github/workflows/ml-pipeline.yml
name: ML Pipeline
on:
  push:
    paths: ['data/**', 'models/**']

jobs:
  train-evaluate-deploy:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4

      # Data validation
      - name: Validate data quality
        run: python scripts/validate_data.py --threshold 0.95

      # Train with experiment tracking
      - name: Train model
        run: |
          python train.py \
            --experiment "recommendation-v3" \
            --tracking-uri $MLFLOW_URI
        env:
          MLFLOW_URI: ${{ secrets.MLFLOW_URI }}

      # Evaluate against production model
      - name: Compare with production
        run: python evaluate.py --min-improvement 0.02

      # Deploy if better (canary 10%)
      - name: Canary deploy
        if: success()
        run: python deploy.py --strategy canary --traffic 0.1

Tóm tắt

  • MLOps tự động hoá vòng đời ML: data → train → evaluate → deploy → monitor → retrain.
  • Khác DevOps vì ML có thêm chiều data: model 'hỏng' dù code không đổi (data drift).
  • 4 mức trưởng thành: từ notebook thủ công (Level 0) đến tự động hoàn toàn (Level 3).
  • Feature Store ngăn training-serving skew — lỗi phổ biến nhất khi deploy ML.
  • Deploy strategies: Shadow → Canary → Blue-Green, tăng dần risk tolerance.

Continue the module

Lesson 3 of 9