Dự đoán
Đúng! Không có MLOps = không biết model version nào đang chạy, data nào đã train, khi nào model bắt đầu kém. Giống xây nhà không có bản vẽ — mọi thứ rối khi cần sửa.
Evaluating routing across providers.
AI Builder
Tập hợp thực hành và công cụ để tự động hoá vòng đời phát triển, triển khai và giám sát mô hình máy học.
Đúng! Không có MLOps = không biết model version nào đang chạy, data nào đã train, khi nào model bắt đầu kém. Giống xây nhà không có bản vẽ — mọi thứ rối khi cần sửa.
87% model ML không bao giờ lên production! Lý do chính: thiếu MLOps. Data scientist giỏi train model nhưng không biết deploy, monitor, retrain. MLOps chính là cầu nối giữa notebook thí nghiệm và sản phẩm thực tế — giống DevOps đã cách mạng hoá software, MLOps đang cách mạng hoá ML.
Data drift điển hình! Model train trên data cũ (có mùa đông) không phản ánh context hiện tại (mùa hè). MLOps monitoring phát hiện drift sớm và trigger retrain tự động với data gần nhất.
MLOps (Machine Learning Operations) là tập hợp thực hành và công cụ tự động hoá toàn bộ vòng đời ML: từ data đến production và quay lại.
Tại sao ML cần Ops riêng?
Software truyền thống: . ML có thêm chiều dữ liệu:
Bất kỳ thành phần nào thay đổi đều ảnh hưởng kết quả. MLOps quản lý tất cả.
5 trụ cột MLOps:
Deployment strategies:
# .github/workflows/ml-pipeline.yml
name: ML Pipeline
on:
push:
paths: ['data/**', 'models/**']
jobs:
train-evaluate-deploy:
runs-on: ubuntu-latest
steps:
- uses: actions/checkout@v4
# Data validation
- name: Validate data quality
run: python scripts/validate_data.py --threshold 0.95
# Train with experiment tracking
- name: Train model
run: |
python train.py \
--experiment "recommendation-v3" \
--tracking-uri $MLFLOW_URI
env:
MLFLOW_URI: ${{ secrets.MLFLOW_URI }}
# Evaluate against production model
- name: Compare with production
run: python evaluate.py --min-improvement 0.02
# Deploy if better (canary 10%)
- name: Canary deploy
if: success()
run: python deploy.py --strategy canary --traffic 0.1