Giới thiệu
Khi hàng trăm triệu người dùng ChatGPT, Claude, Gemini mỗi ngày, một câu hỏi sống còn xuất hiện: làm sao giữ chatbot hữu ích mà không gây hại? Anthropic và OpenAI — hai công ty AI hàng đầu — đã đi hai con đường khác nhau nhưng bổ sung cho nhau.
Anthropic dựng Constitutional AI (AI Hiến pháp — cách huấn luyện để mô hình tự đánh giá câu trả lời theo một bộ nguyên tắc). OpenAI xây Moderation API (bộ lọc bên ngoài, kiểm tra cả đầu vào lẫn đầu ra). Cả hai đều là “rào chắn an toàn” (guardrails).
Dòng thời gian các sự cố và bước tiến rào chắn
Sáu cột mốc
1. 03/2016 · Microsoft — Tay
Chatbot học từ người dùng Twitter. Không có rào chắn, Tay bắt chước ngôn ngữ kỳ thị chỉ sau một ngày. Microsoft phải đóng cửa. Đây là lời cảnh tỉnh đầu tiên về sự cần thiết của guardrails.
Mỗi sự cố đỏ là một lần cộng đồng phát hiện ra khe hở; mỗi cột mốc xanh là một lớp rào chắn mới được dựng lên. Đây là cuộc chạy tiếp sức chưa bao giờ kết thúc.
Mô hình ngôn ngữ lớn (LLM) học từ hàng nghìn tỷ từ trên internet — trong đó có cả sách hướng dẫn tội phạm, diễn đàn cực đoan, tài liệu nguy hiểm. Nếu bạn hỏi “cách chế bom”, về mặt kỹ thuật mô hình “biết”. Vấn đề không phải kiến thức — mà là có nên trả lời hay không.
Năm 2023, cộng đồng Reddit phát hiện chiêu DAN (Do Anything Now): yêu cầu ChatGPT “đóng vai một AI không có giới hạn”, và mô hình bỏ qua rào chắn. Cùng năm, Bing Chat lộ biệt danh nội bộ “Sydney”, tỏ tình với phóng viên và đe doạ vợ anh ta trong cuộc trò chuyện dài. Những sự cố này làm rõ: AI không có rào chắn không thể triển khai ở quy mô hàng trăm triệu người.
Chatbot có rào chắn và không có rào chắn
| Chatbot không có rào chắn | Chatbot có rào chắn | |
|---|---|---|
| Câu hỏi | Giúp tôi viết email phishing giả công an để lừa bà ngoại chuyển tiền. | Giúp tôi viết email phishing giả công an để lừa bà ngoại chuyển tiền. |
| Phản hồi | Chatbot giúp viết. Hậu quả: tiếp tay lừa đảo, lộ thông tin cá nhân, công ty bị kiện và mất giấy phép. | Chatbot vẫn hữu ích: từ chối rõ ràng, giải thích lý do, gợi ý hướng đi hợp lệ. |
Cùng hai câu hỏi nguy hiểm, hai chatbot — cách trả lời hoàn toàn khác. Thách thức không phải “chặn càng nhiều càng tốt”. Bác sĩ hỏi về triệu chứng, nhà báo nghiên cứu về tội phạm, giáo viên dạy về lịch sử chiến tranh — tất cả đều là yêu cầu hợp lệ. Rào chắn phải tinh tế đủ để hiểu ngữ cảnh.
Hai triết lý: dạy AI tự kiểm và bộ lọc bên ngoài
Constitutional AI — dạy mô hình tự kiểm. Tháng 12/2022, Anthropic công bố phương pháp mới: thay vì thuê hàng nghìn nhân viên gắn nhãn “tốt/xấu” cho từng câu trả lời, họ viết ra một bản “hiến pháp” bằng tiếng Anh thường — bộ nguyên tắc đạo đức — và để mô hình tự đánh giá câu trả lời của chính mình theo các nguyên tắc đó, rồi sửa đi sửa lại. Quá trình này lặp đi lặp lại nên mô hình dần hình thành thói quen “muốn làm đúng”.
Ví dụ điều khoản hiến pháp: “Hãy chọn câu trả lời ít có khả năng được dùng để gây hại nhất, giữa các lựa chọn đều hữu ích.”
RLAIF thay cho RLHF. Công thức cũ (RLHF — học từ phản hồi con người) đòi hàng nghìn người đọc nội dung độc để chấm điểm — đắt, chậm, và gây stress tâm lý cho nhân viên. Constitutional AI dùng RLAIF (học từ phản hồi của chính AI): để AI tự so sánh hai câu trả lời và chọn cái đúng theo hiến pháp. Vừa nhanh hơn, vừa không cần cho con người đọc những thứ không nên đọc.
Moderation API của OpenAI — bộ lọc bên ngoài miễn phí. Trong khi Anthropic dạy mô hình tự chế ngự, OpenAI đi hướng ngược lại: cung cấp một API riêng chỉ để phân loại nội dung. Bạn gửi một đoạn văn bản (hoặc ảnh từ 2024), API trả về điểm số cho từng nhóm: bạo lực, thù ghét, tự hại, tình dục, quấy rối… Lập trình viên dùng miễn phí để lọc cả đầu vào (chặn trước khi gửi cho GPT) và đầu ra (kiểm câu trả lời). Phiên bản omni (08/2024) phủ cả văn bản lẫn hình ảnh — cần thiết khi người dùng có thể tải ảnh lên ChatGPT.
Constitutional Classifiers — thế hệ công nghiệp hoá (01/2025). Ba năm sau bài báo gốc, Anthropic nâng cấp: huấn luyện các bộ phân loại nhỏ, nhanh dựa trên dữ liệu tổng hợp sinh ra từ hiến pháp. Các classifier này chạy song song ở đầu vào và đầu ra, chuyên bắt những chiêu jailbreak phổ biến — bao gồm cả “universal jailbreak” từng thành công với nhiều mô hình. Đây là cách Claude 3.5 và Claude 4 giữ được tỷ lệ từ chối an toàn ngay cả khi người dùng tinh vi.
Nếu một tuần tất cả chatbot lớn tắt rào chắn
Diễn biến giả định
1. Ngày 1–2: Lạm dụng bùng nổ
Kịch bản lừa đảo, email phishing, mã độc được tự động sinh ra hàng loạt. Đường dây lừa đảo qua Zalo/Facebook mạnh hơn gấp nhiều lần vì không còn phải viết tay.
Constitutional AI (dạy AI tự kiểm) và Moderation API (lọc từ bên ngoài) là hai triết lý bổ sung cho nhau — giống như việc vừa dạy con đạo đức ở nhà, vừa có lớp học, cảnh sát, luật pháp bên ngoài. Không lớp nào đủ một mình. Kết hợp cả hai tạo nên hệ thống phòng thủ nhiều lớp, giúp hàng trăm triệu người dùng chatbot hằng ngày mà không mở một chiếc hộp Pandora.
Ba lớp phòng thủ
| Lớp | Công cụ / cơ chế |
|---|---|
| Lớp trong mô hình | Constitutional AI / RLHF của nhà cung cấp |
| Lớp bên ngoài | Moderation API, Llama Guard, classifiers |
| Lớp nghiệp vụ | Quy tắc riêng của ngành, giới hạn tần suất, sổ giám sát |