ONE is preparing: 01 / INITIALIZING MODEL ROUTER. Evaluating routing across providers.
Current state
01 / INITIALIZING MODEL ROUTER.

Evaluating routing across providers.

Start learning
← Bắt đầu với AI

AI Foundation

Ảo giác AI trong Nghiên cứu Pháp lý

Vietnamese onlyThe learning content is available in Vietnamese only. The surrounding interface follows your language.

Vụ Mata v. Avianca: luật sư trích dẫn 6 án lệ giả do ChatGPT bịa ra, bị tòa phạt 5.000 đô-la Mỹ

lesson24 minBắt đầu với AIAI Foundation

Giới thiệu

Tháng 3 năm 2023, luật sư Steven Schwartz — người đã hành nghề hơn 30 năm tại New York — nộp một bản kiến nghị pháp lý cho Tòa án Liên bang Quận Nam New York (U.S. District Court, Southern District of New York) trong vụ Mata v. Avianca.

Bản kiến nghị trích dẫn sáu vụ án tiền lệ (precedent — phán quyết trước đó được dùng làm căn cứ pháp lý) để bảo vệ thân chủ. Vấn đề: cả sáu vụ án đều không tồn tại. Chúng được ChatGPT (trợ lý trò chuyện của OpenAI) bịa ra hoàn toàn — với tên vụ án, số hiệu trích dẫn, và cả trích dẫn giả từ các thẩm phán giả.

Dòng thời gian vụ Mata v. Avianca (2023)

Từ câu hỏi đến phán quyết

1 / 6
  1. 1. 03/2023 · Luật sư hỏi ChatGPT

    Steven Schwartz — luật sư hành nghề 30 năm — nhờ ChatGPT tìm án lệ cho vụ Mata v. Avianca.

Ảo giác (hallucination) là hiện tượng mô hình AI tạo ra thông tin có vẻ chính xác nhưng hoàn toàn bịa đặt. Trong lĩnh vực pháp lý, mỗi trích dẫn án lệ phải dẫn đến một bản án thực sự — có thẩm phán thực, tòa án thực, phán quyết thực — vì luật sư và thẩm phán dựa vào đó để ra quyết định ảnh hưởng đến quyền lợi con người.

Khi AI bịa ra các vụ án nghe rất thuyết phục nhưng không hề có thật, nó phá vỡ nền tảng tin cậy của hệ thống tư pháp. Người luật sư có nghĩa vụ xác minh (duty to verify) — và đây chính là nơi công nghệ gặp đạo đức nghề nghiệp.

Luật sư tin AI 100%

  • Quy trình không xác minh
  • Hỏi ChatGPT “Có án lệ tương tự không?”
  • AI trả lời kèm 6 vụ án, số hiệu, tên tòa.
  • **Kết quả:** Bị phạt 5.000 đô-la, buộc gửi thư xin lỗi các thẩm phán bị gán tên giả, thân chủ thua kiện, sự nghiệp 30 năm tổn thương nghiêm trọng, tên xuất hiện trên CNN và BBC.

Luật sư xác minh nguồn

  • Quy trình an toàn
  • Hỏi ChatGPT để có ý tưởng khung pháp lý.
  • AI trả lời kèm 6 vụ án, số hiệu, tên tòa.
  • **Kết quả:** Phát hiện sớm tất cả án lệ đều giả. Không nộp hồ sơ sai. Tiết kiệm 5.000 đô-la, giữ nguyên uy tín, bảo vệ thân chủ đúng cách — AI vẫn hữu ích như một công cụ brainstorm.

Cùng một câu trả lời của AI, hai cách xử lý — hai kết quả khác nhau hoàn toàn.

Luật sư đặt câu hỏi cho ChatGPT. Steven Schwartz thuộc hãng Levidow, Levidow & Oberman sử dụng ChatGPT để tìm án lệ liên quan đến vụ kiện thương tích hàng không của thân chủ Roberto Mata chống hãng Avianca. Schwartz chưa từng dùng ChatGPT cho nghiên cứu pháp lý trước đó.

ChatGPT bịa ra sáu án lệ. AI tạo ra sáu trích dẫn án lệ bịa đặt, gồm Varghese v. China Southern Airlines, Martinez v. Delta Airlines, Miller v. United Airlines — với đầy đủ số hiệu, tên tòa, năm phán quyết. Khi Schwartz hỏi xác nhận, ChatGPT khẳng định các vụ án “tồn tại trên LexisNexis và Westlaw”.

Tòa phát hiện gian lận. Luật sư của Avianca không tìm thấy bất kỳ vụ án nào trong cơ sở dữ liệu pháp lý và thông báo cho tòa. Thẩm phán P. Kevin Castel yêu cầu nộp bản sao các bản án. Tòa phát hiện tất cả là “các quyết định tư pháp giả với trích dẫn giả và nội dung giả”.

Xử phạt theo Quy tắc 11. Ngày 22/6/2023, Thẩm phán Castel ban hành lệnh xử phạt theo Rule 11 — quy tắc liên bang yêu cầu luật sư xác minh tính chính xác của mọi hồ sơ. Tòa phạt Peter LoDuca, Steven Schwartz, và hãng luật 5.000 đô-la. Các luật sư bị yêu cầu gửi thư xin lỗi đến các thẩm phán bị gán tên sai.

Hai thế giới song song

Hãy tưởng tượng hai thế giới song song: một nơi ảo giác của AI không tồn tại, và một nơi luật sư Schwartz biết về nó từ đầu. Cả hai đều dẫn tới kết cục tốt hơn hiện thực.

Thế giới có ảo giác + xác minh

  • Luật sư dùng AI có kỷ luật
  • Dùng ChatGPT để brainstorm khung pháp lý, không để sinh trích dẫn.
  • Mọi án lệ AI đề xuất đều được mở LexisNexis kiểm tra trước khi tin.
  • AI trở thành trợ lý nâng năng suất — không thay thế nghĩa vụ nghề nghiệp.
  • **Kết cục:** Không có tiền phạt, không có phóng sự CNN, không có thư xin lỗi các thẩm phán. Vụ kiện được xử lý bình thường dựa trên án lệ thật.

Thế giới không có ảo giác (giả định)

  • Nếu AI không bao giờ ảo giác
  • ChatGPT sẽ chỉ trả về án lệ thật có trong cơ sở dữ liệu.
  • Khi không tìm thấy, nó sẽ nói “Tôi không tìm thấy án lệ phù hợp” thay vì bịa.
  • Schwartz không thể “vô tình” nộp hồ sơ có trích dẫn bịa.
  • **Nhưng lưu ý:** ngay cả trong thế giới này, **nghĩa vụ kiểm chứng** của luật sư vẫn là nguyên tắc cốt lõi của đạo đức nghề nghiệp. AI không bao giờ là “dấu xác thực” cuối cùng — con người là.

Trong cả hai, nghĩa vụ xác minh của luật sư vẫn là nguyên tắc cốt lõi.

Câu chuyện Mata v. Avianca khép lại với một bài học đơn giản đến mức gần như hiển nhiên — nhưng đã trở nên hiển nhiên bằng cái giá 5.000 đô-la và danh tiếng 30 năm hành nghề:

Continue the path

Lesson 16 of 106