Bài 12. Thiếu quy chế vận hành và kiểm soát rủi ro

1. Đặt vấn đề

Một lỗi lớn khi triển khai AI local là chỉ tập trung vào cài đặt kỹ thuật mà thiếu quy chế vận hành và kiểm soát rủi ro. Hệ thống có thể chạy được, chatbot có thể trả lời, model có thể dùng GPU, nhưng nếu không có quy chế, bệnh viện sẽ không biết ai được dùng, dùng vào việc gì, dữ liệu nào được phép đưa vào AI, log lưu ra sao, ai chịu trách nhiệm khi AI sai, ai cập nhật dữ liệu, ai xử lý sự cố và tác vụ nào bị cấm.

Thiếu quy chế khiến AI local trở thành một công cụ mạnh nhưng khó kiểm soát.

2. Biểu hiện của thiếu quy chế

• Ai cũng có thể dùng chatbot mà không rõ quyền.
• Người dùng copy bệnh án vào AI.
• Không biết có lưu lịch sử hay không.
• Không rõ ai xem được log.
• Không có danh mục tác vụ cấm.
• Không có người duyệt nội dung AI tạo ra.
• Không có quy trình xử lý câu trả lời sai.
• Không có quy trình cập nhật RAG.
• Không có lịch backup.
• Không có kiểm tra phân quyền.
• Không có hội đồng/nhóm phụ trách AI.

3. Rủi ro phát sinh

Thiếu quy chế có thể gây:

• Lộ dữ liệu nhạy cảm.
• Dùng AI vượt thẩm quyền.
• Câu trả lời sai được dùng chính thức.
• Tài liệu cũ vẫn nằm trong RAG.
• Người dùng hiểu nhầm AI là chuyên gia.
• Không truy vết được sự cố.
• Không ai chịu trách nhiệm vận hành.
• Hệ thống xuống cấp theo thời gian.
• Mở rộng tự phát, khó kiểm soát.

4. Quy chế cần bao gồm những gì?

Quy chế nên có:

• Mục đích sử dụng AI.
• Phạm vi áp dụng.
• Đối tượng sử dụng.
• Nguyên tắc chung.
• Tác vụ được phép.
• Tác vụ hạn chế.
• Tác vụ cấm.
• Quy định dữ liệu.
• Phân quyền người dùng.
• Kiểm soát API.
• Log và lịch sử hội thoại.
• Kiểm duyệt nội dung.
• Trách nhiệm người dùng.
• Trách nhiệm CNTT.
• Trách nhiệm phòng chuyên môn.
• Xử lý sự cố.
• Đánh giá và cải tiến định kỳ.

5. Cần ma trận rủi ro

Bệnh viện nên phân loại tác vụ theo rủi ro:

Không phải tác vụ nào cũng có cùng mức kiểm soát.

6. Quy định dữ liệu

Cần quy định:

• Dữ liệu nào được đưa vào AI.
• Dữ liệu nào phải ẩn danh.
• Dữ liệu nào cấm nhập vào chatbot chung.
• Ai duyệt tài liệu đưa vào RAG.
• Ai cập nhật tài liệu hết hiệu lực.
• Log có lưu prompt/response không.
• Backup dữ liệu AI ra sao.

Đây là phần cốt lõi của kiểm soát rủi ro.

7. Quy định trách nhiệm

Cần nêu rõ:

• Người dùng chịu trách nhiệm kiểm tra kết quả trước khi dùng.
• Người phê duyệt văn bản chịu trách nhiệm nội dung chính thức.
• Phòng CNTT chịu trách nhiệm hạ tầng, bảo mật kỹ thuật, backup.
• Phòng chuyên môn chịu trách nhiệm kiểm duyệt nội dung chuyên môn.
• Phòng QLCL có thể tham gia giám sát chất lượng sử dụng AI.
• Lãnh đạo bệnh viện quyết định phạm vi ứng dụng rủi ro cao.

8. Quy trình xử lý sự cố AI

Cần có quy trình khi:

• AI trả lời sai nghiêm trọng.
• Lộ dữ liệu.
• Phân quyền lỗi.
• API bị lạm dụng.
• Tài liệu RAG sai.
• Người dùng dùng AI sai mục đích.
• Model hoặc hệ thống bị lỗi.

Quy trình phải có người nhận thông tin, phân loại, khắc phục, thông báo và phòng ngừa tái diễn.

9. Kiểm tra định kỳ

Cần kiểm tra:

• Phân quyền.
• Log.
• Dữ liệu nhạy cảm.
• Tài liệu hết hiệu lực.
• Chất lượng câu trả lời.
• Tốc độ.
• Backup.
• Người dùng bất thường.
• Tác vụ vượt phạm vi.

Không có kiểm tra định kỳ, quy chế dễ chỉ nằm trên giấy.

10. Kết luận

Thiếu quy chế vận hành và kiểm soát rủi ro là lỗi quản trị nghiêm trọng khi triển khai AI local trong bệnh viện. Công nghệ chỉ an toàn khi có quy định, phân quyền, kiểm soát dữ liệu, log, trách nhiệm, xử lý sự cố và đánh giá định kỳ. Bệnh viện muốn sử dụng AI bền vững phải quản trị AI như một hệ thống chính thức, không phải công cụ thử nghiệm tự phát.