Bài 12. Hội đồng chuyên môn và quy chế sử dụng AI trong bệnh viện

1. Đặt vấn đề

AI local trong bệnh viện không nên chỉ là dự án kỹ thuật của phòng Công nghệ thông tin. Nó liên quan đến chuyên môn, quản lý chất lượng, pháp lý, đạo đức, dữ liệu, an toàn người bệnh, tài chính, nhân sự và truyền thông. Vì vậy, bệnh viện cần có cơ chế quản trị chính thức, trong đó hội đồng chuyên môn hoặc một tổ/ban chỉ đạo AI đóng vai trò định hướng, thẩm định và giám sát.

Quy chế sử dụng AI là văn bản cần thiết để xác định phạm vi, trách nhiệm, giới hạn và quy trình sử dụng AI trong bệnh viện. Không có quy chế, mỗi đơn vị có thể dùng AI theo cách riêng, dẫn đến rủi ro không đồng nhất.

2. Vì sao cần hội đồng hoặc ban chỉ đạo AI?

Cần để:

• Xác định chiến lược triển khai.
• Phân loại ứng dụng được phép.
• Đánh giá rủi ro.
• Phê duyệt dữ liệu được dùng.
• Thẩm định chatbot/model chuyên môn.
• Giám sát bảo mật.
• Xử lý sự cố.
• Đánh giá hiệu quả.
• Cập nhật quy chế.
• Đảm bảo AI phục vụ an toàn người bệnh và quản trị bệnh viện.

AI là vấn đề liên ngành, không thể chỉ giao cho một cá nhân.

3. Thành phần nên có

Tùy bệnh viện, có thể gồm:

• Lãnh đạo bệnh viện.
• Phòng Công nghệ thông tin.
• Phòng Quản lý chất lượng.
• Phòng Kế hoạch tổng hợp.
• Đại diện chuyên môn lâm sàng.
• Đại diện điều dưỡng.
• Đại diện dược.
• Đại diện kiểm soát nhiễm khuẩn.
• Đại diện pháp chế/hành chính nếu có.
• Đại diện bảo mật/an toàn thông tin.
• Đại diện công tác xã hội/truyền thông nếu có.

Với ứng dụng chuyên sâu, cần mời chuyên gia lĩnh vực liên quan.

4. Nhiệm vụ của hội đồng/ban chỉ đạo AI

• Ban hành định hướng sử dụng AI.
• Xác định ưu tiên triển khai.
• Phê duyệt danh mục dữ liệu.
• Phê duyệt chatbot/model nội bộ.
• Xem xét ứng dụng chuyên môn nhạy cảm.
• Theo dõi lỗi và sự cố AI.
• Đánh giá tác động.
• Rà soát log tổng hợp.
• Cập nhật quy chế.
• Tổ chức đào tạo người dùng.

5. Quy chế sử dụng AI cần có nội dung gì?

Một quy chế nên gồm:

1. Mục đích.
2. Phạm vi áp dụng.
3. Đối tượng sử dụng.
4. Giải thích thuật ngữ.
5. Nguyên tắc chung.
6. Nhóm tác vụ được phép.
7. Nhóm tác vụ hạn chế.
8. Nhóm tác vụ cấm.
9. Quy định về dữ liệu.
10. Quy định về phân quyền.
11. Quy định về log và lịch sử.
12. Quy định về kiểm duyệt nội dung.
13. Trách nhiệm của người dùng.
14. Trách nhiệm của phòng CNTT.
15. Trách nhiệm của phòng QLCL và các phòng chuyên môn.
16. Xử lý sự cố.
17. Đánh giá và cải tiến hệ thống.
18. Tổ chức thực hiện.

6. Phân loại ứng dụng AI theo mức rủi ro

Quy chế nên phân nhóm:

Rủi ro thấp

Soạn thảo văn bản chung, tóm tắt tài liệu công khai nội bộ, tạo dàn ý.

Rủi ro trung bình

Tra cứu quy trình nội bộ, tạo bảng kiểm, phân tích khảo sát đã ẩn danh.

Rủi ro cao

Phân tích sự cố, phản ánh nhạy cảm, dữ liệu khoa phòng, dữ liệu nhân sự/tài chính.

Rủi ro rất cao

Hồ sơ bệnh án, kết quả xét nghiệm cá nhân, hình ảnh y tế, tư vấn chuyên môn cá nhân hóa.

Mỗi nhóm có điều kiện sử dụng khác nhau.

7. Quy định tác vụ cấm

Quy chế cần nêu rõ AI không được tự động:

• Chẩn đoán.
• Kê đơn.
• Chỉ định.
• Đọc hình ảnh y tế thay bác sĩ.
• Tư vấn điều trị cá nhân hóa cho người bệnh.
• Ghi bệnh án chính thức.
• Kết luận trách nhiệm cá nhân.
• Tạo số liệu hoặc minh chứng giả.
• Truy cập dữ liệu vượt quyền.
• Mở dữ liệu nhạy cảm cho chatbot chung.

8. Quy định phê duyệt nội dung AI tạo ra

Văn bản do AI hỗ trợ cần phân loại:

• Nội dung dùng cá nhân: người dùng tự chịu trách nhiệm.
• Nội dung nội bộ: cần người phụ trách kiểm tra.
• Nội dung chuyên môn: cần chuyên gia/hội đồng duyệt.
• Nội dung cho người bệnh/cộng đồng: cần kiểm duyệt chuyên môn và truyền thông.
• Nội dung chính thức: phải theo quy trình ban hành văn bản.

AI không được là bước phê duyệt cuối cùng.

9. Quy trình xử lý sự cố AI

Cần có quy trình khi:

• AI trả lời sai nghiêm trọng.
• AI lộ dữ liệu.
• Người dùng truy cập vượt quyền.
• Chatbot dùng tài liệu cũ.
• AI đưa khuyến cáo chuyên môn nguy hiểm.
• API bị lạm dụng.
• Log phát hiện bất thường.

Quy trình gồm: ghi nhận, khoanh vùng, tạm dừng chức năng nếu cần, điều tra, khắc phục, thông báo, cập nhật quy chế và đào tạo lại.

10. Đào tạo và truyền thông nội bộ

Quy chế chỉ có tác dụng nếu người dùng hiểu. Bệnh viện cần đào tạo:

• AI làm được gì.
• AI không được dùng cho việc gì.
• Cách hỏi có nguồn.
• Không nhập dữ liệu nhạy cảm.
• Cách kiểm tra câu trả lời.
• Cách báo lỗi.
• Trách nhiệm khi sử dụng AI.

Đào tạo nên thực tế, có ví dụ theo từng khoa/phòng.

11. Đánh giá định kỳ

Hội đồng/ban chỉ đạo cần đánh giá:

• Số lượt sử dụng.
• Tác vụ phổ biến.
• Lỗi thường gặp.
• Sự cố bảo mật.
• Chất lượng RAG.
• Mức độ hài lòng người dùng.
• Hiệu quả tiết kiệm thời gian.
• Tác động đến chất lượng.
• Nhu cầu mở rộng hoặc hạn chế.

AI phải được cải tiến và kiểm soát liên tục.

12. Kết luận

Triển khai AI local trong bệnh viện cần hội đồng chuyên môn hoặc ban chỉ đạo và một quy chế sử dụng AI rõ ràng. AI không chỉ là công nghệ, mà là công cụ tác động đến dữ liệu, chuyên môn, quản trị và an toàn người bệnh. Quy chế giúp xác định phạm vi, trách nhiệm, dữ liệu, phân quyền, log, tác vụ cấm, quy trình phê duyệt và xử lý sự cố. Khi có cơ chế quản trị phù hợp, AI local mới có thể phát triển bền vững, an toàn và phục vụ đúng mục tiêu của bệnh viện.