Phụ lục 15. Mẫu quy chế sử dụng AI trong bệnh viện

1. Tên quy chế

Quy chế sử dụng hệ thống trí tuệ nhân tạo nội bộ trong bệnh viện

2. Mục đích

Quy chế này nhằm:

• Quy định nguyên tắc sử dụng hệ thống AI local trong bệnh viện.
• Bảo đảm AI được sử dụng an toàn, đúng mục đích, có kiểm soát.
• Bảo vệ dữ liệu người bệnh, dữ liệu cá nhân và dữ liệu nội bộ.
• Xác định trách nhiệm của người dùng, phòng Công nghệ thông tin và các đơn vị liên quan.
• Phòng ngừa việc sử dụng AI vượt thẩm quyền chuyên môn.
• Hỗ trợ quản trị, quản lý chất lượng, đào tạo, tra cứu và cải tiến công việc.

3. Phạm vi áp dụng

Áp dụng cho:

• Tất cả nhân viên được cấp quyền sử dụng hệ thống AI nội bộ.
• Các phòng, khoa, trung tâm, bộ phận trong bệnh viện.
• Các hệ thống chatbot, API AI, RAG, kho tài liệu, model tùy biến và phần mềm tích hợp AI local.

4. Nguyên tắc chung

• AI là công cụ hỗ trợ, không thay thế con người.
• AI không thay thế quyết định chuyên môn của nhân viên y tế.
• AI không thay thế trách nhiệm phê duyệt văn bản, quy trình, báo cáo hoặc quyết định quản lý.
• Câu trả lời AI cần được kiểm tra trước khi sử dụng chính thức.
• Dữ liệu nhạy cảm chỉ được xử lý khi có phân quyền, mục đích rõ và kiểm soát phù hợp.
• Không đưa dữ liệu định danh người bệnh vào chatbot chung.
• Không sử dụng AI để tạo số liệu, minh chứng, căn cứ pháp lý hoặc nội dung sai sự thật.

5. Tác vụ được phép

Người dùng có thể sử dụng AI để:

• Soạn thảo bản nháp văn bản.
• Tóm tắt tài liệu.
• Tra cứu quy trình, quy định, biểu mẫu đã được đưa vào hệ thống.
• Tạo bảng kiểm.
• Tạo dàn ý kế hoạch, báo cáo, đề án.
• Hỗ trợ đào tạo, câu hỏi lượng giá.
• Hỗ trợ phân tích dữ liệu đã ẩn danh.
• Hỗ trợ quản lý chất lượng, cải tiến, 5S, Lean, Kaizen.
• Hỗ trợ tra cứu văn bản pháp luật y tế có nguồn.
• Hỗ trợ kỹ thuật CNTT ở mức tham khảo.

6. Tác vụ hạn chế

Chỉ thực hiện khi có quyền và quy trình riêng:

• Phân tích phản ánh người bệnh.
• Phân tích báo cáo sự cố y khoa.
• Phân tích dữ liệu nhân sự, tài chính.
• Phân tích dữ liệu HIS tổng hợp.
• Phân tích dữ liệu nghiên cứu đã ẩn danh.
• Xử lý file chứa dữ liệu nhạy cảm.

7. Tác vụ cấm

Không được sử dụng AI để tự động:

• Chẩn đoán bệnh.
• Kê đơn thuốc.
• Chỉ định xét nghiệm, chẩn đoán hình ảnh, phẫu thuật, thủ thuật.
• Tư vấn điều trị cá nhân hóa cho người bệnh.
• Đọc hình ảnh y tế thay bác sĩ.
• Kết luận kết quả xét nghiệm cá nhân.
• Ghi bệnh án chính thức.
• Kết luận trách nhiệm cá nhân trong sự cố y khoa.
• Tạo số liệu giả.
• Tạo minh chứng giả.
• Bịa căn cứ pháp lý.
• Truy cập dữ liệu vượt quyền.
• Lưu hoặc chia sẻ dữ liệu nhạy cảm không đúng quy định.

8. Quy định về dữ liệu

• Dữ liệu đưa vào AI phải phù hợp mục đích công việc.
• Dữ liệu định danh người bệnh không được nhập vào chatbot chung.
• Dữ liệu nhạy cảm phải được ẩn danh khi có thể.
• Tài liệu đưa vào RAG phải là tài liệu được duyệt.
• Tài liệu hết hiệu lực phải được gỡ hoặc đánh dấu.
• File upload phải được kiểm soát và xóa theo chính sách.

9. Quy định về phân quyền

• Người dùng chỉ được sử dụng chức năng phù hợp với vai trò.
• Người dùng chỉ được truy xuất tài liệu/dữ liệu có quyền.
• Quyền sử dụng AI phải được rà soát định kỳ.
• Tài khoản người nghỉ việc/chuyển vị trí phải được thu hồi hoặc điều chỉnh.

10. Quy định về log và lịch sử

• Hệ thống ghi log phục vụ vận hành, bảo mật và truy vết.
• Log nhạy cảm phải được phân quyền.
• Không lưu mật khẩu, token, private key trong log.
• Lịch sử hội thoại được lưu/xóa theo chính sách bệnh viện.
• Người dùng cần được thông báo về chính sách lưu lịch sử.

11. Trách nhiệm của người dùng

Người dùng có trách nhiệm:

• Sử dụng AI đúng mục đích.
• Không nhập dữ liệu cấm.
• Kiểm tra câu trả lời trước khi sử dụng.
• Không dùng AI thay quyết định chuyên môn.
• Báo lỗi khi phát hiện câu trả lời sai, thiếu nguồn hoặc có nguy cơ lộ dữ liệu.
• Tuân thủ quy định bảo mật và quy chế bệnh viện.

12. Trách nhiệm của phòng Công nghệ thông tin

Phòng Công nghệ thông tin có trách nhiệm:

• Vận hành hạ tầng AI local.
• Quản lý Ollama, model, API, Nginx, backup, log.
• Đảm bảo an toàn kỹ thuật.
• Quản lý phân quyền kỹ thuật.
• Giám sát tài nguyên.
• Xử lý lỗi hệ thống.
• Phối hợp với các phòng chuyên môn cập nhật dữ liệu.

13. Trách nhiệm của các phòng chuyên môn

Các phòng chuyên môn có trách nhiệm:

• Kiểm duyệt nội dung chuyên môn.
• Cung cấp tài liệu chính thức.
• Đánh giá chất lượng câu trả lời.
• Xác định tác vụ được phép trong lĩnh vực mình phụ trách.
• Phối hợp đào tạo người dùng.

14. Xử lý sự cố

Khi phát hiện:

• AI trả lời sai nghiêm trọng.
• Lộ dữ liệu.
• Truy cập vượt quyền.
• API bị lạm dụng.
• RAG dùng tài liệu cũ.
• Người dùng sử dụng sai mục đích.

Cần báo ngay cho đơn vị phụ trách theo kênh quy định để kiểm tra, khoanh vùng, khắc phục và phòng ngừa tái diễn.

15. Đánh giá và cải tiến

Hệ thống AI local cần được đánh giá định kỳ về:

• Mức độ sử dụng.
• Chất lượng câu trả lời.
• Tốc độ.
• Hiệu quả công việc.
• An toàn thông tin.
• Phản hồi người dùng.
• Nhu cầu cập nhật dữ liệu/model/prompt.