Bài 11. AI chỉ hỗ trợ, không thay thế quyết định chuyên môn của nhân viên y tế

1. Đặt vấn đề

Một trong những nguyên tắc quan trọng nhất khi triển khai AI local trong bệnh viện là: AI chỉ hỗ trợ, không thay thế quyết định chuyên môn của nhân viên y tế. Nguyên tắc này cần được nhắc lại nhiều lần vì AI có thể tạo ra câu trả lời rất thuyết phục. Khi câu trả lời nghe hợp lý, người dùng dễ quên rằng AI không trực tiếp khám bệnh, không chịu trách nhiệm chuyên môn và có thể sai.

Trong y tế, quyết định chuyên môn cần kiến thức, kinh nghiệm, thăm khám, ngữ cảnh lâm sàng, giao tiếp với người bệnh, đánh giá nguy cơ - lợi ích và trách nhiệm nghề nghiệp. AI không thể thay thế toàn bộ quá trình này.

2. Quyết định chuyên môn là gì?

Quyết định chuyên môn bao gồm:

• Chẩn đoán.
• Chẩn đoán phân biệt.
• Kê đơn.
• Điều chỉnh thuốc.
• Chỉ định xét nghiệm.
• Chỉ định chẩn đoán hình ảnh.
• Chỉ định phẫu thuật/thủ thuật.
• Phân tầng nguy cơ.
• Phân luồng cấp cứu.
• Quyết định nhập viện/ra viện.
• Tư vấn điều trị cá nhân.
• Kết luận kết quả chuyên môn.
• Xử trí tai biến/sự cố.
• Tiên lượng.

Các quyết định này không nên giao cho AI tự động.

3. AI có thể hỗ trợ ở đâu?

AI có thể hỗ trợ:

• Tra cứu hướng dẫn chuyên môn.
• Tóm tắt tài liệu.
• Tạo checklist.
• Nhắc các bước an toàn.
• Tóm tắt hồ sơ để nhân viên kiểm tra.
• Tạo phiếu hướng dẫn người bệnh đã duyệt.
• Hỗ trợ đào tạo.
• Hỗ trợ nghiên cứu.
• Hỗ trợ phân tích chất lượng.
• Hỗ trợ soạn thảo báo cáo.

Đây là hỗ trợ tri thức và quy trình, không phải quyết định thay.

4. Vì sao AI không thay thế được nhân viên y tế?

Vì AI:

• Không thăm khám trực tiếp.
• Không cảm nhận tình trạng người bệnh.
• Không có trách nhiệm pháp lý như nhân viên y tế.
• Có thể thiếu dữ liệu.
• Có thể hiểu sai ngữ cảnh.
• Có thể bịa.
• Có thể dựa vào nguồn lỗi thời.
• Không biết toàn bộ điều kiện thực tế.
• Không thay thế được giao tiếp và đồng cảm.
• Không xử lý được tình huống cấp cứu như con người tại hiện trường.

5. Nguy cơ quá tin vào AI

Nếu nhân viên quá tin vào AI, có thể:

• Bỏ qua kiểm tra nguồn.
• Áp dụng câu trả lời không phù hợp.
• Không hỏi ý kiến chuyên gia.
• Chậm xử trí tình huống nguy hiểm.
• Tạo sai sót chuyên môn.
• Làm suy giảm kỹ năng tư duy lâm sàng.
• Đẩy trách nhiệm cho công cụ.

Do đó, đào tạo sử dụng AI phải nhấn mạnh tư duy phản biện.

6. Nguyên tắc “human-in-the-loop”

Mọi ứng dụng chuyên môn cần có con người trong vòng kiểm soát:

• AI gợi ý.
• Nhân viên y tế kiểm tra.
• Người có thẩm quyền quyết định.
• Kết quả được ghi nhận theo quy trình.
• Có thể truy vết nếu cần.

Không nên có luồng AI tự động ra quyết định chuyên môn mà không có người kiểm tra.

7. Cảnh báo trong giao diện

Các chatbot chuyên môn cần hiển thị:

• “AI chỉ hỗ trợ tra cứu và tóm tắt tài liệu.”
• “Không sử dụng câu trả lời AI như quyết định điều trị.”
• “Với ca bệnh cụ thể, cần bác sĩ/nhân viên y tế có thẩm quyền đánh giá.”
• “Trong tình huống cấp cứu, thực hiện theo quy trình cấp cứu của bệnh viện.”

Cảnh báo phải rõ, không nên ẩn trong tài liệu hướng dẫn dài.

8. Quy định tác vụ cấm tự động hóa bằng AI

Bệnh viện nên liệt kê rõ những tác vụ AI không được tự thực hiện:

• Chẩn đoán.
• Kê đơn.
• Chỉ định.
• Phân luồng cấp cứu.
• Tư vấn cá nhân hóa cho người bệnh.
• Ghi bệnh án chính thức.
• Kết luận sai sót chuyên môn.
• Kỷ luật nhân viên.
• Đọc hình ảnh y tế bằng model không chuyên dụng.

9. Vai trò của lãnh đạo và hội đồng chuyên môn

Lãnh đạo bệnh viện và hội đồng chuyên môn cần xác định ranh giới sử dụng AI:

• Ứng dụng nào được phép.
• Ứng dụng nào cần thử nghiệm.
• Ứng dụng nào cấm.
• Ai kiểm duyệt nội dung.
• Ai chịu trách nhiệm vận hành.
• Khi nào đánh giá lại.

Không nên để từng cá nhân tự quyết định phạm vi dùng AI trong chuyên môn.

10. Kết luận

AI local có thể hỗ trợ rất nhiều cho nhân viên y tế, nhưng không thay thế quyết định chuyên môn. Nguyên tắc này phải được đưa vào kiến trúc hệ thống, giao diện, đào tạo và quy chế sử dụng. AI tốt nhất khi giúp con người làm việc an toàn hơn, đầy đủ hơn, nhanh hơn; không phải khi con người giao trách nhiệm chuyên môn cho AI.