Bài 11. Người dùng hiểu nhầm AI là nguồn quyết định chuyên môn

1. Đặt vấn đề

Một rủi ro rất nghiêm trọng khi triển khai AI trong bệnh viện là người dùng hiểu nhầm AI là nguồn quyết định chuyên môn. Khi AI trả lời mạch lạc, tự tin và có vẻ hợp lý, nhân viên hoặc người bệnh có thể tin rằng câu trả lời đó có thể dùng để chẩn đoán, điều trị, kê đơn, chỉ định xét nghiệm hoặc quyết định chuyên môn. Đây là hiểu nhầm nguy hiểm.

AI local trong bệnh viện phải được định vị rõ: AI là công cụ hỗ trợ tra cứu, tóm tắt, soạn thảo, phân tích và đào tạo; không thay thế bác sĩ, điều dưỡng, dược sĩ, kỹ thuật viên hoặc hội đồng chuyên môn.

2. Biểu hiện của hiểu nhầm

Người dùng có thể hỏi:

• “Bệnh nhân này nên dùng thuốc gì?”
• “Kết quả xét nghiệm này có nguy hiểm không?”
• “Có nên phẫu thuật không?”
• “Chẩn đoán là gì?”
• “AI nói vậy thì làm theo được không?”
• “AI có thể kết luận ai sai trong sự cố này không?”
• “AI có thể đọc phim này không?”

Nếu chatbot trả lời trực tiếp thay vì giới hạn, rủi ro rất cao.

3. Nguyên nhân

3.1. Giao diện không có cảnh báo

Người dùng không biết giới hạn.

3.2. Prompt không chặn tác vụ chuyên môn

Model trả lời quá tự do.

3.3. Đào tạo người dùng chưa đủ

Người dùng chưa hiểu AI local.

3.4. AI trả lời quá tự tin

Câu trả lời nghe như kết luận chuyên môn.

3.5. Không có quy chế

Không có văn bản quy định tác vụ được phép và cấm.

4. Giới hạn bắt buộc

AI không được tự:

• Chẩn đoán.
• Kê đơn.
• Điều chỉnh thuốc.
• Chỉ định xét nghiệm.
• Chỉ định hình ảnh.
• Quyết định điều trị.
• Tư vấn cá nhân hóa cho người bệnh.
• Đọc hình ảnh y tế bằng model phổ thông.
• Kết luận trách nhiệm chuyên môn.
• Ghi bệnh án chính thức.

5. Cảnh báo trên giao diện

Cần hiển thị rõ:

AI chỉ hỗ trợ tra cứu, tóm tắt và soạn thảo. Không sử dụng câu trả lời AI thay thế quyết định chuyên môn của nhân viên y tế. Với ca bệnh cụ thể, cần người có thẩm quyền đánh giá.

Cảnh báo nên xuất hiện ở chatbot chuyên môn và chatbot người bệnh.

6. Prompt an toàn

System prompt cần yêu cầu:

• Không chẩn đoán/kê đơn.
• Không tư vấn điều trị cá nhân hóa.
• Khi câu hỏi liên quan ca bệnh cụ thể, chuyển hướng sang khuyến cáo liên hệ nhân viên y tế.
• Chỉ tra cứu tài liệu nếu có nguồn.
• Nêu giới hạn rõ ràng.

7. Phân loại ý định nguy hiểm

API có thể phát hiện câu hỏi thuộc nhóm:

• Chẩn đoán.
• Thuốc/liều dùng.
• Cấp cứu.
• Kết quả xét nghiệm cá nhân.
• Hình ảnh y tế.
• Bệnh án cá nhân.
• Quy trách nhiệm sự cố.

Với nhóm này, hệ thống trả lời theo mẫu an toàn hoặc yêu cầu người có thẩm quyền.

8. Đào tạo người dùng

Cần đào tạo:

• AI không phải bác sĩ.
• AI có thể sai.
• Câu trả lời cần kiểm tra nguồn.
• Không dùng AI thay quyết định chuyên môn.
• Không nhập dữ liệu bệnh án vào chatbot chung.
• Cách dùng AI an toàn trong tra cứu và học tập.

Đào tạo phải có ví dụ cụ thể.

9. Vai trò của lãnh đạo và quy chế

Bệnh viện cần quy định rõ:

• AI dùng cho tác vụ nào.
• AI không dùng cho tác vụ nào.
• Trách nhiệm người dùng.
• Trách nhiệm người phê duyệt.
• Cách xử lý khi AI trả lời sai.
• Cách xử lý khi người dùng lạm dụng AI.

Không thể chỉ dựa vào ý thức cá nhân.

10. Kết luận

Người dùng hiểu nhầm AI là nguồn quyết định chuyên môn là rủi ro nghiêm trọng. Phòng ngừa cần kết hợp giao diện cảnh báo, prompt an toàn, phân loại câu hỏi nguy hiểm, đào tạo người dùng và quy chế bệnh viện. AI local có giá trị lớn khi hỗ trợ nhân viên y tế, nhưng phải luôn đứng sau con người có thẩm quyền trong mọi quyết định chuyên môn.