Bài 9. Những tác vụ không nên giao hoàn toàn cho AI local

1. Đặt vấn đề

AI local có nhiều tiềm năng trong hoạt động chuyên môn, nhưng không phải việc gì cũng có thể giao cho AI. Đặc biệt trong y tế, có những tác vụ liên quan trực tiếp đến tính mạng, sức khỏe, quyền riêng tư, trách nhiệm pháp lý và đạo đức nghề nghiệp. Nếu giao hoàn toàn cho AI, bệnh viện có thể tạo ra rủi ro lớn.

Vì vậy, một phần quan trọng của triển khai AI local không phải là hỏi “AI làm được gì?”, mà là xác định rõ “AI không được làm gì một mình?”. Đây là điều kiện để sử dụng AI an toàn.

2. Không giao AI tự chẩn đoán

AI không nên tự chẩn đoán bệnh cho người bệnh. Chẩn đoán cần thăm khám, khai thác bệnh sử, đánh giá lâm sàng, xét nghiệm, hình ảnh, bối cảnh cá nhân và trách nhiệm chuyên môn của bác sĩ.

AI có thể hỗ trợ tra cứu hướng dẫn hoặc tóm tắt thông tin, nhưng không được là người đưa ra chẩn đoán cuối cùng.

3. Không giao AI tự kê đơn hoặc điều chỉnh thuốc

Kê đơn và điều chỉnh thuốc là hoạt động chuyên môn có rủi ro cao. AI không được tự:

• Chọn thuốc.
• Tính liều cá nhân.
• Tự tăng/giảm liều.
• Khuyên ngừng thuốc.
• Thay thế thuốc.
• Tư vấn dùng thuốc cá nhân hóa.

AI có thể hỗ trợ tra cứu tài liệu thuốc hoặc tạo nội dung giáo dục chung đã kiểm duyệt, nhưng dược sĩ/bác sĩ có thẩm quyền phải quyết định.

4. Không giao AI tự chỉ định xét nghiệm, chẩn đoán hình ảnh, thủ thuật

Chỉ định xét nghiệm, chẩn đoán hình ảnh hoặc thủ thuật cần đánh giá lâm sàng và cân nhắc nguy cơ - lợi ích. AI không nên tự chỉ định. Nếu AI hỗ trợ nhắc checklist hoặc tra cứu quy trình, vẫn cần nhân viên y tế quyết định.

5. Không giao AI đọc và kết luận hình ảnh y tế nếu không phải hệ thống chuyên dụng được kiểm định

Ollama và LLM/VLM phổ thông không nên được dùng để đọc X-quang, CT, MRI, siêu âm, nội soi như bác sĩ chẩn đoán hình ảnh. Nếu bệnh viện triển khai AI chẩn đoán hình ảnh, cần hệ thống chuyên dụng, kiểm định, quy trình chuyên môn, đánh giá chất lượng và trách nhiệm rõ ràng.

6. Không giao AI tự tư vấn cá nhân hóa trực tiếp cho người bệnh

AI không nên trực tiếp tư vấn cá nhân hóa dựa trên triệu chứng, bệnh sử, thuốc, xét nghiệm hoặc hoàn cảnh riêng nếu không có kiểm soát. Chatbot người bệnh nên giới hạn ở thông tin hành chính, quy trình và giáo dục sức khỏe chung đã kiểm duyệt.

Với triệu chứng nguy hiểm, chatbot phải hướng dẫn liên hệ nhân viên y tế hoặc cấp cứu.

7. Không giao AI tự kết luận sai sót chuyên môn hoặc trách nhiệm cá nhân

AI không được tự kết luận ai sai, ai chịu trách nhiệm, có vi phạm chuyên môn hay không. Các vấn đề này cần hội đồng chuyên môn, quy trình xem xét và bằng chứng đầy đủ. AI có thể hỗ trợ tóm tắt hồ sơ đã ẩn danh, gợi ý câu hỏi điều tra, phân tích yếu tố hệ thống, nhưng không kết luận trách nhiệm.

8. Không giao AI tự phê duyệt văn bản chuyên môn

AI có thể viết bản nháp quy trình, hướng dẫn, phiếu tư vấn, checklist, bài đào tạo. Nhưng văn bản chuyên môn phải được người có thẩm quyền kiểm tra, góp ý, phê duyệt và ban hành. Không nên để AI tạo xong rồi dùng ngay.

9. Không giao AI xử lý dữ liệu bệnh án định danh không kiểm soát

Hồ sơ bệnh án là dữ liệu nhạy cảm. AI không được truy cập hoặc xử lý bệnh án định danh nếu chưa có:

• Phân quyền.
• Mục đích rõ.
• Dữ liệu tối thiểu.
• Log.
• Quy chế.
• Bảo mật.
• Kiểm tra của nhân viên y tế.

Không dùng dữ liệu bệnh án thật để thử nghiệm tùy tiện.

10. Không giao AI tự động ghi dữ liệu vào hệ thống nguồn

AI không nên tự động ghi vào HIS, EMR, LIS, PACS, QMS hoặc hệ thống quản lý văn bản nếu không có bước xác nhận và kiểm soát. Đặc biệt không được tự sửa bệnh án, y lệnh, kết quả xét nghiệm, chẩn đoán hoặc dữ liệu tài chính.

11. Không giao AI quyết định ưu tiên điều trị hoặc phân luồng cấp cứu

Phân luồng cấp cứu, ưu tiên điều trị và xử trí tình huống nguy hiểm cần quy trình chuyên môn và nhân viên y tế được đào tạo. AI có thể hỗ trợ hiển thị quy trình hoặc checklist, nhưng không nên là công cụ quyết định duy nhất.

12. Không giao AI tạo bằng chứng hoặc minh chứng giả

Trong quản lý chất lượng và chuyên môn, AI không được dùng để tạo minh chứng giả, báo cáo giả, số liệu giả, biên bản giả hoặc hồ sơ hợp thức hóa. Điều này phá hoại văn hóa chất lượng và có rủi ro pháp lý, đạo đức nghiêm trọng.

13. Nguyên tắc “AI hỗ trợ, con người chịu trách nhiệm”

Mọi ứng dụng chuyên môn nên tuân thủ:

• AI hỗ trợ tra cứu, tóm tắt, soạn thảo, gợi ý.
• Nhân viên y tế kiểm tra.
• Người có thẩm quyền quyết định.
• Có nguồn tài liệu.
• Có log khi cần.
• Có phân quyền.
• Có cảnh báo giới hạn.
• Không dùng AI thay thế trách nhiệm chuyên môn.

14. Kết luận

AI local có thể hỗ trợ nhiều hoạt động chuyên môn trong bệnh viện, nhưng không nên giao hoàn toàn các tác vụ liên quan đến chẩn đoán, điều trị, kê đơn, chỉ định, tư vấn cá nhân hóa, kết luận trách nhiệm, phê duyệt văn bản chuyên môn hoặc xử lý bệnh án định danh không kiểm soát. Triển khai AI an toàn đòi hỏi bệnh viện không chỉ biết AI làm được gì, mà còn phải biết rõ AI không được làm gì một mình.