Giới thiệu chương
AI local trong bệnh viện có một ưu điểm lớn: dữ liệu có thể được xử lý trên hạ tầng do bệnh viện kiểm soát, không bắt buộc gửi lên các dịch vụ AI bên ngoài. Tuy nhiên, điều này không có nghĩa là AI local tự động an toàn. Một hệ thống AI đặt trong bệnh viện vẫn có thể gây rủi ro nếu phân quyền sai, API mở không kiểm soát, người dùng nhập dữ liệu nhạy cảm, log lưu thông tin bệnh án, lịch sử hội thoại không được quản lý, hoặc AI trả lời vượt thẩm quyền chuyên môn.
Bảo mật, pháp lý và đạo đức là ba trụ cột bắt buộc khi triển khai AI local trong bệnh viện. Nếu chỉ quan tâm đến model, GPU, FAISS, Ollama và chatbot mà bỏ qua ba trụ cột này, hệ thống AI có thể trở thành nguồn rủi ro thay vì công cụ hỗ trợ. Trong bệnh viện, dữ liệu không chỉ là dữ liệu kỹ thuật. Đó có thể là thông tin sức khỏe, thông tin cá nhân, hồ sơ bệnh án, kết quả xét nghiệm, hình ảnh y tế, phản ánh người bệnh, sự cố y khoa, dữ liệu nhân sự, tài chính, hợp đồng, bảo hiểm y tế và nhiều thông tin nhạy cảm khác.
Bảo mật khi dùng AI local không chỉ là cài firewall hay đặt mật khẩu. Bảo mật phải được thiết kế từ kiến trúc: ai được dùng, dùng chức năng nào, truy cập dữ liệu nào, dữ liệu đi qua API nào, có được ghi log không, log lưu ở đâu, prompt có chứa dữ liệu nhạy cảm không, response có tiết lộ thông tin vượt quyền không, lịch sử hội thoại lưu bao lâu, ai xem được, khi nào xóa, model có được mở ra Internet không, Nginx có xác thực không, API trung gian có kiểm soát không.
Về pháp lý, bệnh viện phải tôn trọng các quy định liên quan đến bảo vệ dữ liệu cá nhân, bảo mật hồ sơ bệnh án, quy chế chuyên môn, quyền riêng tư của người bệnh, trách nhiệm của nhân viên y tế và trách nhiệm quản lý của lãnh đạo bệnh viện. AI không làm giảm trách nhiệm pháp lý của con người. Nếu một nhân viên sử dụng câu trả lời AI sai để ra quyết định chuyên môn, trách nhiệm không thể đẩy cho AI. AI là công cụ; người sử dụng và người phê duyệt vẫn phải chịu trách nhiệm trong phạm vi chuyên môn, quản lý và pháp luật.
Về đạo đức, AI trong bệnh viện phải đặt an toàn người bệnh lên trước. Không được dùng AI để hợp thức hóa hồ sơ, tạo số liệu giả, che giấu sự cố, quy trách nhiệm cá nhân thiếu căn cứ, tư vấn vượt thẩm quyền, phân biệt đối xử, hoặc tạo cảm giác chắc chắn giả tạo. AI phải hỗ trợ minh bạch, học hỏi, cải tiến, bảo vệ người bệnh và hỗ trợ nhân viên y tế làm việc tốt hơn.
Chương này trình bày 12 nội dung cốt lõi: đặc thù dữ liệu y tế và dữ liệu cá nhân; nguyên tắc bảo mật khi triển khai AI local; phân quyền người dùng theo vai trò; kiểm soát truy cập API; không mở Ollama trực tiếp ra Internet; reverse proxy qua Nginx và lớp xác thực trung gian; ghi log câu hỏi, câu trả lời và người sử dụng; kiểm soát dữ liệu đầu vào và đầu ra; chính sách lưu trữ và xóa lịch sử hội thoại; trách nhiệm chuyên môn khi sử dụng câu trả lời từ AI; nguyên tắc AI chỉ hỗ trợ, không thay thế quyết định chuyên môn; và vai trò của hội đồng chuyên môn cùng quy chế sử dụng AI trong bệnh viện.
Mục tiêu của chương này là giúp bệnh viện triển khai AI local không chỉ “chạy được”, mà còn “quản trị được”, “kiểm soát được”, “truy vết được” và “sử dụng có trách nhiệm”.
- Đăng nhập để gửi ý kiến
