1. Đặt vấn đề

Trong một hệ sinh thái AI local, có rất nhiều thành phần: phần cứng, hệ điều hành, model, công cụ inference, embedding, FAISS, RAG, API, chatbot, giao diện web, hệ thống phân quyền, log, dashboard và quy trình vận hành. Nếu không xác định đúng vai trò của từng thành phần, bệnh viện rất dễ triển khai lẫn lộn: xem Ollama như chatbot, xem model như hệ thống dữ liệu, xem RAG như một chức năng tự có của model, hoặc xem API model như đủ an toàn để mở cho toàn mạng.

Ollama có vai trò rất cụ thể: vận hành model AI local và cung cấp cách tương tác với model đó. Đây là vai trò trung tâm nhưng không bao trùm toàn bộ hệ thống.

2. Ollama là lớp model serving

Trong kiến trúc AI local, Ollama thuộc nhóm model serving. Model serving nghĩa là phục vụ model cho các ứng dụng khác sử dụng. Ollama nhận prompt, gọi model, sinh token và trả kết quả.

Model serving là lớp nằm giữa model và ứng dụng. Nếu không có lớp này, các ứng dụng như chatbot hoặc Drupal không có cách thuận tiện để sử dụng model.

Trong bệnh viện, Ollama có thể phục vụ nhiều loại ứng dụng:

• Chatbot nội bộ.
• API hỗ trợ soạn thảo.
• Công cụ tóm tắt tài liệu.
• Hệ thống RAG.
• Trợ lý quản lý chất lượng.
• Trợ lý CNTT.
• Trợ lý tra cứu văn bản.
• Module tích hợp với Drupal.
• Công cụ thử nghiệm model.

3. Ollama giúp chuẩn hóa cách gọi model

Nếu không có công cụ như Ollama, mỗi model có thể cần cách tải và chạy khác nhau. Điều này làm tăng độ phức tạp cho phòng CNTT. Ollama giúp chuẩn hóa quy trình:

• Tải model bằng lệnh thống nhất.
• Chạy model bằng lệnh thống nhất.
• Gọi API theo cách tương đối thống nhất.
• Quản lý model đã tải.
• Tạo model tùy biến qua Modelfile.

Nhờ đó, bệnh viện có thể thử nhiều model khác nhau mà không phải thay đổi toàn bộ cách vận hành.

4. Ollama giúp bệnh viện thử nghiệm nhanh

Giai đoạn đầu triển khai AI local thường cần thử nghiệm nhiều model. Bệnh viện cần biết model nào viết tiếng Việt tốt hơn, model nào chạy nhanh hơn, model nào phù hợp cho văn bản hành chính, model nào tóm tắt tốt hơn, model nào dùng được cho RAG.

Ollama giúp quá trình thử nghiệm nhanh hơn. Người quản trị có thể tải một model, chạy thử, ghi nhận kết quả, sau đó thử model khác. Điều này rất hữu ích khi bệnh viện chưa biết chính xác nhu cầu thực tế hoặc đang so sánh nhiều lựa chọn.

5. Ollama là cầu nối giữa model và API nội bộ

Một hệ thống AI bệnh viện thường không nên cho người dùng trực tiếp thao tác dòng lệnh. Người dùng cần giao diện web hoặc phần mềm. Ollama cung cấp API để các ứng dụng gọi model.

Ví dụ:

• Python script gọi Ollama để tóm tắt tài liệu.
• PHP/Drupal gọi Ollama để sinh câu trả lời.
• Chatbot nội bộ gọi Ollama qua API trung gian.
• Hệ thống RAG gọi Ollama sau khi truy xuất tài liệu bằng FAISS.

Nhờ API, Ollama trở thành một dịch vụ AI local trong mạng nội bộ.

6. Ollama trong hệ thống RAG

Trong RAG, Ollama thường đảm nhiệm phần sinh câu trả lời. Các bước khác như lấy tài liệu, chia chunk, tạo embedding, tìm FAISS, rerank và tạo prompt thường do hệ thống bên ngoài xử lý.

Luồng điển hình:

1. Người dùng hỏi.
2. API trung gian nhận câu hỏi.
3. Hệ thống tạo embedding cho câu hỏi.
4. FAISS tìm tài liệu liên quan.
5. Prompt được tạo từ câu hỏi và tài liệu.
6. API trung gian gửi prompt đến Ollama.
7. Ollama chạy LLM và trả câu trả lời.
8. Giao diện hiển thị câu trả lời và nguồn.

Trong luồng này, Ollama không phải toàn bộ RAG, mà là thành phần sinh câu trả lời trong RAG.

7. Ollama và Modelfile

Một vai trò quan trọng của Ollama là cho phép tạo model tùy biến bằng Modelfile. Modelfile giúp thiết lập model nền, system prompt, tham số sinh văn bản và một số quy tắc hành vi.

Trong bệnh viện, Modelfile có thể dùng để tạo:

• Trợ lý quản lý chất lượng.
• Trợ lý hành chính bệnh viện.
• Trợ lý điều dưỡng.
• Trợ lý CNTT.
• Trợ lý tra cứu văn bản pháp luật y tế.
• Trợ lý soạn thảo quy trình.

Ví dụ, một trợ lý quản lý chất lượng có thể được thiết lập để luôn trả lời theo văn phong quản lý chất lượng, ưu tiên an toàn người bệnh, không tự bịa căn cứ và nhắc người dùng kiểm tra tài liệu gốc.

Modelfile không thay thế RAG, nhưng giúp định hướng hành vi model.

8. Ollama trong môi trường bảo mật

Ollama nên được xem là dịch vụ nội bộ cần bảo vệ. Không nên mở trực tiếp API Ollama ra Internet. Trong bệnh viện, Ollama nên:

• Chạy trên máy chủ nội bộ.
• Chỉ cho API trung gian truy cập nếu triển khai chính thức.
• Không công khai port không cần thiết.
• Được giám sát log và tài nguyên.
• Có giới hạn người dùng thông qua lớp ứng dụng.
• Không tự nhận dữ liệu từ mọi nguồn không kiểm soát.

Ollama là công cụ mạnh, nhưng nếu mở không kiểm soát, người khác có thể sử dụng tài nguyên GPU, gửi dữ liệu nhạy cảm hoặc khai thác dịch vụ.

9. Ollama không thay thế các thành phần khác

Trong hệ sinh thái AI local, Ollama không thay thế:

• Vector database.
• FAISS.
• Cơ sở dữ liệu người dùng.
• Hệ thống phân quyền.
• Website nội bộ.
• Drupal.
• HIS/EMR/LIS/PACS.
• Kho tài liệu.
• Công cụ giám sát.
• Quy chế sử dụng AI.

Ollama là một lớp quan trọng, nhưng cần kết hợp với các lớp khác.

10. Kết luận

Vai trò của Ollama trong hệ sinh thái AI local là vận hành model, chuẩn hóa cách gọi model, hỗ trợ thử nghiệm, cung cấp API và cho phép tùy biến hành vi model qua Modelfile. Đối với bệnh viện, Ollama là công cụ phù hợp để bắt đầu xây dựng năng lực AI local vì đơn giản và thực tế.

Tuy nhiên, Ollama chỉ là một phần trong hệ thống. Bệnh viện cần đặt Ollama sau lớp bảo mật, kết hợp với RAG, FAISS, API trung gian, giao diện người dùng, phân quyền, log và quy trình đánh giá chất lượng. Khi được đặt đúng vị trí, Ollama trở thành động cơ quan trọng của hệ thống AI local bệnh viện.

Bài 3. Vì sao Ollama phù hợp để bệnh viện bắt đầu triển khai AI local?

1. Đặt vấn đề

Bệnh viện khi bắt đầu triển khai AI local thường đối mặt với nhiều rào cản: thiếu nhân sự AI chuyên sâu, chưa có kinh nghiệm chạy model, chưa biết chọn model nào, chưa biết phần cứng đáp ứng đến đâu, lo ngại về bảo mật, lo ngại chi phí và chưa có quy trình tích hợp. Nếu chọn một công cụ quá phức tạp ngay từ đầu, dự án dễ bị chậm hoặc thất bại ở giai đoạn thử nghiệm.

Ollama phù hợp với giai đoạn khởi đầu vì nó giảm độ phức tạp kỹ thuật. Nó cho phép bệnh viện nhanh chóng tải và chạy model local, thử nghiệm chất lượng, đo tốc độ, đánh giá khả năng tiếng Việt và sau đó tích hợp qua API. Đây là con đường thực tế để chuyển từ “tìm hiểu AI” sang “có hệ thống AI local chạy được trên máy chủ bệnh viện”.

2. Dễ cài đặt và vận hành ban đầu

Một trong những ưu điểm lớn nhất của Ollama là dễ cài đặt hơn nhiều giải pháp inference phức tạp. Với môi trường Linux phù hợp, người quản trị có thể cài Ollama, tải model và chạy thử trong thời gian tương đối ngắn.

Đối với bệnh viện, điều này rất quan trọng vì phòng CNTT thường phải quản lý nhiều hệ thống khác nhau: mạng, HIS, LIS, PACS, website, máy chủ, camera, bảo mật, người dùng và hỗ trợ phần mềm. Một công cụ AI quá phức tạp sẽ tạo thêm gánh nặng lớn.

Ollama giúp nhóm CNTT bắt đầu từ những thao tác cơ bản trước, sau đó mới mở rộng dần.

3. Dễ thử nhiều model

AI local không có một model duy nhất phù hợp cho mọi bệnh viện. Cần thử nghiệm nhiều model để xem model nào phù hợp với tiếng Việt, tác vụ hành chính, tóm tắt tài liệu, quản lý chất lượng, API, tốc độ và phần cứng.

Ollama giúp quá trình thử model đơn giản hơn. Bệnh viện có thể tải model này, chạy thử, so sánh với model khác, ghi nhận kết quả và chọn model phù hợp.

Điều này đặc biệt hữu ích với bệnh viện Việt Nam, vì khả năng tiếng Việt giữa các model có thể khác nhau đáng kể. Một model có thông số lớn hơn chưa chắc viết tiếng Việt hành chính bệnh viện tốt hơn model nhỏ hơn.

4. Có API thuận tiện cho tích hợp

Ollama cung cấp API để các ứng dụng khác gọi model. Đây là điểm quan trọng để đưa AI vào hệ thống bệnh viện. Nếu chỉ dùng dòng lệnh, AI chỉ phục vụ nhóm kỹ thuật. Khi có API, bệnh viện có thể tích hợp với:

• Chatbot nội bộ.
• Website nhân viên.
• Drupal.
• Hệ thống quản lý chất lượng.
• Script xử lý tài liệu.
• Hệ thống RAG.
• Dashboard.
• Công cụ hỗ trợ soạn thảo.

API giúp Ollama trở thành một dịch vụ nội bộ, không chỉ là công cụ thử nghiệm cá nhân.

5. Phù hợp với máy chủ nội bộ

Ollama có thể chạy trên máy chủ nội bộ của bệnh viện. Nếu máy chủ có GPU NVIDIA phù hợp, Ollama có thể tận dụng GPU để tăng tốc model. Nếu chưa có GPU mạnh, bệnh viện vẫn có thể thử một số model nhỏ bằng CPU hoặc cấu hình nhẹ để học và đánh giá ban đầu.

Điều này phù hợp với lộ trình thực tế: bắt đầu nhỏ, đo hiệu năng, sau đó nâng cấp phần cứng hoặc tối ưu model.

6. Hỗ trợ Modelfile để tùy biến vai trò

Modelfile là một tính năng quan trọng giúp bệnh viện tạo các model tùy biến dựa trên model nền. Với Modelfile, bệnh viện có thể thiết lập system prompt và tham số để model có hành vi phù hợp hơn.

Ví dụ, có thể tạo:

• Trợ lý quản lý chất lượng bệnh viện.
• Trợ lý soạn thảo văn bản hành chính.
• Trợ lý tra cứu quy trình.
• Trợ lý CNTT.
• Trợ lý điều dưỡng.
• Trợ lý văn bản pháp luật y tế.

Tính năng này giúp bệnh viện không phải dùng một model chung cho mọi việc. Mỗi trợ lý có thể có vai trò, văn phong và giới hạn riêng.

7. Phù hợp với RAG và FAISS

Ollama có thể kết hợp tốt với RAG. Dù Ollama không tự động xây dựng toàn bộ hệ thống RAG, nó có thể đóng vai trò LLM tạo câu trả lời sau khi tài liệu liên quan được truy xuất bằng FAISS.

Điều này rất phù hợp với bệnh viện vì nhu cầu quan trọng nhất không phải chỉ là chat, mà là hỏi đáp trên kho tài liệu nội bộ. Ollama có thể được dùng như “bộ phận sinh câu trả lời” trong hệ thống RAG.

8. Giúp bệnh viện xây dựng năng lực nội bộ

Ollama đủ đơn giản để bắt đầu nhưng cũng đủ thực tế để mở rộng. Khi làm việc với Ollama, phòng CNTT và nhóm chuyển đổi số sẽ học được nhiều khái niệm quan trọng:

• Model.
• Tag.
• Pull.
• Run.
• API.
• Prompt.
• System prompt.
• Context.
• GPU/VRAM.
• RAG.
• Embedding.
• Tích hợp ứng dụng.

Đây là quá trình xây dựng năng lực nội bộ. Bệnh viện không chỉ dùng AI như người tiêu dùng dịch vụ bên ngoài, mà bắt đầu hiểu cách AI vận hành trong hạ tầng của mình.

9. Chi phí khởi đầu hợp lý

So với việc xây dựng ngay một hệ thống AI quy mô lớn, Ollama cho phép bắt đầu với chi phí thấp hơn. Nếu bệnh viện đã có máy chủ phù hợp, có thể cài và thử nghiệm. Không cần mua ngay nền tảng phần mềm thương mại đắt tiền hoặc thuê đội ngũ AI lớn.

Tất nhiên, khi triển khai chính thức, vẫn cần đầu tư vào phần cứng, bảo mật, tích hợp, dữ liệu và vận hành. Nhưng Ollama giúp giảm rào cản ban đầu.

10. Kết luận

Ollama phù hợp để bệnh viện bắt đầu triển khai AI local vì dễ cài đặt, dễ thử model, có API, chạy được trên máy chủ nội bộ, hỗ trợ Modelfile, kết hợp được với RAG và giúp xây dựng năng lực nội bộ. Đây là công cụ thực tế cho giai đoạn từ thử nghiệm đến triển khai ban đầu.

Tuy nhiên, bệnh viện cần nhớ rằng bắt đầu dễ không có nghĩa là triển khai chính thức đơn giản. Khi mở rộng cho nhiều người dùng và dữ liệu nội bộ, cần bổ sung bảo mật, phân quyền, log, RAG, giao diện, quy chế sử dụng và đánh giá chất lượng.