Bài 4. Backup thư mục model

1. Đặt vấn đề

Model AI là thành phần quan trọng của hệ thống Ollama. Nếu mất model, hệ thống có thể phải tải lại. Với model công khai, việc tải lại có thể thực hiện được nếu còn Internet và model vẫn còn trên registry. Nhưng với model tùy biến bằng Modelfile, model nội bộ, cấu hình prompt, danh sách model sản xuất và phiên bản đã benchmark, cần backup để khôi phục nhanh và chính xác.

Backup thư mục model cần được thiết kế hợp lý, vì dung lượng model lớn. Không phải lúc nào cũng cần backup toàn bộ model mỗi ngày.

2. Cần backup những gì?

Có ba nhóm:

2.1. Model gốc

Các model pull từ Ollama registry.

2.2. Model tùy biến

Model tạo bằng Modelfile, có system prompt, parameter, template.

2.3. Metadata vận hành

Danh sách model, digest, ngày tải, kết quả benchmark, model mặc định cho từng ứng dụng.

Trong nhiều trường hợp, backup metadata và Modelfile quan trọng hơn backup toàn bộ blob model.

3. Xác định thư mục model

Cần xác định Ollama đang lưu model ở đâu. Có thể kiểm tra cấu hình service, user chạy Ollama và thư mục .ollama.

Ví dụ kiểm tra:

systemctl status ollama

Sau đó kiểm tra thư mục liên quan. Khi đã xác định, ghi rõ vào tài liệu vận hành.

4. Backup toàn bộ thư mục model

Có thể dùng rsync:

sudo rsync -aH --delete /duong/dan/thu-muc-ollama/ /mnt/backup/ollama/

Cần thay đường dẫn đúng theo máy chủ.

Ưu điểm:

• Khôi phục nhanh.
• Không cần tải lại model.

Nhược điểm:

• Tốn dung lượng.
• Backup lâu.
• Có thể trùng lặp nhiều GB.

5. Backup danh sách model

Nên lưu danh sách model:

ollama list > /mnt/backup/ollama_model_list.txt

Có thể lưu thêm ngày:

date > /mnt/backup/ollama_backup_date.txt
ollama list >> /mnt/backup/ollama_backup_date.txt

Danh sách này giúp biết khi khôi phục cần tải model nào.

6. Backup Modelfile

Nếu bệnh viện tạo model tùy biến, phải lưu Modelfile trong thư mục quản lý cấu hình, ví dụ:

/opt/ai-config/modelfiles/

Nên dùng Git nội bộ hoặc backup định kỳ. Modelfile nhỏ nhưng rất quan trọng vì chứa vai trò, system prompt và parameter.

7. Backup cấu hình API liên quan model

Không chỉ backup model. Cần backup:

• Cấu hình model mặc định.
• Mapping chatbot → model.
• Prompt template.
• File .env nếu có, nhưng phải bảo vệ bí mật.
• Cấu hình keep-alive/context.
• Cấu hình queue.
• Cấu hình RAG.

Nếu mất phần này, model còn nhưng ứng dụng không biết dùng thế nào.

8. Khi nào backup toàn bộ model?

Nên backup toàn bộ model khi:

• Internet không ổn định hoặc không muốn phụ thuộc tải lại.
• Model tùy biến quan trọng.
• Model không còn dễ tải lại.
• Sau khi benchmark và chốt model sản xuất.
• Trước khi cập nhật lớn.
• Trước khi thay đổi ổ cứng/máy chủ.

Không nhất thiết backup toàn bộ mỗi ngày nếu model không thay đổi.

9. Retention backup model

Có thể áp dụng:

• Giữ bản backup model sản xuất gần nhất.
• Giữ Modelfile theo lịch sử nhiều phiên bản.
• Giữ danh sách model hằng tuần/tháng.
• Xóa backup model thử nghiệm sau thời gian nhất định.

Mục tiêu là khôi phục được, không phải lưu vô hạn.

10. Kiểm thử khôi phục

Backup chưa kiểm thử thì chưa chắc dùng được. Cần thử:

• Khôi phục model trên máy test.
• Kiểm tra ollama list.
• Chạy thử model.
• Kiểm tra model tùy biến.
• Kiểm tra API gọi đúng model.

Ít nhất nên kiểm thử sau lần đầu thiết lập backup.

11. Kết luận

Backup thư mục model giúp khôi phục hệ thống AI nhanh hơn, nhưng cần quản lý dung lượng hợp lý. Bệnh viện nên backup Modelfile, danh sách model, cấu hình model và chỉ backup toàn bộ model khi cần. Quan trọng nhất là biết model nào đang dùng chính thức và có khả năng khôi phục lại đúng phiên bản đã benchmark.