Bài 11. Chatbot có lịch sử hội thoại

1. Đặt vấn đề

Lịch sử hội thoại giúp chatbot trở nên tự nhiên hơn. Người dùng có thể hỏi tiếp, yêu cầu sửa câu trả lời, bổ sung chi tiết hoặc tiếp tục một công việc đang làm. Ví dụ, sau khi chatbot viết bản nháp kế hoạch, người dùng có thể nói: “Rút gọn lại”, “Thêm phần phân công”, “Chuyển thành bảng”, “Viết trang trọng hơn”. Nếu không có lịch sử, chatbot sẽ không biết nội dung trước đó.

Tuy nhiên, trong bệnh viện, lịch sử hội thoại có thể chứa dữ liệu nhạy cảm. Vì vậy, cần cân bằng giữa tiện ích và bảo mật.

2. Lịch sử hội thoại là gì?

Lịch sử hội thoại là các lượt trao đổi trước đó giữa người dùng và chatbot. Khi gọi model, hệ thống có thể gửi lại một phần lịch sử để model hiểu ngữ cảnh.

Có hai loại:

• Lịch sử trong phiên: chỉ dùng khi phiên chat đang mở.
• Lịch sử lưu lâu dài: người dùng có thể xem lại sau.

3. Lợi ích

• Hỏi tiếp tự nhiên.
• Chỉnh sửa nội dung dễ hơn.
• Duy trì mạch công việc.
• Giảm phải nhập lại thông tin.
• Phù hợp soạn thảo nhiều vòng.
• Phù hợp hỗ trợ kỹ thuật từng bước.
• Phù hợp phân tích vấn đề phức tạp.

4. Rủi ro

• Lưu dữ liệu nhạy cảm.
• Người khác truy cập lịch sử.
• Log chứa thông tin định danh.
• Context dài làm chậm.
• Model bị ảnh hưởng bởi thông tin cũ.
• Người dùng quên đã nhập dữ liệu nhạy cảm.
• Khó xóa triệt để nếu backup.

5. Chính sách lưu lịch sử

Bệnh viện cần quyết định:

• Có lưu lịch sử không?
• Lưu trong bao lâu?
• Ai xem được?
• Người dùng có xóa được không?
• Có lưu prompt/response đầy đủ không?
• Có ẩn danh không?
• Lịch sử có đưa vào đánh giá chất lượng không?
• Log kỹ thuật khác gì lịch sử người dùng?

Không nên lưu mặc định mọi thứ nếu chưa có chính sách.

6. Lịch sử và context

Không nên gửi toàn bộ lịch sử dài vào model. API trung gian nên:

• Gửi vài lượt gần nhất.
• Tóm tắt lịch sử nếu dài.
• Loại bỏ thông tin không cần.
• Không đưa dữ liệu nhạy cảm cũ vào prompt nếu không cần.
• Tách hội thoại theo chủ đề.

7. Lịch sử trong RAG

Nếu người dùng hỏi tiếp, hệ thống cần hiểu câu hỏi phụ thuộc ngữ cảnh. Ví dụ:

• “Quy trình báo cáo sự cố gồm mấy bước?”
• “Biểu mẫu đó nằm ở đâu?”
• “Ai chịu trách nhiệm bước 3?”

API trung gian cần kết hợp lịch sử với truy xuất RAG mới. Không nên chỉ dựa vào câu hỏi ngắn “biểu mẫu đó” mà không hiểu ngữ cảnh.

8. Giao diện quản lý lịch sử

Nên có:

• Danh sách phiên chat.
• Đổi tên phiên.
• Xóa phiên.
• Cảnh báo dữ liệu nhạy cảm.
• Không hiển thị lịch sử người khác.
• Phân quyền admin rõ ràng.
• Tùy chọn không lưu.

9. Lịch sử cho tác vụ nhạy cảm

Với các tác vụ nhạy cảm như sự cố, phản ánh, pháp luật, nhân sự, tài chính, bệnh án, nên cân nhắc:

• Không lưu lịch sử mặc định.
• Hoặc chỉ lưu metadata.
• Hoặc lưu trong khu vực phân quyền cao.
• Ẩn danh trước khi lưu.
• Có thời hạn xóa ngắn.

10. Kết luận

Chatbot có lịch sử hội thoại giúp người dùng làm việc tự nhiên và hiệu quả hơn, đặc biệt với soạn thảo và hỗ trợ nhiều bước. Tuy nhiên, trong bệnh viện, lịch sử hội thoại là dữ liệu cần quản lý. Cần chính sách lưu trữ, xóa, phân quyền, giới hạn context và cảnh báo dữ liệu nhạy cảm. Không nên đánh đổi tiện ích lấy rủi ro bảo mật không kiểm soát.