Cách xây chatbot AI: lộ trình, checklist và ví dụ doanh nghiệp

Mục lục bài viết

Cách xây chatbot AI: Đừng bắt đầu bằng model, hãy bắt đầu bằng câu hỏi người dùng

Một công ty muốn làm chatbot cho website. Buổi họp đầu tiên rất hào hứng.

• Marketing muốn bot tư vấn sản phẩm.  
• Sales muốn bot lấy lead.  
• CSKH muốn bot giảm ticket.  
• HR muốn bot trả lời chính sách nội bộ.  
• Sếp muốn bot “thông minh như ChatGPT”.

Developer ngồi ghi một lúc rồi hỏi: “Vậy bot này trả lời câu hỏi nào trước?”

Cả phòng im.

Đây là lỗi phổ biến nhất khi xây chatbot AI: bắt đầu bằng model, framework, nền tảng, giao diện… nhưng chưa định nghĩa rõ người dùng hỏi gì, dữ liệu nằm ở đâu, câu trả lời đúng là gì và khi nào bot phải chuyển người thật.

IBM định nghĩa chatbot là chương trình mô phỏng hội thoại với người dùng; không phải chatbot nào cũng dùng AI, nhưng chatbot hiện đại ngày càng dùng NLP và conversational AI để hiểu câu hỏi và tự động phản hồi.

Chatbot tốt không phải bot trả lời được mọi thứ

Bot trả lời được mọi thứ thường là bot dễ gây họa.

Một chatbot tốt nên có phạm vi rõ:

• Trả lời FAQ sản phẩm.
• Hỗ trợ tra cứu chính sách đổi trả.
• Tóm tắt ticket cho nhân viên CSKH.
• Hướng dẫn nhân viên mới về handbook.
• Gợi ý bước debug cho IT support.
• Thu thập thông tin ban đầu trước khi chuyển người thật.

Nếu phạm vi không rõ, chatbot sẽ vừa tư vấn, vừa hứa hẹn, vừa đoán chính sách, vừa nói thay con người. Rất tiện. Cũng rất nguy hiểm.

AWS mô tả chatbot hiện đại có thể tạo giá trị khi được kết nối với knowledge base và hệ thống nội bộ để trả lời có ngữ cảnh; RAG là kiến trúc phổ biến để truy xuất đoạn liên quan từ kho dữ liệu rồi dùng chúng làm nền cho câu trả lời.

Framework: BẢN ĐỒ BOT

Bài toán

Bot giải vấn đề gì?

Không phải “tự động hóa CSKH”. Cụ thể hơn:

• Giảm 30% câu hỏi lặp lại về đổi trả.
• Giúp nhân viên tra chính sách HR nhanh hơn.
• Thu thập thông tin lead trước khi sales gọi.
• Hỗ trợ IT phân loại ticket.

Ảnh hưởng nếu bot sai

Nếu bot gợi ý sai màu áo, hậu quả nhỏ. Nếu bot trả lời sai chính sách hoàn tiền, hậu quả lớn.

Hãy phân loại rủi ro:

• Thấp: gợi ý nội dung, FAQ đơn giản.
• Trung bình: hỗ trợ nội bộ, hướng dẫn thao tác.
• Cao: pháp lý, tài chính, y tế, nhân sự, cam kết khách hàng.

Nguồn tri thức

Bot dựa vào đâu?

• Website.
• FAQ.
• Handbook.
• Tài liệu sản phẩm.
• Chính sách đã duyệt.
• CRM.
• Ticket history.
• Database đơn hàng.

Nếu không có nguồn đáng tin, bot sẽ dựa vào “trí nhớ chung” của model - và đó là công thức sinh hallucination.

Đường hội thoại

Người dùng không hỏi theo cách bạn tưởng.

Họ hỏi thiếu thông tin, viết tắt, sai chính tả, bực bội, vòng vo, hoặc hỏi nhiều ý trong một câu.

Thiết kế bot cần có:

• Lời chào.
• Câu hỏi làm rõ.
• Cách trả lời khi không biết.
• Cách chuyển người thật.
• Cách xin thông tin tối thiểu.
• Cách xử lý câu ngoài phạm vi.

Ô kiểm duyệt

Đầu ra nào cần người duyệt?

• Hoàn tiền.
• Hứa ưu đãi.
• Xác nhận điều khoản.
• Gửi email khách hàng.
• Tác động dữ liệu tài khoản.
• Tư vấn nhạy cảm.

Bảo trì, Observability, Test

Một chatbot không kết thúc ở ngày launch.

Cần theo dõi:

• Người dùng hỏi gì nhiều nhất?
• Bot trả lời sai ở đâu?
• Câu nào phải chuyển người thật?
• Tài liệu nào thiếu?
• Prompt nào gây lỗi?
• Latency và chi phí thế nào?

Microsoft Azure AI Search cũng mô tả RAG như mẫu kiến trúc giúp ground phản hồi LLM bằng nội dung riêng của tổ chức, với các bước chuẩn bị nội dung, retrieval và dữ liệu grounding/citation cho mô hình chat completion.

Mini case: Chatbot tuyển sinh cho trung tâm giáo dục

Một trung tâm giáo dục ở Việt Nam muốn chatbot trả lời học viên tiềm năng. Ban đầu team muốn bot “tư vấn như nhân viên sales”.

Sau khi phân tích, họ thu hẹp phạm vi:

Bot được phép trả lời:

• Lịch khai giảng.
• Học phí công khai.
• Đối tượng phù hợp.
• Nội dung chương trình.
• Cách đăng ký tư vấn.
• FAQ về học thử.

Bot không được phép:

• Cam kết đầu ra vượt tài liệu.
• Tự giảm giá.
• So sánh tiêu cực với đối thủ.
• Tư vấn lộ trình cá nhân quá chi tiết nếu thiếu thông tin.
• Thu thập dữ liệu nhạy cảm không cần thiết.

Khi người dùng hỏi: “Em mất gốc thì học 3 tháng có nói được không?”, bot không nên hứa “chắc chắn”. Nó nên hỏi thêm trình độ, mục tiêu, thời gian học, rồi đề xuất đặt lịch tư vấn với người thật.

Chatbot tốt không phải lúc nào cũng trả lời. Nhiều khi nó biết hỏi lại và chuyển tuyến đúng lúc.

Lộ trình xây chatbot 7 bước

Bước 1: Chọn một use case hẹp

Đừng bắt đầu bằng “bot cho toàn công ty”. Hãy chọn một use case rõ: FAQ tuyển sinh, chính sách đổi trả, handbook HR, hỗ trợ ticket IT.

Bước 2: Thu thập câu hỏi thật

Lấy từ email, chat, ticket, call log, comment, form tư vấn. Câu hỏi thật quý hơn brainstorm trong phòng họp.

Bước 3: Chuẩn hóa nguồn trả lời

Tạo knowledge base đã duyệt. Mỗi câu trả lời cần nguồn, ngày hiệu lực, owner.

Bước 4: Chọn kiến trúc

• Rule-based nếu flow đơn giản.
• LLM + prompt nếu chỉ cần hỗ trợ nhẹ.
• RAG nếu cần trả lời theo tài liệu.
• Agent/tool nếu bot cần hành động như tra đơn hàng, tạo ticket, cập nhật hệ thống.

Bước 5: Thiết kế fallback

Bot phải biết nói:

• “Tôi chưa tìm thấy thông tin trong tài liệu.”
• “Câu hỏi này cần nhân viên hỗ trợ.”
• “Bạn có thể cung cấp thêm mã đơn hàng không?”
• “Tôi không thể xử lý yêu cầu này.”

Bước 6: Test bằng câu hỏi xấu

Đừng chỉ test câu đẹp.

Test câu sai chính tả, thiếu thông tin, bực bội, nhiều ý, ngoài phạm vi, cố tình dụ bot hứa sai.

Bước 7: Launch nhỏ và học tiếp

Cho một nhóm nhỏ dùng trước. Theo dõi log, sửa tài liệu, chỉnh prompt, bổ sung câu hỏi.

Checklist trước khi đưa chatbot lên production

[ ] Use case đủ hẹp?
[ ] Có danh sách câu hỏi thật?
[ ] Có knowledge base đã duyệt?
[ ] Có owner cho từng nhóm tài liệu?
[ ] Bot biết nói "không biết"?
[ ] Có cơ chế chuyển người thật?
[ ] Có kiểm soát dữ liệu cá nhân?
[ ] Có log câu hỏi/câu trả lời?
[ ] Có bộ test trước launch?
[ ] Có metric: deflection rate, CSAT, accuracy, escalation?

Kết luận

1. Xây chatbot nên bắt đầu từ câu hỏi người dùng và bài toán kinh doanh, không phải từ model.
2. Bot cần phạm vi rõ, nguồn tri thức đáng tin và fallback an toàn.
3. RAG phù hợp khi chatbot phải trả lời dựa trên tài liệu nội bộ.
4. Test chatbot phải dùng câu hỏi thật, câu hỏi khó và câu hỏi ngoài phạm vi.
5. Chatbot tốt biết trả lời, biết hỏi lại và biết chuyển người thật.