PROMPT ENGINEERING, RAG VÀ FINE-TUNING LÀ GÌ? (PHẦN 2 – AI AGENT CHO DOANH NGHIỆP)

Rất nhiều người dùng ChatGPT,Gemini hay các AI Agent bán hàng mỗi ngày nhưng chưa bao giờ tự hỏi:vì sao có lúc AI trả lời rất “trúng ý”,có lúc lại chung chung,và có lúc còn bịa ra thông tin sai hoàn toàn về đơn hàng hay chính sách của công ty mình? Câu trả lời nằm ở ba kỹ thuật nền tảng mà mọi AI Agent trưởng thành đều phải dùng ít nhất một:Prompt Engineering,RAGvàFine-tuning. Hiểu rõ Prompt Engineering là gì và RAG là gì sẽ giúp bạn đánh giá đúng một AI Agent có thực sự “dùng được” cho doanh nghiệp,hay chỉ đang chạy demo ấn tượng trên sân khấu.

1.Ôn Lại: AI Agent “Nói Chuyện” Với LLM Ra Sao?

Ở Phần 1,chúng ta đã ví ngành AI như một cây lớn. Roots (rễ)là các LLM (Large Language Model) như GPT,Gemini,Claude,Llama,DeepSeek — nơi diễn ra quá trình thu thập và huấn luyện dữ liệu gốc. Trên thực tế chỉ có khoảng 10 LLM lớn đang chi phối toàn ngành. Thân và cành (Branches)tách theo lĩnh vực — ngôn ngữ,hình ảnh,video,âm thanh — với chưa tới 30 nhánh đáng kể. Lá (Leaves)là các ứng dụng AI,trong đó AI Agent chiếm số lượng lớn nhất — hàng trăm nghìn ứng dụng và tăng mỗi ngày,dù phần lớn đều dựa trên cùng một số Roots và Branches giới hạn phía sau lớp marketing hào nhoáng.

Mỗi chiếc lá — mỗi AI Agent — giao tiếp với rễ cây theo những cách khác nhau,nhưng chủ yếu thông qua ba kỹ thuật:Prompt Engineering,RAG và Fine-tuning. Ba phần tiếp theo sẽ giải thích từng kỹ thuật bằng ví dụ cụ thể.

2.Prompt Engineering Là Gì?

Mỗi khi hỏi ChatGPT hay Gemini một câu,thực chất bạn đang đưa vào một Prompt— và nghệ thuật viết prompt hiệu quả được gọi là Prompt Engineering. Không phải ai cũng biết viết prompt đủ tốt để nhận được kết quả mong muốn;thậm chí có những AI Agent chỉ chuyên làm một việc duy nhất là tối ưu promptcho người dùng khác,và vẫn kiếm được tiền từ đó.

Ví dụ,thay vì một prompt đơn giản như “Viết một bài về sự khác biệt giữa CRM B2B và B2C”,một prompt được tinh chỉnh (refined prompt) có thể là:“Hãy đóng vai Nam Nguyễn,tác giả cuốn sách ‘Cưa Đổ CRM’,và viết một bài…”,hoặc “Hãy tưởng tượng độc giả là sinh viên mới ra trường,chưa từng nghe về CRM,rồi viết một bài…”. Ở mức cao hơn,một prompt còn có thể thiết lập nhiều nhánh kịch bản với điều kiện cụ thể để tạo ra câu trả lời phù hợp hơn và tiết kiệm token hơn.

3.RAG Là Gì?

Prompt Engineering không thể tự “ánh xạ” prompt vào từng ngữ cảnh cụ thể vì số lượng yêu cầu thực tế quá đa dạng. Nó hoạt động tốt với các chủ đề chung,nhưng với những câu hỏi cụ thể — như khiếu nại của khách hàng,tra cứu chi tiết đơn hàng,hay truy cập dữ liệu nội bộ của doanh nghiệp — AI Agent cần lấy thêm thông tin từ bên ngoài. Kỹ thuật này gọi là RAG (Retrieval-Augmented Generation). Nguồn dữ liệu bên ngoài có thể là:

• Lịch sử chat trước đó với khách hàng
• Cơ sở dữ liệu riêng của doanh nghiệp (ví dụ:dữ liệu khách hàng,đơn hàng trong CRM)
• Dữ liệu có cấu trúc hoặc không cấu trúc từ nhiều định dạng khác nhau

Triển khai RAG hiệu quả là cả một nghệ thuật — cân bằng giữa tốc độ phản hồi,bảo mật dữ liệu,và chi phí sử dụng token.

4.Fine-Tuning Là Gì?

Fine-tuninglà quá trình huấn luyện lại AI Agentbằng cách điều chỉnh trọng số của mô hình,dùng dữ liệu chính xác hơn hoặc cập nhật hơn so với dữ liệu huấn luyện gốc của LLM. Có thể so sánh theo từng bước như sau:

• Prompt thông thường:“Viết một bài thơ về CRM.”
• Prompt được tinh chỉnh (Prompt Engineering):“Viết một bài thơ về CRM theo phong cách viết của Nam Nguyễn.”
• Prompt kèm RAG:“Viết một bài thơ về CRM theo phong cách viết của Nam Nguyễn ở dòng 2,trang 129 sách ‘Cưa Đổ CRM’.”(cần nạp cả cuốn sách như một cơ sở dữ liệu bên ngoài)
• Fine-tuning:nếu bài thơ AI tạo ra vẫn lỗi thời hoặc nghe chung chung,ta huấn luyện lại AIbằng toàn bộ bài đăng Facebook của Nam Nguyễn về CRM trong năm 2024,để nó học được những khái niệm ngành mới nhất.

Về bản chất:

• RAG đảm bảo tính chính xác về sự kiện (facts).
• Fine-tuning cải thiện phong cách và độ liên quan (form).
• Nếu prompt thiếu ngữ cảnh — dùng RAG.
• Nếu câu trả lời đúng về sự kiện nhưng thiếu sắc thái hoặc độ liên quan — dùng Fine-tuning.

5.Khi Nào Dùng Prompt Engineering,RAG Hay Fine-Tuning?

Bức tranh AI hiện tại cho thấy AI Agent có thể dùng Prompt Engineering,RAG,Fine-tuning,hoặc kết hợp cả RAG và Fine-tuning (gọi là RAFT). Tuy nhiên,ở thời điểm hiện tại,RAG vẫn là kỹ thuật được dùng phổ biến nhất— vì hầu hết nhu cầu thực tế của doanh nghiệp là cần AI trả lời đúng dựa trên dữ liệu nội bộ đang thay đổi liên tục,hơn là cần AI “viết đúng văn phong” của một ai đó.

Áp Dụng Cho Doanh Nghiệp Việt Nam

Tại Việt Nam,phần lớn doanh nghiệp mới bắt đầu với AI Agent thường dừng ở Prompt Engineering — dùng một chatbot chung để trả lời câu hỏi sản phẩm,soạn email,tóm tắt cuộc gọi. Nhưng ngay khi khách hàng hỏi về đơn hàng cụ thể,lịch sử tương tác,hay chính sách giá riêng cho từng nhóm khách,Prompt Engineering đơn thuần sẽ “hụt hơi” vì AI không có quyền truy cập vào dữ liệu đó.

Đây chính là lúc RAG trở nên cần thiết — và cũng là lúc một hệ thống lưu trữ dữ liệu khách hàng có cấu trúc,như một CRM,trở thành nguồn dữ liệu bên ngoài lý tưởng để AI Agent truy xuất. Một AI Agent kết nối với CRM có thể trả lời chính xác “khách hàng B đã mua gì,khi nào,và đang ở giai đoạn nào trong pipeline” — thay vì đưa ra câu trả lời chung chung hoặc bịa thông tin. Fine-tuning,ngược lại,thường chỉ cần đến sau,khi doanh nghiệp đã tích lũy đủ dữ liệu riêng (văn phong thương hiệu,thuật ngữ ngành) để việc huấn luyện lại thực sự đáng chi phí.

Lời Kết

Prompt Engineering,RAG và Fine-tuning không phải ba lựa chọn cạnh tranh nhau,mà là ba lớp năng lực bổ sung cho nhau trên hành trình đưa một AI Agent từ “biết nói” đến “dùng được thật” trong doanh nghiệp. Hiểu Prompt Engineering là gì giúp bạn ra lệnh đúng;hiểu RAG là gì giúp bạn đòi hỏi AI Agent trả lời bằng dữ liệu thật của công ty mình;còn hiểu Fine-tuning giúp bạn biết khi nào nên đầu tư sâu hơn. Ở Phần 3 của series,chúng ta sẽ đi tiếp vào cách các AI Agent thực sự được triển khai trong quy trình bán hàng B2B.

Câu Hỏi Thường Gặp

Prompt Engineering là gì?+

Prompt Engineering là nghệ thuật thiết kế câu lệnh (prompt) sao cho AI hiểu đúng ý định và trả về kết quả sát nhu cầu nhất,mà không cần thay đổi mô hình nền. Ví dụ,thay vì hỏi chung “viết bài về CRM”,một prompt được tinh chỉnh sẽ nêu rõ vai trò,đối tượng đọc và định dạng mong muốn — giúp AI trả lời chính xác và phù hợp hơn.

RAG là gì?+

RAG (Retrieval-Augmented Generation) là kỹ thuật giúp AI Agent truy xuất dữ liệu bên ngoài — như lịch sử chat,cơ sở dữ liệu riêng của doanh nghiệp,hoặc tài liệu nội bộ — trước khi tạo câu trả lời,thay vì chỉ dựa vào kiến thức đã học sẵn trong mô hình. Nhờ đó,câu trả lời chính xác và cập nhật hơn với dữ liệu thật của doanh nghiệp.

Fine-tuning khác RAG như thế nào?+

RAG bổ sung dữ liệu bên ngoài vào từng câu trả lời,đảm bảo tính chính xác về sự kiện (facts),trong khi Fine-tuning huấn luyện lại trọng số của mô hình để thay đổi phong cách,thuật ngữ hoặc cách suy luận lâu dài (cải thiện hình thức – form). Nếu prompt thiếu ngữ cảnh,dùng RAG;nếu câu trả lời đúng nhưng thiếu sắc thái phù hợp,dùng Fine-tuning.

Doanh nghiệp nhỏ nên bắt đầu từ Prompt Engineering,RAG hay Fine-tuning?+

Nên bắt đầu từ Prompt Engineering vì chi phí thấp nhất và triển khai nhanh nhất. Khi cần AI trả lời dựa trên dữ liệu riêng của công ty (đơn hàng,chính sách,lịch sử khách hàng),chuyển sang RAG. Fine-tuning chỉ nên tính đến khi đã có khối lượng dữ liệu đủ lớn và nhu cầu rất đặc thù về văn phong hoặc chuyên môn.

Kỹ thuật nào đang được dùng phổ biến nhất trong các AI Agent hiện nay?+

RAG là kỹ thuật được dùng phổ biến nhất vì cân bằng tốt giữa chi phí,tốc độ triển khai và độ chính xác — đặc biệt phù hợp với doanh nghiệp cần AI trả lời dựa trên dữ liệu nội bộ liên tục thay đổi,như đơn hàng hay lịch sử khách hàng trong CRM.