
引言
2026 年,大语言模型已经从炫技走向实用。但要构建一个真正可用的企业级 LLM 应用,远不止调用 API 那么简单。本文从实践角度梳理 LLM 应用开发的核心概念。
第一层:Prompt Engineering
最基础的 LLM 应用就是写一个好的 Prompt。但好的 Prompt 不是一次写成的——需要像写代码一样迭代测试。核心技巧:明确角色、提供示例(Few-shot)、结构化输出要求(JSON Schema)。
第二层:RAG(检索增强生成)
Prompt 能解决的问题有限——模型的知识截止于训练日期,无法回答关于你的私有文档的问题。RAG 通过在生成前检索相关文档片段,让模型看到它原本不知道的信息。
一个生产级 RAG 系统至少需要:文档解析 → 文本分割 → 向量化 → 向量存储 → 检索 → 重排序 → 生成。每个环节都有坑。
第三层:AI Agent
Agent 是 LLM 应用的终极形态——模型不再是回答问题,而是能自主规划、调用工具、执行多步任务。但 Agent 也是最难做好的——自主性越高,不可控性越强。
总结
不要一上来就做 Agent。先做好 Prompt,再引入 RAG,最后考虑 Agent。80% 的企业场景,RAG 就够了。