AI工程师8大学习方向LLM八大方向免费资源

LLM工程师8大学习方向（附学习资源），建议收藏：

1. Prompt工程

2. 上下文工程

3. 微调

4. RAG系统

5. 智能体（Agent）

6. 部署（Deployment）

7. 模型优化

8. 可观测性（Observability）

下面分别展开说说每一项是干嘛的，以及学习资源👇

1）Prompt工程（Prompt Engineering）【图2】：通过写得更结构化、明确的提示词，让模型输出更稳定。

关键技能：

- 写出符合预期的prompt结构（如JSON格式）

- 控制模型输出格式和风格

- 测试不同提示对结果的影响

「学习资源」OpenPrompt库：github.com/thunlp/OpenPrompt

2）上下文工程（Context Engineering）【图3】：在不改模型参数的前提下，把正确的外部信息“喂”给模型，提升理解力。

关键技能：

- 工具/记忆/数据库等信息整合成提示（Prompt Composition）

- 管理输入长度，裁剪无用信息

- 做Context Orchestration（上下文编排）

「学习资源」LangChain教程：docs.langchain.com/docs/components/prompts/contextual-compression

3）微调（Fine-tuning）【图4】：把已有的基础模型，调整成更适合某类任务或领域的模型。

关键技能：

- 掌握QLoRA、LoRA等轻量微调方法

- 整理和清洗训练数据

- 学会评估微调效果

「学习资源」Unsloth微调框架：github.com/unslothai/unsloth

4）RAG系统（Retrieval-Augmented Generation）【图5】：让模型能从外部知识库中检索内容，再结合生成，回答更准确。

关键技能：

- 文本嵌入（Embedding）和向量数据库（如FAISS）

- 搭建数据源+查询系统

- 使用Prompt Template做生成引导

「学习资源」Airweave项目：github.com/airweave-ai/airweave

5）智能体 Agent【图6】：让LLM具备自主思考+执行能力，能完成多步任务。

关键技能：

- Agent结构设计：Reasoning模块+工具+状态管理

- 如何调用外部工具（API、浏览器、数据库等）

- 动态规划任务流程

「学习资源」免费指南：agents.dailydoseofds.com

LangGraph：github.com/langchain-ai/langgraph

AutoGen框架：github.com/microsoft/autogen

6）部署（LLM Deployment）【图7】：把模型部署成一个高可用的服务，让用户能通过API访问。

关键技能：

- 模型服务化（用FastAPI/Flask等）

- 控制并发、延迟、容错

- 接入容器编排（如K8s）

「学习资源」vLLM项目：github.com/vllm-project/vllm

7）模型优化（LLM Optimization）【图8】：降低推理成本和资源使用，比如减少内存占用、加快推理速度。

关键技能：

- 模型量化（Quantization）

- 蒸馏（Distillation）、裁剪（Pruning）

- 找到速度-准确率的平衡点

「学习资源」HuggingFace优化指南：huggingface.co/blog/Isayoften/optimization-rush

8）可观测性（LLM Observability）【图9】：上线后追踪模型行为，监控输出质量，发现问题点。

关键技能：

- 记录Prompt-Response对

- 追踪失败用例、评估效果

- 连接可视化Dashboard

「学习资源」DeepEval工具：github.com/confident-ai/deepeval

Helicone日志平台：www.helicone.ai/

这8项是搞AI应用的技术底座，建议根据自己项目短板查缺补漏。