Langfuse 是一个开源的 LLM 工程平台，专门用于帮助团队对基于大语言模型（LLM）的应用程序进行调试、分析和迭代优化。你可以把它理解成 LLM 应用的“黑匣子”或“监控仪表盘”，让原本难以捉摸的 AI 交互过程变得可视、可测、可改进。

Langfuse 的功能覆盖了 LLM 应用从开发到生产的全生命周期，主要围绕以下三块展开：

可观测性 (Observability)：这是它最核心的能力。它能完整追踪每一次 LLM 调用及相关的检索、嵌入、工具调用等步骤，形成详细的 Trace（追踪记录）。你可以借此查看每个请求的延迟、成本、Token 消耗，并排查问题。多轮对话可以被归入同一个 Session，Agent 的复杂工作流也能以图表形式呈现。

提示词管理 (Prompt Management)：提供提示词的版本控制、协作编辑和部署功能。你可以在界面里直接测试不同版本的提示词效果，并对比它们的延迟、成本和评估指标，无需修改代码就能将新提示词推送到生产环境。

评估 (Evaluation)：帮助你衡量应用的质量。支持多种评估方式，包括 LLM-as-a-judge（用大模型来打分）、代码评估器、用户反馈收集和人工标注。你可以利用生产环境中的真实 Trace 创建数据集 (Dataset)，系统性地测试新版本，确保迭代不会导致效果下降。

总的来说，Langfuse 就像是为 LLM 应用量身打造的 “开发环境 + 监控台”，让开发者能够看清内部运作，并有依据地持续优化应用的性能、成本和效果。

Langfuse 官方文档提供了与 Spring AI 集成的完整指南。集成方式是通过 OpenTelemetry 标准。Spring AI 内置了基于 Micrometer 的 OTel 追踪能力，而 Langfuse 提供了 OTel 的接收端点，因此两者可以无缝对接。

秋日生活打卡季