PromptLayer

产品功能

• - 提供LLM应用的可观测性，在一个时间轴上追踪请求、工作流程、重试、工具调用、令牌使用、延迟和成本等
• - 能检查每个AI请求从开始到结束的全过程，包括提示、响应、重试、调用的工具及成本等
• - 支持查看每个提示、响应和重试，可按标签、用户、模型或状态进行过滤，具备14天数据保留和4毫秒开销，支持异步批处理
• - 可跟踪多步骤AI执行过程，涵盖代理、工具和提供商，展示父跨度和子跨度，路径一目了然
• - 能按模型、提供商、项目或请求跟踪令牌使用和花费，同时显示成本旁边的p50/p95延迟
• - 帮助调试AI系统，能查看请求失败时实际发生的情况
• - 通过几行代码创建跟踪和跨度，与任何提供商或编排框架兼容，并在PromptLayer中查看完整的执行瀑布图