OpenLLMetry | 监控 LLM 程序和⽮量数据库

在使⽤⼤模型时，同样需要⼀些可观测性指标，监控 AI 模型的稳定性与性能。OpenLLMetry 是⼀组基于流⾏的 OpenTelemetry 标准构建的扩展插件，包含适⽤于各类 LLM 程序和⽮量数据库的监控数据。由于采⽤了 OpenTelemetry 标准，所以监控指标可以快速接⼊ Datadog、New Relic 等监控平台中。