Sign inSign up

langfarm/tracing

By langfarm

•Updated over 1 year ago

LLM tracing 增强 langfuse 的 tracing 数据保存能力

Image
Machine learning & AI
Monitoring & observability
0

1.1K

langfarm/tracing repository overview

过期 请使用 https://hub.docker.com/r/langfarm/langfarm⁠ 代替

配置:

  • redis 地址
  • postgres (langfuse 使用的 db) 地址
  • kafka 地址

.env 内容如下

# Postgres
POSTGRES_SERVER=postgres
POSTGRES_PORT=5432
POSTGRES_DB=postgres
POSTGRES_USER=postgres
POSTGRES_PASSWORD=postgres

# Langfuse
# salt 跟 langfuse 设置的一样。
SALT="mysalt"
# Cache configuration
# LANGFUSE_CACHE_API_KEY_ENABLED=true
# LANGFUSE_CACHE_API_KEY_TTL_SECONDS=600
# LANGFUSE_CACHE_PROMPT_ENABLED=
# LANGFUSE_CACHE_PROMPT_TTL_SECONDS=

# kafka
KAFKA_BOOTSTRAP_SERVERS=kafka:9092

# redis,用于 traces/observations 的 id 生成时间后缀,方便数据湖的表按时间分区。
REDIS_HOST=redis
REDIS_PORT=6379
REDIS_DB=0
REDIS_BODY_ID_EXPIRE_SECONDS=1800

启动

docker run --name langfarm-tracing -v .env:/home/admin/langfarm-tracing/.env langfarm/tracing:0.1.0

docker-compose 参考:https://github.com/langfarm/langfarm-tracing/blob/master/docker/docker-compose.yml⁠

Tag summary

Content type

Image

Digest

sha256:7d37951bf…

Size

404.8 MB

Last updated

over 1 year ago

docker pull langfarm/tracing