Sign inSign up

apache3/llmpylon

By apache3

•Updated 5 months ago

Unified LLM proxy for managing multiple AI providers with centralized config.

Image
Developer tools
0

1.3K

apache3/llmpylon repository overview

llmpylon - 统一管理你的大模型

一个简单易用的大模型代理服务,统一转发各个 AI 工具的请求到不同厂商,实现模型切换、密钥集中管理和调用监控。

核心功能

  • 多厂商统一管理 - 一键切换 Anthropic、OpenAI、DeepSeek 等厂商,无需重启应用
  • 密钥集中管理 - 厂商 API Key 保存在服务端,客户端使用应用级 Key
  • 智能模型解析 - 统一使用 llmpylon 模型名,按优先级解析实际模型
  • 应用级配置 - 每个应用可绑定厂商和默认模型
  • 请求日志监控 - 记录每个请求的时间、耗时、模型、Token 数量

快速开始

docker pull apache3/llmpylon

docker run -d
--name llmpylon
-p 3000:3000
-v llmpylon-data:/data
apache3/llmpylon

访问 http://<服务器IP>:3000 登录后台(默认账号密码均为 admin)

典型场景

适用于 Cursor、VS Code 插件、Claude Code、OpenClaw 等 AI 工具,通过统一代理管理所有大模型调用。


GitHub: https://github.com/s-h/llmpylon⁠

Tag summary

Content type

Image

Digest

sha256:024bb1c1f…

Size

83.8 MB

Last updated

5 months ago

docker pull apache3/llmpylon