xiuxiumycena/vllmserver-dev

By xiuxiumycena

Updated 6 months ago

包含基於 vllm/vllm-openai:v0.5.4 的 Docker 映像。它專為需要特定 Python 套件設計

Image
Data Science

38

xiuxiumycena/vllmserver-dev

描述

這個倉庫包含了基於 vllm/vllm-openai:v0.5.4 的自定義 Docker 映像。它專為需要特定 Python 套件版本的環境而設計,允許用戶輕鬆地更新和管理 VLLMServer 中的 Python 套件,同時保持與原始 vllm/vllm-openai:v0.5.4 的兼容性。

概述

特性
  • 基於官方 vllm/vllm-openai:v0.5.4 映像
  • 支持自定義 Python 套件版本
  • 針對 AMD64 架構優化
  • 簡化的構建過程
使用方法

要使用這個映像,請運行以下命令:

docker pull xiuxiumycena/vllmserver-dev:v0.0.1
docker run -p 8080:8080 xiuxiumycena/vllmserver-dev:v0.0.1
自定義

如果您需要自定義 Python 套件,可以基於這個映像創建您自己的 Dockerfile:

FROM xiuxiumycena/vllmserver-dev:v0.0.1

COPY your-requirements.txt .
RUN pip install -r your-requirements.txt
版本說明
  • v0.0.1: 初始版本,包含基本功能和優化
貢獻

歡迎通過 GitLab 倉庫 提交問題或貢獻代碼。

許可證

本項目基於 MIT 許可證進行授權。

如需更多信息,請訪問我們的 GitLab 倉庫

Docker Pull Command

docker pull xiuxiumycena/vllmserver-dev