Sign inSign up

dreamplay/hello_rerank

By dreamplay

•Updated over 2 years ago

文本相关性rerank助手

Image
Machine learning & AI
0

372

dreamplay/hello_rerank repository overview

⁠文本相关性rerank助手

go to github⁠

参考模型地址:https://huggingface.co/neofung/bge-reranker-large-1k⁠

⁠安装

⁠方式一:本地python环境启动

安装所需软件包

pip install -i https://mirror.baidu.com/pypi/simple -r requirements.txt

启动

python main.py
⁠方式二:docker-compose一键安装
docker-compose up -d

注意:初次启动时需要下载模型文件,需要等待一段时间,具体看网速,可查看运行过程相关输出日志

⁠环境变量

变量解释
MODEL_NAME模型路径,可使用本地模型,一般指定huggingface上的模型,如默认使用:neofung/bge-reranker-large-1k模型,更多模型可参考文本向量化模型评估排名:https://huggingface.co/spaces/mteb/leaderboard⁠
HOST服务监听ip,默认:0.0.0.0
PORT服务监听端口,默认:8000
WORKERS服务工作进程数量,默认1,内存足够情况下可增大该值

⁠相关接口

提供的接口:POST http://127.0.0.1:8000/v1/rerank⁠

Tag summary

Content type

Image

Digest

sha256:aabfb9c99…

Size

7.1 GB

Last updated

over 2 years ago

docker pull dreamplay/hello_rerank