netvn/honcho-bge-m3 repository overview

# 基础配置
EMBEDDING_TRANSPORT=openai
EMBEDDING_MODEL=BAAI/bge-m3
EMBEDDING_VECTOR_DIMENSIONS=1024

# 如果使用 Ollama 或本地服务
EMBEDDING_BASE_URL=http://localhost:11434/v1
EMBEDDING_API_KEY=ollama

# 向量存储配置（必须与 EMBEDDING_VECTOR_DIMENSIONS 一致）
VECTOR_STORE_TYPE=lancedb          # 推荐：LanceDB（支持维度更改）
# 或
VECTOR_STORE_TYPE=pgvector        # PostgreSQL（需要数据库迁移）
VECTOR_STORE_DIMENSIONS=1024

services:
  honcho:
    image: plasticlabs/honcho:latest
    environment:
      - EMBEDDING_TRANSPORT=openai
      - EMBEDDING_MODEL=BAAI/bge-m3
      - EMBEDDING_VECTOR_DIMENSIONS=1024
      - VECTOR_STORE_TYPE=lancedb
    ports:
      - "8000:8000"

-- 1. 卸载扩展（如果存在）
DROP EXTENSION IF EXISTS vector CASCADE;

-- 2. 重新安装
CREATE EXTENSION vector;

-- 3. 重新运行迁移
alembic upgrade head

-- 警告：此操作不可逆，请备份！
-- 1. 添加新列
ALTER TABLE documents ADD COLUMN embedding_1024 vector(1024);

-- 2. 重新计算嵌入（需要应用层支持）
-- 使用新的 1024 维模型重新生成

-- 3. 删除旧列
ALTER TABLE documents DROP COLUMN embedding;
ALTER TABLE documents RENAME COLUMN embedding_1024 TO embedding;

# 测试前确保配置正确
EMBEDDING_VECTOR_DIMENSIONS=1024 uv run pytest tests/

# 启动应用后检查
from src.config import settings
print(f"Vector Dimensions: {settings.EMBEDDING.VECTOR_DIMENSIONS}")
print(f"Vector Store Dims: {settings.VECTOR_STORE.DIMENSIONS}")
# 预期输出：
# Vector Dimensions: 1024
# Vector Store Dims: 1024

from src.embedding_client import get_embedding_client

client = get_embedding_client()
embedding = client.embed("test")
print(f"Embedding shape: {len(embedding)}")  # 预期：1024

SELECT 
    column_name, 
    data_type, 
    udt_name 
FROM information_schema.columns 
WHERE table_name IN ('documents', 'message_embeddings') 
  AND column_name = 'embedding';

# 还原配置
cp src/config.py.bak.* src/config.py
cp src/models.py.bak.* src/models.py

# 还原迁移文件
cd migrations/versions/
for f in *.py.bak.*; do
    base=$(echo $f | sed 's/\.bak\..*//')
    cp "$f" "$base"
done

# 重新运行迁移
alembic downgrade -1
alembic upgrade head