V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
pureGirl
V2EX  ›  程序员

pgvector 生成 embedding 好慢,是我用的方式有问题吗

  •  
  •   pureGirl · 3 小时 54 分钟前 · 322 次点击

    有没有能快速生成 embedding 的办法

    7 条回复    2025-09-17 11:38:28 +08:00
    irrigate2554
        1
    irrigate2554  
       3 小时 52 分钟前
    pgvector 是纯 cpu 没有 gpu 加速的吧,你可以部署其它的 embedding 模型,生成向量后存储到 pg ,pg 只做存储和查询就快了。
    w568w
        2
    w568w  
       3 小时 43 分钟前
    > pgvector 生成 embedding 好慢

    pgvector 可以生成 embedding 吗?我理解它不是只负责储存、索引和检索吗,还管生成?
    rimworld
        3
    rimworld  
       3 小时 38 分钟前
    硅基找个做 embedding 的模型,最好和你用的对话模型是配套的。同意 2 楼的,这不是 pg 的拓展插件来方便保存,和提供一些方法来检索的吗?
    pureGirl
        4
    pureGirl  
    OP
       3 小时 36 分钟前
    @w568w 我用的这个方法生成的 from llama_index.vector_stores.postgres import PGVectorStore
    pureGirl
        5
    pureGirl  
    OP
       3 小时 36 分钟前
    @irrigate2554 生成 embedding 的过程也太慢了,千万级数据 embedding 生成不出来检索快有啥用
    dreasky
        6
    dreasky  
       3 小时 28 分钟前
    生成 embedding 速度慢不是 embedding 模型慢吗 跟 pg 有关系吗
    dzdh
        7
    dzdh  
       3 小时 26 分钟前
    生成不是模型做的吗? pgvector 不是只管 select 和 insert 吗
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5051 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 07:04 · PVG 15:04 · LAX 00:04 · JFK 03:04
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.