基于 LLM 知识库,大家觉得要成功,或者要持续成功,做对哪些,或者不做什么事情比较重要? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
chilaoqi
V2EX    问与答

基于 LLM 知识库,大家觉得要成功,或者要持续成功,做对哪些,或者不做什么事情比较重要?

  •  
  •   chilaoqi 2024-04-17 15:48:17 +08:00 2003 次点击
    这是一个创建于 630 天前的主题,其中的信息可能已经有所发展或是发生改变。

    现在基于 LLM 大模型的场景里面,面向个人和企业的知识库比较火了,大大小小国内外厂商,项目都挺多了。

    我看 1Panel 项目组也开源了自己的项目,MaxKB ,似乎还不错。https://github.com/1Panel-dev/MaxKB

    所以想听听大家选择产品,或者自己公司要搞这块的话,有没有一些期待(或者坑啊?

    2 条回复    2024-04-17 15:59:33 +08:00
    loryyang
        1
    loryyang  
       2024-04-17 15:54:11 +08:00
    RAG 这玩意儿,本质上强依赖两个效果:
    1. 大模型基座的能力,目前看下来,小一些的比如*B ,1*B 的都不太行
    2. 检索测的效果,这个类比于搜广推的检索,要做好难度极大
    总结来说,玩一玩,很简单,像那么回事。要做好,这事就难了。你可以自己拿开源的试试,基本上就我说的这种情况
    MadSix
        2
    MadSix  
       2024-04-17 15:59:33 +08:00
    说实话,选择产品上,主要是还是 1.效果足够好 2.成本足够低。
    之前也试过几家,包括跟 dify 之类的也线下/线上都沟通过。
    好多企业选择知识库首先想到的就是 AI 客服,但实际用下来,目前没找到真的实现效果好的。基本要么用不起来,要么需要无数的人力去打标记。原本想要的是智能客户降本增效,用上知识库之后反而反过来了。
    大家概念都说的很好,演示也是拿一些很傻瓜的场景做 demo ,一旦到实际生产落地的时候,对输入的内容要求太高了。又要有规律,又要规则统一,又要内容种类明晰不杂乱,总之基本不太可能实现,最终还是要大量的人力去打标记。
    单在 AI 客服这个上面,目前就没找到能真的落地面向客户的。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5710 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 27ms UTC 02:58 PVG 10:58 LAX 18:58 JFK 21:58
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86