V2EX udtrokia 的所有回复 第 1 页 / 共 6 页
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX    udtrokia    全部回复第 1 页 / 共 6 页
回复总数  116
1  2  3  4  5  6  
最理想的情况下,肯定是希望用户对 compact 没有任何感知的,包括我可以并行 compact ,这个豆包真的是感觉体验上绝了跟别的产品比
@Hilong 如果是 apple chip 现在的 metal batch prefill 应该是和 Nivia 不相上下的吧,其次应该就是 memory 设计和 compaction 设计的问题:

1. memory 的问题我用 graph memory 解决了,每次 compact 不仅 summary 还会 vector db 索引相关的记忆
2. compaction 这个我昨天还在思考,如果是子任务的话,有没有可能使用 leader 来 compact members ,结果会更精准一些
3. 第三个效率补充就是,在思考如果长时间没有对话,后台其实也可以周期性的自动 compact 一下,我感觉豆包的处理应该就是这样的

https://openwalrus.xyz/blog/context-compaction
@hewitt29 你不需要搭大模型,binary 跑起来大模型自动就帮你跑起来了,你不需要任何操作
不过感觉应用场景这个确实,有个具体的东西才好讲,不然太抽象了就很飘了,我目前打算的最先开发的几个用途:

1. 用 openwalrus 运营 discord channel ,记录群里面的人的问题,因为 walrus 支持 graph memory ,所以直接把用户碰到的问题记录并且分类好
2. openwalrus 运营 twitter ,通过 browser 帮忙自动发帖运营,绕过 twitter 的 API call ,包括可以通过 browser 调用 grok 来去优化检索
3. 周期性的行业 research ,比如我现在做的这些 blogs ,https://openwalrus.xyz/blog?tag=research ,agent 去检索总结效率是非常大的

我目前主要是运营需求,@Eddiegaao 老哥你有啥需求我看看我的架构能不能解决?
用的最多的 kimi ,如果机器允许的话,也是可以本地跑的,其实没差的,openclaw 能做的 openwalrus 都可以做
其实大部分的日常场景都可以处理的,机器好的话也可以跑 35B, 122B ,所有的开源大模型都可以跑,远程的也是可以支持的
在做一个 rust 写的,优先跑本地大模型的 claw

https://openwalrus.xyz/
机器具体啥配置啊,看看能不能跑我的 alternative
@fallshuang memory model 和 solidity 的设计不一样,后面动态的参数会有一些调整,不过目前的所有 demo 同样的函数和 solidity & vyper 比,都是字节码又短 gas 开销又低,可以看 https://docs.zink-lang.org
@guoooo00oohao 嗯嗯,没有能把 rust 编过去的,zink 这里是把 rust 编成 wasm 再 translate 到 EVM bytecode ,contracts 开发可以直接使用各种 rust 工具链,同样一个 zink contract 可以部署到多种 VM 上,rust 相当于 zink 的前端了
@poltao 一些得到的 grants + 自己出钱…
@yingxiangyu Approval + Merge 直接转
2024 年 11 月 11 日
回复了 udtrokia 创建的主题 酷工作 [remote] 招 rust dev 和 react dev ( 支持实习 )
@arloor 做分布式系统和编程语言哈
2024 年 11 月 11 日
回复了 udtrokia 创建的主题 酷工作 [remote] 招 rust dev 和 react dev ( 支持实习 )
@yuwenjieshuai 可以发下 github
2024 年 11 月 11 日
回复了 udtrokia 创建的主题 酷工作 [remote] 招 rust dev 和 react dev ( 支持实习 )
@FranzKafka95 可以的,github 看看之前的代码
2020 年 8 月 10 日
回复了 ustcwq 创建的主题 分享创造 [原创脚本] V2EX 发帖可以快速插入图片啦~
2020 年 8 月 10 日
回复了 ustcwq 创建的主题 分享创造 [原创脚本] V2EX 发帖可以快速插入图片啦~
1  2  3  4  5  6  
关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     3269 人在线   最高记录 6679       Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 43ms UTC 12:12 PVG 20:12 LAX 05:12 JFK 08:12
Do have faith in what you're doing.
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86