V2EX midraos
 midraos 最近的时间轴更新
midraos
ONLINE

midraos

V2EX 第 703654 号会员,加入于 2024-08-01 10:50:27 +08:00
今日活跃度排名 942
midraos 最近回复了
好强的 AI 味
AI 公司需要 AI 商务吗
直接让他去搜索新闻资讯是不行的,有各种坑,还会被一些网站的人机验证挡住,我是让他自己部署一个新闻爬虫项目(trendRadar),每天定时运行,再将结果自动部署到 edgeone page 中,然后对内容进行总结并再会话中推送给我
3 月 23 日
回复了 lymanbernadette6 创建的主题 Claude 大家的 claude 账号没被封过吗?
@tho #13 google play 订阅,隔天就被封
使用这道数学题进行测试,mimo-v2-pro 无法计算出正确的结果,豆包开个思考模式都可以了
在平面四边形 ABCD 中,AB = AC = CD = 1, \angle ADC = 30^{\circ}, \angle DAB = 120^{\circ}。将\triangle ACD 沿 AC 翻折至\triangle ACP ,其中 P 为动点。 求二面角 A - CP - B 的余弦值的最小值
3 月 12 日
回复了 qize0921 创建的主题 程序员 2w 预算,请教下装机配置问题
@icycola #7 现在不行了,我去年买的 3500 的 96G 皇家戟,现在要 10000
3 月 10 日
回复了 midraos 创建的主题 程序员 指挥 AI 做了一个 LLM API 网关
@beyondstars #9 和市面上的成熟的平台化产品的叙事角度不太一样,我的设计目标是一个轻量化的透明反向代理,服务跑起来后只占用 20M Ram 和 0.5%的 Cpu ,不算是一个完全自嗨的玩具
3 月 10 日
回复了 midraos 创建的主题 程序员 指挥 AI 做了一个 LLM API 网关
@HFX3389 #8 可以看作是 axonhub 这类平台的劣化版,好听点叫轻量化,设计目标就是一个轻量级的透明反向代理,针对 LLM 服务进行了特化定制,确实可以借鉴学习这几个项目中对边界的划分
3 月 10 日
回复了 midraos 创建的主题 程序员 指挥 AI 做了一个 LLM API 网关
@heimoshuiyu #3 解码速度监控和 http 连接复用加进来很不错。
我设计的目标是一个 LLM api 特化的 Nginx 透明代理类型的网关,用于保护与隐藏真实的 apikey ,网关中会拦截 LLM api 中的 apikey 、X-Forwarded-For 和 UA ,其他的都直接进行透传了,所以像重试、首字符超时这些都扔给使用 api 的 client 了;
加入负载均衡可能会导致 LLM 服务商的输入缓存失效,就没做这个功能了
3 月 10 日
回复了 midraos 创建的主题 程序员 指挥 AI 做了一个 LLM API 网关
@cryptovae #1 为了满足自己的需求,轻量化、低资源占用与保护真实的 apikey ;
关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5716 人在线   最高记录 6679       Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 23ms UTC 01:47 PVG 09:47 LAX 18:47 JFK 21:47
Do have faith in what you're doing.
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86