ntdll

@lvanmu #7 我大概半个月前来的，菲律宾手机号，也是直接发短信，并不走 WhatsApp

影响有，但没那么大，总比 authentic 上来就整 KYC 的强多了。不过可以预见的是，未来应该是越来越严格的。

希望国产模型早点支棱起来吧（当然也别太贵）

你买得起的任何卡，都会让你产生“算力不够”的感觉，除非你能看得上一些弱智模型。

用量小，可以考虑 OpenCode Go ，价格也便宜。

其实抛开模型不谈，你做的东西，本质上是一个 AI Agent ，我理解的正确吗，至于模型是本地还是远程，国内还是国外，其实并没有什么影响。

而 AI Agent 的核心问题就在于 Agent Loop 怎么设计，以及如何编排不同的 Agent 。

其实类似的需求，我自己动手已经做了一丢丢，只是应用场景上，比你考虑的要收窄了许多，是某个领域特化的 Agent ，虽然也还没做到能用的程度就是了。

我自己的体验是，做这个玩意，跑起来不难，但是到好用还是挺难的。就是能用 -> 好用的这个路径很长。

哎呀，真是服了呀，还剩下 29%的周限没用完，亏了一个亿

其实拆了，也很难维持。我经常遇到 Claude 说

我现在已经完成 xxxx ，下一步是 xxxx ，如果你愿意的话，我可以 xxxxx

然后就停那了，明明它啥都知道，就是要你回个“继续”

我也试过提示词里告诉他，直到完成之前，不要问我，也不用告诉我任何中间状态，但依旧出现：

我已经完成了 xxxx ，下一步要做 xxxx ，用户的原话是:xxxx （就是我那一句让他不要停的提示词）

然后停在那了，等我回复

唔，Vibe 我也用，但是并不觉得它的效率会有多高，反复的等待、沟通、试错，甚至比我手写还慢一些，尤其是项目规模大了以后，vibe 出来的，说是狗屎都不过分。我觉得但凡是一个已经上线的项目，都很难无脑就上去 vibe 。

我现在也只敢在小型项目和自己的玩具里用。

本地能跑起来的，只有弱智，你看不上。
不弱智的，本地根本跑不起来。

本地能跑起来的模型，只有一些方向特化的，比如某些模型，只能做分类，只能做某种识别，这种特化过的模型，本地才有可能跑起来，且有意义。

看起来是 nVidia only

如果有用 AMD + Windows 的组合，可以尝试把 llama.cpp 的后端改成 vulkan ，会比 ROCm 的推理速度快上一档。在 Linux 上，我试下来是 ROCm 更快，但 Windows 相反。