我觉得目前 AI 大模型存在一个最大的问题

一年前的模型？

用的什么模型。建议开联网搜索和深度思考

模型和模型之间亦有差距

评论区典中典之上来就质疑你用的什么模型
你需要理解 LLM 的本质是在向量数据库的数据里去计算/预测下一个输出应该是什么。

那处理某些提问或者问题的时候，数据不够全，但是又有数据的情况，完全可能让 LLM 输出一些他自己也不懂正不正确的东西。
它自己都不懂正不正确了，又怎么能自纠错呢？又怎么判断是不是找不到东西呢？

大模型两大毛病。

幻觉+健忘。

现在的模型相比以前好了很多，而且可以联网，我很久没有遇到幻觉的情况了。
结果前一天问 Gemini pro 一个问题，它非常确定的给了我一个错误的答案，我让它联网搜索，它也嘴硬不改，让我很无语

人类都没解决的问题，现在的 LLM 怎么解决，开联网更完犊子，过两年 GEO 越来越多，等着营销号轰炸你的 AI 吧

现在的大模型都是基于概率进行回答，而且大模型还有核心的记忆能力没有解决，市面基本所有工具都是为了解决记忆力和幻觉产生，比如 skill 和 agent 等，幻觉可以迭代大模型和细化领域得到更高的准确率，但是记忆力能够像人一样"永久"记忆的效果，理论都没有吧？预测下，如果未来没有新的理论，或许未来存储硬件更便宜时，每个会话分配 1T 内存或者硬盘来解决。每个会话随着对话变成，自动分支一个子模型概率文件，自己维护当前会话的知识概率信息，达到模拟真实的人

类似一个置信度。

目前每个模型每个 token 向量计算只是按照最可能的下一个预测，完全不顾下一个预测置信度很低，所以到后面就胡说八道了，我的建议是可以设定一个最低阈值，不行就返回不会。。

@bghtyu Gemini 3 Pro 的老毛病了，你换成 3 Flash 就没这个问题了。
3 Pro 非常迷信自己的训练信息。

幻觉虽然是 AI 的老大难问题，但是主流 AI 在一般使用场景下基本无感了，除非你去问那种特别绕的问题，比如前端时间流行的洗车啥的。

叫 AI 回答时附带置信度

兄弟，吸一下 Opus 4.6 ，这个纯度高， 不要再吸免费的模型了。。

@wat4me 确实，到时候 AI 搜索功能又变成现在的搜索引擎，能用但要人自己甄别

幻觉才是智能、创造的基础。不让 AI 产生幻觉，AI 就是搜索引擎，你直接使用搜索引擎就好。