johnzh

@molezznet 还在开发中，会慢慢加上去，感谢～

@lanlanye 有道理，确实对比的不合适。再这么一看 llava 7b 也很给力啊。感谢指正。

@xkxwd 不知道，各做各的呗。除了 OpenAI 还有其他家模型，应该也需要桌面端吧。我自己平常因为网络限制就会切到 ollama 的本地模型。
而且说实话，我觉得他们的用户交互很好，类似软件都可以参考借鉴抄袭下，。但是没必要放弃不做。

也可以选择 OpenAI 的 embedding model ，上面截图用 Ollama 本地模型，主要是平时测试不想花太多钱。。。

@gesse

Embedding model 就是来生成 embedding 向量用来做 RAG 的。

MyChats 内置一个向量数据库，之前用的 Qdrant ，最近切到 lancedb 了。PDF 问答目前是检索的本地向量数据库，没有直接传给 ChatGPT 模型。目前就是一个简单的 RAG 实现。

截图:

@CHTuring 还不会上传图片，可以看下这个前两周分享的视频： https://www.bilibili.com/video/BV1kZ42177bh/?vd_source=52568b36c1d0b32fc785f82fc145bc87

MyChats 还在开发中，这是第二个视频。它是一个独立的桌面软件，希望能让更多人轻松的使用大模型。目前功能（还在努力套壳中）：
内置了基于本地磁盘的向量数据库
已支持 PDF 文件解析和索引
已支持 ChatGPT 和 Ollama API
新增：存储和加载历史记录

欢大家私信交流！主要技术栈是：Rust + Tauri + React + RocksDB + qdrant vector db

在用苹果 Magic Trackpad 2 代 + Ubuntu ，感觉没什么问题。