开源模型

视角 · 和 10-07 的 EmbeddingGemma 2 放在一起看，端侧语义检索的模型和引擎都齐了。AI 云盘这类产品可以先在网页端用 WebGPU 试一版本地向量化，把隐私敏感文件留在用户设备上；还在用 TFLite GPU delegate 的项目，该排迁移计划了。

视角 · 0.8B 只比 4B 低不到 1 分，这对 AI 云盘的文档解析很有吸引力：我会先拿用户上传最多的扫描件和带表格的 PDF 做一轮对比，看能不能把一部分解析从云端 API 挪到自己的机器上。

视角 · 内容审核、路由、是否需要转人工这类「是或否」的判断，没必要每次都调生成式大模型。我会把 PandaClaws 里的发布前合规判断拿来试 d1-3B，但许可证没写清之前只做评估、不上线。

视角 · 550B 的模型多数团队用不上，真正值得拿走的是方法：Nano（30B 总参、3B 激活）在 IOI 2025 上从 SFT 后的 280 分靠 GenCorrect 这类测试时策略提到 468 分。做代码类产品的，可以先在自家评测集上试「生成后再自我纠错」这一层。

视角 · 输入 1.36 美元、输出 4.18 美元，这个价位已经值得把 PandaClaws 的长文生成和多语种改写拿去比一轮。但现在只是预览，权重和许可证都还没出，我会先用 API 跑自己的评测集，等月底权重和许可条款落地再决定要不要考虑自部署。

视角 · 这条和 AI 云盘最直接相关：图片、视频、录音和文档进同一个向量空间，就能用一句话跨类型搜文件，不用再为每种格式各接一套模型。我会先拿 270M 的文本版替换现有向量模型做对比，再按需加载视觉模块；128 维截断能把索引存储压下来，但要先在自己的检索集上测召回掉多少。

视角 · 每 token 只激活 3B 多、单卡能跑，又是 Apache 2.0，这类模型很适合 AI 云盘这种要私有化部署的长文档问答。不过它只做德英两种语言，中文场景别直接上；我更想拿它验证的是「滑窗注意力 + 长上下文」在自己硬件上的真实吞吐，再决定下一个自部署模型怎么选。

视角 · 「检索后写成带引用的长文」是 AI 云盘文档问答最常见的需求，8B 小模型能在一次调用里做完，意味着可以私有化部署、把成本压下来。我会先拿自己的文档集对比引用准确率，再决定是否替掉现有的大模型调用。