GITBOOK-69: change request with no subject merged in GitBook
parent
6313db6a70
commit
80dc026427
|
|
@ -14,4 +14,4 @@ description: 对于已经熟悉 LLM 应用技术栈的技术人士来说,这
|
|||
|
||||
### 技术特性
|
||||
|
||||
<table data-header-hidden><thead><tr><th width="258"></th><th></th></tr></thead><tbody><tr><td>LLM 推理引擎</td><td>Dify Runtime ( 自 v0.4 起移除了 LangChain)</td></tr><tr><td>商业模型支持</td><td><p><strong>10 家</strong>,包括 OpenAI 与 Authropic</p><p>新的主流模型通常在 48 小时内完成接入</p></td></tr><tr><td>MaaS 供应商支持</td><td><strong>2 家</strong>,Hugging Face 与 Replicate</td></tr><tr><td>本地模型推理 Runtime 支持</td><td><strong>4 家</strong>,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM</td></tr><tr><td>多模态技术</td><td><p>ASR 模型</p><p>GPT-4V 规格的富文本模型</p></td></tr><tr><td>预置应用类型</td><td>文本生成型<br>对话型</td></tr><tr><td>Prompt 即服务编排</td><td><p>广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果</p><p><strong>编排模式</strong></p><ul><li>简易编排</li><li>高级编排</li><li>Flow 编排(即将支持)</li></ul><p><strong>Prompt 变量类型</strong></p><ul><li>字符串</li><li>单选枚举</li><li>外部 API</li></ul></td></tr><tr><td>RAG 特性</td><td><p>首创的可视化的知识库管理界面,支持分段预览和召回效果测试。<br><br><strong>索引方式</strong></p><ul><li>关键词</li><li>文本向量</li><li>由 LLM 辅助的问题-分段模式</li></ul><p><strong>检索方式</strong></p><ul><li>关键词</li><li>文本相似度匹配</li><li>N 选 1 模式</li><li>多路召回</li></ul><p><strong>召回优化技术</strong></p><ul><li>使用 ReRank 模型</li></ul></td></tr><tr><td>ETL 技术</td><td><p>支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后客获得最大化支持。</p><p>支持同步来自 Notion 的文档为知识库。</p></td></tr><tr><td>向量数据库支持</td><td>Qdrant(推荐),Weaviate,Zilliz</td></tr><tr><td>Agent 技术</td><td><p>ReAct,Function Call<br></p><p><strong>工具支持</strong></p><ul><li>可调用 OpenAI Plugin 标准的工具(2023Q4 推出)</li><li>可直接加载 OpenAPI Specification 的 API 作为工具</li></ul><p><strong>内置工具</strong></p><ul><li>3 款</li></ul></td></tr><tr><td>日志</td><td>支持,可基于日志进行标注</td></tr><tr><td>标注回复</td><td>基于经人类标注的 Q&A 对,可用于相似度对比回复<br>可导出为供模型微调环节使用的数据格式</td></tr><tr><td>内容审查机制</td><td>OpenAI Moderation 或外部 API</td></tr><tr><td>团队协同</td><td>工作空间与多成员管理支持</td></tr><tr><td>API 规格</td><td>RESTful,已覆盖大部分功能</td></tr><tr><td>部署方式</td><td>Docker,Helm</td></tr></tbody></table>
|
||||
<table data-header-hidden><thead><tr><th width="258"></th><th></th></tr></thead><tbody><tr><td>LLM 推理引擎</td><td>Dify Runtime ( 自 v0.4 起移除了 LangChain)</td></tr><tr><td>商业模型支持</td><td><p><strong>10 家</strong>,包括 OpenAI 与 Authropic</p><p>新的主流模型通常在 48 小时内完成接入</p></td></tr><tr><td>MaaS 供应商支持</td><td><strong>2 家</strong>,Hugging Face 与 Replicate</td></tr><tr><td>本地模型推理 Runtime 支持</td><td><strong>4 家</strong>,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM</td></tr><tr><td>多模态技术</td><td><p>ASR 模型</p><p>GPT-4V 规格的富文本模型</p></td></tr><tr><td>预置应用类型</td><td>文本生成型<br>对话型</td></tr><tr><td>Prompt 即服务编排</td><td><p>广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果</p><p><strong>编排模式</strong></p><ul><li>简易编排</li><li>高级编排</li><li>Flow 编排(2024Q1 推出)</li></ul><p><strong>Prompt 变量类型</strong></p><ul><li>字符串</li><li>单选枚举</li><li>外部 API</li></ul></td></tr><tr><td>RAG 特性</td><td><p>首创的可视化的知识库管理界面,支持分段预览和召回效果测试。<br><br><strong>索引方式</strong></p><ul><li>关键词</li><li>文本向量</li><li>由 LLM 辅助的问题-分段模式</li></ul><p><strong>检索方式</strong></p><ul><li>关键词</li><li>文本相似度匹配</li><li>N 选 1 模式</li><li>多路召回</li></ul><p><strong>召回优化技术</strong></p><ul><li>使用 ReRank 模型</li></ul></td></tr><tr><td>ETL 技术</td><td><p>支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。</p><p>支持同步来自 Notion 的文档为知识库。</p></td></tr><tr><td>向量数据库支持</td><td>Qdrant(推荐),Weaviate,Zilliz</td></tr><tr><td>Agent 技术</td><td><p>ReAct,Function Call<br></p><p><strong>工具支持</strong></p><ul><li>可调用 OpenAI Plugin 标准的工具(2023Q4 推出)</li><li>可直接加载 OpenAPI Specification 的 API 作为工具</li></ul><p><strong>内置工具</strong></p><ul><li>3 款</li></ul></td></tr><tr><td>日志</td><td>支持,可基于日志进行标注</td></tr><tr><td>标注回复</td><td>基于经人类标注的 Q&A 对,可用于相似度对比回复<br>可导出为供模型微调环节使用的数据格式</td></tr><tr><td>内容审查机制</td><td>OpenAI Moderation 或外部 API</td></tr><tr><td>团队协同</td><td>工作空间与多成员管理支持</td></tr><tr><td>API 规格</td><td>RESTful,已覆盖大部分功能</td></tr><tr><td>部署方式</td><td>Docker,Helm</td></tr></tbody></table>
|
||||
|
|
|
|||
Loading…
Reference in New Issue