diff --git a/zh_CN/getting-started/readme/features-and-specifications.md b/zh_CN/getting-started/readme/features-and-specifications.md index d6ac680..cb419b3 100644 --- a/zh_CN/getting-started/readme/features-and-specifications.md +++ b/zh_CN/getting-started/readme/features-and-specifications.md @@ -14,5 +14,5 @@ description: 对于已经熟悉 LLM 应用技术栈的技术人士来说,这 ### 技术特性 -
LLM 推理引擎Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持

10+ 家,包括 OpenAI 与 Anthropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持7 家,Hugging Face,Replicate,AWS Bedrock,NVIDIA,GroqCloud,together.ai,OpenRouter
本地模型推理 Runtime 支持6 ,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM,Ollama,NVIDIA TIS
OpenAI 接口标准模型接入支持∞ 家
多模态技术

ASR 模型

GPT-4V 规格的富文本模型

预置应用类型

对话型应用

文本生成应用(即将下线)
Agent
工作流
群组(Q2 即将推出)

Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易模式编排
  • Assistant 模式编排
  • Flow 模式编排
  • Multi-Agent 模式(Q2 即将推出)

Prompt 变量类型

  • 字符串
  • 单选枚举
  • 外部 API
  • 文件(Q2 即将推出)
Agentic Workflow 特性

行业领先的可视化流程编排界面,所见即所得的节点调试,可插拔的 DSL,原生的代码运行时,构建更复杂、可靠、稳定的 LLM 应用。

支持节点

  • LLM
  • 知识库检索
  • 问题分类
  • 条件分支
  • 代码执行
  • 模板转换
  • HTTP 请求
  • 工具
RAG 特性

首创的可视化的知识库管理界面,支持分段预览和召回效果测试。

索引方式

  • 关键词
  • 文本向量
  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词
  • 文本相似度匹配
  • 混合检索
  • N 选 1 模式
  • 多路召回

召回优化技术

  • 使用 ReRank 模型
ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。

支持同步来自 Notion 的文档为知识库。

向量数据库支持Qdrant(推荐),Weaviate,Zilliz
Agent 技术

ReAct,Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具
  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 30+ 款(截止 2024 Q1)
日志支持,可基于日志进行标注
标注回复基于经人类标注的 Q&A 对,可用于相似度对比回复
可导出为供模型微调环节使用的数据格式
内容审查机制OpenAI Moderation 或外部 API
团队协同工作空间与多成员管理支持
API 规格RESTful,已覆盖大部分功能
部署方式Docker,Helm
+
LLM 推理引擎Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持

10+ 家,包括 OpenAI 与 Anthropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持7 家,Hugging Face,Replicate,AWS Bedrock,NVIDIA,GroqCloud,together.ai,OpenRouter
本地模型推理 Runtime 支持6 ,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM,Ollama,NVIDIA TIS
OpenAI 接口标准模型接入支持∞ 家
多模态技术

ASR 模型

GPT-4V 规格的富文本模型

预置应用类型

对话型应用

文本生成应用(即将下线)
Agent
工作流
群组(Q2 即将推出)

Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易模式编排
  • Assistant 模式编排
  • Flow 模式编排
  • Multi-Agent 模式(Q2 即将推出)

Prompt 变量类型

  • 字符串
  • 单选枚举
  • 外部 API
  • 文件(Q2 即将推出)
Agentic Workflow 特性

行业领先的可视化流程编排界面,所见即所得的节点调试,可插拔的 DSL,原生的代码运行时,构建更复杂、可靠、稳定的 LLM 应用。

支持节点

  • LLM
  • 知识库检索
  • 问题分类
  • 条件分支
  • 代码执行
  • 模板转换
  • HTTP 请求
  • 工具
RAG 特性

首创的可视化的知识库管理界面,支持分段预览和召回效果测试。

索引方式

  • 关键词
  • 文本向量
  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词
  • 文本相似度匹配
  • 混合检索
  • N 选 1 模式
  • 多路召回

召回优化技术

  • 使用 ReRank 模型
ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。

支持同步来自 Notion 的文档为知识库。

向量数据库支持Qdrant(推荐),Weaviate,Zilliz/Milvus,Pgvector,Pgvector-rs,Chroma,OpenSearch,TiDB,Tencent Vector,Oracle,Relyt
Agent 技术

ReAct,Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具
  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 30+ 款(截止 2024 Q1)
日志支持,可基于日志进行标注
标注回复基于经人类标注的 Q&A 对,可用于相似度对比回复
可导出为供模型微调环节使用的数据格式
内容审查机制OpenAI Moderation 或外部 API
团队协同工作空间与多成员管理支持
API 规格RESTful,已覆盖大部分功能
部署方式Docker,Helm