From 80dc026427a7eb740f9a7b2165019bcb64c145e2 Mon Sep 17 00:00:00 2001 From: Luyu Zhang Date: Sun, 24 Dec 2023 04:17:59 +0000 Subject: [PATCH] GITBOOK-69: change request with no subject merged in GitBook --- zh_CN/getting-started/readme/features-and-specifications.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/zh_CN/getting-started/readme/features-and-specifications.md b/zh_CN/getting-started/readme/features-and-specifications.md index e0b41f1..1f13aac 100644 --- a/zh_CN/getting-started/readme/features-and-specifications.md +++ b/zh_CN/getting-started/readme/features-and-specifications.md @@ -14,4 +14,4 @@ description: 对于已经熟悉 LLM 应用技术栈的技术人士来说,这 ### 技术特性 -
LLM 推理引擎Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持

10 家,包括 OpenAI 与 Authropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持2 家,Hugging Face 与 Replicate
本地模型推理 Runtime 支持4 家,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM
多模态技术

ASR 模型

GPT-4V 规格的富文本模型

预置应用类型文本生成型
对话型
Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易编排
  • 高级编排
  • Flow 编排(即将支持)

Prompt 变量类型

  • 字符串
  • 单选枚举
  • 外部 API
RAG 特性

首创的可视化的知识库管理界面,支持分段预览和召回效果测试。

索引方式

  • 关键词
  • 文本向量
  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词
  • 文本相似度匹配
  • N 选 1 模式
  • 多路召回

召回优化技术

  • 使用 ReRank 模型
ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后客获得最大化支持。

支持同步来自 Notion 的文档为知识库。

向量数据库支持Qdrant(推荐),Weaviate,Zilliz
Agent 技术

ReAct,Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具(2023Q4 推出)
  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 3 款
日志支持,可基于日志进行标注
标注回复基于经人类标注的 Q&A 对,可用于相似度对比回复
可导出为供模型微调环节使用的数据格式
内容审查机制OpenAI Moderation 或外部 API
团队协同工作空间与多成员管理支持
API 规格RESTful,已覆盖大部分功能
部署方式Docker,Helm
+
LLM 推理引擎Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持

10 家,包括 OpenAI 与 Authropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持2 家,Hugging Face 与 Replicate
本地模型推理 Runtime 支持4 家,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM
多模态技术

ASR 模型

GPT-4V 规格的富文本模型

预置应用类型文本生成型
对话型
Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易编排
  • 高级编排
  • Flow 编排(2024Q1 推出)

Prompt 变量类型

  • 字符串
  • 单选枚举
  • 外部 API
RAG 特性

首创的可视化的知识库管理界面,支持分段预览和召回效果测试。

索引方式

  • 关键词
  • 文本向量
  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词
  • 文本相似度匹配
  • N 选 1 模式
  • 多路召回

召回优化技术

  • 使用 ReRank 模型
ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。

支持同步来自 Notion 的文档为知识库。

向量数据库支持Qdrant(推荐),Weaviate,Zilliz
Agent 技术

ReAct,Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具(2023Q4 推出)
  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 3 款
日志支持,可基于日志进行标注
标注回复基于经人类标注的 Q&A 对,可用于相似度对比回复
可导出为供模型微调环节使用的数据格式
内容审查机制OpenAI Moderation 或外部 API
团队协同工作空间与多成员管理支持
API 规格RESTful,已覆盖大部分功能
部署方式Docker,Helm