yudao-cloud 开发指南 yudao-cloud 开发指南
  • 萌新必读
  • 后端手册
  • 微服务手册
  • 工作流手册
  • 大屏手册
  • 支付手册
  • 商城手册
  • ERP 手册
  • CRM 手册
  • AI 大模型手册
  • IoT 物联网手册
  • 公众号手册
  • 前端手册 Vue 2.x
  • 前端手册 Vue 3.x
  • 工作流手册
  • 大屏手册
  • 支付手册
  • 商城手册
  • ERP 手册
  • CRM 手册
  • AI 大模型手册
  • IoT 物联网手册
  • 公众号手册
  • 系统手册
视频教程
  • Vue3 + element-plus (opens new window)
  • Vue3 + vben(ant-design-vue) (opens new window)
  • Vue2 + element-ui (opens new window)
单体版 (opens new window)
作者博客 (opens new window)
GitHub (opens new window)
  • 萌新必读
  • 后端手册
  • 微服务手册
  • 工作流手册
  • 大屏手册
  • 支付手册
  • 商城手册
  • ERP 手册
  • CRM 手册
  • AI 大模型手册
  • IoT 物联网手册
  • 公众号手册
  • 前端手册 Vue 2.x
  • 前端手册 Vue 3.x
  • 工作流手册
  • 大屏手册
  • 支付手册
  • 商城手册
  • ERP 手册
  • CRM 手册
  • AI 大模型手册
  • IoT 物联网手册
  • 公众号手册
  • 系统手册
视频教程
  • Vue3 + element-plus (opens new window)
  • Vue3 + vben(ant-design-vue) (opens new window)
  • Vue2 + element-ui (opens new window)
单体版 (opens new window)
作者博客 (opens new window)
GitHub (opens new window)
  • 萌新必读

    • 简介
    • 交流群
    • 视频教程
    • 功能列表
    • 快速启动(后端项目)
    • 快速启动(前端项目)
    • 接口文档
    • 技术选型
    • 项目结构
    • 代码热加载
    • 一键改包
    • 迁移模块(适合新项目)
    • 删除功能(以租户为例)
    • 表结构变更(版本升级)
    • 国产信创数据库(DM 达梦、大金、OpenGauss)
    • 内网穿透
    • 面试题、简历模版、简历优化
    • 项目外包
  • 后端手册

    • 新建服务
    • 代码生成【单表】(新增功能)
    • 代码生成【主子表】
    • 代码生成(树表)
    • 功能权限
    • 数据权限
    • 用户体系
    • 三方登录
    • OAuth 2.0(SSO 单点登录)
    • SaaS 多租户【字段隔离】
    • SaaS 多租户【数据库隔离】
    • WebSocket 实时通信
    • 异常处理(错误码)
    • 参数校验、时间传参
    • 分页实现
    • VO 对象转换、数据翻译
    • 文件存储(上传下载)
    • Excel 导入导出
    • 操作日志、访问日志、异常日志
    • MyBatis 数据库
    • MyBatis 联表&分页查询
    • 多数据源(读写分离)
    • Redis 缓存
    • 本地缓存
    • 异步任务
    • 分布式锁
    • 幂等性(防重复提交)
    • 请求限流(RateLimiter)
    • HTTP 接口签名(防篡改)
    • 单元测试
    • 验证码
    • 工具类 Util
    • 数据库文档
  • 微服务手册

    • 微服务调试(必读)
    • 注册中心 Nacos
    • 配置中心 Nacos
    • 服务网关 Spring Cloud Gateway
    • 服务调用 Feign
    • 定时任务 XXL Job
    • 消息队列(内存)
    • 消息队列(Redis)
    • 消息队列(RocketMQ)
    • 消息队列(RabbitMQ)
    • 消息队列(Kafka)
    • 消息队列(Cloud)
    • 分布式事务 Seata
    • 服务保障 Sentinel
  • 工作流手册

    • 工作流演示
    • 功能开启
    • 工作流(达梦适配)
    • 审批接入(流程表单)
    • 审批接入(业务表单)
    • 流程设计器(BPMN)
    • 流程设计器(钉钉、飞书)
    • 选择审批人、发起人自选
    • 会签、或签、依次审批
    • 流程发起、取消、重新发起
    • 审批通过、不通过、驳回
    • 审批加签、减签
    • 审批转办、委派、抄送
    • 执行监听器、任务监听器
    • 流程表达式
    • 流程审批通知
  • 大屏手册

    • 报表设计器
    • 大屏设计器
  • 支付手册

    • 功能开启
    • 支付宝支付接入
    • 微信公众号支付接入
    • 微信小程序支付接入
    • 支付宝、微信退款接入
    • 钱包充值、支付、退款
    • 模拟支付、退款
  • 会员手册

    • 功能开启
    • 微信公众号登录
    • 微信小程序登录
    • 微信小程序订阅消息
    • 微信小程序码
    • 会员用户、标签、分组
    • 会员等级、积分、签到
  • 商城手册

    • 商城演示
    • 功能开启
    • 商城装修
    • 在线客服
    • 【商品】商品分类
    • 【商品】商品属性
    • 【商品】商品 SPU 与 SKU
    • 【商品】商品评价
    • 【交易】购物车
    • 【交易】交易订单
    • 【交易】售后退款
    • 【交易】快递发货
    • 【交易】门店自提
    • 【交易】分销返佣
    • 【营销】优惠劵
    • 【营销】积分商城
    • 【营销】拼团活动
    • 【营销】秒杀活动
    • 【营销】砍价活动
    • 【营销】满减送活动
    • 【营销】限时折扣
    • 【营销】内容管理
    • 【统计】会员、商品、交易统计
  • ERP手册

    • ERP 演示
    • 功能开启
    • 【产品】产品信息、分类、单位
    • 【库存】产品库存、库存明细
    • 【库存】其它入库、其它出库
    • 【库存】库存调拨、库存盘点
    • 【采购】采购订单、入库、退货
    • 【销售】销售订单、出库、退货
    • 【财务】采购付款、销售收款
  • CRM手册

    • CRM 演示
    • 功能开启
    • 【线索】线索管理
    • 【客户】客户管理、公海客户
    • 【商机】商机管理、商机状态
    • 【合同】合同管理、合同提醒
    • 【回款】回款管理、回款计划
    • 【产品】产品管理、产品分类
    • 【通用】数据权限
    • 【通用】跟进记录、待办事项
  • AI大模型手册

    • AI 大模型演示
    • 功能开启
      • 1. 第一步,导入 SQL
      • 2. 第二步,重启项目
      • 3. 使用必读!!!
        • 3.1 API 秘钥表
        • 3.2 模型表
    • AI 聊天对话
    • AI 绘画创作
    • AI 知识库
    • AI 音乐创作
    • AI 写作助手
    • AI 思维导图
    • AI 工具(function calling)
    • AI 工作流
    • Dify 工作流
    • FastGPT 工作流
    • Coze 智能体
    • 【模型接入】OpenAI
    • 【模型接入】通义千问
    • 【模型接入】DeepSeek
    • 【模型接入】字节豆包
    • 【模型接入】腾讯混元
    • 【模型接入】硅基流动
    • 【模型接入】MiniMax
    • 【模型接入】月之暗灭
    • 【模型接入】百川智能
    • 【模型接入】文心一言
    • 【模型接入】LLAMA
    • 【模型接入】智谱 GLM
    • 【模型接入】讯飞星火
    • 【模型接入】微软 OpenAI
    • 【模型接入】谷歌 Gemini
    • 【模型接入】Stable Diffusion
    • 【模型接入】Midjourney
    • 【模型接入】Suno
  • IoT物联网手册

    • 功能开启
  • 公众号手册

    • 功能开启
    • 公众号接入
    • 公众号粉丝
    • 公众号标签
    • 公众号消息
    • 自动回复
    • 公众号菜单
    • 公众号素材
    • 公众号图文
    • 公众号统计
  • 系统手册

    • 短信配置
    • 邮件配置
    • 站内信配置
    • 数据脱敏
    • 敏感词
    • 地区 & IP 库
  • 运维手册

    • 开发环境
    • Linux 部署
    • Docker 部署
    • Jenkins 部署
    • 宝塔部署
    • HTTPS 证书
    • 服务监控
  • 前端手册 Vue 3.x

    • 开发规范
    • 菜单路由
    • Icon 图标
    • 字典数据
    • 系统组件
    • 通用方法
    • 配置读取
    • CRUD 组件
    • 国际化
    • IDE 调试
    • 代码格式化
  • 前端手册 Vue 2.x

    • 开发规范
    • 菜单路由
    • Icon 图标
    • 字典数据
    • 系统组件
    • 通用方法
    • 配置读取
  • 更新日志

    • 【v2.5.0】开发中...
    • 【v2.4.2】2025-04-12
    • 【v2.4.1】2025-02-09
    • 【v2.4.0】2024-12-31
    • 【v2.3.0】2024-10-07
    • 【v2.2.0】2024-08-02
    • 【v2.1.0】2024-05-05
    • 【v2.0.1】2024-03-01
    • 【v2.0.0】2024-01-26
    • 【v1.9.0】2023-12-01
  • 开发指南
  • AI大模型手册
芋道源码
2024-05-25
目录

功能开启

进度说明:

  • 管理后台,请使用 https://gitee.com/yudaocode/yudao-ui-admin-vue3 (opens new window) 仓库的 master 分支
  • 后端项目,请使用 https://gitee.com/zhijiantianya/yudao-cloud (opens new window) 仓库的 master-jdk17 分支

注意!仅支持 JDK 17/21 使用,因为基于 Spring AI (opens new window) 实现,它基于 Spring Boot 3.X 构建,所以最低要求 JDK 17!!!

AI 系统,后端由 yudao-module-ai 模块实现,前端由 yudao-ui-admin-vue3 的 ai 目录实现。

只需要启动 yudao-module-ai 服务,就可以使用 CRM 的功能。步骤如下:

  • 第一步,导入 AI 系统的 SQL 数据库脚本
  • 第二步,重启后端项目,确认功能是否生效

# 1. 第一步,导入 SQL

点击 ai-2024-07-07.sql.zip (opens new window) 下载附件,解压出 SQL 文件,然后导入到数据库中。

所以表名字,都使用 ai_ 作为前缀。

# 2. 第二步,重启项目

① 运行该服务的 AiServerApplication (opens new window) 启动类,看到 "Started AiServerApplication in 5.963 seconds (JVM running for 6.253)" 说明开启成功。

② 然后,访问前端的 AI 大模型菜单,确认功能是否生效。如下图所示:

确认功能是否生效

至此,我们就成功开启了 AI 的功能 🙂

可以访问 [AI 大模型 -> AI 对话] 菜单,点击左上角的【新建对话】按钮后,确认右上角的模型是“deepseek”后,就可以和 AI 大模型聊起来了!

友情提示:如果你碰到 Spring AI 相关的包,无法从 Maven 仓库下载下来,可以参考如下的链接解决:

https://t.zsxq.com/gFtUj (opens new window)

友情提示:

如果聊天报错,可能是 API 密钥配置不正确,或者 API 密钥欠费了,可以参考下面的「666. 使用必读」小节,配置你自己申请的密钥。

# 3. 使用必读!!!

目前 AI 系统下的功能,是基于 LLM 大模型 (opens new window),从而实现对话、绘图等一系列功能。

使用时,需要进行 API 密钥、模型的配置。下面,我们来了解下。

# 3.1 API 秘钥表

ai_api_key:API 秘钥表,顾名思义,就是存储 AI 大模型的 API 密钥的表。

# 3.1.1 表结构

省略 creator/create_time/updater/update_time/deleted/tenant_id 等通用字段

CREATE TABLE `ai_api_key` (
  `id` bigint NOT NULL AUTO_INCREMENT COMMENT '编号',
  `name` varchar(255) COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '名称',
  `platform` varchar(255) COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '平台',
  `api_key` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '密钥',
  `url` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci DEFAULT NULL COMMENT '自定义 API 地址',
  `status` int NOT NULL COMMENT '状态',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_unicode_ci COMMENT='AI API 密钥表';

① platform 字段:表示平台,对应 AiPlatformEnum 枚举,目前支持多个 AI 大模型:

  • 国内:【阿里】通义千问、【深度求索】DeepSeek、【字节】豆包、【腾讯】混元、【百度】文心一言、【SiliconFlow】硅基流动、【讯飞】星火、【智谱】GLM
  • 国外:【OpenAI】GPT、【Meta】Llama、【Google】Gemini、【Stability】Stable Diffusion

通过 platform 字段,可以区分不同的平台,从而创建对应的 Spring AI Model 对象,调用对应的平台,具体可见 AiModelFactoryImpl 类下的一系列方法。

② api_key 字段:表示 API 密钥,对应不同的平台的密钥,例如说 OpenAI 的 API KEY。但是要注意,有些平台是多个值,例如说文心一言是 appKey + secretKey 组合,那它在 api_key 就是 ${appKey}|${secretKey}。

url 字段:表示自定义 API 地址。一般情况下不需要配置,除非你有自定义的需求,例如说 OpenAI 使用 API 中转。

具体它们怎么配置,或者怎么部署,可见对应的文档:

  • 国内模型:《通义千问》、《DeepSeek》、《豆包》、《混元》、《文心一言》、《硅基流动》、《讯飞星火》、《智谱 GLM》、《月之暗灭》、《MiniMax》、《百川智能》
  • 国外模型:《OpenAI(ChatGPT)》、《LLAMA》、《微软 OpenAI(ChatGPT)》、《谷歌 Gemini》

友情提示:

一般情况下,建议先使用 《DeepSeek》 模型,因为免费送了一些 tokens,可以先体验一下。

# 3.1.2 管理后台

前端对应 [AI 大模型 -> 控制台 -> API 密钥] 菜单,对应 yudao-ui-admin-vue3 项目的 @/views/ai/model/apiKey 目录。

API 密钥

它的后端 HTTP 接口,由 yudao-module-ai 模块的 model 包的 AiApiKeyController 实现。

# 3.2 模型表

ai_model:模型表,配置每个平台下有哪些可用的模型。

# 3.2.1 表结构

省略 creator/create_time/updater/update_time/deleted/tenant_id 等通用字段

CREATE TABLE `ai_model` (
  `id` bigint NOT NULL AUTO_INCREMENT COMMENT '编号',
  `name` varchar(64) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '模型名字',
  `sort` int NOT NULL COMMENT '排序',
  `status` tinyint NOT NULL COMMENT '状态',
  
  `key_id` bigint NOT NULL COMMENT 'API 秘钥编号',
  `platform` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '模型平台',

  `model` varchar(64) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci NOT NULL COMMENT '模型标识',

  `temperature` double DEFAULT NULL COMMENT '温度参数',
  `max_tokens` int DEFAULT NULL COMMENT '单条回复的最大 Token 数量',
  `max_contexts` int DEFAULT NULL COMMENT '上下文的最大 Message 数量',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=15 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_unicode_ci COMMENT='AI 模型表';

① key_id 字段:表示 API 秘钥编号,对应 ai_api_key 表的 id 字段。

platform 字段:表示模型平台,冗余 ai_api_key 表的 platform 字段。

② model 字段:表示模型标识,对应不同的平台的模型标识,例如说 OpenAI 的 gpt-3.5-turbo、gpt-4-turbo,通义千问的 qwen-plus、qwen-max 等等。

③ type 字段:模型类型,对应 AiModelTypeEnum 枚举,对应有 CHAT、IMAGE、VOICE、VIDEO、EMBEDDING、RERANK 等。

例如说,CHAT 可用于文本生成,IMAGE 可用于图片生成,VOICE 可用于语音生成,VIDEO 可用于视频生成。

④ temperature 字段:表示温度参数,对应不同的平台的温度参数,例如说 OpenAI 的 temperature。

max_tokens 字段:表示单条回复的最大 Token 数量,对应不同的平台的最大 Token 数量,例如说 OpenAI 的 gpt-3.5-turbo 为 4096,gpt-4 为 8192。

max_contexts 字段:表示上下文的最大 Message 数量。因为模型的上下文是有上限的,所以和模型对话时,不会把历史的所有消息都发送过去,而是选择最近的 max_contexts 组消息。会有一些难理解,具体可以看看 AiChatMessageServiceImpl 的 #filterContextMessages(...) 方法。

疑问:为什么 ai_api_key 和 ai_chat_model 表是分开的?

一个平台有多个模型,它们会共用一个 API 密钥,所以是分开的,方便管理。

# 3.2.2 管理后台

前端对应 [AI 大模型 -> 控制台 -> 模型配置] 菜单,对应 yudao-ui-admin-vue3 项目的 @/views/ai/model/model 目录。

模型配置

它的后端 HTTP 接口,由 yudao-module-ai 模块的 model 包的 AiModelController 实现。

注意:新建模型时,需要正确选择 type 模型类型,否则会导致调用不到对应的模型!!!

AI 大模型演示
AI 聊天对话

← AI 大模型演示 AI 聊天对话→

Theme by Vdoing | Copyright © 2019-2025 芋道源码 | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式
×