专题：深度培训

每个企业都需要将内部的经验、案例、最佳实践等萃取为规律，然后在日常工作中进行推广和使用。比如：项目流程管理，项目施工标准，新产品设计方法，业务流程优化，内部知识管理，法务合同审核，政策合规审核等；

本工作坊旨在帮助您掌握利用大型语言模型构建私有知识应用，将企业的私有知识进行有效的萃取及利用。共同探索大模型的潜力，并掌握如何开发个性化、安全性强的企业内部私有知识应用。

课程大纲：

一、搭建你的私有化大模型：

• 开源大模型：LLaMA, Alpaca, Vicuna
• ChatGLM-6B 与 ChatGLM-130B
• ChatGLM-6B 使用（预训练模型）
• ChatGLM-6B 定制（训练你的模型）
• Lora 原理

二、LangChain 开发：

• LangChain 核心组件
• Models，Prompts，Chains
• Memory，Agents，Indexes
• Agent 设计
• ReAct 范式
• Case：动手搭建一个本地知识智能客服

三、企业私有知识问答系统：

• 内部知识管理：PDF，Word 解析
• 向量数据库使用
• 搭建本地知识智能问答（LangChain + ChatGLM）
• WebUI 搭建

四、实操环节设置：

1. ChatGLM 训练与微调
2. 使用 LangChain 搭建本地知识智能客服
3. 企业私有知识问答系统
   • 数据解析与切分
   • 向量数据库使用
   • LangChain+ChatGLM
   • WebUI 搭建

目标人群：

• 企业中高管，项目负责人，业务负责人、数据分析师、业务人员

学员收益：

• 深入了解大型语言模型：学员将了解大型语言模型的原理、应用领域和潜力，掌握如何有效利用大模型进行知识应用开发；
• 私有知识应用开发技能：学员将学习如何搭建私有化大模型、开发个性化、安全性强的企业内部私有知识应用。他们将掌握 LangChain 开发、ChatGLM 训练与微调、向量数据库的使用等关键技能；
• 实践能力提升：通过实操环节设置，学员将亲自动手进行 ChatGLM 训练、LangChain 开发和 WebUI 搭建。这将帮助他们加深对知识应用开发流程和方法的理解，并提升实践能力；
• 企业场景应用：构建企业内部知识智能客服、开发私有知识问答系统等。这将帮助他们将所学应用于实际工作场景中，提升工作效率和解决业务挑战。

动手操作环境：

• ChatGLM 训练与微调
• 使用 LangChain 搭建本地知识智能客服
• 企业私有知识问答系统

学员要求：

• 准备本地安装 Python，或者有 Google Colab 账号

ChatGPT 的成功激励很多大公司在开发类似系统，和 OpenAI 公司竞争。但大多数人还是希望借助ChatGPT 的东风，利用 ChatGPT 类似技术开发私有模型，加入自有知识库实现本地化部署。不幸的是ChatGPT 没有开源，而且目前还没有对中国开放，因此如果想依赖 OpenAI 的 API 开发类 ChatGPT 是不可行的。此外，要训练自己的大语言模型成本太高。目前最佳路径是利用现有的预训练大语言模型进行指令微调，训练出自己的类 ChatGPT 私有模型。

类 ChatGPT 私有模型的开发吸引了很多人的投入，发展很快。目前主要基于 Meta 的 LLaMA 模型。OpenAI 看到 LLaMA 模型开放后吸引了很多开发者，一虎难敌群狼，所以也有开源 GPT3 的计划。LLaMA 模型的硬伤是不支持商用，性能更好的阿联酋技术创新研究所(TII)的 Falcon 40B，现在免收特许权使用费，未来有可能替代 LLaMA 的地位。

本课程从技术和实战角度介绍了类 ChatGPT 私有模型开发过程，涉及现有的预训练模型的增量训练、指令微调、中文支持、推理模型部署、数据集格式等，一步一步指导你搭建一个自己的私有模型。

课程大纲：

1. 搭建你自己的私有大模型
   • 模型选择
   • 预训练大语言模型
   • 指令微调模型
   • 量化模型
   • 推理模型部署
   • LangChain 开发
2. 训练你自己的私有大模型
   • 预训练大语言模型（LLM）的选择
   • 增量预训练预权重合并
   • 监督微调（SFT）数据集
   • 监督微调（SFT）训练
   • 模型部署
3. 实操环节设置
   • 服务器开发环境安装
   • LLM 权重文件下载
   • LLM 增量训练语料（自有资料）准备
   • LLM 增量预训练
   • LLM 增量权重文件的合并
   • SFT 训练数据（自有知识库）准备
   • SFT 训练
   • SFT 增量权重文件的合并
   • 模型推理服务部署

目标人群：

创业者、企业中高管、相关项目负责人，具有 Linux 和 Python 语言基础

现场开发环境建立：

• GPU 服务器、Linux 操作系统
• PyTorch、Transformer 开发环境
• 模型库：已有微调模型权重文件、LLaMA 预训练模型的权重文件
• 利用已有微调模型，部署推理服务，可以输入一段文字，生成后续内容
• 自己进行微调生成模型，需要在预训练模型（如LLaMA）上，准备数据集，进行监督微调训练，生成的模型可用于推理

学员收益：

• 深入了解大语言模型：学员将了解大语言模型的原理、应用领域和潜力，掌握如何将自有知识加入大语言模型中；
• 私有知识应用开发技能：学员将学习如何搭建私有化大模型、开发及部署个性化、安全性强的企业内部类 ChatGPT 应用。他们将掌握 LangChain 开发、预训练模型的增量训练及监督微调等关键技能；
• 企业场景应用：构建企业内部知识智能客服、开发私有知识问答系统等。这将帮助他们将所学应用于实际工作场景中，提升工作效率和解决业务挑战。

在全球供应链整合和云原生、数字化转型的背景下，金融系统也在经历一场重大的历史变革，业务爆发式增⻓，包括用户数量、业务维度、系统复杂度、系统质量要求等多维问题同时出现下，如何利用更先进的企业架构等技术进行企业的数字化转型，实现业务复杂度与技术复杂度的分离，以更好支撑业务的发展，并挖掘技术&数据的价值，更好的赋能客户。

在 Gartner 发布的《中国低代码应用平台竞争格局》报告中提到，2021年至2026年间、中国LCAP 市场收入预估将以25.4%的复合年增⻓率加速增⻓，低代码逐渐成为主流，通过本次培训，我将通过第一性原理揭示分布式系统的时空本质，以及金融级核心系统的业务本质和建模方法，介绍支持百亿交易的账务系统所面临的挑战和应对之道。

业务痛点：

• 对业务本质和业务发展阶段，公司具体技术基础的认知，综合评估，设计出最合理的技术选型
• 如何通过技术突破与创新更好的赋能业务

技术上的探索：

• 基于因果一致性的分布式事务解决方案
• 金融级核心账务系统的低代码实践
• DDD 在金融系系统的落地实践

解决的问题：

• 精细化经营背景下通过技术创新实现技术降本
• 支持业务的快速创新
• 金融系统的高可用、高并发、高性能保障

学员收益点：

• 了解分布式系统的一致性本质
• 了解 CQRS、Event Sourcing 思想的实践
• 了解支持海量流量的金融级核心系统的技术挑战和应对之道
• 了解 DDD 在金融级业务系统的应用
• 了解金融系统安全性的考量和解决方案
• 了解数字化转型背景下技术对业务的赋能

培训提纲：

1. 海量流量下金融级系统的技术挑战
2. 高可用、高并发架构的理论基础

一.背景篇

• 海量流量下金融级账务系统的核心挑战
• 基于传统数据库实现事务的限制

二.理论篇

• 基于相对论的分布式时空本质
• 线性一致性与因果一致性
• 图灵机与 λ

三.实践篇

• 基于 DDD 的账务系统业务建模和账务DSL
• 账务安全的保障机制
• 基于 CQRS 的读写分离
• 海量数据基于成本考量的技术升级
• 基于因果一致性的柔性事务解决方案
• 平台化演进

四.未来篇

• 基于云原生的架构演进
• 数字化时代账务系统的业务赋能

DDD在实践的过程中，很多企业都是在摸索中前进。尤其是新的业务团队在推进一些实际需求时遇到了新的产研效率问题。主要体现在DDD思想指导下进行业务重塑的价值如何进行评估，如何技术方如何说服业务方一起实践DDD，通过事件风暴等方式有了战略设计成果后如何进行战术设计，进而如何落地实施，落地实施完成后如何守护业务重塑的成果。

这次培训，我会结合之前 DDD 在去哪儿网落地的成功经验，基于 DDD 思想，从业务诉求，到问题域拆解，再到问题域到解决域过渡，并进行的实际落地过程，重点介绍领域架构设计过程及落地经验。

课程重点讲DDD落地实践过程：1.战略设计过程；2.战术设计过程；3.COLA四层架构应用；4.领域版本化建设。

课程大纲：

1. 事件风暴拆解识别一句话需求
2. 抽象模型拆解与具象战术设计
3. 从战术设计到4层架构落地实现
4. 技术视角与业务视角的对齐

目标人群：

• 对DDD还不太了解的工程师、架构师、业务专家
• 了解DDD理论，缺乏落地实践经验的工程师、架构师、业务专家

学员收益点：

可以学到DDD领域驱动设计的落地SOP，如何从一句话的业务诉求通过分析识别扩展为一个或多个完整的问题域，进而设计为多个领域协同解决方案的标准步骤，最终用一个合适的框架进行落地。还可以学到DDD全面落地后，架构师如何使用领域版本化的方法承接公司战略。