模块1
大模型概述 1
情景引入 1
知识准备 2
1.1 大模型基础 2
1.1.1 大模型定义与特征 2
1.1.2 大模型发展历程 3
1.1.3 大模型核心分类 5
1.2 大模型构建流程与资源 7
1.2.1 通用型构建流程 7
1.2.2 技术导向型构建流程 10
1.2.3 大模型相关资源 12
1.3 大模型面临的挑战与应对
方法 14
1.3.1 技术挑战 14
1.3.2 应用挑战 15
1.3.3 伦理安全挑战 16
实训任务 18
1.4 开源大模型的本地化部署与基础
应用 18
模块小结 26
模块练习 27

模块2
大模型基础架构与原理 28
情景引入 28
知识准备 29
2.1 Transformer架构 29
2.1.1 概述 29
2.1.2 数据处理 30
2.1.3 编码器组件 34
2.1.4 解码器组件 39
2.1.5 输出组件 40
2.1.6 机器翻译示例 41
2.1.7 Transformer模型变体 42
2.2 Transformers库 44
2.2.1 基本组成 45
2.2.2 使用方法 45
2.2.3 未来发展 46
实训任务 46
2.3 基于Transformer的中英翻译
大模型的部署与使用 46
模块小结 52
模块练习 52

模块3
大模型训练技术 53
情景引入 53
知识准备 54
3.1 预训练 54
3.1.1 数据准备 55
3.1.2 模型架构设计 56
3.1.3 分布式训练与优化 57
3.2 微调 62
3.2.1 全参数微调 63
3.2.2 前缀微调 64
3.2.3 提示微调 66
3.2.4 LoRA 67
实训任务 70
3.3 LoRA轻量化微调 70
模块小结 79
模块练习 79

模块4
大模型推理技术 81
情景引入 81
知识准备 82
4.1 推理概述 82
4.1.1 推理的工作流程 82
4.1.2 核心挑战 83
4.1.3 推理框架 83
4.2 模型压缩和优化技术 88
4.2.1 模型量化 89
4.2.2 知识蒸馏 92
4.2.3 模型剪枝 94
4.2.4 稀疏激活 96
实训任务 98
4.3 知识蒸馏执行流程与可视化 98
模块小结 108
模块练习 108

模块5
多模态大模型技术 109
情景引入 109
知识准备 110
5.1 多模态大模型概述 110
5.1.1 基本概念 110
5.1.2 模型架构 111
5.2 多模态大模型预训练与微调 115
5.2.1 预训练 116
5.2.2 微调 118
5.3 多模态推理与生成 120
实训任务 121
5.4 多模态大模型驱动的图文生成
实践 121
模块小结 132
模块练习 132

模块6
提示工程 133
情景引入 133
知识准备 134
6.1 提示工程概述 134
6.1.1 提示工程核心要素 134
6.1.2 提示工程设计原则 138
6.2 提示方法原理 140
6.2.1 零样本提示 141
6.2.2 少样本提示 141
6.2.3 思维链提示 142
6.2.4 自洽性提示 145
6.2.5 思维树提示 146
实训任务 148
6.3 问答任务提示方法效果
对比 148
模块小结 155
模块练习 155
模块7
大模型智能体 156
情景引入 156
知识准备 157
7.1 大模型智能体简介 157
7.2 大模型智能体核心组件 158
7.2.1 记忆组件 158
7.2.2 工具调用组件 159
7.2.3 任务规划组件 160
7.3 多智能体 161
7.4 大模型智能体主要协议 163
7.4.1 模型上下文协议 163
7.4.2 智能体对智能体协议 166
7.5 主流开发框架 168
实训任务 171
7.6 电商大模型智能体构建与场景
应用 171
模块小结 179
模块练习 179

模块8
大模型问答系统开发实践 180
情景引入 180
8.1 基础知识准备 181
8.1.1 大模型问答系统 181
8.1.2 检索增强生成 182
8.2 开源框架与应用 183
8.2.1 开源框架概述 184
8.2.2 AnythingLLM 184
8.2.3 大模型问答系统整体架构 186
8.3 大模型问答系统开发与部署 187
8.3.1 环境部署 188
8.3.2 构建本地知识库 197
8.4 问答系统开发 203
8.4.1 API介绍 203
8.4.2 问答系统开发 206
模块小结 211
模块练习 211