【编辑推荐】
ChatGPT的背景：从大语言模型到GPT
ChatGPT的技术：从Transformer模型到RLHF
ChatGPT的使用：从对话到OpanAI API
ChatGPT的应用：从编程到统计分析
ChatGPT的案例：从写专利到出试卷
【内容简介】
人们相信人工智能可以为这个时代的技术带来突破，而ChatGPT则使这种希望成为现实。现在，许多人都渴望了解与ChatGPT相关的一切，包括技术的历史和背景，其神奇的功能以及如何使用它。虽然ChatGPT的使用方法很简单，但它具有无限的潜力。如果不去亲身体验，很难体会到它的强大之处。本书尽可能全面地介绍了与ChatGPT相关的内容，特别是许多应用示例，可以给读者带来启发。
希望读者通过这本书了解ChatGPT后，在自己的工作中也能充分利用它。本书适合希望了解和使用ChatGPT的人阅读。
【作者简介】
范煜，江苏南通人，毕业于南京航空航天大学，研究员级高级工程师，中国商业联合会数据分析专业委员会专家组成员，中国移动集团、51CTO外聘大数据讲师，南通理工学院教师，著有《数据革命：大数据价值实现方法、技术与案例》。从事软件开发三十多年，大数据研究开发十多年，目前主要从事私有化部署类ChatGPT模型研究，以及硬件、软件、数据（OT、IT、DT）融合的智能系统开发。
【目录】
第1章 人工智能概述 1
1.1 什么是人工智能 1
1.2 人工智能的发展历史 2
1.3 人工智能的分类 4
1.4 机器学习 5
1.5 深度学习 6
1.6 通用人工智能（AGI） 9
1.7 自然语言处理 10
1.8 生成式人工智能（AIGC） 11
1.9 强化学习 12
第2章 自然语言处理 15
2.1 自然语言处理的基本概念 15
2.2 自然语言处理的主要技术 15
2.3 自然语言处理的发展历史 16
2.4 语言模型 19
2.5 文本分类和聚类 24
2.6 分词和词性标注 26
2.7 命名实体识别 28
2.8 句法分析 29
2.9 情感分析 30
2.10 机器翻译 32
2.11 文本摘要 33
2.12 自然语言处理的商业应用 34
2.13 自然语言处理的发展趋势 39
第3章 OpenAI公司及其产品 40
3.1 OpenAI公司简介 40
3.2 OpenAI公司发展历史 40
3.3 OpenAI和微软的合作 41
3.4 OpenAI公司主要产品 42
第4章 ChatGPT关联技术 46
4.1 前馈神经网络 46
4.2 序列到序列模型（Seq2Seq） 47
4.3 自注意力机制 47
4.4 多头自注意力机制 48
4.5 自监督学习 48
4.6 Transformer 模型 49
4.7 语言生成技术 51
4.8 多语种语言模型 52
4.9 预训练语言模型 53
4.10 生成式预训练模型（GPT） 54
4.11 近端策略优化算法（PPO） 54
4.12 词嵌入 55
4.13 Softmax分类器 56
4.14 指示学习和提示学习 57
4.15 人类反馈强化学习（RLHF） 58
4.16 多模态 59
4.17 生成式对抗网络 60
4.18 知识图谱和实体链接 61
4.19 GPU、TPU与模型训练 61
第5章 ChatGPT介绍 66
5.1 ChatGPT的主要功能 66
5.2 ChatGPT的开发历史 67
5.3 ChatGPT的开发目标 67
5.4 GPT模型的演化 68
5.5 GPT-3到ChatGPT的演化 71
5.6 模型的突破davinci-002 73
5.7 ChatGPT的模型调用 74
5.8 ChatGPT的训练过程 74
5.9 预训练素材来源 76
5.10 训练数据集 77
5.11 数据集标注 78
5.12 RLHF应用 79
5.13 计算资源与参数构成 81
5.14 ChatGPT存在的问题 82
第6章 GPT–3.5引擎介绍 84
6.1 GPT-3引擎 84
6.2 GPT-3.5引擎 85
6.3 ChatGPT和GPT-3的区别 85
6.4 预训练 85
6.5 词嵌入应用 86
6.6 多层Transformer模块 87
6.7 模型变体 88
第7章 ChatGPT使用指南 90
7.1 如何访问ChatGPT 90
7.2 如何更有效地提问 91
7.3 提问技巧 95
7.4 会话线程 96
7.5 上下文 97
7.6 重生成答案 98
7.7 应对回答字数限制 99
7.8 使用小技巧 103
第8章 ChatGPT应用形式 104
8.1 计算 104
8.2 写代码 106
8.3 解释代码 107
8.4 高级语言转换成汇编语言 108
8.5 反汇编 110
8.6 程序文档生成 111
8.7 程序语言转换 112
8.8 程序模拟运行 113
8.9 代码增加注释 113
8.10 时间复杂度计算 114
8.11 代码优化方案 115
8.12 修复代码Bug 116
8.13 查询公式 117
8.14 生成复杂公式 119
8.15 生成图片（通过代码运行） 120
8.16 生成表格 122
8.17 生成数据库文档 123
8.18 自动生成SQL代码 123
8.19 不同数据库SQL命令转换 124
8.20 提取关键字 126
8.21 取名 126
8.22 转换人称 127
8.23 整理文字 127
8.24 生成流程图 128
8.25 英语论文摘要 130
第9章 OpenAI API 132
9.1 API概论 132
9.2 交互方式 132
9.3 关键概念 133
9.4 Playground工具 135
9.5 API例子 136
9.6 API访问 137
9.7 API使用 138
9.8 API参数 139
9.9 API功能模块 142
9.10 API端点（Endpoints） 143
9.11 文本生成 144
9.12 语言翻译 145
9.13 情感分析 145
9.14 文本摘要 147
9.15 文本相似度 149
9.16 文本分类 149
9.17 命名实体识别 152
9.18 聊天机器人 153
9.19 设置API响应字符数 155
9.20 API应用案例 156
第10章 构建自己的ChatGPT模型 160
10.1 为什么需要 160
10.2 如何训练 160
10.3 如何使用 161
10.4 训练代码示例 161
10.5 模型使用代码示例 163
10.6 训练数据集格式 164
10.7 企业专有模型构建 164
第11章 ChatGPT用于数据分析 167
11.1 数据分析简介 167
11.2 数据准备 167
11.3 数据的可视化 170
11.4 聚类分析 180
11.5 相关性分析 184
11.6 预测 186
第12章 ChatGPT在不同领域的应用 190
12.1 工业领域 190
12.2 医疗领域 192
12.3 金融领域 193
12.4 教育领域 194
12.5 知识产权领域 195
第13章 综合应用示例 198
13.1 筹备会议 198
13.2 拟订方案 204
13.3 申请专利 209
13.4 软件开发 218
13.5 解决生产技术问题 238
第14章 教育行业应用示例 246
14.1 拟定教学大纲 246
14.2 撰写教案 254
14.3 制作教学PPT 264
14.4 出试卷 267
14.5 编写毕业设计材料 273
14.6 撰写毕业论文 286
14.7 准备新建专业材料 295
参考文献 299
【前言】
人工智能是我们这个时代热门的话题，人们既希望它能代替
我们做一些工作，又怕被它替代掉。自然语言处理是人工智能的一
个重要领域，在人类长期探索和技术积累的基础上，人工智能公司
OpenAI开发的ChatGPT带来了革命性的突破。
ChatGPT是一个在线聊天机器人服务，它表现出出色的上下文对
话能力甚至编程能力，完成了大众对人机对话机器人（ChatBot）从
“人工智障”到“有趣”的印象改观。用户可以输入复杂的问题和进
行查询，类似使用搜索引擎，让计算机程序生成答案、提供信息甚至
写作诗歌。ChatGPT可能的应用包括但不限于聊天机器人、语言翻译、
智能写作助手、语言生成、自然语言处理、机器人学习、情感分析、
信息抽取、文本分类、自动摘要、信息搜索、语音合成与识别等。
初开发ChatGPT网站是为了展示GPT（生成式预训练转换器）
模型的能力，让公众更好地了解和体验这个技术。在网站上，用户可
以输入问题并获得ChatGPT的回答，这种交互方式非常直观和友好。
ChatGPT的成功在一定程度上超出了OpenAI团队的预料，虽然他们
认识到这个模型具有巨大的应用潜力，但没有想到它会在开放后迅速
获得如此高的关注度和那么受欢迎。
ChatGPT可以代替人类做很多事情，如帮助教育、娱乐、科研、
商业等领域的用户解决问题、获取信息、创造内容等，更多用途还在
探索中。ChatGPT可以给使用者带来以下几个方面的价值：①提高知
识层次；②拥有一个多领域的专家团队，提供客观而权威的意见；③拥
有一个多专业人才组成的团队，帮助自己做一些能做却没有时间做或
不擅长的事。拥有这些能力，不但可以增强个人在团体中的竞争力，
而且个人也更容易成为超级个体。
但是，ChatGPT还有很多不足。比如它背后的GPT-3.5是一个纯
文字的模型，不能处理和生成图片，发布的GPT-4可以处理文本
和图片，但也只能输出文本。又如它的计算结果准确性不高，使用时
需要自己先验证一下。
ChatGPT以及其他的AIGC产品的发展，带来新的技能要求，就
是提示语（Prompt）设计。现在人工智能图片生成工具Midjourney，
要生成酷炫的图像，需要专门设计的提示语，使用者可以购买这个提
示语。就像英语是“打开世界大门的钥匙”，提示语就是人工智能时
代从ChatGPT获取知识的钥匙。ChatGPT自然语言处理的能力很强，
潜力却要靠专门组织的提示语才能挖掘出来。同样使用ChatGPT，不
同的提示语可以得到不同的结果。就像一座金矿，外行只能捡回石
前言
人工智能与ChatGPT
II
头，内行却能挖到黄金。这种潜力，不是开发者赋予的，即使开发者本人也无法预知。
要使用ChatGPT，既可以通过OpenAI提供的网页chat.openai.com，也可以用微软的
新必应。根据目前的使用情况，ChatGPT使用起来体验比较好，但背后模型调用的信息有
些过时，只截至2021年6月。
除了ChatGPT，OpenAI还提供相关的API（应用程序接口）服务。API提供了一系列
的语言处理和生成工具，通过简单的API调用，用户可以轻松地将OpenAI API集成到自己
的应用程序中，从而利用OpenAI的强大人工智能技术来解决各种语言处理和生成问题。
ChatGPT的成功在于它的各种参数调节恰好满足了人们的需求，使对话让人感觉自然
和舒适。中国科技部部长王志刚曾两次用足球比喻ChatGPT，表示：“踢足球都是盘带、射
门，但要像梅西那样出色并不容易。”用梅西的踢球技术难以超越来比喻ChatGPT的成功，
说明它不是简单可模仿的。ChatGPT的算法和训练方式不是什么秘密，海量参数和巨额训
练成本也不是不可跨越的门槛，但恰当的参数配置才是关键。怎么进行参数配置，是一
种艺术，而不是技术，需要依赖直觉，就像优秀调酒师的工作一样。ChatGPT的价值就在
于，人们现在知道了可以调出这样一种产品。体验过产品的感觉，就像品尝过一种美妙鸡尾
酒，会成为人们孜孜以求的目标，相关的产品以后会层出不穷。ChatGPT的成功是一种偶
然，这在历史上不是首例。正是不断出现的偶然突破，推动了人类历史的发展，这也充分表
明了竞争和自由探索的重要性。
ChatGPT的成功吸引了大量科研资源，新技术和突破不断涌现。在我们还没有完全了
解GPT-3.5的全部功能时，GPT-4就已经发布。由于作者水平和技术发展的迅速性，本书内
容难免存在不足之处，在此恳请读者批评指正。
范 煜
