原文作者：Steven Wang
“What I cannot create, I do not understand.”
-Richard Feynman
你左拥右抱着 Stable Diffusion 和 MidJourney 创造美轮美奂的图片。
你熟练使用着 ChatGPT 和 LLaMa 创造辞致雅赡的文字。
你来回切换着 MuseNet 和 MuseGAN 创造高山流水的音乐。
毋庸置疑，人类最独特的能力就是创造，但在科技日新月异发展的今天，我们通过创建机器来创造！机器可以给定风格绘制原创艺术品 (draw)，可以编写一长篇连贯文章 (write)，可以创作悦耳的音乐 (compose)，还可以为复杂游戏制定获胜策略 (play)。这个科技就是生成式人工智能 (Generative Artificial Intelligence, GenAI)，现在只是 GenAI 革命的开始，现在是学习 GenAI 的最佳时机。
GenAI 是一个 buzzword，其背后本质是生成模型 (generative model)，它是机器学习的一个分支，目标是训练模型以生成与给定数据集相似的新数据。
假设我们有一个马的数据集。首先，我们可以在此数据集上训练生成模型，以捕获控制马图像中像素之间复杂关系的规则。 然后，从此模型中进行采样，以创建原始数据集中不存在的但是逼真的马图像，过程如下图所示。
为了真正理解生成模型的目标和重要性，将其与判别模型 (discriminative model) 进行比较是必要的。其实机器学习里大多数的问题都是由判别模型解决的，看以下例子。
假设我们有一个绘画数据集，一些是梵高画的，一些是其他艺术家画的。有了足够的数据，我们就可以训练一个判别模型来预测一幅给定的画是否由梵高所作，过程如下图所示。
当使用判别模型时，训练集中每个示例都有一个标签 (label)，对于以上二分类问题，通常梵高的画的标签为 1 ，非梵高的画的标签为 0 。 上图中模型最后预测的概率是 0.83 ，那么它很有可能是由梵高所作。和判别模型不同的是，生成模型不需要示例里含有标签，因为它的目标是生成新数据，而不是给数据预测标签。
Dragonfly创始人冯波：DeFi将成为未来人类文明最重要的金融手段:4月12日消息，在 2023 香港 Web3 嘉年华的 Web1 到 Web3 的进化圆桌讨论中，Dragonfly 创始人冯波发言表示，现在仍处于 Web3 发展的早期阶段，最好的应用是比特币和以太坊。一旦 DeFi 用起来像微波炉和冰箱一样方便，将会成为未来人类文明最重要的金融手段，我们正在经历人类文明的巨大进步。[2023/4/12 13:59:24]
例子看完，让我们用数学符号来精准定义生成模型和判别模型：
判别模型对 P(y|x) 建模，给定特征 x 来估计标签 y 的条件概率。
生成模型对 P(x) 建模，直接估计特征 x 的概率，从这个概率分布中采样即可生成新的特征。
需要注意的是，即使我们能够建立一个完美来识别梵高的画的判别模型，它仍然不知道如何创作一幅看起来像梵高的画，它只能输出一个概率，即图像是否来自梵高之手的可能性。由此可见，生成模型比判别模型要困难很多。
了解生成模型框架之前，让我们先玩一个游戏。假设下图的点是由某种规则产生，我们称该规则为 Pdata，现在让你生成一个不同的 x = (x 1, x 2) 使得这个点看起来是由相同的规则 Pdata 产生的。
你会如何生成这个点？你可能利用已给的点在脑海里产生一个模型 Pmodel，而这个模型占的位置上都可能生成你想要的点。由此可知，模型 Pmodel 就是 Pdata 的估计。那么一个最简单的模型 Pmodel 如下图的橙色方框，点只可能生成于方框内，而不可能生成于方框外。
要生成新的点，我们可以从方框内随机选一个点，更严谨地说，从模型 Pmodel 分布中采样 (sampling)。这就是一个极简的生成模型。你从训练数据 (黑点) 中创建一个模型 (橙框)，然后你可以从模型中采样，希望生成出来的点和训练集中的点看起来相似。
现在我们可以正式提出生成学习的框架了。
查理?芒格：不喜欢虚拟货币绑架现有的货币系统，比特币与文明利益相背:5月2日消息，伯克希尔·哈撒韦公司的年度股东大会于美国东部时间下午1点30分开幕。因受疫情影响，本次股东大会再次在线上举行，哈撒韦公司董事长兼CEO沃伦?巴菲特(WarrenBuffett)和伯克希尔·哈撒韦副董事长查理?芒格(CharlieMunger)一同亮相年会现场。关于比特币投资，巴菲特表示：“我就知道会问到关于比特币的问题，今天就要去躲避这个问题，我不想回答。”芒格则表示：“我讨厌比特币的成功。我不喜欢一种对绑架者和勒索分子如此有用的货币。我也不喜欢向一个刚刚凭空发明的新金融产品的人多掏几亿、几十亿美元。所以我想我应该谦虚地说，这个该死的发展是令人厌恶的，而且与文明的利益背道而驰。”[2021/5/2 21:17:17]
现在让我们揭示真实的数据生成分布 Pdata，并了解如何应用以上框架于此示例。 从下图中我们可以看到，数据生成规则 Pdata 是点只是在陆地上均匀分布，而不会出现在海洋中。
很明显，我们的模型 Pmodel 是规则 Pdata 的一个简化。通过检查上图的 A、B 和 C 点可以帮助我们理解模型 Pmodel 是否成功模仿了规则 Pdata。
点 A 不符合规则 Pdata，因为它出现在海里，但可能由模型 Pmodel 生成，因为它出现在橙框之内。
点 B 不可能由模型 Pmodel 生成，因为它出现在橙框之外，但符合规则 Pdata，因为它出现在陆地上。
点 C 由模型 Pmodel 生成，而又符合规则 Pdata。
这个例子展示了生成建模背后的基本概念，虽然现实中用生成模型要复杂很多，但其基本框架是相同的。
假设你是一家公司的首席时尚官 Chief Fashion Officer (CFO)，你的职责是创造新的时髦的衣服。今年你收到 50 个关于时尚搭配的数据集 (如下图)，而你需要创造 10 个新的时尚搭配。
俄罗斯总理：将引导加密市场向“文明”方向发展:11月26日消息，俄罗斯总理米哈伊尔·米舒斯京周四表示，俄罗斯政府打算将俄罗斯的加密货币发展引导到“文明的道路”，以便其所有者可以保护自己的权利。他在谈到加密货币时说：“这是一个相对较新的工具，人们对其兴趣在不断增长。政府计划将加密市场的发展引导到文明的道路上，这样这些资产的所有者就可以保护他们的权利和利益。”米舒斯京还表示，政府将要讨论的一项决定涉及对加密货币的监管。他说：“我们将对税法进行一些修改。数字金融资产将被确认为财产。如果发生任何违法行为，其所有者将能够依靠法律保护，并在法庭上捍卫其财产权。”（塔斯社）[2020/11/26 22:14:04]
虽然你是首席时尚官，但是你也是一个数据科学家，因此你决定用生成模型来解决此问题。看完上面 50 张图片，你决定用五个特征，配件类型 (accessies type)、服装颜色 (clothing color)、服装类型 (clothing type)、头发颜色 (hair color) 和头发类型 (hair type)，来描述时尚搭配。
前 10 个图像数据特征如下。
每个特征也有不同数目的特征值：
3 种配件类型 (accessies type)：
Blank, Round, Sunglasses
8 种服装颜色 (clothing color)：
Black, Blue 01, Gray 01, PastelGreen, PastelOrange, Pink, Red, White
4 种服装类型 (clothing type)：
Hoodie, Overall, ShirtScoopNeck, ShirtVNeck
6 种头发颜色 (hair color) ：
Black, Blonde, Brown, PastelPink, Red, SilverGray
7 种头发类型 (hair type)：
NoHair, LongHairBun, LongHairCurly, LongHairStraight, ShortHairShortWaved, ShortHairShortFlat, ShortHairFrizzle
火币集团COO朱嘉伟：区块链是无法阻挡的文明进程 是无法阻挡的思维浪潮:8月1日上午，火币集团COO朱嘉伟先生为火币大学GBLP第六期的学员带来了主题为《区块链资产交易所的前世今生》的精彩课程。
在授课中，朱嘉伟先生为学员们详细讲述区块链资产交易所的发展演变过程、交易所核心竞争力（合规、安全、优质资产）等，全面深刻地描绘了区块链资产交易所的整体生态。提及自身对于区块链的看法，朱嘉伟先生表示：区块链是无法阻挡的文明进程，是无法阻挡的思维浪潮。
火币大学GBLP课程以带领学员“探索商业变革前沿新知，跨入区块链界核心圈层”为宗旨，是“学、商、创投”三界知名实战导师精心深研的课程，包含趋势、产业、金融投资等六大模块，从而更好地帮助各位火币大学学员洞悉全球区块链产业趋势，探寻区块链底层逻辑，钻研区块链前沿技术，研习区块链交易方式，深思区块链合规机理，思辨区块链未来价值。[2020/8/1]
这样有 3 * 8 * 4 * 6 * 7 = 4032 种特征组合，所以可以想成样本空间里面包含着 4032 个点。从给出的 50 个数据点可以看出，Pdata 对于不同特征会偏好某些特征值。从上表看出图像中白色服装颜色和银灰色头发颜色就比较多。由于我们不知道真实的 Pdata，我们只能通过这 50 个数据来建一个 Pmodel ，使其能够和 Pdata 相近。
一个最简单的方法就是给 4032 个特征组合中每个点赋予一个概率参数，那么该模型包含 4031 个参数，因为所有概率参数加起来等于 1 。现在我们来一个个检查 50 个数据，然后更新该模型的参数（θ 1 ，θ 2 ，…，θ 4031 ），每个参数的表达式为：
其中 N 是观测数据的个数即 50 ，nj 是第 j 个特征组合在 50 个数据中出现的个数。
比如 (LongHairStraight, Red, Round, ShirtScoopNeck, White) 的特征组合 (称为组合 1) 出现了两次，那么
比如 (LongHairStraight, Red, Round, ShirtScoopNeck, Blue 01) 的特征组合 (称为组合 2) 没有出现，那么
声音 | 祝文明：未来电子证据会越来越多 将结合区块链等技术:杭州共道网络科技有限公司的统计数据从侧面证实，“智慧法庭”的推广使用正进入一个快速增长期。该公司副总经理祝文明表示，随着5G技术的来临，还可以辅以其他技术手段，比如VR、虚拟空间，增强庭审的现实感。随着技术的发展和完善，未来电子证据会越来越多，结合区块链技术和多个技术的融合，肯定会有越来越多的案件适合网上开庭，这需要一个过程。（法制日报）[2020/2/23]
按照上面的规则，我们将 4031 个组合都计算出一个 θ 值，不难看出有很多 θ 值都是 0 ，更糟的是我们不可能生成新的没见过的图片 ( θ = 0 意味着从未观测到拥有该特征组合的图片)。为了解决此问题，只需在分母加上特征数目的总数 d 和在分子加上 1 ，该技巧叫做拉普拉斯平滑。
现在，每个组合 (包括那些不在原始数据集中的组合) 都有非 0 的采样概率，然而这仍然不是一个令人满意的生成模型，因为不在原始数据集中的点的概率是一个常数。如果我们尝试使用这样的模型来生成梵高的画，那么它会以相同概率来操作一下两种画：
梵高原作的复制画 (不在原始数据集)
随机像素拼凑的画 (不在原始数据集)
这显然不是我们想要的生成模型，我们希望它能从数据中学到一些固有的结构，从而能够增加样本空间中它认为更有可能的区域的概率权重，而不是把所有概率权重放在数据集中存在的点上。
朴素贝叶斯模型 (Naive Bayes) 可以将上面特征组合的次数大大减少，根据其模型假设每个特征之间都是相互独立的。回到上面的数据，一个人的头发颜色 (特征 xj ) 和其衣服颜色 (特征 xk ) 没有联系，用数学表达式表示就是：
p(xj | xk) = p(xk)
有了这个假设，我们可以计算出
朴素贝叶斯模型将原始问题“对每个特征组合做概率估计”简化成对“每个特征做概率估计”，原来我们需要用 4031 ( 3 * 8 * 4 * 6 * 7) 个参数，现在只需要 23 ( 3 + 8 + 4 + 6 + 7) 个参数，每个参数的表达式为：
其中 N 是观测数据的个数即 50 ，nkl 是第 k 个特征取其下第 l 个特征值的个数。
通过统计 50 个数据，下表给出朴素贝叶斯模型的参数值。
要计算模型生成某数据特征的概率，只需要连乘上表中的概率， 比如：
以上这个组合没有出现在原始数据集中，但模型仍然为它分配非零的概率，因此它仍然能够被模型生成。因此，朴素贝叶斯模型能够从数据中学习一些结构，并使用它来生成原始数据集中未见过的新示例。下图是模型生成的 10 张新的时尚搭配的图片。
在此问题中，特征只有 5 个属于低维数据，朴素贝叶斯模型假设它们相互独立还算是合理，因此模型生成的结果还不错，下面来看一个模型崩塌的例子。
作为首席时尚官，你成功用朴素贝叶斯生成了 10 套全新的时尚搭配，你信心爆棚了，觉得自己的模型无敌，直到遇到下面这套数据集。
该数据集不再是用五个特征来表示了，而是由 32* 32 = 1024 个像素来表示，每个像素值可以去 0 到 255 中的一个， 0 表示白， 255 表示黑。下表列出前 10 张图像像素 1 到 5 的值。
用同样的模型生成 10 套全新的时尚搭配，下面是模型生成的结果，每张丑得都很类似，而且无法区分不同的特征，为什么会这样呢？
首先，由于朴素贝叶斯模型是独立采样像素，但是相邻像素之间其实非常相似。对于衣服，其实像素应该大致相同，但是模型随机采样，因此得到上图中的衣服都是五颜六色的。其次，高维样本空间中的可能性太多，其中只有一小部分是可识别的。如果朴素贝叶斯模型直接处理这种高度相关的像素值，那么它找到令人满意的值组合的机会非常小。
综上所述，对于低维度而且特征低相关的样本空间，朴素贝叶斯效果通过独立采样的产生的效果很好；但对于高维度而且特征高相关的样本空间，通过独立采样像素来找到有效人脸几乎是不可能的。
这个例子强调了生成模型要想成功必须克服的两个难点：
模型如何处理高维特征之间的条件依赖关系？
模型如何从高维样本空间中找到满足条件的极小比例观察结果？
生成模型要想在高维度而且特征高相关的样本空间中成功，必须要利用深度学习模型。我们需要一个可以从数据中推断出相关结构的模型，而不是被告知要提前做出哪些假设。深度学习可以在低维空间中形成自己的特征，而这就是表征学习 (representation learning) 的一种形式。
表征学习就是学习高维数据的表示的含义。
假设你去见一个从未见过面的网友，到达相约地点人很多根本找不到她，你打电话给她描述你的样子。相信你不会说你图像中像素 1 的颜色是黑，像素 2 的颜色是淡黑，像素 3 的颜色是灰等等。相反你会认为网友会对普通人的外貌有一个大概的了解，然后给予这个了解再描述像素组的特征，比如，你有一头乌黑亮丽的短发，戴着一双金光闪闪的眼镜等等。通常不超过 10 个这样的描述，网友就可以从脑海中生成你的图像，该图像可能很粗糙，但不妨碍网友从几百个人中找到你，即便她从来没有见过你。
这个就是表征学习背后的核心思想，不尝试直接对高维样本空间 (high-dimensional sample space) 进行建模，而是使用一些低维潜在空间 (low-dimensional latent space) 来描述训练集中的每个观察结果，然后学习一个映射函数 (mapping function)，该函数可以获取潜在空间中的一个点并将其映射到原始样本空间。换句话说，潜在空间中的每个点都表示着高维数据的特征。
上面的话如果不好理解，请看下图由一些灰度罐子图像组成的训练集。
不难看出，这些罐子可以仅用两个特征来描述：高度和宽度。因此我们可以图像的高维像素空间转换成二维潜在空间，如下图所示。这样我们可以从潜在空间采样 (蓝点)，然后通过映射函数 f 将其转换成图像。
认识到原始数据集可以用更简单的潜在空间来表示这件事情对于机器来说并不容易，首先机器需要确定高度和宽度是最能描述该数据集的两个潜在空间维度，然后学习映射函数 f 可以在这个空间中取一个点并将其映射到灰度罐图。 深度学习使我们能够训练机器，使其无需人类指导即可找到这些复杂的关系。
所有类型的生成模型最终都旨在解决相同任务，但它们对密度函数的建模方法都略有不同， 一般来说有以下两类：
对密度函数显式建模 (explicitly modeling)，
但以某种方式约束模型，以便计算密度函数，比如标准化流模型(normalizing FLOW model)
但是对密度函数做逼近，比如变分自动编码器 (variational autoencoder, VAE) 和扩散模型 (diffusion model)
对密度函数隐式建模 (implicitly modeling)，通过直接生成数据的随机过程。比如生成对抗网络 (generative adversarial network, GAN)
生成式人工智能 (GenAI) 是一种可用于创建新的内容和想法 (包括文字、图像、视频和音乐) 的人工智能。与所有人工智能一样，GenAI 是由深度学习模型基于大量数据进行预训练的超大型模型，通常被称为根基模型 (foundation model, FM)。有了 GenAI，我们能画出更炫酷的图像，写出更优美的文字，谱出更动人的音乐，但第一步需要我们去了解 GenAI 怎么创造新的东西，正如文头 Richard Feynman 所说的“我不会明白我无法创造的东西”。
金色财经
企业专栏
阅读更多
Foresight News
金色财经 Jason.
白话区块链
金色早8点
LD Capital
-R3PO
MarsBit
深潮TechFlow
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。