「你真的了解生成式对抗网络（GAN）吗」百家号

「你真的了解生成式对抗网络（GAN）吗」百家号_作者自评：

如何看待百家号Lite小程序热议话题「你真的了解生成式对抗网络（GAN）吗」
近年来，随着计算能力的提高和各行业数据量的剧增，人工智能取得了快速发展，使得研究者对人工智能的关注度和社会大众对人工智能的憧憬空前提升。学术界普遍认为人工智能分为两个阶段：感知阶段和认知阶段。在感知阶段，机器能够接收来自外界的各种信号，例如视觉信号、听觉信号等，并对此作出判断，对应的研究领域有图像识别、语音识别等。在认知阶段，机器能够对世界的本质有一定的理解，不再是单纯、机械地做出判断。
机器博弈
生成式模型不仅在人工智能领域占有重要地位，生成方法本身也具有很大的研究价值。生成方法和判别方法是机器学习中监督学习方法的两个分支。生成式模型是生成方法学习得到的模型。生成方法涉及对数据的分布假设和分布参数学习，并能够根据学习而来的模型采样出新的样本。生成式模型从研究出发点的角度可以分为两类：人类理解数据的角度和机器理解数据的角度。
从人类理解数据的角度出发，典型的做法是先对数据的显式变量或者隐含变量进行分布假设，然后利用真实数据对分布的参数或包含分布的模型进行拟合或训练，最后利用学习到的分布或模型生成新的样本。这类生成式模型涉及的主要方法有最大似然估计法、近似法、马尔科夫链方法等。从这个角度学习到的模型具有人类能够理解的分布，但是对机器学习来说具有不同的限制。例如，以真实样本进行最大似然估计，参数更新直接来自于数据样本，导致学习到的生成式模型受到限制。而采用近似法学习到的生成式模型由于目标函数难解一般只能在学习过程中逼近目标函数的下界，并不是直接对目标函数的逼近。马尔科夫链方法既可以用于生成式模型的训练又可以用于新样本的生成，但是马尔科夫链的计算复杂度较高。
从机器理解数据的角度出发，建立的生成式模型一般不直接估计或拟合分布，而是从未明确假设的分布中获取采样的数据，通过这些数据对模型进行修正。这样得到的生成式模型对人类来说缺乏可解释性，但是生成的样本却是人类可以理解的。以此推测，机器以人类无法显式理解的方式理解了数据并且生成了人类能够理解的新数据。在GAN提出之前，这种从机器理解数据的角度建立的生成式模型一般需要使用马尔科夫链进行模型训练，效率较低，一定程度上限制了其系统应。
GAN的核心思想来源于博弈论的纳什均衡。它设定参与游戏双方分别为一个生成器(Generator)和一个判别器(Discriminator)，生成器的目的是尽量去学习真实的数据分布，而判别器的目的是尽量正确判别输入数据是来自真实数据还是来自生成器；为了取得游戏胜利，这两个游戏参与者需要不断优化，各自提高自己的生成能力和判别能力，这个学习优化过程就是寻找二者之间的一个纳什均衡。GAN的计算流程与结构如图所示。
生成式对抗网络GAN流程
任意可微分的函数都可以用来表示GAN的生成器和判别器，由此，我们用可微分函数D和G来分别表示判别器和生成器，它们的输入分别为真实数据x和随机变量z。G(z)则为由G生成的尽量服从真实数据分布的样本。如果判别器的输入来自真实数据，标注为1。如果输入样本为G(z)，标注为0。这里D的目标是实现对数据来源的二分类判别：真(来源于真实数据x的分布)或者伪(来源于生成器的伪数据G(z))，而G的目标是使自己生成的伪数据G(z)在D上的表现D(G(z))和真实数据x在D上的表现D(x)一致，这两个相互对抗并迭代优化的过程使得D和G的性能不断提升，当最终D的判别能力提升到一定程度，并且无法正确判别数据来源时，可以认为这个生成器G已经学到了真实数据的分布。
GAN对于生成式模型的发展具有重要的意义。GAN作为一种生成式方法，有效解决了可建立自然性解释的数据的生成难题。尤其对于生成高维数据，所采用的神经网络结构不限制生成维度，大大拓宽了生成数据样本的范围。所采用的神经网络结构能够整合各类损失函数，增加了设计的自由度。GAN的训练过程创新性地将两个神经网络的对抗作为训练准则并且可以使用反向传播进行训练，训练过程不需要效率较低的马尔科夫链方法，也不需要做各种近似推理，没有复杂的变分下界，大大改善了生成式模型的训练难度和训练效率。GAN的生成过程不需要繁琐的采样序列，可以直接进行新样本的采样和推断，提高了新样本的生成效率。对抗训练方法摒弃了直接对真实数据的复制或平均，增加了生成样本的多样性。

该话题由百家号作者一分钟看懂科技文献「简介:一分钟获取第一手科技发展咨询，发现新灵感」整理发布
更多有关你真的了解生成式对抗网络（GAN）吗的话题讨论请关注百家号Lite小程序