深度学习 便捷而有局限性的求解形式

深度学习：几何视角

关于深度学习最令人吃惊的理想莫过于它的便捷水平。10 年前，没人想到咱们会经常使用便捷的梯度降低参数模型在机器认知畛域取得如此出色的效果。如今，只有要在足够多的样本上用梯度降低方法训练出足够大的参数模型即可。正如费曼曾经说的：「宇宙并不复杂，它只是由若干个宇宙组成而已。」

在深度学习畛域，一切都只是向量，即一切都是几何空间中的点。模型输入（可以是文本、图像等）和目的都要首先启意向量化，即转换成原始输入向量空间和目的向量空间。深度学习模型的每一层对其中的数据启动便捷的几何变换。多个层就构成一个十分复杂的几何变换，可以被拆解成多个便捷的几何变换。这一复杂的几何变换尝试在输入空间和目的空间之间建设映射相关，一次性对应一个点。该变换经过各层的权重被参数化，并依据该模型的运转状况迭代降级。该几何变换的关键特色是它必定可微，以使咱们能够经过梯度降低学习它的参数。直观来看，这象征着从输入到输入的几何变形必定继续连接，这也是一个很大的解放。

将该几何变换运行到输入数据中的整个环节可以经过构想人抚平纸球成功 3D 可视化：弄皱的纸球代表模型开局时的少量输入数据，人在纸球上的每一个举措相当于每一层做出的便捷的几何变换。所有的抚平举措就是整个模型的复杂几何变换。深度学习模型就是抚平复杂少量的高维数据的数学机器。

这就是深度学习的魔力：将意义转换成向量和几何空间，而后逐渐学习复杂的几何变换，把一个空间与另一个空间建设映射相关。你只有要足够高维的空间来失掉原始数据中一切相关。

深度学习的局限

这一便捷战略可以运行的空间近乎有限。但是，更多的运行齐全无法经常使用的深度学习技术，即使领有海量人工标注数据。例如，你可以搜集一个数据集，蕴含几十万甚至几百万软件特色英文说明和工程师团队为满足这些要求开发的对应源代码。但即使有了这些数据，你依然无法训练一个深度学习模型，使之读取产品说明之后即可输入对应的代码库。这只是有数例子中的一个。普通来说，要求推理的一切事物，如编程、运行迷信方法启动常年布局，以及与算法相似的数据操作，都不适宜经常使用深度学习模型，不论你有多少数据。即使是用深度神经网络学习排序算法也十分艰巨。

这是由于深度学习模型「只是」一串便捷、继续、将一个向量空间映射到另一个向量空间的几何变换。假定从 X 到 Y 的转换是继续且可学习的，X:Y 的少量样本可用作训练数据，那么该几何变换只能将一个数据流形 X 映射到另一个数据流形 Y。因此，即使一个深度学习模型可以被了解为一种程序（反上来大部分程序不能说是深度学习模型），关于大少数义务而言，要么没有适宜规模的深度神经网络，要么即使有，该网络也是无法学习的，即对应的几何变换或许过于复杂，或无法失掉适宜的数据来学习该网络。

经过叠加更多层、经常使用更多训练数据来优化的深度学习技术治标不治标，无法处置深度学习模型的一个更基本的疑问，即深度学习模型能够示意的范围十分局限，少数你宿愿可以学习的程序都不能被表白为对数据流形继续的几何变形。

机器学习模型拟人化的风险

AI 开展中一个十分实在的风险是对深度学习模型的曲解和对其才干的高估。人类思维的基本特色是「心智通常」（theory of mind），即咱们能够了解周围人用意、崇奉和常识的才干。在石头上画笑脸立刻就可以让咱们的大脑觉得「快乐」。假设将其引申到深度学习畛域，这象征着当咱们成功地训练出一个给图片减少说明的模型，咱们偏差于置信该模型「了解」图片内容和它生成的内容。之后，当输入的图片与训练数据中的图片类型稍有不同，咱们将惊讶地发现该模型输入的图片说明十拆散谱。

这种状况在经常使用反抗实例时尤甚。反抗实例指设计出用来混杂深度学习网络的输入实例。你曾经看法到，在输入空间启动梯度降低有或许生成使 convnet 挑选器活性最大化的输入样本。相似地，经过梯度降低，你可以稍微修正图像以使对给定类别的分类预测最大化。给熊猫拍一张照片，并减少梯度「长臂猿」，而后咱们就可以失掉一个把这只熊猫当作长臂猿的神经网络。这说明了模型的软弱性，以及模型运转的输入-输入映射和人类的认知存在渺小不同。

简而言之，深度学习模型齐全不了解输入样本，至少不具有人类的认知才干。咱们对图像、声响和言语的了解来自于咱们作为人类的觉得举措阅历（sensorimotor experience）。机器学习模型无法失掉此类阅历，因此无法以人类的形式「了解」输入样本。标注少量训练实例并输入到模型中，模型将学会把数据映射到人类对该特定样本集的概念的几何变换，但是该映射只是对咱们头脑边疆始模型过火便捷化的表白，是从咱们的阅历中开收回来的具身智能体，像真人在镜子外面含糊的影子。

作为一名机器学习通常者，我经常提示自己不要跌进神经网络了解其所口头义务的圈套。它们不能了解，至少了解的形式与人类不同。它们训练的基础与咱们想要教给它们的义务不同，且愈加狭窄：将训练中的输入样本点对点地映射到目的样本。一旦给它们任何与训练数据不同的数据，它们就会输入荒唐的结果。

部分泛化 VS 极其泛化

深度学习模型中从输入到输入的间接几何变形与人类的思索和学习形式存在基本区别。这种区别不在于人类经过具身化的阅历自学，而非经过明白的训练样本的训练而习得。除了不同的学习流程以外，二者的底层示意也存在实质区别。

人类的才干远远不止将间接抚慰映射到间接反响，像深度网络或一只昆虫做到的那样。人类对自己或他人的处境有一个复杂、形象的模型，这些模型可用于预测未来不同的或许性并口头常年布局。他们能够整合已知概念，来出现他们从未体验过的事件，比如画一匹衣着牛仔的马，或许构想中彩票后的行为。这种处置假定的才干将咱们的心思模型空间裁减到远超咱们可以间接体验的范围，也就是说，形象化和推理可以说是人类认知的定义性特色。我将其称为「极其泛化」：一种经常使用十分少的数据甚至不经常使用数据来顺应全新的、之前从未体验过的情景的才干。

这与深度神经网络的形式存在渺小不同，后者我称之为「部分泛化」：一旦新的输入与模型训练时遇到的数据稍有不同，深度网络口头的从输入到输入的映射很快就会中止。比如，学习适宜的发射参数使火箭顺利登月。假设你经常使用深度网络应答该义务，那么不论经常使用监视学习还是强化学习来训练，你依然须要启动数千次甚至几百万次发射实验，即你须要给模型的输入空间提供少量样本，来学习牢靠的输入空间与输入空间的映射。与之相反的是，人类能够经常使用自己形象才干发明物理模型——火箭迷信，经过一次性或几次实验之后即可取得准确解。相似地，假设你开发一个深度网络来控制人类身材，想让它学会在不撞车的状况下安保穿过市区，那么该网络在推断出车辆很风险并造就出适宜的规避行为之前，会死有数次。当它进入一个新市区时，它必定从新学习它曾经了解的大部分数据。但是，人类能够在一次性都不死的状况下学习安保行为，雷同地，这多亏了他们对假定情景的形象建模才干。

总之，虽然咱们在机器认知畛域取得很大提高，但是人类水准的 AI 离咱们依然十分悠远：咱们的模型只能口头部分泛化，顺应与以往数据十分凑近的新情景，而人类认知能够启动极其泛化，极速顺应全新状况，或许对很久的事件启动布局。

结语

你应该记住：深度学习目前惟一真正的成功是具有在领有少量人类标注数据的状况下，经常使用继续的几何变换在 X 空间与 Y 空间之间建设映射的才干。把这件事做好就可以从基本上改革每个行业，但是咱们离人类水准的 AI 仍有很大距离。

要想处置这些局限，使 AI 可以与人类大脑竞争，咱们须要将眼光从间接的输入-输入映射上移开，去关注推理和形象。适宜多种状况和概念的形象建模基质或许就是计算机程序的形象建模才干。咱们之前说过机器学习模型是「会学习的程序」；如今咱们所了解的程序仅是一切程序的十分狭窄的特定子集。但是，假设咱们能够用一种模块化和可重用的形式学习任何程序，又会怎样样呢？这或许就是未来 AI 的开展方向。