顶级人工智能专家眼中的深度学习未来发展 第1张图2：关于深度学习的出版物急剧增加。（Source: AI Index）

TensorFlow和Keras是最受欢迎的深度学习开源库。其他流行的库有PyTorch、Sckit-learn、BVL/caffe、MXNet和微软认知工具包（CNTK）。这些开源平台帮助开发者轻松构建深度学习模型。从下面可以看出，Facebook在2016年发布的PyTorch也在迅速流行起来。

顶级人工智能专家眼中的深度学习未来发展 第2张图4：系统的供应商图（Source:）

关于Gary Marcus的更多想法，请随时阅读他的文章：和《人工智能的下一个十年：从2020年开始迈向强大的人工智能的四个步骤》。

胶囊网络（CapsNets）是Geoffrey Hinton和他的团队在2017年的一种新的深度神经网络架构。囊式网络利用向量工作，并对输入进行计算。他们将其结果封装成一个矢量。因此，当图像的方向改变时，矢量就会被移动。杰弗里-辛顿认为，CNNs识别物体的方法与人类的感知非常不同。CNNs需要改进，以处理一些问题，如旋转和缩放，而胶囊网络可以帮助深度学习架构中更好地泛化。

深度强化学习是强化学习和深度学习的结合。强化学习通常在结构化数据上工作。另一方面，深度强化学习在非结构化数据的基础上做出优化目标的决策。

深度强化学习模型可以学习最大化累积奖励。它适合于目标优化行动，如复杂的控制问题。Yann LeCun认为强化学习有利于模拟，但它需要大量的试验，并提供弱反馈。然而，与其他监督模型相比，强化学习模型不需要大量的数据集。

是机器学习的一个子领域，它的优势在于能够使用少量的训练数据。小样本学习算法对于处理数据短缺和计算成本很有用。特别是，小样本学习模型可以在医疗卫生领域有益于检测训练数据中图像不足的罕见疾病。随着新的研究和发展，小样本学习模型有可能加强深度学习模型。

在数据增强应用中很受欢迎，它们可以通过使用无标签的原始数据创造有意义的新数据。它们在这些步骤中工作：

一项关于昆虫害虫分类的，基于GAN的增强方法可以帮助CNNs

Yann LeCun认为，自我监督学习模型将是深度学习模型的一个关键组成部分。了解人们是如何快速学习的，可以充分利用自我监督学习的潜力，减少深度学习对大型、有注释的训练数据集的依赖。自监督学习模型可以在没有标记数据的情况下工作，如果他们有高质量的数据和可能场景的输入，就可以做出预测。

模仿学习：如果强化学习模型中的奖励很少，模仿学习被用作一种替代方法。代理人可以通过模仿监督者的示范，包括观察和行动来学习执行任务。它也被称为从示范中学习或学徒学习。

物理学指导的/知情的机器学习：被整合到训练过程中，以诱导深度学习模型的可解释性并提高预测的准确性。

迁移学习，用于帮助机器将知识从一个领域迁移到另一个领域。

其他： 和大脑区域，如皮质和皮质下，可能是机器学习模型的新灵感领域。

如果你想阅读更多关于深度学习的内容，请查看我们关于的文章。