深度学习的职业发展方向有哪些？
一、深度学习技术的现状
深度学习是这一轮人工智能大爆发的关键技术。人工智能技术在计算机视觉和自然语言处理方面的突破，迎来了人工智能新一轮的爆发式发展。而深度学习是实现这些突破的关键技术。其中，基于深度卷积网络的图像分类技术已经超过人眼的准确率，基于深度神经网络的语音识别技术已经达到95%的准确率，基于深度神经网络的机器翻译技术已经接近人类的平均翻译水平。准确率的大幅提升，使得计算机视觉和自然语言处理进入产业化阶段，带来了新兴产业的崛起。
深度学习是大数据时代的算法武器，近年来成为研究热点。与传统的机器学习算法相比，深度学习技术有两个优势。第一，深度学习技术可以随着数据规模的增大不断提升性能，而传统的机器学习算法很难利用海量数据不断提升性能。第二，深度学习技术可以直接从数据中提取特征，减少了为每个问题设计特征提取器的工作，而传统的机器学习算法需要人工提取特征。因此，深度学习已经成为大数据时代的热门技术，学术界和工业界都对深度学习进行了大量的研究和实践工作。
深度学习的各种模型全面赋能基础应用。卷积神经网络和循环神经网络是两种广泛使用的深度神经网络模型。计算机视觉和自然语言处理是人工智能的两个基本应用。卷积神经网络广泛应用于计算机视觉领域，在图像分类、目标检测、语义分割等任务中的性能大大超过传统方法。循环神经网络适合于解决与序列信息相关的问题，在自然语言处理领域得到了广泛的应用，如语音识别、机器翻译、对话系统等。
深度学习技术还不完善，需要进一步完善。第一，深度神经网络的模型高度复杂，参数数量庞大导致模型规模庞大，难以部署到移动终端设备。二是模型训练需要大量数据，训练数据样本获取和标注成本高，部分场景样本获取困难。三是应用门槛高，算法建模和参数调整过程复杂，算法设计周期长，系统实现和维护难度大。第四，缺乏因果推理能力。图灵奖获得者、贝叶斯网络之父朱迪亚·珀尔(Judea Pearl)指出，目前的深度学习只是“曲线拟合”。第五，还有可解释性的问题。由于内部参数和复杂的特征提取和组合，很难解释模型学到了什么，但出于安全原因和伦理法律需要，算法的可解释性是非常必要的。所以深度学习还是需要解决上述问题。
二、深度学习的发展趋势
深度神经网络呈现出层次越来越深、结构越来越复杂的发展趋势。为了不断提高深度神经网络的性能，业界从网络深度和网络结构两个方面不断探索。神经网络的层数已经扩展到数百层甚至数千层。随着网络层数的加深，其学习效果越来越好。2015年，微软提出的ResNet以152层的网络深度，首次超过了图像分类任务的精度。新的网络设计结构不断被提出，使得神经网络的结构越来越复杂。比如2014，Google提出了初始网络结构，2015，微软提出了剩余网络结构，2016，黄高等人提出了密集连接网络结构。这些网络结构设计不断提高了深度神经网络的性能。
深度神经网络节点的功能不断丰富。为了克服当前神经网络的局限性，业界探索并提出了一种新型的神经网络节点，使得神经网络的功能越来越丰富。2017年，Jeffrey Hinton提出了胶囊网络的概念，用胶囊作为网络节点，理论上更接近人脑的行为，以克服卷积神经网络缺乏空间分层和推理能力等局限性。2018年，来自DeepMind、Google Brain和MIT的学者共同提出了图网络的概念，定义了一类新的具有关系归纳偏向功能的模块，旨在赋予深度学习因果推理的能力。
深度神经网络工程应用技术正在深化。深度神经网络模型大多参数上亿，占用空间数百兆，很难部署到智能手机、相机、可穿戴设备等性能和资源有限的终端设备上。为了解决这个问题，业界采用模型压缩技术，减少模型的参数和大小，减少计算量。目前使用的模型压缩方法包括对训练好的模型进行剪枝(如剪枝、权重分担和量化等。)和设计更精细的模型(如MobileNet等。).深度学习算法建模和参数调整过程复杂，应用门槛高。为了降低深度学习的应用门槛，业界提出了自动机器学习(AutoML)技术，可以实现深度神经网络的自动化设计，简化使用过程。
深度学习和多种机器学习技术不断融合发展。由深度学习和强化学习融合而诞生的深度强化学习技术，结合了深度学习的感知能力和强化学习的决策能力，克服了强化学习只适用于离散和低维状态的缺陷，可以直接从高维原始数据中学习控制策略。为了减少深度神经网络模型训练所需的数据量，业界引入了迁移学习的思想，从而诞生了深度迁移学习技术。迁移学习(Transfer learning)是指利用数据、任务或模型之间的相似性，将旧领域所学的模型应用到新领域的学习过程。通过将训练好的模型迁移到相似的场景中，只需要少量的训练数据就可以达到很好的效果。
第三，对未来发展的建议
加强图网络、深度强化学习、生成对策网络等前沿技术的研究。由于国内深度学习领域缺乏重大原创性研究成果，基础理论研究贡献不足。比如胶囊网、图网等创新性、原创性的概念都是美国专家提出来的，中国的研究贡献不足。在深度强化学习方面，最新的研究成果多由DeepMind、OpenAI等国外公司的研究人员提出，国内尚无突破性的研究成果。近年来的研究热点——生成对策网络(GAN)由美国研究人员Goodfellow提出，Google、facebook、twitter、Apple等公司提出了各种改进和应用模型，有力地推动了GAN技术的发展。然而，中国在这方面的研究成果却很少。因此，应鼓励科研院所和企业加强深度神经网络与因果推理模型结合、生成对抗网络、深度强化学习等前沿技术的研究，提出更多原创性研究成果，提升全球学术研究的影响力。
加快自动化机器学习、模型压缩等深度学习应用技术研究。依托国内市场优势和企业成长优势，针对中国特色的个性化应用需求，加快深度学习应用技术研究。加强自动机器学习、模型压缩等技术研究，加速深度学习的工程化应用。加强深度学习在计算机视觉领域的应用研究，进一步提高目标识别等视觉任务的准确率和在实际应用场景中的性能。加强深度学习在自然语言处理领域的应用研究，提出性能更好的算法模型，提高机器翻译、对话系统等应用的性能。
来源:工业情报官员
结束
更多精彩内容请登陆官网。
往期精选▼
1.2018-2019中国人工智能产业创新百强榜单发布！
2.2018-2019中国人工智能行业投资机构20强榜单发布！
3.2018-2019中国大数据产业创新百强榜单发布！
4.2018-2019中国大数据行业投资机构20强榜单发布！
5.2018-2019中国物联网产业创新百强榜单出炉！
6.2018-2019中国5G与物联网行业20强投资机构名单发布！
7.2018-2019中国创新集成电路产业百强榜单出炉！
8.2018-2019中国集成电路行业投资机构20强榜单发布！
9.2018-2019中国服务业创新百强企业名单出炉！
10.中国企业服务行业投资机构20强榜单在Yinlu.com 2018-2019发布！