基于深度神经网络(Deep Neural Network,DNN)的深度学习(Deep Learning,DL)在图像识别、语音识别和文本分析等领域取得了巨大成功。但是深度学习在工业领域的应用遇到训练样本数量不够和训练算力不足的困难。将深度神经网络的迁移学习(Transfer Learning)应用到工业产品表面质量检测,解决了深度学习样本和算力不足的问题,其准确率达到了99.8%,超过了传统机器学习算法和没有迁移学习的卷积神经网络(Convolutional Neural Network,CNN)。构造的深度神经网络分为两部分前面为已经训练好的深度神经网络GoogLeNet,后面部分为识别表面缺陷专用层,训练的时候只需要训练后面部分。

为了实现轴承多源异构故障数据的特征融合,达到提高故障诊断精度的目的,提出了基于深度神经网络的多源故障特征融合方法。介绍了堆叠自编码器和卷积神经网络原理;使用堆叠自编码器提取了一维振动数据的故障特征,使用卷积神经网络提取了二维图像数据的故障特征;为了充分发挥多源异构故障数据的关联性和互补性,使用深度神经网络将一维数据特征和二维数据特征进行交替优化和融合,提取更加能够反映故障特性的隐藏融合特征。以凯斯西储大学轴承故障数据为基础设计了三组实验,由实验结果可以看出,基于融合特征的故障诊断精度比单独使用一维数据特征或二维数据特征的诊断精度高10%以上,充分证明了基于多源异构特征融合故障诊断方法的有效性。

驾驶员眼睛状态检测是驾驶员疲劳检测的重要组成部分。为有效解决实际驾驶环境中驾驶员眼睛状态检测问题,提出了一种基于深度融合残差网络的方法。该方法将深度神经网络与深度卷积神经网络相融合,利用深度神经网络对驾驶员眼睛特征进行识别,利用深度卷积神经网络对驾驶员眼睛图像进行分析,最终根据二者检测结果的加权平均值对实际驾驶环境下驾驶员眼睛状态做出判定。模型中深度卷积神经网络部分在多通道卷积的基础上,结合了残差网络和深度模型压缩策略,提升眼睛状态检测精度的同时提高了检测速度。相关实验结果表明,该方法在实验环境和实际环境下与其他已有的方法相比检测精度更高、计算速度更快。

语义分割为图像分配像素级稠密标签,对场景理解具有重要作用,是视觉研究核心任务之一,涉及自动驾驶、医学成像等实际应用。现有基于深度神经网络的图像语义分割方法的训练需要大量标记数据,这些数据的收集和标记成本高昂,这很大程度上限制了此类方法的实际应用。为解决此问题,这里使用成本较低的计算机生成并标记的逼真的合成数据训练深度神经网络。但真实图像与合成图像在分布域上存在的差异会降低模型性能,因此这里使用一种对抗学习方法来实现域的自适应,以解决上述问题。又因为语义分割的结构化输出描述了源域与目标域的空间相似性,所以这里选择在语义分割的输出空间上实现域自适应方法。在此基础上,这里又于不同级别的空间构建多级域自适应网络以提升模型性能。

以深度学习为基础,构建了一个基于深度神经网络的回归预测模型。根据样本数据,以损失函数最小为训练目标,通过反向传播算法以及随机梯度下降方法训练模型,采用训练结果对高超声速飞行器表面热环境进行评估。采用典型飞行任务中的782个样本数据进行算例分析,预测结果与实际数据的对比结果表明,壁面热流峰值和温度峰值的平均误差分别为3.03%和1.86%,表明该模型具有快速、高精度的特点。

设计了一种基于深度学习的预测模型,以提升具有大数据特征的离散智能车间订单完工时间预测能力。从当地企业的MES系统中查询选取生产线的数据用于研究,初步统计分类并使用主成分分析法处理;搭建基于DNN(深度神经网络)的预测模型,初始化模型参数,选择Softmax回归分类器;对比BP神经网络与RBF神经网络,以验证模型准确度和可靠度。

合理的弹性橡胶密封垫断面形状是保障盾构隧道管片接缝防水设计性能的关键。密封垫断面优化设计时,需要反复进行材料大变形、接触分析等复杂的非线性计算,极大限制了优化效率。为此,以闭合压力与有效接触压力占比为双控目标,提出了一种结合深度神经网络代理模型的结构优化算法。在遗传算法框架下,深度神经网络代理模型可以实现由断面形状到接触应力场的快速映射。同时,迁移学习的引入实现了不同类型断面形状代理模型的知识复用,仅利用小样本即可建立高精度的接触应力预测模型,从而有效提高了闭合压力约束条件下的密封垫结构断面优化效率。

针对液压信号高度复杂且难以识别的特点,提出了一种基于堆栈稀疏自编码器(SSAE)与Softmax的深度神经网络(DNN)来对液压泵泄漏状态信号的特征进行优化与识别。对液压泵的压力与流量信号进行5层小波分解,计算5个高频系数与一个低频系数的样本熵值作为小波特征;融合信号的小波特征与时域特征作为低阶特征,输入构建的深度神经网络进行特征优化,学习输出高阶特征,并使用连接的Softmax层完成识别任务。实验结果表明,基于堆栈稀疏自编码器与Softmax构建的深度神经网络能够学习到液压信号的高阶特征,有效完成液压泵不同泄漏状态的识别,识别精度达到99.3%。此外与随机森林与支持向量机相比,该深度神经网络具有更好的识别精度。

针对液压信号复杂且难以诊断的难点,提出一种多尺度一维卷积神经网络与多传感器信息融合的深度神经网络模型(MS1D-CNN-MSIF)对液压泵与蓄能器进行故障诊断。在提出方法中,采用不同大小的卷积核对故障信号进行多尺度特征提取;然后使用多传感器信息融合策略将多个传感器的特征信号进行融合,最后使用Softmax进行分类识别。诊断蓄能器压力状态与液压泵泄漏状态的实验结果表明,与支持向量机、堆栈自编码、深度置信网络比较,提出模型具有更好的故障诊断性能,蓄能器识别精度可达99.50%,液压泵识别精度可达99.73%。

针对目前滚动轴承故障诊断主要采用监督式学习提取故障特征的现状,提出了一种基于稀疏自编码的深度神经网络,实现非监督学习自动提取滚动轴承振动信号的内在特征用于滚动轴承故障诊断。首先,将轴承故障振动信号的频谱训练稀疏自编码获得参数;然后用稀疏自编码获得的参数和轴承振动信号频谱的频谱训练深度神经网络,并结合反向传播算法对深度神经网络进行整体微调提高分类准确度;最后用训练好的深度神经网络来识别滚动轴承故障。对正常轴承、外圈点蚀故障、内圈点蚀故障和滚动体裂纹故障振动信号的分析结果表明：相比反向传播神经网络,提出的深度神经网络更能准确的识别滚动轴承故障类型。