欢迎访问一起赢论文辅导网
本站动态
联系我们

手机:15327302358
邮箱:peter.lyz@163.com

Q Q:
910330594  
微信paperwinner
工作时间:9:00-24:00

机械论文
当前位置:首页 > 机械论文
基于局部约束仿射子空间编码的时空特征聚合卷积网络模型
来源:一起赢论文网     日期:2020-09-13     浏览数:162     【 字体:

 43卷    计  算  机  学  报  Vol. 43 2020  论文在线号No.5  CHINESE JOURNAL OF COMPUTERS   2020Online No.5 ——————————————— 本课题得到国家自然科学基金(NO. 61471082)资助.  张冰冰,女,1990年生,在读博士,主要研究领域为视频中的人体行为识别,图像分类和深度学习. E-mail: icyzhang@mail.dlut.edu.cn.  李培华(通信作者),男,1971年生,博士,教授,计算机学会(CCF)会员,主要研究领域为图像/视频识别、目标检测和语义分割. E-mail: peihuali@dlut.edu.cn.  孙秋乐,男,1991年生,在读博士生,主要研究领域为图像分类和语义分割. E-mail: qiulesun@mail.dlut.edu.cn. 基于局部约束仿射子空间编码的时空特征聚合卷积网络模型 张冰冰1)  李培华1)    孙秋乐1)  1) (大连理工大学信息与通信学院  辽宁  大连  116033)  摘  要  双流卷积网络能够在视频中建模表观和运动信息,是行为识别中一种重要的基础网络模型。然而,这种模型只能学习单帧的空间信息和少数几帧的时间信息,无法有效地建模整段视频中的长时信息。为此,本文提出一种基于局部约束仿射子空间编码的时空特征聚合卷积网络。该网络的核心是局部约束仿射子空间编码层,能够嵌入到双流卷积网络中用于聚合覆盖整段视频的空间和时间特征,从而获得视频的全局时空表达。局部约束仿射子空间编码层由权重系数计算和仿射子空间编码组成,其中的参数可与卷积网络中的其他参数进行联合优化从而进行端到端的学习。同时,本文研究了在代价函数中施加软正交约束、无穷范数约束和谱范数约束三种方法,以保证仿射子空间基的正交性。在常用的UCF101HMDB51Something-V1数据集上,本文的方法比经典的双流卷积网络识别准确率分别提升1.7%8.7%4.3%,同时达到或优于当前最先进的方法。 关键词    行为识别;双流卷积网络;局部仿射子空间编码;时空特征聚合;正交约束 中图法分类号  TP391   Spatial and temporal features aggregation convolutional network model based on locality-constrained affine subspace coding ZHANG Bing-Bing1)   LI Pei-Hua1)        SUN Qiu-Le1)     1) (School of Information and Communication Engineering, Dalian University of Technology, Dalian, Liaoning 116033)      Abstract   Video-based  human  action  recognition  is  an  import  task  in  the  field  of computer  vision. It  is  widely used  in  video  surveillance,  virtual  reality  and  human-computer interaction. This is  also  a  very  challenging  task because of the large amount of video data and high requirements for computing hardware systems.    An effective video representation needs to consider spatial and temporal cues simultaneously. In recent years, researchers are working  to  develop general network  architecture  for  video  classification. 3D spatial-temporal  convolutions that potentially  learn  complicated spatial-temporal  dependencies but the  large number of  parameters  in  3D  CNNs make it hard to train in practice. Two-stream architectures that decompose the video into motion and appearance streams, and train separate CNNs for each stream, fusing the outputs in the end. Among these successful network architectures, two-steam convolutional network has a great influence in the academic research field. Two-stream convolutional network  can  model  the  appearance  and  motion  information  in  videos,  and becomes an  important basic network model in action recognition. Two-stream architectures essentially learn a classifier that operates on individual frames or short clip of few frames possibly enforcing consensus of classification scores over different segments  of  the  video.  At  test  time, 25  uniformly  sampled  frames are  classified  independently  and  the 网络出版时间:2020-01-20 17:15:03网络出版地址:http://kns.cnki.net/kcms/detail/11.1826.TP.20200120.1640.004.html2  计  算  机  学  报  2020年  classifications scores are averaged  to get the final prediction.  However, such architectures  mainly  focus  on learning  of spatial  information  of  a  single  frame and the  temporal  information  of a  few  frames, thus  failing  to effectively model the long-term information in the whole video. To overcome the problem, we propose the spatial and temporal  features  aggregation  convolutional  network  model  based  on  locality-constrained  affine  subspace coding.  LASC  coding  method  has  achieved  the  excellent  performance  of  in  image  classification and  image retrieval tasks.  LASC leverages  the  semantic probabilities  of  local  patches  to  learn  the aggregation  weights and construct the semantic affine subspace dictionary, which produces more semantic and discriminative global image representations. Inspired by the classical LASC coding method, we design a LASC-based structure layer to insert into  the  last  layer  convolutional  layer  of  spatial  stream  and  temporal  stream  to  acquire  more robust high-dimension  representation  and  the two  fully-connected  layer  in  two-stream architecture  is  totally  replaced. The  core  of  the  network  is a locality-constrained  affine  subspace  coding  layer,  which  can  be  embedded  in  the two-stream  convolution  network  for  aggregating  spatial  and  temporal  features  of  the  whole  video  to obtain  the global  temporal  and  spatial video representation. This layer  consists  of two  sub-layers  of  computing  weight coefficients  and  affine  subspace  coding,  in  which  parameters of  the  layer can  be  optimized  jointly  with  other parameters  in  convolution network  for  end-to-end  learning. Besides,  three  regulations,  i.e., soft orthogonality regulation,  infinite-norm regulation  and  spectral-norm regulation in  cost  functions, are further studied  to ensure the orthogonality of affine subspace bases during the training process. The proposed method is measured on the commonly  used  UCF10, HMDB51 and  Something-V1 datasets, and the  accuracy  of  our method  is  1.7%,  8.7% and  4.3% higher  than  the  classical  two-stream  convolution  network,  respectively.  At  the  same  time,  it achieves superior or competitive performance in comparison to state-of-the-art methods. .   Key words  action  recognition; two-stream  convolutional  networks;  locality-constrained  subspace  coding; spatial and temporal features aggregation; orthogonality regulation1  引    言 基于视频的人体行为识别是计算机视觉领域的基本问题,其应用范围十分广泛,包括自动驾驶中的视频导航系统、视频剪辑、互联网视频检索和人机交互等。人体行为识别的方法可分为两种:一种是基于传统手工特征的方法;另一种是基于卷积网络的方法。 当前,卷积网络是得到广泛应用的一种人工神经网络,是首个真正被成功训练的深层神经网络,它在人脸识别[1]、图像分类[2]和图像检索[3]等诸多任务中取得了较大的进展[4]。卷积网络所取得的巨大成功在很大程度上归功于研究者们建立了大规模图像数据集ImageNet[5]和许多经典的网络架构的提出[6-9]。由于卷积网络无法直接建模时序信息,所以如何改进卷积网络使其应用于视频中的行为识别是具有挑战性的研究课题。目前利用卷积网络建模视频表达的方法主要基于以下两种架构:(1)双流卷积网络架构[10],在该方法中,以RGB为输入的空间流网络和以光流图像为输入的时间流网络,先进行独立地训练,然后通过离线方式对独立网络的分类器预测分数进行融合。在双流网络的架构的基础上,研究者们使用了多种改进方式,拓展双流网络聚合时空特征的范围,获取全局视频表达。(23D卷积网络[11],该方法是2D卷积网络应用于视频数据上的一种直接拓展,2D卷积核增加时间维度成为3D卷积核。在3D卷积计算过程中,可以同时获得视频中图像的空间信息和时序信息。以上两种网络模型的发展是同步进行的,但使用3D卷积核后,网络参数增多,训练网络时需要庞大的数据,在规模较小的数据库上并不适用。双流卷积网络可以很容易地利用在ImageNet数据集上预训练的网络模型[6-9],所以近几年来有效的方法也是基于双流卷积网络模型的。 双流卷积网络模型[10]以单帧图像及其对应的光流图像作为输入,通过两路卷积网络独立地学习分类器。训练时随机选择1RGB图像及其对应光流图像分别作为空间流和时间流网络的输入学习两个分类器,测试时选取多帧图像及其对应光流图像,分别进入网络进行独立地预测,最终的识别  张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  3  结果是这些预测的均值。这种网络训练及测试的方式是以某一片段的时空特征代表整段视频,忽略了视频中的长时信息,不能准确建模视频中动作行为复杂的时空结构,而视频的长时结构信息中包含了对识别有用的关键信息。为了解决这一不足,本文提出了一种基于局部仿射子空间(LASC)编码的双流卷积网络模型,对卷积特征进行编码并聚合整段视频的时空信息,从而有效地建模视频长时信息。  打高尔夫球 动作RGB 光流高尔夫球运动员球杆挥杆击球图1    LASC的时空特征聚合卷积网络表示行为的物理意义  基于LASC的时空特征聚合卷积网络模型与经典的双流网络的不同之处主要体现在以下三个方面:首先,LASC时空特征聚合网络的输入是在整段视频上进行RGB图像及其对应光流图像的采样,这种采样方式得到的多帧图像能够代表整段视频的空间和时间信息;其次,LASC时空特征聚合卷积网络聚合特征的方式考虑了特征空间的剖分。LASC的字典由多个视觉词汇组成,视觉词汇周围特征分布的几何结构建模为仿射子空间。对于空间流,每个视觉词汇表示具有代表性的表观信息,表观相似的物体聚类在一个视觉词汇,例如篮球、足球或者高尔夫球等球类物体通常会聚类在一个视觉词汇所在的仿射子空间中。对于时间流,每个视觉词汇表示从光流场卷积特征中提取的具有代表性的运动信息,其视觉词汇蕴含的信息比空间流更加丰富,例如跑跳动作中的腿部状态变化或者球类运动中的手臂挥动等不同的运动模式将聚类在不同的视觉词汇中。LASC嵌入到双流网络中,根据字典中的视觉词汇,可以将行为分别表示成在表观视觉词汇和运动视觉词汇上的LASC编码,如图一所示,“打高尔夫球”这个行为可以表示为高尔夫球,运动员,球杆,挥杆和击球这5个视觉词汇的集合。最后,双流网络在训练和测试时的采用不同的采样方式,而LASC时空聚合网络训练和测试时采用相同的采样方式。 卷积层仿射子空间编码层权重系数计算层乘积正规化和均值池化仿射子空间编码层权重系数计算层乘积LASC结构层LASC结构层损失函数空间表达时间表达正规化和均值池化卷积层 图2  基于LASC的时空特征聚合卷积网络模型结构示意图基于局部约束仿射子空间编码的时空特征聚合卷积网络模型结构示意图如图2所示。双流网络均由卷积层和LASC结构层组成,两路的输入分别为在覆盖整段视频范围内均匀采样的多帧RGB图像及其对应的多组光流图像,经过卷积层后得到代表视频长时信息的空间和时间特征,这些特征将作为LASC结构层的输入。根据公式(3),特征的LASC编码是特征在每一个子空间上的编码权重和在其对应子空间上编码的乘积,所以本文将LASC结构层设计为两个支路,分别是编码权重系数计算层和仿射子空间编码层,第1个支路的作用是根据特征到字典中每一个仿射子空间的距离,计算出编码权重系数;第2个支路的作用是计算特征描述子在每一个仿射子空间的编码。两个支路的输出进行相乘即可得到视频空间特征的LASC编码,经过正规化和均值池化,这些编码聚合为视频空间或时间4  计  算  机  学  报  2020年  LASC表达。视频空间和时间LASC表达分别经过分类器,得到空间流预测和时间流预测。空间流网络和时间流网络是独立进行训练的,融合方式为离线的分类器分数融合。为了验证本文提出网络模型的有效性,在UCF101HMDB51Something-V13个常用的人体行为识别数据集上进行了实验,本文的方法比经典的双流卷积网络识别准确率分别提升1.7%8.7%4.3%,达到了与相关方法同样优秀或者超过已有方法的性能,证明了本文方法的有效性。   本文章节安排如下:第2节介绍了本文方法的相关工作;第3节对如何将LASC编码作为结构层嵌入到卷积网络进行了详细的介绍;第4节在常用的人体行为识别数据集上进行实验,验证本文方法的有效性;第5节为结论部分,总结了本文方法的主要贡献。 2  相关工作 本文的相关工作主要体现以下三个方面:(1)基于视觉词袋模型建模视频表达;(2)双流卷积网络的改进方法(3)基于卷积网络的视频长时信息建模方法。下面将分别介绍研究者们在这三方面的相关工作。 2.1 基于视觉词袋模型建模视频表达 视觉词袋模型[13]主要包括以下三个流程:特征提取、生成字典和特征编码。字典生成的方法较为固定,一般采用无监督聚类的方法如k-means[14]得到字典聚类中心,所以研究者的重点放在特征提取和特征编码这两个过程中。Wang等人[15]提出了DT特征能够很好地建模视频的时空信息,其具体做法是:沿着视频中密集采样点轨迹提取行为局部表观特征和动态特征,如HOG特征[16]HOF特征[17]MBH特征[17]Wang等人[18]DT特征的基础上引入了消除相机抖动的方法,提出了一种改进的密集点轨迹特征(IDT),可以提高建模视频全局信息的鲁棒性。卷积网络方法被广泛应用于行为识别领域之前,IDT特征在该领域中处于主导地位。这些基于密集点轨迹的局部特征通过编特征编码和池化算法聚合形成固定长度的视频表达。特征编码的过程是通过字典将低维局部特征非线性地映射到高维特征空间,再通过全局池化的方法聚合这些高维特征得到视频全局表达。Peng等人[19]全面地评估了特征编码方法在人体行为识别领域的应用,并通过实验证明多种编码形成的混合表达性能最佳。文献[12]中,Li等人将特征编码方法分为三类:0阶编码、1阶编码和高阶编码。0阶编码如软分配编码[20]、局部约束线性编码[21]和稀疏编码[22],通过不同的编码准则为字典中的每个视觉词汇赋一个标量权重;1阶编码如VLAD编码[23]则是指在视觉词汇上的编码是一个向量而不是标量;高阶编码如费舍尔向量[24]则进一步利用了特征分布的高阶信息。这些方法都在相应的任务上取得了优异的性能提升,所使用的字典通常是由视觉词汇(聚类中心)组成,这种类型的字典一般由k-means算法生成,是对视觉词汇所在特征空间流形结构粗糙的分段常量近似[14],没有考虑到字典中视觉词汇周围特征分布的几何结构。针对这些方法的不足之处,文献[12]提出了LASC,该方法将低维线性仿射子空间的集合作为字典,每个子空间使用各自的坐标原点及其子空间基向量来刻画特征空间的局部几何结构,这是与其他编码的显著不同之处。完整的LASC具有一阶编码和二阶编码形式,其在多个不同的图像分类任务上取得了优异的性能,具有很强的泛化能力。 2.2 双流卷积网络的改进方法 双流卷积网络是行为识别中的主流方法,如引言部分所述,双流网络由独立训练的空间流网络和时间流网络组成,分别用于获取视频中的空间和时间信息。基于经典的双流卷积网络,研究者们进行了许多改进。Feichtenhofer等人[25]在双流卷积网络的最后一个卷积层使用3D卷积和3D池化融合视频中多个采样帧的空间特征和时间特征,该网络拓展了双流卷积网络建模时空信息的范围,但实质也是使用较长的局部时空特征代表全局信息。Wang等人[26]提出了TSN方法,这种方法将整段视频分成多个部分,使用双流卷积网络分别提取每部分中采样帧的时空特征,最后对所有特征进行融合,得到全局视频表达。由于视频连续多帧的信息有一定的冗余,在视频多个片段中获取局部时空特征然后再融合是较好的选择,但该方法对于不同片段空间和时间特征的融合,仅对不同视频片段的表达进行均值池化融合,从而忽略了不同片段的相关性。在TSN方法的基础上,Rohit等人[27]提出了一种ActionVLAD网络架构将VLAD编码[23]应用于到双流卷积网络中,用于聚合视频时空特征,该工作是NetVLAD[28-29]在视频领域的直接拓展,其主要优点是考虑了特征空间的剖分,其缺点与VLAD相同,在聚合时空特征时使用的字典未考虑视觉词汇周围的几何结构。Wang等人[30]设计了多级时空金字塔策略,使用紧凑的双线性池化方法聚合时空特征,该网络时空特征需要进行了3次聚合,计算代价较高。 除上述对双流网络的时空特征聚合方式方面的改进之外,改进双流网络的输入数据也是重要的方向,Hakan等人[31]提出了动态图作为双流网络的输入,对输入数据使用排序池化得到动态图,再构建双流网络,以此构建的双流网络再与经典的双流网络进行融合,该方法需离线计算动态图,在数据  张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  5  计算、存储和读取方面较耗时。Zhang等人[32]为了使得双流网络在实时视频识别中能够得到应用,提出了使用运动矢量代替光流作为时间流的输入,其速度比TSN方法[26]提升15倍,但是性能上却比TSN方法低10%左右。 2.3 基于卷积网络的视频长时信息建模方法 如何利用卷积网络获取视频长时信息一直以来是研究的热点问题。Ng等人[33]将视频长时序的卷积特征作为5层长短时记忆网络(LSTM)的输入,从而建模视频的长时信息。Varol等人[34]提出了由5个长时卷积层构成的网络,该网络能够建模较长时的视频表达,该方法最多只能建模60帧的视频,限制了其应用范围。在基于RGB-D数据的人体行为识别领域,LSTM及其改进方法有着广泛的应用,Si等人[35]提出了使用多层LSTM构建时序堆栈网络,用于学习时序变化信息。在此工作基础上, [36]使用图卷积和注意力机制改进了LSTM内部结构,LSTM在序列长时建模方面具有一定的潜力,但其缺点在于参数量较大,网络训练代价较高。同时,文献[37]的实验表明,对于时空特征进行有序的LSTM聚合,性能低于对这些特征进行无序的编码聚合,所以对长时信息进行LSTM聚合的方法在目前基于RGB数据的人行为识别领域并没有得到广泛地应用。 受到以上三个方面相关工作的启发,为了改进经典的双流卷积网络,建模视频长时信息,本文提出将LASC编码作为结构层嵌入到双流卷积网络模型,设计了一种时空特征聚合卷积网络模型。 3  局部约束仿射子空间编码结构层 局部约束仿射子空间编码结构层主要由权重系数计算层和仿射子空间编码层两部分构成。3.1节主要介绍LASC所要解决的优化问题,该优化目标函数是经典的脊回归问题[38],具有解析解,该解析解使得LASC作为结构层可以嵌入到卷积网络中进行端到端的优化。3.2节主要介绍LASC结构层的嵌入方法,3.2.1节介绍该结构层的第1个支路,即权重系数计算层,该层可由卷积层和softmax层实现。3.2.2节主要介绍LASC结构层中的第2个支路,即仿射子空间编码层,该层可以分解为残差层和仿射子空间映射层两个子层。3.3节主要介绍对仿射子空间映射层参数的施加正交约束的三种方法。 3.1 LASC的优化目标函数及其解析解 如第2节所述,经典的特征编码方法未考虑到字典中视觉词汇周围特征分布的几何结构。而在LASC中,其字典考虑了视觉词汇所在子空间的几何结构,使用仿射子空间建模每个视觉词汇周围的特征分布,且仿射子空间的维度不大于原始特征的维度。LASC的字典可以表示为一组附着在聚类中心的低维仿射子空间:   { , }, 1,...,di i i i i S i M = + Î = S μ Acμ  (1) 其中,iμ由k-means算法得到,表示第i个仿射子空间的附着点。dpi´Î A的列向量构成仿射子空间的基向量,d为特征的维度,p为子空间的维度。 piÎ c是特征在第i个仿射子空间的编码向量, M表示仿射子空间的个数,iS定义了一个以iμ为原点的局部坐标系,可看作对视觉词汇所在特征空间的分段线性近似。 对于单个局部特征y进行LASC编码,使用近邻的k个仿射子空间进行编码,也就是使用临近度量来约束特征y在仿射子空间的投影向量。LASC的目标函数为: 22 22 ()min ( ) ( , )i Si ki i i i iSNS l"Î- - + åcyy μ A c d y c 2) 这里,( , )iS dy是特征到仿射子空间的距离。目标函数(2)可以解耦为若干独立的脊回归问题,能够在每个近邻仿射子空间()Sik SNÎ y分别求解编码向量ic,目标函数(2)具有解析解:                      () iTi y i ia =- c A y μ                    (3iA表示仿射子空间的基向量,1(1 ( , ))iyiS al-=+dy为特征y在子空间iS的编码权重。 3.2 LASC结构层 根据3.1节中LASC编码的解析解(3),本文将LASC结构层嵌入到双流卷积网络中进行端到端的优化,LASC结构层的作用是聚合人体行为的空间和时间特征,建模整段视频空间和时间的信息。假设jty是人体行为视频中第t帧({1,... } tT Î)的空间位置j{1,... } jN Î)的d维局部特征。LASC结构层的建模形式如下:     11(:, )( ( ) ( ))TNiTi y i jt itjk k k a===-åå L A y μ  (4piÎ Ljty在第i个子空间聚合时空特征的编码向量。LASC结构层将jtyiμ的残差投影到子空间所定义的局部坐标系上,经过iya加权后得到在第i个仿射子空间上的视频特征编码iL,级联每一个仿射子空间上的编码iL可以得到全局视频表达。 为了将LASC作为结构层嵌入到双流网络中,本文设计了两个支路实现(4)式中的建模形式。图3是以空间流为例的LASC结构层示意图,该结构层的输入是视频空间流的卷积特征。特征首先进行L2范数正规化处理,然后进入LASC结构层,该结构层由权重系数计算层和仿射子空间编码层两个6  计  算  机  学  报  2020年  支路组成,权重系数计算层的主要目的是计算特征在子空间上编码的权重,仿射子空间编码层的主要目的是计算特征在子空间上的编码。 3.2.1  权重系数计算层 如图3所示,权重系数计算层是LASC结构层的上方分支部分,该层的主要作用是计算特征在每一个仿射子空间编码的权重。3.1节计算编码权重的方法是根据特征y到仿射子空间的距离找到k个近邻仿射子空间,通过计算1(1 ( , ))iyiS al-=+dy得到编码权重。但是在网络训练过程中,特征y和字典子空间的附着点iμ是同时更新的,需要在每次迭代时计算进行yiμ的欧式距离,确定特征的k近邻仿射子空间,从而获得iya。这种情况下yiμ的更新是耦合的,为了简化更新方式和利用CNN中固有的模块(例如卷积层和softmax层),受到NetVLAD[28-29]的启发,权重系数计算层通过解耦的方式更新yiμ。此时局部特征y在第i个字典子空间的编码权重为:       222'2 '1exp( )exp(iiy Miigag=--=-- åy μy μ            (5)           g是引入的超参数,当g取较大值,等价于特征在k近邻仿射子空间进行编码。当g无穷大时,等价于特征只在最近邻的一个仿射子空间上进行编码。公式(5)进一步写成如下形式:       '' '1exp )exp( )Ti iiy MTii ia=+=+ å(w y bw y b                 6) 其中,2iig = w μ和22iig =- b μ是可学习的参数,iμ的初始化通过对训练集样本的采样特征进行k-means 聚类得到。权重系数计算层可以通过卷积层和softmax层实现。 3.2.2  仿射子空间编码层 如图3所示,仿射子空间编码层是LASC结构层下方分支部分,该层由残差层和仿射子空间映射层两个子层组成。残差层的功能是计算特征yiμ之间的残差,通过只有偏置-iμ的M个卷积层实现。仿射子空间映射层的功能是计算残差在其对应子空间上的投影。仿射子空间映射层的参数iU初始化为仿射子空间的一组正交基,iU初始化的具体计算过程是求仿射子空间中所有特征y的协方差矩阵, 对协方差矩阵进行SVD分解的左酉矩阵即是iUiUGram矩阵为单位阵的标准正交基。子空间映射层可以由M个权重为Udpi´Î且无偏置的卷积层实现。 仿射子空间编码层的输出与权重系数计算层的输出进行相乘运算,再经过两次正规化操作[28-29],第1次对每个仿射子空间的编码进行L2范 数正规化,第2次对级联获得的完整LASC编码进行L2范数正规化,最后经过均值池化得到空间流LASC视频表达,维度为Mp。 下面给出LASC结构层的伪代码如算法1所示。在LASC结构层中,权重系数计算层的参数量为+ M d d ´,仿射子空间编码层的参数量为+ M d M d p ´ ´ ´。由此可见,LASC层的参数量主要与仿射子空间的个数M和维度p有关,在实验部分将对这两个参数对性能的影响进行详细分析。 空间流卷积特征yyconv(w, b)权重系数计算层相乘空间流LASC表达L2范数正规化正规化和均值池化conv(~,     )..softmaxconv(~,      )conv(    ,~ )..1m -Mm -1UMU残差层 仿射子空间映射层conv(    ,~ )3  空间流网络嵌入局部约束仿射子空间编码(LASC)结构层示意图  算法1.    LASC结构层 输入:视频空间或时间特征()T N d ´´Î y   仿射子空间出初始化参数:附着点iμ和子空间正交基iU,其中1,..., iM = 输出:视频LASC表达L 1.  y进行二范数归一化   张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  7  2.  FOR i =1 to M 3.  通过权重系数计算层计算y在第i 个子空间的    编码权重iα:i ¬ αsoftmax( , )( ( ))iiconvwby 4.  通过仿射子空间编码层计算y在第i 个子空间的编码il( ,~) (~, )( ( ))ii iconv conv- ¬U μ ly 5.  计算y在第i 个子空间的编码iLi i i¬´ L α l     6.  iL进行二范数归一化 7.  END FOR 8.   yM个子空间上的编码级联: 1( ,..., ) L L LT N M ´ ¬ 9.  LTN´进行二范数归一化 10. LTN´进行均值池化得到视频LASC表达L 3.3 仿射子空间映射层参数的正交约束 如3.2.2节所述,仿射子空间映射层参数iU初始化时为一组正交基,由于在网络训练过程中会破坏iU的正交特性,所以需要对iU施加正交约束。受到文献[39]的启发,本文使用软正交约束、无穷范数约束和谱范数约束三种方法使iU在参数更新过程中保持正交。对参数iU施加正交约束,则网络的损失函数为:                      =iLoss Loss R +U                     7) 其中Loss表示网络的损失函数,iRU为正则项,约束iU在优化过程中保持正交。在以下的3.3.1节至3.3.3节将详细阐述iRU的三种不同形式。在网络进行反向传播时,将iRU对于iU的导数附加到iU更新过程中。 3.3.1  软正交约束 对仿射子空间映射层的参数  施加软正交约束(SOR, Soft Orthogonality Regulation),该正则项如下所示:         2=iTii FR l -UU U I               8) 这里,l为引入的超参数,且0 l>。对目标函数施加(8)式的约束,在反向传播时,其可以看作是权重衰减项,使iU在参数优化过程中保持正交。参数更新时,iRU对于iU的导数为( ) 4Ti i il - U U U I附加到iU更新过程中。 3.3.2  无穷范数约束 对于仿射子空间映射层的参数dpi´Î U,其相关系数定义为:              ,maxmnwmnmnwwwwm¹=×                      (9) 这里,mw代表iU的第m列,1,..., mp=。相关系数[0,1]wm Î用来衡量iU任意两列之间的相关性。为了使iU列正交或者接近正交,wm的值应该为0或者趋于0,mn ww可以看作是Gram矩阵的Tii UU的第mn列,这里mn¹。 如果仅考虑非对角元素,则可以通过以下约束矩阵无穷范数的方式达到使得相关系数wm最小化的目的,正则项有如下形式:                  =iTii R l¥-UU U I                     10) 该正则项称为无穷范数约束(INR, Infinity-norm Regularization)。 3.3.3  谱范数约束 根据文献[40]的研究关于矩阵谱有限等距性质的研究,iU满足有限等距性质:对于所有向量nÎ z,有r个非零元素,则存在一个很小的数(0,1)wd Î,满足:       22(1 ) (1 )iww dd - £ £ +Uzz               11) 当rn=时,谱有限等距性质可以重写为以下形式:           22-1i nwd £ " ÎUzzz,             (12) 令()is = Usup,0i næöι ç÷ èøUzzzz,是iU的谱范数,sup代表上确界。容易得到:                       ,0( ) supni Tii sι-=zzUzU U Iz   13) 从谱有限等距性质角度约束iU正交,则等价于在rn=的特殊情况下,最小化有限等距常量wd,即最小化()Tii s - U U I。那么,正则项有如下形式:             = ( )iTii R ls×- UU U I                14) 该正则项称之为谱范数约束(SNR, Spectral-norm Regulations)。进行网络前向计算时,由于计算  14)需要对Tii- U U I进行本征分解,计算代价较大。  为了较少计算代价,本文使用能量迭代法[41-42]计算Tii- U U I的谱范数。首先随机初始化一个向量nÎ u,通过迭代: ( ) ( ),( ) ( )T T Ti i i iT T Ti i i i-- ¬¬-- U U I u U U I vvuU U I U U I v   15) 得到Tii- U U I的谱范数:      ( )= ( )T T Ti i i i s -- U U I u U U I v           16) 能量迭代法近似谱范数的计算复杂度为2() O mn,而使用本征分解法的计算复杂度3() On,能量迭代法8  计  算  机  学  报  2020年  显著降低了计算复杂度。在本文中,迭代次数设置为15。谱范数近似计算的具体推导过程见附录14  实验 4.1 数据集介绍 本节使用3 个常用的人体行为识别数据集UCF101[43]HMDB51[44]Something-V1[45]对基于局部约束仿射子空间编码的时空特征聚合卷积网络进行性能评估。其中所有消融实验是在HMDB51数据集的第1个划分上进行的。 如图4a)(b)(c)所示,分别为UCF101HMDB51Something-V1数据集中的视频经过拆帧后的RGB图像示例。UCF101包含101种人体行为,共计13,  320个视频序列,该数据集由体育运动行为组成。HMDB51包含51种人体行为,共计6, 766个视频序列,每一类行为至少拥有100个视频样本,该数据集视频主要来源于网络视频和电影片段,行为的类内差异大,背景复杂,是目前难度较大的数据集之一。这两个数据集提供3种不同划分训练集和测试集的方式,3个划分上的平均识别准确率作为最终的分类结果。Something-V1数据集包含174种人体行为,共计108,499个视频序列,均是人与物品的交互行为。该数据集只有1种划分训练集和测试集的方式,评价指标为识别准确率。 4.2 实验设置 实验主机配置:CPUIntel  Core  i7-4770K3.50GHz64GB 内存,GPU为两块NVIDIA GTX1080ti。本文算法使用TensorFlow[46]深度学习工具包实现。空间流初始化模型为在ImageNet 数据库[5]上预训练的VGG-16模型[7],时间流的初始化模型是双流卷积网络的时间流模型在UCF101HMDB51数据集上微调后的VGG-16模型。训练时,每个视频片段中均匀采样25RGB图像及其对应的光流图像分别作为空间流网络和时间流网络的输入。均匀采样的含义是对于一段视频,已知视频的帧数,同时设定采样帧数,据此可以确定采样间隔,然后以此采样间隔对视频进行采样。对RGB图像及其对应的光流图像进行随机裁剪,处理后空间流输入图像大小为224 224 3 ´´,时间流输入图像大小为224 224 20 ´´。权重系数计算层中的超参数g设置为1000。   (aUCF101数据集RGB图像示例  (bHMDB51数据集RGB图像示例          (cSomething-V1数据集RGB图像示例 图4  数据集RGB图像示例  网络优化使用自适应矩估计[47]算法,其中超参数设置为12 =1e-4 =0.9 =0.999 e b b , ,。网络训练过程分采用两阶段方式:第一阶段仅训练分类器,学习率设为1e-2,迭代5000次后降为1e-3,再经过5000次迭代。第二个阶段训练分类器,LASC结构层和conv5层。学习率设为1e-4,迭代5000次后降为1e-5,再经过3000次迭代。空间流网络和时间流网络是独立训练的,双流网络的融合过程是在测试过程中进行的。测试时,在对一个包含多帧的  张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  9  视频进行分类时,从视频片段中均匀采样25 帧,每一帧图像的左上角,右上角,左下角,右下角和中间裁剪出5个图像块,对于空间流网络图像块的大小为224 224 3 ´´,共5组,每组中25RGB图像可以聚合为一个空间表达,对于时间流网络图像块的大小为224 224 20 ´´,共5组,每组中的25帧光流图像可以聚合为一个时间表达。每组图像块作为输入独立地进行预测,这10 组图像块的预测均值将作为该视频片段的最终预测。 4.3 参数敏感性分析 首先,本小节实验在HMDB5数据集的第1个划分上评估了LASC结构层的字典子空间的数量M和字典子空间的维度p。然后,评估了三种不同正交约束方法中的超参数l。 (1)评估仿射子空间的数量M。实验设置为:使用谱范数正则约束仿射子空间映射层的参数iU,字典子空间的维度512 p=,超参数=0.5 l。实验结果如图5示,当M4逐渐增加至64的过程中,分类准确率分别为  45.9%48.2%50.1%50.3%50.8%52.2%,随着仿射子空间数量的增加分类准确率不断提升。当80 M=时,识别准确率有所下降,所以在以下的实验中设置仿射子空间数量64 M=。       图5 HMDB511个划分上评估字典子空间数量(M)  (2)评估仿射子空间的维度p。此时实验设置为:使用谱范数正则约束仿射子空间映射层的参数,超参数=0.5 l。如图6所示,当p分别取64128256384,  512时,分类准确率呈现明显的上升趋势,当=512 p时,分类准确率达到52.2%,此时子空间的维度和特征的维度一致,说明高维度可以更好地刻画视觉词汇所在仿射子空间的几何结构。字典子空间正交基的维度p小于等于特征的维度,p最大取值为512。根据以上的参数评估实验,在以下的实验中,固定字典子空间的数目为64 M=,字典子空间的维度=512 p  6 HMDB511个划分上评估字典子空间维度(p)      (3)评估三种不同正交约束方法中的超参数l。实验设置为:64 M=,=512 p。图6为l取0.01 0.9的不同数值情况下,软正交约束,无穷范数约束和谱范数约束这三种不同约束的分类准确率情况。  图7 HMDB51数据集第1个划分上评估三种不同正交约束的超参数l  如图7所示,三种正交约束的方法达到最佳性能时,l取值有所不同;同时,识别准确率随正交约束项中的超参数l的变化趋势并没有遵循一定的规律,这说明l是需要精细调试的参数。在评估l的同时,由图7的三条曲线可知在三种正交约束方法中,谱范数约束的性能较好,软正交约束的性能优于无穷范数约束。在评估l的同时,对三种正交约束的性能也相当于对不同正交约束方法进行了评估。 10  计  算  机  学  报  2020年  为了方便查看不同正交约束方法取得的最佳性能,图7中三种正交约束的最佳性能进一步整理到表1中。如表1所示,软正交约束在=0.1 l时, 分类准确率达到52.1%,对于无穷范数约束,当=0.01 l时,分类准确率达到51.5%,而对于谱范 数约束,  当=0.5 l时,分类准确率为52.2%。可以看出这三种正交约束方式都十分有效,软正交约束的方法与谱范数约束方法性能基本相同。而最好的识别准确率是在谱范数约束下产生的,所以在以下实验中将采用谱范数约束iU,且设置超参数=0.5 l  表1  HMDB51数据集split1上三种不同正交约束下LASC聚合网络性能比较(空间流) 正交约束方法 l  准确率(%) 软正交约束(SOR)  0.1  52.1 无穷范数约束(INR)  0.01  51.5 谱范数约束(SNR)  0.5  52.2  4.4 本文方法和双流卷积网络模型比较 4.4.1  LASC结构层分别嵌入空间流和时间流网络与双流卷积网络模型比较 根据4.2 节和4.3 节确定的参数,本小节展开了一组消融实验,评估LASC结构分别嵌入到空间流和时间流网络的贡献,比较的基线是双流卷积网络模型,识别准确率是UCF101HMDB51数据集3个划分上的平均准确率。双流卷积网络的测试方法是从视频片段中随机选择25 帧,从图像中裁剪出10 个图像块,对于空间流网络每个图像块的大小为  ,共计250 个,而对时间流网络该图像块的大小为  ,共计250 个,每个图像块作为输入进入网络中独立地进行预测,这500个图像块预测均值作为该视频片段的最终预测。本文的测试方法已在4.2小节中介绍。两种方法的本质区别在于双流网络仅在测试时进行多帧采样,而本文方法在训练和测试时都对视频进行多帧采样。 如表2所示,在UCF101数据集上,本文方法的空间流网络、时间流网络和融合后的网络分别比双流卷积网络的方法提升了3.2%1.2%1.7%。在HMDB51数据集上,该提升分别8.5%,  5.6%8.7%。以上实验结果验证了将LASC模块嵌入到双流卷积网络模型对空间和时间流网络性能的提升都起到了作用,在空间流网络上的提升高于时间流。同时,融合双流网络性能的提升可以证明LASC聚合网络产生鲁棒的全局视频表达,提高了基于视频的人体行为识别准确率。 表2 消融实验:LASC 分别嵌入空间流和时间流的贡献 方法  UCF101  HMDB51 双流卷积网络 空间流  78.4  42.2 空间流+LASC  81.6  50.7 时间流  87.0  55.0 时间流+LASC  88.2  60.6 融合空间流和时间流  91.4  58.5 融合空间流+LASC和时间流+LASC  93.1  67.2  4.4.2  视频表达维度及网络参数量比较 在使用4.2节和4.3节确定的参数情况下,表3 对本文方法与双流卷积网络的视频表达维度和参数量进行了比较。本文方法和双流卷积网络均是是对空间流网络和时间流网络进行离线融合的,融合方法是将两个训练好的网络的预测分数加权产生最终的预测分数,那么全局视频表 达的维度是空间流网络和时间流全局视频表达维度的加和。如表3所示,  双流卷积网络的视频表达维度为8K,本文方法的空间流表达和时间流表达都是32K,最终视频表达维度64K,高维表达 损失更少的视频信息,能够建模覆盖视频的空间和时间信息。在设计网络架构时,参数量也是需 要考虑的一个重要参数,将直接影响网络的训练  和收敛速度。  表3  本文方法和双流卷积网络在视频表达维度及网络参数量的比较 方法  视频表达维度  模型参数 双流卷积网络[48-49]  8K  268M 本文方法  64K  66M  在参数量方面,由于LASC结构层代替了双流卷积网络中的全连接层,本文方法的模型参数为66M,仅是双流卷积网络的1/4,但在性能上比双流网络有了较大地提升,这一现象能够证明,由  张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  11  LASC结构层的嵌入,使得双流网络能够建模高维度且分辨能力更强的非线性视频空间表达和时间表达。  表4  本文方法与其他行为识别方法的准确率(%)比较 方法  网络架构  UCF101  HMDB51 双流卷积网络[48-49]  VGG-16  91.4  58.5 双流卷积网络+3D卷积+3D池化[25]  VGG-16  92.5  66.4 C3D [11]  3D卷积网络  85.2  - TDD+FV [50]  卷积特征+编码  90.3  63.2 TSN [26]  BN-Inception  94.2  69.4 LTC [34]  长时卷积网络  91.7  64.8 ST-Pyramid[30] VGG-16 +  时空特征金字塔融合  93.2  66.8 ActionVLAD [27]  VGG-16  92.7  66.2 本文方法  VGG-16  93.1  67.2 C3D + IDT[11]  3D卷积网络  90.4  - LTC + IDT[34]  长时卷积网络  92.7  67.2 ActionVLAD + IDT[27]  VGG-16  93.6  69.8 本文方法+IDT  VGG-16  93.9  70.1 4.5 本文方法与其他行为识别方法比较 4.5.1  UCF101数据集和HMDB51数据集 在4.3节确定的最优参数的情况下,本小节将本文方法在UCF101HMDB512个数据集上与其他行为识别方法进行了比较,实验结果如 表4所示。表中的结果可以分为两个部分,首先是本文方法与其他识别方法分别在两个数据集的3 个划分上平均准确率的比较;其次是本文方法融合IDT特征与其他方法融合IDT特征的比较。 如表4所示,在不与IDT特征融合的情况下,本文方法在UCF101HMDB51上准确率达到了93.1%67.2%,比双流卷积网络[48-49]方法提升了1.7%8.7%,说明LASC结构层分别嵌入到双流网络中,对视频片段的空间和时间特征进行聚合,生成全局视频表达,能够较好地改进双流卷积网络。本文方法比3D卷积+3D池化方法[25]在两个数据集上分别提升了0.6%0.8%,该方法在聚合空间和时间特征的方法是3D 卷积和3D 池化操作,聚合了覆盖50帧的视频空间和时间信息,但并没有覆盖到整段视频,存在获取视频运动变化信息不足的现象。本文方法与C3D[11]相比,优势十分明显,在UCF101数据集上有7.5%的提升。C3D的输入是视频中某一短时的连续采样帧,在这样的情况下,该方法也没有建模视频中的长时信息。本文方法比TDD+FV[50]在两个数据集上分别提升1.4%2.4%,该方法是传统的分离式框架,使用卷积特征和传统的FV编码,没有进行端到端的优化,而本文方法将传统的编码方法设   计为卷积网络中的标准模块进行端到端的优化,能够同时发挥两者的优势。LTC[34]网络模型设计了输入为视频中连续较长片段时的长时卷积网络模型,其卷积层采用3D卷积核,最长能够建模连续60 帧的时序范围,也并没有完全覆盖整个视频,该方法在两个数据集上均低于本文方法,这是由于本文方法的输入方式能够获取覆盖整段视频的空间和时间的信息。TSN方法[26]与本文的本质不同之处在于聚合不同视频片段的方式上,首先,TSN聚合的主要对象是不同视频片段的空间和时间表达,聚合方法是均值池化的方法而本文是通过LASC编码的方式聚合不同视频片段的空间和时间特征。需要说明的是本文方法与TSN方法的实验设置具有显著不同:(1)二者使用的基础网络不同,本文使用VGG-16模型,而TSN使用性能更强的BN-Inception模型,而根据TSN[26]中的实验结果,利用BN-Inception 模型构建的双流卷积网络在UCF101数据集第1个划分上的识别准确率比VGG-16模型高1.1%。(2TSN方法使用了更多模态的信息.  具体地,本文方法使用了RGB图像和光流图像两种模态信息,而TSN方法则使用了RGB图像、光流图像、变形光流图像三种模态信息。为了公平比较,我们补充了一组新的实验,在相同实验设置基础上对二者进行了比较。具体地,我们采用在ImageNet上预训练的VGG-16模型,以及RGB图像(空间流)和光流图像(时间流)两种模态信息,在UCF101数据集的第1个划分上进行实验。TSN的识别准确 12  计  算  机  学  报  2020年  率为92.3%,本文方法的识别准确率为93.2%,能 够证明本文方法的优势。ST-Pyramid[30]UCF101上的结果基本与本文一致,而在HMDB51数据集上本文方法更有优势,这是由于HMDB51数据集中的视频中物体数量多于UCF101,而本文方法的仿射子空间字典能够采样到这些基本物体词汇,再通过对这些基本物体词汇进行编码得到的表达能够建模视频的完整信息。同时,ST-Pyramid  对空间和时间特征进行了金字塔聚合,聚合方式比本文更加复杂。ActionVLAD[27]VLAD编码嵌入到双流卷积网络中,本文方法在两个数据集上比该方法提升0.4%0.7%,这主要是本文方法的LASC结构层所使用的仿射子空间字典考虑了视觉词汇周围的几何结构。   下面我们将本文方法与IDT特征进行融合,并与同样融合了IDT特征的其他方法进行比较。本文使用Peng等人[19]的方法,在视频中提取IDT特征,即沿着视频轨迹提取HOGHOFMBH特征,使用FV3种特征进行编码,得到的3种编码向量分别送入SVM分类器,最后对不同编码向量的预测得分取均值作为IDT特征的SVM分数。本文方法与IDT特征进行融合时,IDT  特征的SVM 分数与空间流和时间流的视频表达预测分数进行离线加权融合。在融合IDT特征之后,本文方法得到进一步提升,在UCF101数据集和HMDB51数据集上分别提高0.8%2.9%,说明本文方法与IDT 特征具有一定的互补性。与其他融合了IDT特征的方法相比,也具有一定优势。综上所述,相比其他人体行为识别算法,本文方法在UCF101HMDB51取得了具有竞争力或者更好的效果。   图8  本文方法在HMDB51数据集上的混淆矩阵  4.5.2  Something-V1数据集 本小节主要在Something-V1数据集上仅使用RGB图像进行实验,即在只评估空间流网络性能的情况下,将本文方法与双流卷积网络和TSN方法进行比较。由于对比算法没有进行在该数据集的实验,表5中对比算法的结果均为复现的实验结果。  表5  Something-V1数据集上本文方法与其他行为识别方法的准确率(%)比较 方法  模型  准确率(%) 双流卷积网络[48-49]  VGG-16  8.9 TSN [26]  VGG-16  11.6 本文方法  VGG-16  13.2    张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  13  如表5所示,双流卷积网络和TSN的识别准确率分别为7.6%11.6%,本文方法比双流卷积网络方法提升4.3%,比TSN方法提升1.6%,能够证明LASC结构层在聚合视频局部特征时起到了作用。 4.6 本文方法混淆矩阵分析 混淆矩阵能够统计出识别算法在每一类的识别率以及最容易混淆的动作类别。本节将主要分析本文方法的混淆矩阵,图8为本文方法在HMDB51的第1个划分上的混淆矩阵。如图7所示,本文方法对于“引体向上”、“骑自行车”、“攀登”和“打高尔夫球”这4个动作类识别效果较好,识别准确率分别达到了100%100%97%97%,然而本文方法在“练剑”、“挥手”和“扔”这3个动作类的识别效果比较差,识别准确率仅为17%23%23%。最容易有混淆的两组动作分别是“侧手翻”和“单手倒立”以及“练剑”和“拔剑”。这两组动作有着较强的相似性,识别时发生混淆的原因很大可能是由于两个动作包含相同的视觉词汇,所以不同的动作表示为相同的视觉词汇组合。例如练剑和拔剑这两个动作都包含“剑”这类表观视觉词汇,同时也都包括“挥动手臂”这类运动视觉词汇。  5  结    论 本文针对经典双流卷积网络无法建模视频中长时信息的不足,提出了基于局部约束仿射子空间编码的时空特征聚合卷积网络模型。该网络能够聚合整段视频的时空特征,获得全局视频表达。本文主要有以下贡献:首先,将图像分类中的LASC编码方法设计为结构层嵌入到了双流卷积网络中,实现了能够端到端优化的时空特征聚合网络。其次,在LASC结构层中,使用软正交约束,无穷范数约束和谱范数约束这三种正则方法约束子空间正交基在网络训练过程中保持正交。另外,在使用谱范数约束时,本文使用能量迭代法近似计算矩阵谱范数,降低了计算复杂度。本文在HMDB51数据库上进行了一系列消融实验,确定了模型参数,在UCF101HMDB51Something-V1数据集的RGB图像进行的实验表明,本文提出的方法优于其他行为识别方法,融合IDT特征能进一步提升识别准确率。同时,在双流卷积网络中嵌入LASC结构层,网络参数量减少了4倍,证明LASC结构层取代了双流卷积网络中的全连接层,获得了高维度且更具有分辨能力的全局视频非线性表达。  致  谢  感谢国家自然科学基金(No. 61471082)的资助。感谢审稿专家和编辑在百忙之中审阅本文!     参 考 文 献 [1]  LI  Xiao-Xin,  LIANG  Rong-hua.  A  review  for  face  recognition  with occlusion:  from  subspace  regression  to  deep  learning.  Chinese Journal of Computers, 2018, 41(1): 177-207 (in Chinese) (李小薪,  梁荣华.  有遮挡人脸识别综述:从子空间回归到深度学习.  计算机学报, 2018, 41(1): 177-207) [2]  HE  Guo-Cai,  LIU  Xia-Bi.  Unsupervised  visual  representation learning  with  image  triplets  mining.  Chinese  Journal  of  Computers, 2019, 42(3): 453-482 (in Chinese) (何果财,  刘峡壁.  基于图像三元组挖掘的无监督视觉表示学习. 计算机学报, 2018, 41(12): 153-169) [3]  LIU  Hao-miao,  WANG  Rui-ping,  SHAN  Shi-guang,  et  al.  Learning to  hash  with  discrete  optimization.  Chinese  Journal  of  Computers, 2019, 42(3): 453-482 (in Chinese) (刘昊淼,  王瑞平,  山世光等.  基于离散优化的哈希编码学习方法. 计算机学报, 2019, 42(5): 1149-1160) [4]  ZHANG  Shun,  GONG  Yi-Hong,  WANG  Jin-Jun.  The  development of deep convolutional neural network an its applications on computer vsion.  Chinese  Journal  of  Computers,  2019,  42(3):  453-482  (in Chinese) (张顺,龚怡宏,王进军.  深度卷积神经网络的发展及其在计算机视觉领域的应用.  计算机学报, 2019, 42(3): 453-482) [5]  Russakovsky O, Deng J, Su H, et al. ImageNet: large scale visual recognition challenge//Proceedings of the 2011 IEEE Conference on Computer  Vision  and  Pattern  Recognition.  Columbus,  USA,  2014, 115(3): 211-252 [6]  Krizhevsky  A,  Sutskever I,  Hinton  G. ImageNet  classification  with deep  convolutional  neural  networks//Proceedings  of  the  25th International Conference on Neural Information Processing Systems. Lake Tahoe, USA, 2012: 1097-1105 [7]  Chatfield K, Simonyan K, Vedaldi A, et al. return of the devil in the details: delving deep  into  convolutional  nets//Proceedings  of  the British Machine Vision Conference. Nottingham, US, 2014 [8]  He  K,  Zhang  X,  Ren  S,  Sun  J.  Deep  residual  learning  for  image recognition//Proceedings  of  the  2016  IEEE  Conference  on Computer Vision and Pattern Recognition. Las Vegas, USA, 2016: 770-778 [9]  Ioffe S, Szegedy C. Batch normalization: accelerating deep network training  by  reducing  internal  covariate  shift//Proceedings  of  the International Conference on Machine Learning. Lille, France, 2015:  448-456 14  计  算  机  学  报  2020年  [10] Simonyan K, Zisserman A. Two-Stream convolutional networks for action  recognition  in  videos//Proceedings  of the  27th  International Conference  on  Neural  Information  Processing  Systems.  Montreal, CAN: NIPS Foundation, Inc., 2014. 568-576 [11] Tran  D,  Bourde0v  L  D,  Fergus  R,  et  al.  Learning  Spatiotemporal Features  with 3D Convolutional  Networks//Proceedings  of the 15th International Conference on Computer Vision. Santiago, USA: IEEE, 2015. 4489-4497 [12] Li  P, Lu  X,  Wang  Q,  et  al.  From  dictionary  of  visual  words  to subspaces: Locality-constrained affine subspace coding//Proceedings of the  2015  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Boston, USA, 2015: 2348-2357 [13] Sivic  J, Zisserman  A,  Video  google:  A  text  retrieval  approach  to object  matching  in  videos//Proceedings  of  the  2003  IEEE International  Conference on Computer Vision. Sydney,  AUS,  2003: 1470-1477 [14] Canas  G, Poggio  T,  Rosasco  L,  Learning  manifolds  with  k-means and  k-flats//Proceedings  of  the  25th  International  Conference  on Neural  Information  Processing  Systems.  Montreal,  CAN:  NIPS Foundation, Inc., 2012. 24652473 [15]  Wang  H,  Klaser  A,  Schmid  C.  Liu  C.  Action  recognition  by  dense trajectories//Proceedings of the 2011 IEEE Conference on Computer Vision  and  Pattern  Recognition.  Colorado  Springs,  USA,  2011: 3169-3176 [16]  Dalal  N,  Triggs  B.  Histograms  of  oriented  gradients  for  human detection.  computer  vision  and  pattern  recognition//Proceedings  of the  2005  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. San Diego, USA, 2005: 886-893 [17] Dalal  N,  Triggs  B, Schmid  C.  Human  detection  using  oriented histograms of flow and appearance//Proceedings of the 9th European Conference  on  Computer  Vision.  Graz,  Austria:  Springer,  2006. 428-441 [18] Wang H, Schmid C. Action recognition with improved trajectories// Proceedings  of  the  14th  International  Conference  on  Computer Vision. Sydney, AUS, 2013: 3551-3558 [19] Peng X, Wang L, Wang X, Qiao Y. Bag of visual words and fusion methods  for  action  recognition:  Comprehensive  study  and  good practice. Computer  Vision  and  Image  Understanding,  2016,  150: 109-125 [20] Van Gemert J C, Veenman C J, Smeulders A W, et al., Visual word ambiguity. IEEE  Transactions  on  Pattern  Analysis  and  Machine Intelligence 2010, 32(7): 1271-1283 [21] Wang J,  Yang J,  Yu  K,  et al. Locality-constrained  linear coding  for image  classification//Proceedings  of the  2010  IEEE  Conference  on Computer  Vision  and  Pattern  Recognition.  San  Francisco,  USA, 2010: 3360-3367 [22] Yang J, Yu K, Gong Y, et al. Linear spatial pyramid matching using sparse  coding  for  image  classification//Proceedings  of the  2009 IEEE Conference on Computer Vision and Pattern Recognition. Salt Lake City, USA: IEEE, 2009. 1794-1801 [23] Jegou  H,  Douze  M,  Schmid  C,  et al.  Aggregating  local  descriptors into a compact image representation//Proceedings of the 2010 IEEE Conference on  Computer  Vision  and  Pattern  Recognition.  San Francisco, USA, 2010: 3304-3311 [24]  Sanchez J, Perronnin F, Mensink T, et al., Image classification with the  fisher  vector:  Theory  and  practice.  International  Journal  of Computer Vision, 2013, 105(3): 222-245 [25] Feichtenhofer  C,  Pinz  A,  Zisserman  A.  Convolutional  two-stream network  fusion  for  video  action  recognition//Proceedings  of  the 2016  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Las Vegas, USA, 2016: 1933-1941 [26]  Wang  L,  Xiong  Y,  Wang  Z,  et  al.  Temporal  segment  networks: towards  good  practices  for  deep  action  recognition//Proceedings  of the 14th European Conference on Computer Vision. Amsterdam, NZ: Springer, 2016: 20-36 [27]  Girdhar  R,  Ramanan  D,  Gupta  A,  et  al.  ActionVLAD:  Learning spatio-temporal  Aggregation  for  Action  Classification//Proceedings of  the  2017  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Honolulu, Hawaii, USA, 2017: 3165-3174 [28] Arandjelovic  R,  Gronat  P,  Torii  A,  et  al.  NetVLAD:  CNN architecture  for  weakly  supervised  place  recognition.  IEEE Transactions  on  Pattern  Analysis  and  Machine  Intelligence  2018, 40(6): 1437-1451  [29] Arandjelovic  R,  Gronat  P,  Torii  A,  et  al.  NetVLAD:  CNN architecture for weakly supervised place recognition//Proceedings of the  2016  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Las Vegas, USA, 2016: 5297-5307 [30] Wang Y , Long M , Wang J , et al. Spatiotemporal Pyramid Network for  Video  Action  Recognition//Proceedings  of  the  2017  IEEE Conference on Computer Vision and Pattern Recognition. Honolulu, Hawaii, USA, 2017: 1529-1538 [31] Bilen  H  ,  Fernando  B  ,  Gavves  E  ,  et  al.  Action  Recognition  with Dynamic  Image  Networks.  IEEE  Transactions  on  Pattern  Analysis and Machine Intelligence, 2017:1-1. [32] Zhang B , Wang L , Wang Z , et al. Real-Time Action Recognition with  Deeply-Transferred  Motion  Vector  CNNs.  IEEE  Transactions on Image Processing, 2018:1-1.  [33] Ng Y H , Hausknecht M , Vijayanarasimhan S , et al. Beyond Short Snippets:  Deep  Networks  for  Video  Classification//Proceedings  of the  2015  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Boston, USA, 2015: 46944702. [34] Varol  G,  Laptev  I,  Schmid  C,  et  al.  Long-Term  Temporal Convolutions for Action Recognition. IEEE Transactions on Pattern Analysis and Machine Intelligence 2018, 40(6): 1510-1517 [35] C. Si, Y. Jing, W. Wang, L. Wang, and T. Tan. Skeleton-based action recognition  with  spatial  reasoning  and  temporal  stack  learning//   张冰冰等:基于局部约束仿射子空间编码的时空特征聚合卷积网络模型  15  Proceedings  of  the 15th  European  Conference,  Munich,  Germany: Springer, 2018. [36]  Si  C,  Chen  W,  Wang  W,  et  al.  An  Attention  Enhanced  Graph Convolutional  LSTM  Network  for  Skeleton-Based  Action Recognition//Proceedings  of  the  2019  IEEE  Conference  on Computer Vision and Pattern Recognition. Long Beach, USA: IEEE, 2019.  [37] Miech  A,  Laptev I,  Sivic J.  Learnable  pooling  with  Context  Gating for video classification. 2017. [38] Hastie  T, Tibshirani  R, Friedman  J, The  Elements  of  Statistical Learning, Springer, 2009 [39] Bansal  N,  Chen  X,  Wang  Z, et  al.  Can  We  Gain  More  from Orthogonality  Regularizations  in  Training  Deep Networks//Proceedings  of  the 33th  Annual  Conference  Neural information  processing  systems.  Montréal,  CANADA,  2018: 4266-4276 [40] Emmanuel  J  Candes  and  Terence  Tao.  Decoding  by  linear programming.  IEEE  transactions  on  information  theory,  2005, 51(12): 42034215 [41] Miyato  T,  Kataoka  T,  Koyama  M,  et  al.  Spectral  Normalization  for Generative  Adversarial  Networks//Proceedings  of  International Conference on Learning Representations, Vancouver, Canada, 2018 [42] Yoshida Y, Miyato T. Spectral norm regularization for improving the generalizability of deep learning. 2017. [43] Khurram  Soomro,  Zamir  A  R,  Shah M.  UCF101:  A  dataset  of  101 human  actions  classes  from  videos  in  the  wild.  CRCV-TR-12-01, 2012  [44] Kuehne  H,  Jhuang  H,  Garrote  E ,  et  al.  HMDB:  A  large  video database  for  human  motion  recognition//Proceedings  of  the  2011 IEEE International Conference on Computer Vision. Barcelona, ES, 2011: 2556-2563 [45] https://20bn.com/datasets/something-something/v1 [46] https://tensorflow.google.cn [47] Kingma  D,  Ba  J.  Adam:  A  method  for  stochastic optimization//Proceedings  of  3rd  International  Conference  for Learning Representations San Diego, USA, 2015 [48] Wang X, Farhadi A, Gupta A. Actions-Transformations//Proceedings of the  2016  IEEE  Conference  on  Computer  Vision  and  Pattern Recognition. Las Vegas, USA, 2016: 5297-5307 [49] Wang L, Xiong Y, Wang Z, et al. Towards good practices for action recognition. Technical Report on Arxiv, 2016 [50] Wang L, Qiao Y, Tang X. Action recognition with trajectory-pooled deep-convolutional  descriptors//Proceedings  of  the  2015  IEEE Conference  on  Computer  Vision  and  Pattern  Recognition.  Boston, USA, 2015: 4305-4314         附录1.  能量迭代法近似计算矩阵谱范数的推导过程 假设矩阵B的谱范数为max( ) ( )Tsl= B B B,其中max()Tl BBTBB的最大特征值.  下面推导能量迭代法近似求解矩阵B谱范数的过程: 假设TG = B BG的各个特征根1,...,nll中,最大的特征根严格大于其余的特征根,那么G的特征向量1,...,nη η构成完备的基底                      011=nncc+×××+ u η η()                       (1) 每次执行迭代过程:   ,TT¬¬B u BvvuBv Bu                             2) 忽略(2)式中TTBuBuBvBv的归一化的过程,迭代过程相当于式(1)的两端进行矩阵G的重复左乘,即:                (0)1 1 1 n n ncc t t tll = +×××+ Gu η η               (3) 其中,t为迭代次数,1l为矩阵G的最大特征根,(3)式两端均除以1tl:      (0)21 1 2 21 1 1+nnn c c ct t tt t tl ll l l= + ×××+Guη η η       (4) 根据假设,G最大的特征根大于其余的特征根,则(4)式中的1/ ( [2, ])iin llÎ均小于1,当t®¥时,(4)式中的1/ ( [2, ])iin ttllÎ均趋于零,上式可以重写为:                                    (0)111cttl»Guη                         (5) 忽略模长,(5)式表明,t足够大时,(0) tGu提供了最大特征值对应特征向量的近似方向,每一步的归一化是为了防止溢出.  (0) (0)/tt = u B u B u就是对应的单位特征向量,即: 1=l Gu u                               6)                                                      11 == TTll u Gu u u                        7) 即可求出矩阵B的谱范数的平方。   16  计  算  机  学  报  2020年   ZHANG Bing-bingborn in 1990, Ph.D. candidate. Her current research  interests  include  human action  recognition,  image classification and deep learning.   LI  Pei-hua,  born  in  1971,  Ph.  D.,  professor,  Ph.  D. supervisor.  His  research  interests  include deep  learning, image/video  recognition,  object  detection  and  semantic segmentation. Sun  Qiu-le,  born  in  1991, Ph.D.  candidate. His  research interests include image recognition, semantic segmentation    Background Video-based  human  action  recognition  has  drawn increasing attention considering its potential in a wide range of applications,  such  as  video  surveillance,  human-computer interaction  and  social  video  recommendation.  For  action recognition in videos, there are two crucial and complementary cues:  appearances and  temporal  dynamics.  To  model  the  two cues  above,  most  recent  video  representations  for  action recognition  are  primarily  based  on  two  different  CNN architectures:  (1)  3D  spatial-temporal  convolutions  that potentially learn complicated spatial-temporal dependencies but the  large  amount  of  parameters  in  3D  CNNs make  it  hard  to train  in  practice; (2)  Two-stream  architectures  that  decompose the  video  into  motion  and  appearance  streams,  and  train separate CNNs for each stream, fusing the outputs in the end.                        Two-stream  architecture-based  methods  have  been widely-used  in  academic  community  due  to  its  less computation  complex  than  3D  CNNs.  However,  two-stream architectures largely disregard the long-term temporal structure of the video and essentially learn a classifier that operates on individual  frames  or  short  clip  of  few  (up  to  10)  frames possibly  enforcing  consensus  of  classification  scores  over different  segments  of  the  video.  At  test  time,  T  (typically  25) uniformly  sampled  frames  (with  their  motion  descriptors)  are classified  independently  and  the  classifications  scores  are averaged to get the final prediction. of the video and essentially learn a classifier that operates on individual frames or short clip of  few  (up  to  10)  frames  possibly  enforcing  consensus  of classification scores over different segments of  the  video.  At test time, T (typically 25) uniformly sampled frames (with their motion  descriptors)  are  classified  independently  and  the classifications scores are averaged to get the final prediction. Based  on  two-stream  architecture,  we  present  a structure layer to aggregate the long-term  temporal  information covered the  whole  video.    The  aggregation  method  is  inspired  by  our previous work on the  IEEE  Conference  on  Computer  Vision and  Pattern  Recognition  of  2015,  which  is  called  as From dictionary  of  visual  words  to  subspaces:  Locality-constrained affine subspace coding. We extend LASC to a structure layer with  learnable  parameters  that  can  plug  into  the  CNNs  to realize  end-to-end parameter  optimization.  The  structure  layer is inserted to the last layer convolutional layer of spatial stream and  temporal  stream  to  acquire  more robust high-dimension representation and the two fully-connected layer in two-stream architecture is totally replaced. It is noted that the parameter of the prosed network is 4 times less than the original two-stream model. As  the  experiment  results  shown,  our  method achieves the  better  performance  compared  to  the  other  human  action recognition algorithm with the comparison of relative fairness. This  work  is  supported  by  the National  Natural  Science Foundation of China (NO. 61471082). 

[返回]
上一篇:集成偏好的高维多目标最优软件产品选择算法
下一篇:面向多无人机协同飞行控制的云系统架构