【论文解读】【CVPR2019】Query-guided End-to-End Person Search

论文地址:https://arxiv.org/pdf/1905.01203.pdf

1、Background

1.1、Task

Person Search:在一个完全无约束的场景图像库中定位与query person匹配的目标。

1.2、Problem

首先,作者坚信两点:

  1. detection和Re-id需要被实现在同一个优化框架下。
  2. 行人搜索需要充分地利用query image(尤其是query部分)的信息。

其次,People Search经典的方法是将该问题分为Detection和Re-id两部分考虑,并通过分开的监督网络逐个解决。而作者提出的QEEPS是第一个端到端的query引导的Detection和Re-id网络。

最后,该论文Related Work部分主要从Person Detection、Person Re-Identification、End-to-End Person Search、Query-guided person search四部分进行介绍,提到了这四个方面里一些比较经典的工作,例如Faster R-CNN、手工特征设计、度量学习、OIM等。

2、Motivation

  • 在一张图像里搜索一个人,需要看重行人衣服的颜色、纹理等特别的部分。
  • Detection和Re-id两部分需要在一个共同优化框架内。

3、Method

模型结构图
三个子网络:

  1. QSSE-Net:a Query-guided Siamese Squeeze-and-Excitation Network
    利用query和图像集图像中的全局上下文信息来给特征通道分配权重。
  2. QRPN:a Query-guided Region Proposal Network(局部)
    利用query-ROI-Pooled特征来强调图像集图像中的判别模式来产生相关的proposals。
  3. QSimNet:a Query-guided Similarity Network (局部)
    计算query和图像集图像里裁剪特征的Re-id得分。

3.1、Query-guided Siamese Squeeze-and-Excitation Network $(QSSE-Net)$

利用query和图像集图像中的全局上下文信息,计算出一个权重向量,并为特征图每个通道分配权重。
Squeeze操作:通过全局平均池压缩query和图像集的每个C通道的空间信息。
Excitation操作:应用两个全连接层的和S函数,为特征图每个通道分配权重。
QSSE-Net
它应用squeeze-and-Excitation操作,考虑到网络内通道的依赖性和网络间通道的相似性,重新校准query和图库图像通道权重。

3.2、Query-guided RPN $(QRPN)$

QRPN
QRPN:query引导的逐通道的attention机制、一个标准RPN。提取具有与query相似性分数的proposal框。
ROI Pool:池化query裁剪特征,对池化后特征图的所有通道和像素应用FC1层,再应用excitations到图库图像特征。
FC1层:压缩特征。
FC2层:扩展特征。
FC1层和FC2层的作用:强调重要的信号关联信息。

3.3 Query-guided Similarity Net $(QSimNet)$

将query中的Re-Id特征与gallery里图像块对比。
QSimNet
Re-Id特征的L2距离(逐元素的相减和平方)。
在推理阶段,为了query在gallery中的最终匹配图像,对该输出分数执行非极大值抑制(NMS)。

3.4 End-to-end Joint Optimization

$$L=\lambda_1L_{cls}+\lambda_2L_{reg}+\lambda_3L_{rpn_o}+\lambda_4L_{rpn_r}+\lambda_{5}L_{oim}+\lambda_6L{qrpn}+\lambda_7L_{sim}$$
$$L_{qrpn}=-\frac{1}{N}\sum_{N}\log(p_n^u)$$

4、Experiments

4.1、Ablation Study



5、Main contribution

1、引入了第一个query引导的端到端的网络$(QEEPS)$。
2、提出了一个query引导的Siamese squeeze-and-excitation$(QSSE)$模块(对query和图像库图像对之间的相似性建模)。
3、定义一个新的query引导的$(QRPN)$,将SE-Net扩展到query通道和空间通道。
4、定义了一个新的QSimNet,学习query引导的Re-Id分数。

“这一生志愿只要平凡快乐、谁说这样不伟大呢。”

——五月天《笑忘歌》


赏

   转载规则


《【论文解读】【CVPR2019】Query-guided End-to-End Person Search》 由 陈龙 采用 知识共享署名 4.0 国际许可协议 进行许可。
 上一篇
【论文解读】【arXiv2019】Objects as Points 【论文解读】【arXiv2019】Objects as Points
本文主要对一篇关于Object Detection任务的论文进行解读,该论文提出了一种CenterNet模型,将目标检测任务转换为关键点估计任务。
2021-01-15
本篇 
【论文解读】【CVPR2019】Query-guided End-to-End Person Search 【论文解读】【CVPR2019】Query-guided End-to-End Person Search
本文主要对一篇于2019年发表在CVPR上,关于Peoson Search任务的论文进行解读,该论文提出了一个端到端的QEEPS模型。
2021-01-14
  目录