图像配准是计算机视觉领域的一个基础步骤。在本文深入探讨深度学习之前，我们先展示一下opencv中基于特征的方法。
什么是图像配准？
图像配准就是将同一个场景的不同图像转换到同样的坐标系统中的过程。这些图像可以是不同时间拍摄的（多时间配准），可以是不同传感器拍摄的（多模配准），可以是不同视角拍摄的。这些图像之间的空间关系可能是刚体的（平移和旋转）、仿射的（例如错切），也有可能是单应性的，或者是复杂的大型形变模型。
图像配准有很广泛的应用：只要我们面对的任务需要比较相同场景的多张图片，它就是必不可少的。它在医学影像、卫星图像分析以及光流领域都是很常用的。
.jpg)
经过配准后的ct扫描和核磁共振图像
在本文中，我们会重点关注在一张参考图像和一张待配准图像之间进行图像配准的不同方法。我们不会选择迭代式的/基于强度的方法，因为它们并不像本文中提到的方法这样常用。
传统的基于特征的方法
自本世纪初以来，图像配准主要使用传统的基于特征的方法。这些方法基于三个步骤：关键点检测和特征描述，特征匹配，图像变形。简而言之，我们在两幅图像中选择兴趣点，将参考图像中的每个兴趣点和它在待配准图像中的对应点关联起来，然后对待批准图像进行变换，这样两幅图像就得以对齐。
对一个图像对通过单应性变换进行关联的基于特征的方法
关键点检测和特征描述
关键点就是感兴趣的点。它定义了一幅图像中重要并且有特点的地方（如角，边等）。每个关键点都由一个描述子（包含关键点本质特点的特征向量）表征。描述子应该对图像变换（如位置变换、缩放变换、亮度变换等）是鲁棒的。很多算法都要执行关键点检测和特征描述：
sift（scale-invariantfeaturetransform，尺度不变的特征变换）是用于关键点检测的原始算法，但是它并不能免费地被用于商业用途。sift特征描述子对均衡的缩放，方向、亮度变化是保持不变的，对仿射形变也是部分不变的。surf（speededuprobustfeatures，加速鲁棒特征）是受到sift深刻启发设计的检测器和描述子。与sift相比，它的运行速度要快好几倍。当然，它也是受专利保护的。orb（定向的fast和旋转的brief）是基于fast（featuresfromacceleratedsegmenttest）关键点检测器和brief（binaryrobustindependentelementaryfeatures）描述子的组合的快速二值描述子，具有旋转不变性和对噪声的鲁棒性。它是由opencvlab开发的高效、免费的sift替代方案。akaze(accelerated-kaze)是kaze的加速版本。它为非线性尺度空间提出了一种快速多尺度的特征检测和描述方法。它对于缩放和旋转也是具有不变性的，可以免费使用。这些算法在oencv中都得到了实现，易于使用。在下面的例子中，我们使用了akaze的opencv实现。其它算法的代码大致也是一样的：只需修改一下算法的名字即可。
图像的关键点
特征匹配
当组成一个图像对的两张图的关键点都被识别出来以后，我们需要将它们关联（或称「匹配」）起来，两张图像中对应的关键点在现实中是同一个点。一个可以实现该功能的函数是「bfmatcher.knnmatch()」。这个匹配器（matcher）会衡量每一对关键点的描述子之间的距离，然后返回与每个关键点距离最小的k个最佳匹配结果。
接下来，我们应用比例滤波器来保持正确的匹配。事实上，为了实现可靠的匹配，配对的关键点应该比距离最近的错误匹配点更接近。
配对的关键点
图像变形
在匹配到至少4对关键点之后，我们就可以将一幅图像相对于另一幅图像进行转换。这个过程被称作图像变形（imagewarping）。空间中同一平面的任意两幅图像都是通过单应性变换关联起来的。单应性变换是具有8个参数的几何变换，通过一个3×3的矩阵表征。它们代表着对一幅图像整体所做的任何变形（与局部形变不同）。因此，为了得到变换后的待配准图像，我们计算了单应矩阵，并将它应用在了待配准图像上。
为了保证最优的变形，我们使用了ransac算法来检测轮廓，并且在进行最终的单应性变换之前将轮廓删除。该过程直接内置于opencv的「findhomography()」函数中。目前也有一些ransac的替代方案，例如lmed（least-medianrobustmethod，最小中值鲁棒方法）。
变形后的待配准图像
深度学习方法
目前大多数的图像配准研究都涉及到深度学习的使用。过去几年里，深度学习方案在计算机视觉任务中（如图像分类、目标检测和分割）达到了最先进的性能。当然，图像配准也没有理由拒绝深度学习。
（二级）特征提取
深度学习在图像配准中使用的第一种方式就是将其用于特征提取。在卷积神经网络（cnn）中，连续的层能够成功地捕获到越来越复杂的图像特征，学习到特定任务的特征。自2014年以来，研究者们就开始将这些神经网络应用于特征提取步骤，代替使用sift或者其它类似的算法。
2014年，dosovitskiy等人提出了通用特征学习方法，仅使用无标签的数据来训练卷积神经网络。这些特征的泛化属性使得它们对变换是鲁棒的。这些特征（或称描述子），在匹配任务中要优于sift描述子。2018年，yang等人基于同样的思想研发了一种非刚性配准方法。他们使用预训练的vgg网络层来生成能够同时保持卷积信息和定位能力的特征描述子。这些描述子似乎也要优于和sift类的描述子，尤其是在sift包含很多轮廓或者不能匹配到足够数目的特征点的情况下。sift和基于深度学习的非刚性配准方法描述子的实验结果
尽管我们在15分钟内就在自己的图像上完成了对这个配准算法的测试，但是它几乎要比我们在本文前面在sift类的方法上的实现慢了近70倍。
单应性学习
研究者们并没有局限于神经网络在特征提取上的使用，而是尝试使用神经网络来直接学习几何变换，从而对齐两张图像。
1.监督学习
2016年，detone等人发表了论文「深度单应性估计」，提出了「regressionhomographynet」网络，这是一个类似于vgg的网络，能够学习到将两幅图像关联起来的单应性变换。这个算法彰显了以端到端的方式，同时学习单应性变换以及卷积神经网络参数的好处：不再需要之前的两个步骤了！
regressionhomographynet示意图
这个网络产生了8个实数作为输出。它是以有监督的方式进行训练的，以输出和真实的单应之间的欧氏距离作为损失函数。
有监督的深度单应性估计
与所有的监督方法类似，这个单应性估计方法需要带标签的数据对。尽管在人工生成的图像对上得到这样的单应变换矩阵是很容易的，但是在真实的数据上却需要付出高昂的代价。
2.监督学习
考虑到这一点，nguyen等人提出了一种无监督的深度图像单应估计方法（
他们保持了原来的cnn，但是使用了新的、适应于无监督方法的损失函数：他们选择了不需要真实标签的光度损失（photometricloss）。此外，它还计算了参考图像和待配准变换图像之间的相似度。
l1光度损失函数
这个方法引入了两个新的网络结构：张量直接线性变换（tensordirectlineartransform）和空间变换层。我们在本文中不会详述这些组成部分的细节，我们只要知道这些是被用来使用cnn模型的单应性参数输出获得变换后的待配准图像就行了，我们会用它计算光度损失函数。
无监督深度单应性估计
这篇文章的作者称，与传统的基于特征的方法相比，这种无监督方法以更快的推理速度得到了相当的或者更高的准确率，以及关于光照变化的鲁棒性。此外，与监督方法相比，它还具有更高的适应能力和性能。
其它方法
1.强化学习
作为医疗应用中的配准方法，深度强化学习正日益受到关注。与预定义的优化算法不同，在该方法中，我们使用训练过的智能体（agent）来进行配准。
基于强化学习的配准流程示意图
2016年，liao等人首次在图像配准中使用强化学习。他们的方法是以用于端到端训练的贪婪监督算法为基础的。其目标是通过找到最佳的动作序列来对齐图像。虽然这种方法优于一些目前最先进的模型，但是它仅仅被用于刚性变换。强化学习也被用在更加复杂的变换中。在论文中，krebs等人使用了人工智能体来优化形变模型的参数。这个方法在前列腺核磁共振图像的受试者间配准上进行了测试，在2d和3d图像上都展现出了良好的效果。2.复杂变换
目前有很大一部分关于图像配准的研究关注于医疗图像领域。通常，由于受试者的局部形变（如呼吸变化、解剖学变化等），两幅医疗图像之间的变换不能简单地通过单应矩阵来描述。所以需要更复杂的变换模型，例如可以用位移矢量场表示的微分同胚。
心脏核磁共振图像上的变形网格和位移矢量场的示例
研究者们已试图使用神经网络来估计这些拥有很多参数的大规模形变模型。
第一个例子就是上文提及的krebs等人的强化学习方法。2017年，devos等人提出了dirnet。这是一个使用cnn来预测控制点的网格的神经网络，这些控制点能够被用来生成根据参考图像来对待配准图像进行变形的位移矢量场。dirnet示意图（使用mnist数据集中的两张图像作为输入）
quicksilver配准解决了一个类似的问题。quicksilver使用深度「编码器-解码器」网络直接在图像外观上预测图块级（patch-wise）的形变。
