Uncertainty Modeling for Out-of-Distribution Generalization 论文阅读

创作不易，转载请标明出处~ 论文链接：UNCERTAINTY MODELING FOR OUT-OF-DISTRIBUTION GENERALIZATION 提出了使用不确定分布来表示feature statistics。 这个方法可以适配大多是模型，要增加一些代码。 使用DSU产生的feature statistics可以更好的贴合unsee domain的feature statistics（和training data 相关但是不同的testing data） DSU可以更好的represent feature。使得模型聚焦于图片的内容信息，从而获取更多不变的feature representation 即使testing data 和 training data属于一个domain，DSU也可以提升模型的效果。 batch size = 64时，DSU的效果最好 DSU产生的feature statistics和之前方法GD方法不同：DSU产生的feature statistic是有多个方向，多个强度的。例如：Mix Style 只能是在两个样本中混合的话，产生出来的feature statistic只能在两个样本的连线之间。而DSU就可以不同的方向、强度。 之前的工作都将feature statistics当作一个确定的值，并且没有明确地考虑到由于测试集引起的不确定的特征分布差异。 在考虑了潜在的不确定因素后，假设feature statistics是服从多参数的高斯分布 在这种假设下，feature statistics就不是一个确定的值，而是一个具有多种分布的概率点（不确定的） 当特征分布是不确定时，在训练模型时对不确定的feature statistics进行建模。从而提升模型对unseen domain的泛化能力 预备工作 ： 根据mini-batch中feature statistics算出该batch在channel wise上均值、方差。 针对batch中的一张img，将其feature statistics在channel wise上的均值、方差。 针对每个img都使用两个高斯分布来对其potential domain shift进行建模。（即新feature statistic的 (\mu, \sigma ^2) 的获取）有点绕，详细看原论文。 \mu 从:均值为该图的均值，方差为（该batch中每个img的 \mu 和batch-size的 \mu 进行计算算方差得到） 用新的均值、方差得到新的feature statistics（类似AdaIN用新的(\mu, \sigma ^2) 替换之前的。） 如图三：每个样本的\mu、 \sigma都要进行方差的计算 Notes：batch中每个样本的 \mu、 \sigma 都服从不同的高斯分布。因为每个样本的服从的高斯分布的均值是其本生。 论文中说；这个模块可以使用在网络的任意位置,并且使用一个超参数p来表示使用该模块的概率（默认p=0.5)。 疑惑：但是是否和Mix Style相同，用在CNNs偏底层的位置比较好，因为CNNs底层的特征包含更多的Style information，而高层则包含更多的语义信息。 解答：论文的消融实验表明,DSU所有Block之后是最好的。 Note: name the positions of ResNet after fifirst Conv, Max Pooling layer, 1,2,3,4-th ConvBlock as 0,1,2,3,4,5 respectively.