基于特征对比的领域泛化算法自适应选择方法

在自动驾驶、医疗等领域,模型的泛化性是衡量其安全性的重要指标。领域泛化算法选择方法可以指导使用者快速准确地选出适合的模型训练算法。针对目前尚缺乏有效的算法选择方法的问题,提出一种基于对比学习的领域泛化算法的特征对比(feature contrast, FeCo)选择方法。依据正例和负例选择策略选择特征,采用点积的方式计算特征相似度,最后通过噪声对比估计(info noise contrastive estimation, InfoNC)计算得分。使用该得分评估了同一类特征的聚合程度和不同类特征的分离程度,在3个数据集共200个领域泛化模型上进行验证。实验结果表明,在所有的方法中FeCo是唯一结果稳定的方法,FeCo的结果和模型真实泛化误差的相关性最高可达0.89,且运行时间缩短超过60倍。