Test Time Training

sim 2 real，本质上是解决从训练到部署的distribution shift问题。 Test-time-training的核心insight是，我们在训练阶段总是很难去预测这个distribution shift会shift多少，在哪些方面、以何种规律和范围发生，因此，我们干脆不在训练阶段去试图提前 prepare the parameters for such shift，而是在 test time 根据数据再调整参数使其适应测试集的分布。我觉得可以理解为一种在线系统辨识方法。 这里面的难点在于

1. Test time input 缺乏 GT 标注，需要自监督学习。
2. data arrives in temporal order

最开始的 TTT 用在图像分类任务上。自监督方法是图像旋转预测，以旋转标签为监督，让一个特征提取module在线学习从新的图像分布中提取有意义的几何特征，用于进行下游分类。