Test-Time Adaptation (13) 썸네일형 리스트형 SHOT: Do We Really Need to Access the Source Data? Source Hypothesis Transfer forUnsupervised Domain Adaptation 논문 공부 이 논문은 ICML'20에 publish된 논문으로 2023.11.27 기준 858회의 citation을 보유하고 있다. (와우! 😮) 논문은 https://dl.acm.org/doi/abs/10.5555/3524938.3525498 에서 찾아볼 수 있고, 여러모로 TTA의 시작을 연 기념비적인 논문인 듯 하다. Introduction 이 논문은 unsupervised domain adapatation (UDA)를 푸는 논문인데, 구체적으로 source data를 전혀 사용하지 않고 오직 source model만 사용하는 test-time UDA 를 푼다. 기존의 UDA 논문 중 대부분은 source data를 사용하여 MMD 를 줄이는 등의 distribution alignment가 많이 이루어졌는데,.. CoTTA: Continual Test-Time Domain Adapation 논문 공부 이 논문 (CoTTA)은 CVPR'22에 publish된 논문이며 2023.10.26 기준 146회의 citation을 기록하고 있다. 논문은 https://arxiv.org/abs/2203.13591에 있고, 코드는 https://qin.ee/cotta.에서 확인할 수 있다. Introduction 이 논문은 continual TTA라는 전례없는 새로운 setting을 다루고 있다. 더 깊이 들어가기 전에 이 setting을 확실히 짚고 넘가자. 이 논문 세팅의 정확한 이름은 online continual test-time adaptation 이다. online은 test data 를 한번에 쌓아놓고 모델을 training하는 방식이 아니라 inference - model evaluation을 번갈아 .. TENT: FULLY TEST-TIME ADAPTATIONBY ENTROPY MINIMIZATION 논문 공부 이 논문은 ICLR'21에 publish 된 논문으로 2023.10.24 기준 525개의 citation을 기록중이며 😲 현재 다양한 분야에서 쏟아져 나오고 있는 TTA 계열 논문들에게 많은 영감을 준 논문이다. 코드는 여기서 확인할 수 있다. 👉 https://github.com/DequanWang/tent 알고리즘 자체는 굉장히 간단하고 그에 비해 여러 task/model에서 골고루 좋은 성능을 보인다. Introduction 일반적인 deep neural network은 dataset shift (domain shift) 현상이 발생할때 대개 큰 성능 하락을 보인다고 한다. 여기서 dataset shift란 training data와 test data가 다른 현상을 말하는데 SVHN --> MNIS.. On the Robustness of Open-World Test-Time Training: Self-Training with Dynamic Prototype Expansion 논문 공부 이 논문은 CVPR'23에 publish 된 따끈따끈한 논문이다 South China 대학에서 나온 논문이며, https://github.com/Yushu-Li/OWTTT. 에서 코드도 확인할 수 있다. [논문 요약] * (거의 처음으로) open-world test-time training (TTT)를 다루었다. * Evaluation과 model update가 번갈아 진행되는 sequential TTT (sTTT)를 다루었다. Introduction 기존의 unsupervised TTT methods들은 target domain의 samples이 사전에 다 존재하는 off-line setting이 많았다. 하지만 실제 상황에서는 inference stage에 도달하기 전까지 target domain .. AdaContrast: Contrastive Test-Time Adaptation 논문 공부 해당 논문은 CVPR'22에 publish된 논문이며 현재 90회의 citation을 기록하고 있다. closed-set test-time (source-free) adaptation for image classification (길다 길어!) 를 다룬 논문이다. Introduction 현실적인 상황에서 training data와 test data의 data distribution이 일치하지 않는 domain shift 현상이 자주 나타난다. Domain Adaptation (DA)은 source domain의 정보를 target domain에 잘 transfer하여 domain shift에 강이한 모델을 학습하는 것을 목표로한다. 이 work은 특히 DA 중에서도 Test-Time (source-fre.. 이전 1 2 다음
