본문 바로가기

Test-Time Adaptation

(13)
Meta-DMoE: Adapting to Domain Shift byMeta-Distillation from Mixture-of-Experts 논문 공부 알고리즘 소개 이 논문은 Meta-learning을 사용해서 TTA를 해결한 논문이다. Meta-learning은 다른말로 learning-to-learn 이라고도 부르는데 실질적인 main task이외에 (main task의 성능을 향상시킬 수 있는) auxiliary meta task 동시에 학습한다. 이 논문에서 meta task는 neural network을 transformer를 사용하여 new domain에 적응시키는 작업이다. 이 경우 meta task를 수행하는 transformer가 meta model이 되며 이 transformer를 학습하는 과정이 meta-update, main task를 수행하는 model을 학습하는 과정이 그냥 update가 되겠다. 이 학습과정은 주로 bi-le..
PETAL : A Probabilistic Framework for Lifelong Test-Time Adaptation 논문 공부 이 논문은 CVPR'23에 publish된 논문으로 2023.12.21 기준 12회의 citation을 보유하고 있다. 이전에 리뷰했던 논문 CoTTA나 ECoTTA 처럼 continual TTA 를 다루는 논문인데,, source domain에 pretrain된 model이 15개 정도의 target domain (e.g., corruption) 에 순차적으로 adapt하며 매 domain을 거칠때마다 성능을 측정한다. 언제 새로운 target domain으로 전환되는지에 대한 줄 수 없기 때문에 빠르게 적응할 수 있고, catastrophic forgetting에 강인한 TTA 논문을 개발하는 것이 중요하다. 이 논문은 https://arxiv.org/abs/2212.09713 에서 찾아볼 수 있고,..
NHL : Neuro-Modulated Hebbian Learning for Fully Test-Time Adaptation 논문 공부 이 논문은 CVPR'23에 publish된 논문으로 2023.12.12 기준 11회의 citation을 보유하고 있다. Hebbian learning이라는 특이한 기술을 사용해서 early layer의 representation learning을 진행했는데, TENT, DUA, TTT 같은 baseline 을 능가하는 성능을 보였다고 한다. Hebbian이 되게 좋은 아이디어인 것 같고,, TTA 에 두루두루 적용하기에 참 좋은 것 같기는 한데... 내가 Hebbian learning에 대해 가지고 있는 배경지식이 너무 빈약한데에 비해,,, 알고리즘 설명이 너무 불친절하고,, 코드가 안올라와 있어서 (제일 치명적) 이 논문을 내 연구에 적극적으로 반영하긴 힘들듯 하다.. 😥😥 논문은 https://arx..
EcoTTA: Memory-Efficient Continual Test-time Adaptationvia Self-distilled Regularization 논문 공부 이 논문은 CVPR'23에 publish된 논문으로 2023.12.12 기준 15회의 citation을 보유하고 있다. Continiual TTA에 사용할 수 있는 memory-efficient method 인데, self-distillation을 추가로 적용하여 catastrophic forgetting에 의한 성능 감소를 완화시켰다. 논문은 https://openaccess.thecvf.com/content/CVPR2023/html/Song_EcoTTA_Memory-Efficient_Continual_Test-Time_Adaptation_via_Self-Distilled_Regularization_CVPR_2023_paper.html에서 찾아볼 수 있고, 코드는 https://github.com/Li..
LAME: Parameter-free Online Test-time Adaptation 논문 공부 이 논문은 CVPR'22에 publish된 논문으로 2023.12.08 기준 62회의 citation을 보유하고 있다. 논문은 https://openaccess.thecvf.com/content/CVPR2022/papers/Boudiaf_Parameter-Free_Online_Test-Time_Adaptation_CVPR_2022_paper.pdf 에서 찾아볼 수 있고, 코드는 https://github.com/fiveai/LAME 에서 볼 수 있다. Introduction 우선 이 논문이 adaptation 이 아니라 correction 에 대한 논문이라는 것을 알고 넘어가자. 여기서 adaptation이란 TTA 동안 model parameter를 update하는 것이고, correction은 mod..
ViTTA: Video Test-Time Adaptation for Action Recognition 논문 공부 이 논문은 CVPR'23에 publish된 논문으로 2023.11.30 기준 4회의 citation을 보유하고 있다. 논문은 https://openaccess.thecvf.com/content/CVPR2023/html/Lin_Video_Test-Time_Adaptation_for_Action_Recognition_CVPR_2023_paper.html 에서 찾아볼 수 있고, 코드는 https://github.com/wlin-at/ViTTA 에서 찾아볼 수 있다. Introduction 이 논문은 action recognition (video) 에다가 (자칭) Test-time adaptation (TTA) 을 최초로 접목시킨 논문이다. 기존에 image classification domain에서 TTA를 ..
SAR : TOWARDS STABLE TEST-TIME ADAPTATION INDYNAMIC WILD WORLD 논문 이 논문은 ICLR'23에 publish된 논문으로 2023.11.29 기준 50회의 citation을 보유하고 있다. (아니 어떻게 벌써? 😮) 논문은 https://openreview.net/forum?id=g2YraF75Tj 에서 찾아볼 수 있고, 코드는 https://github.com/mr-eggplant/SAR 에서 찾아볼 수 있다. Introduction 이 논문은 기존의 TTA (test-time adaptation) method와 TTT (test-time training) method가 realistic wild setting 에서는 쉽게 fail하는 것을 보이고 이를 막을 수 있는 방법들을 제안한 논문이다. 여기서 저자는 3가지의 wild setup을 고려했는데 👉 (1) Multip..
DARTH: Holistic Test-time Adaptation for Multiple Object Tracking 논문 공부 이 논문은 ICCV'23에 publish된 논문으로 2023.11.28 기준 1회의 citation을 보유하고 있다. 논문은 https://openaccess.thecvf.com/content/ICCV2023/html/Segu_DARTH_Holistic_Test-time_Adaptation_for_Multiple_Object_Tracking_ICCV_2023_paper.html 에서 찾아볼 수 있고, 코드는 https://github.com/mattiasegu/darth 에서 찾아볼 수 있다. Introduction 이 논문은 MOT에다가 (자칭) Test-time adaptation을 최초로 접목시킨 논문이다. 기존에 source data를 사용해서 unsupervised adaptation을 푼 논문..