사람은 수영을 배운다고 해서 자전거 타는 법을 잊지 않는다. 새로운 언어를 익혀도 모국어가 사라지지 않는다. 인간의 뇌는 새로운 것을 배우면서도 이전 지식을 자연스럽게 유지한다. 그런데 AI에게 이것은 쉽지 않은 문제다.
Gido M. van de Ven, Nicholas Soures, Dhireesha Kudithipudi가 집필한 딥러닝 교재의 챕터 'Continual Learning and Catastrophic Forgetting'(arXiv, 2024)은 이 문제를 정면으로 다룬다. 연속적으로 변화하는 데이터 스트림에서 점진적으로 학습하는 '연속 학습'의 원리와 도전 과제,그리고 지난 10년간 이 분야에서 쌓인 연구 성과를 종합적으로 리뷰한다.
문제의 핵심은 재앙적 망각이다. 인공 신경망은 새로운 과제를 학습할 때 기존에 학습했던 것을 갑작스럽고 대규모로 잊어버리는 경향이 있다. 예를 들어 고양이를 인식하도록 훈련된 모델에 새로운 개 인식 과제를 학습시키면, 이전에 잘 하던 고양이 인식 성능이 급격히 떨어진다. 이것은 신경망의 가중치가 새로운 과제에 맞춰 업데이트될 때 기존 과제에 필요한 가중치 패턴을 덮어쓰기 때문이다.
반면 인간의 뇌는 왜 이런 문제를 겪지 않을까?생물학적 신경망은 새로운 기억을 형성할 때 기존 기억과의 간섭을 최소화하는 여러 메커니즘을 갖추고 있다. 해마가 새로운 경험을 임시 저장하고,수면 중 반복 재활성화를 통해 장기 기억으로 천천히 통합하는 과정이 대표적이다. AI 연구자들은 이런 생물학적 원리에서 아이디어를 얻어 연속 학습 알고리즘을 개발해왔다.
지난 10년간 이 분야에서 제안된 접근법은 크게 세 가지로 나뉜다. 첫 번째는 정규화 기반 방법으로,과거 과제에 중요했던 가중치를 새로운 학습에서 덜 변경되도록 제약을 걸어 망각을 억제한다. 두 번째는 리허설 방법으로,과거 데이터 샘플을 저장하거나 생성해 새로운 학습 시 함께 재활성화한다. 세 번째는 파라미터 격리 방법으로, 과제마다 별도의 신경망 파라미터 영역을 할당해 간섭 자체를 막는다.
이 리뷰 챕터는 단순히 방법론을 나열하는 것을 넘어, 연속 학습 연구가 10년간 어떤 관점에서 발전해왔는지를 체계적으로 정리한다는 점에서 가치가 있다. 챕터 형식의 리뷰이므로 직접적인 실험 결과보다는 분야의 흐름과 핵심 개념을 이해하는 데 적합하다.
AI 시스템이 현실 세계에서 지속적으로 학습하고 진화하려면 재앙적 망각 문제를 반드시 풀어야 한다. 자율주행 차량이 새로운 도로 상황을 배우면서도 기존 운전 지식을 잃지 않아야 하고, 의료 AI가 새로운 질환 데이터를 학습해도 기존 진단 능력을 유지해야 한다. 연속 학습 연구는 AI가 진정으로 '성장하는 지능'이 되기 위한 핵심 과제다.
📖 *Continual Learning and Catastrophic Forgetting* |
논문 원문
※ 이 기사는 학술 논문을 바탕으로 작성되었습니다. 기술 세부사항은 원문을 참조하세요.
A person who learns to swim doesn't forget how to ride a bike. Picking up a new language doesn't erase the first. The human brain continuously acquires new knowledge while retaining what came before — a feat so fundamental that we rarely think about it. For artificial neural networks, this seemingly simple ability remains one of the field's most stubborn unsolved problems.
The book chapter "Continual Learning and Catastrophic Forgetting" by Gido M. van de Ven, Nicholas Soures, and Dhireesha Kudithipudi (arXiv, 2024) takes a comprehensive look at this challenge, synthesizing a decade of deep learning research on what the authors call continual learning — the process of incrementally learning from a non-stationary stream of data.
At the heart of the problem is catastrophic forgetting: when artificial neural networks learn something new, they tend to rapidly and drastically overwrite what they learned before. Train an image classifier to recognize cats, then retrain it on dogs, and its cat-recognition performance collapses. The network's weights, optimized for the new task, interfere destructively with the representations built for the old one. The term "catastrophic" isn't hyperbole — the forgetting is typically sudden and severe.
The biological brain avoids this largely through mechanisms that AI systems lack. The hippocampus serves as a short-term buffer for new experiences, gradually consolidating them into long-term cortical storage through processes that include offline replay during sleep. This separation of fast and slow learning systems protects existing knowledge from new information's interference. Deep learning researchers have drawn inspiration from these biological principles in designing continual learning algorithms.
The review organizes the field's approaches into three broad families. Regularization-based methods add constraints to the learning process, penalizing changes to weights that were important for previous tasks — a computational analogue to protecting established memories. Rehearsal-based methods periodically replay stored or generated samples from old tasks during new training, mimicking the hippocampal replay mechanism. Parameter isolation methods allocate separate network subsets for different tasks, preventing interference at the structural level.
Beyond cataloguing methods, the chapter synthesizes how the field's conceptual framing has evolved over a decade. Early work focused primarily on preventing forgetting in fixed task sequences; more recent research has grappled with harder settings where task boundaries are unknown or where the data distribution shifts continuously rather than discretely. The chapter is intended as an accessible entry point — a review of insights rather than a primary empirical contribution — making it particularly useful for researchers and engineers new to the area.
The practical stakes are significant. Autonomous vehicles that learn from new road conditions must not lose knowledge of old ones. Medical AI that updates on new disease data should retain its existing diagnostic capabilities. Recommender systems that adapt to user behavior shifts should not forget a user's long-term preferences. Continual learning is the prerequisite for AI systems that can genuinely grow and adapt in the real world — not just in the controlled settings of benchmark evaluations.
The problem remains open. No existing method fully replicates the brain's elegant balance between stability and plasticity. But a decade of sustained research has produced a rich toolkit of partial solutions, clearer problem formulations, and a deeper understanding of why the challenge is so difficult. This chapter offers a guided tour of that progress.
📖 *Continual Learning and Catastrophic Forgetting (Review chapter, arXiv 2024)* |
Source paper
*This article is based on an academic paper. Please refer to the original for technical details.*
