AI가 진짜 똑똑해지는 방법, ‘열린 세상 지속학습’의 등장
처음 보는 것도 알아서 배운다!
인공지능이 진짜로 똑똑해지려면 뭘 갖춰야 할까?
단지 주어진 데이터만 잘 분류하는 것으로는 부족하다.
한 번도 본 적 없는 것도 눈치채고, 그걸 학습해서 나중엔 아는 척까지 해야 진짜다.
이 논문은 바로 이런 AI 시스템의 조건을 수학적으로 증명하고, 실제 적용할 수 있는 학습 방법까지 제안했다.
이름하여 “열린 세상 지속학습(Open-World Continual Learning, OWCL)”.
기존 인공지능의 한계를 뛰어넘는, ‘처음 보는 것’을 다룰 수 있는 AI의 문을 연 연구다.
인공지능의 근본적 착각: 세상은 닫혀있지 않다
기존 머신러닝 시스템은 “세상은 닫혀 있다”고 가정한다.
즉, 학습할 때 본 것만 나중에 나온다고 믿는다.
하지만 현실은 다르다.
* AI는 처음 보는 사물, 개념, 데이터를 마주하게 되고,
* 이를 알아채고, 대처하고, 나중엔 배우기까지 해야 한다.
이를 위해 AI가 갖춰야 할 능력은 크게 두 가지다:
1. 신규성 탐지 (Novelty Detection / OOD Detection): 지금까지 본 적 없는 것을 구별해내는 능력
2. 지속학습 (Continual Learning, CL): 새로운 것을 배우되, 이전에 배운 것을 잊지 않는 능력
하지만 지금까지 이 두 능력은 서로 별개로 연구되어 왔다.
이 논문은 이 둘이 본질적으로 하나의 문제임을 수학적으로 증명했다.
핵심 개념: WP와 TP, 그리고 블랙박스를 여는 수학
연구진은 기존의 지속학습(Class Incremental Learning, CIL)을 다음과 같이 두 부분 문제로 분해했다:
* WP (Within-task Prediction): “지금 내가 무슨 과제(task)를 하고 있는지는 안다고 가정”하고 그 안에서 분류
* TP (Task-id Prediction): “이 입력이 어떤 과제에서 왔는지”를 추정하는 능력
여기서 놀라운 연결고리가 등장한다.
TP를 잘 하면, 그 자체가 곧 OOD 탐지라는 사실!
즉, TP 성능을 올리는 것 = OOD 탐지를 잘하는 것 = CIL 전체 성능 향상으로 이어진다는 것이다.
수학으로 증명된 결론은?
1. 좋은 WP와 좋은 TP(OOD 탐지 성능) → 좋은 CIL이 가능
2. OOD 탐지 성능이 낮으면 → 절대 좋은 지속학습은 불가능
3. CIL의 성능 한계는 WP와 TP에 의해 결정된다
게다가 이 구조는 기존의 닫힌 세상(closed-world)뿐 아니라, 열린 세상(open-world)에도 확장된다.
즉, 완전히 새로운 클래스를 마주했을 때도 여전히 작동할 수 있도록 만들어진다.
그래서, 실제로는 어떻게 만들까?
이론을 바탕으로, 연구진은 두 가지 방식으로 실제 OWCL 알고리즘을 만들었다.
1. 기존 TIL 모델 + OOD 탐지기 조합
* 기존 Task Incremental Learning 모델(예: HAT, SupSup)은 기억력은 뛰어나지만, task-id를 알아야 쓸 수 있음
* 이를 CSI라는 OOD 탐지 알고리즘과 결합해, task-id 없이도 예측 가능하게 만들었다
* 이렇게 해서 만들어진 두 가지 모델: HAT+CSI, Sup+CSI
2. Pretrained 모델 + 리플레이 기법
* 훈련된 모델을 기반으로, 이전 데이터를 일부 저장해서 재사용 (replay)
* 이 때 OOD 데이터를 재활용하는 방식으로, 오히려 탐지와 학습을 동시에 수행한다
* 성능도 기존 베이스라인보다 확실히 좋았다
이 논문의 진짜 의미
* 지금까지의 지속학습 연구는 주로 “어떻게 잊지 않을까?”에 집중했다
* 하지만 이 연구는 “보지 못한 것을 어떻게 알아채고, 거기서부터 시작할까”라는 근본적인 질문을 던졌다
* 단지 기술이 아니라, 지능의 본질에 가까운 문제를 수학적으로 정리한 것이다
결과적으로, AI 시스템이:
* 낯선 것을 눈치채고
* 그 낯선 것을 분석하고
* 지속적으로 적응하며 성장하는 것
이 모든 과정을 하나의 수학적 프레임워크로 엮어낸 것이다.
---
키워드:
#지속학습 #OOD탐지 #열린세계AI #클래스증강 #인공지능설명력
출처 논문:
Kim, G., Xiao, C., Konishi, T., Ke, Z., & Liu, B. (2025). *Open-world continual learning: Unifying novelty detection and continual learning*. Artificial Intelligence, 338, 104237.