AI가 진짜 똑똑해지는 방법, ‘열린 세상 지속학습’의 등장


처음 보는 것도 알아서 배운다!


인공지능이 진짜로 똑똑해지려면 뭘 갖춰야 할까?

단지 주어진 데이터만 잘 분류하는 것으로는 부족하다.

한 번도 본 적 없는 것도 눈치채고, 그걸 학습해서 나중엔 아는 척까지 해야 진짜다.


이 논문은 바로 이런 AI 시스템의 조건을 수학적으로 증명하고, 실제 적용할 수 있는 학습 방법까지 제안했다.

이름하여 “열린 세상 지속학습(Open-World Continual Learning, OWCL)”.


기존 인공지능의 한계를 뛰어넘는, ‘처음 보는 것’을 다룰 수 있는 AI의 문을 연 연구다.



인공지능의 근본적 착각: 세상은 닫혀있지 않다


기존 머신러닝 시스템은 “세상은 닫혀 있다”고 가정한다.

즉, 학습할 때 본 것만 나중에 나온다고 믿는다.


하지만 현실은 다르다.


* AI는 처음 보는 사물, 개념, 데이터를 마주하게 되고,

* 이를 알아채고, 대처하고, 나중엔 배우기까지 해야 한다.


이를 위해 AI가 갖춰야 할 능력은 크게 두 가지다:


1. 신규성 탐지 (Novelty Detection / OOD Detection): 지금까지 본 적 없는 것을 구별해내는 능력

2. 지속학습 (Continual Learning, CL): 새로운 것을 배우되, 이전에 배운 것을 잊지 않는 능력


하지만 지금까지 이 두 능력은 서로 별개로 연구되어 왔다.

이 논문은 이 둘이 본질적으로 하나의 문제임을 수학적으로 증명했다.



핵심 개념: WP와 TP, 그리고 블랙박스를 여는 수학


연구진은 기존의 지속학습(Class Incremental Learning, CIL)을 다음과 같이 두 부분 문제로 분해했다:


* WP (Within-task Prediction): “지금 내가 무슨 과제(task)를 하고 있는지는 안다고 가정”하고 그 안에서 분류

* TP (Task-id Prediction): “이 입력이 어떤 과제에서 왔는지”를 추정하는 능력


여기서 놀라운 연결고리가 등장한다.


 TP를 잘 하면, 그 자체가 곧 OOD 탐지라는 사실!


즉, TP 성능을 올리는 것 = OOD 탐지를 잘하는 것 = CIL 전체 성능 향상으로 이어진다는 것이다.



수학으로 증명된 결론은?


1. 좋은 WP와 좋은 TP(OOD 탐지 성능) → 좋은 CIL이 가능

2. OOD 탐지 성능이 낮으면 → 절대 좋은 지속학습은 불가능

3. CIL의 성능 한계는 WP와 TP에 의해 결정된다


게다가 이 구조는 기존의 닫힌 세상(closed-world)뿐 아니라, 열린 세상(open-world)에도 확장된다.

즉, 완전히 새로운 클래스를 마주했을 때도 여전히 작동할 수 있도록 만들어진다.



그래서, 실제로는 어떻게 만들까?


이론을 바탕으로, 연구진은 두 가지 방식으로 실제 OWCL 알고리즘을 만들었다.


 1. 기존 TIL 모델 + OOD 탐지기 조합


* 기존 Task Incremental Learning 모델(예: HAT, SupSup)은 기억력은 뛰어나지만, task-id를 알아야 쓸 수 있음

* 이를 CSI라는 OOD 탐지 알고리즘과 결합해, task-id 없이도 예측 가능하게 만들었다

* 이렇게 해서 만들어진 두 가지 모델: HAT+CSI, Sup+CSI


 2. Pretrained 모델 + 리플레이 기법


* 훈련된 모델을 기반으로, 이전 데이터를 일부 저장해서 재사용 (replay)

* 이 때 OOD 데이터를 재활용하는 방식으로, 오히려 탐지와 학습을 동시에 수행한다

* 성능도 기존 베이스라인보다 확실히 좋았다



이 논문의 진짜 의미


* 지금까지의 지속학습 연구는 주로 “어떻게 잊지 않을까?”에 집중했다

* 하지만 이 연구는 “보지 못한 것을 어떻게 알아채고, 거기서부터 시작할까”라는 근본적인 질문을 던졌다

* 단지 기술이 아니라, 지능의 본질에 가까운 문제를 수학적으로 정리한 것이다


결과적으로, AI 시스템이:


* 낯선 것을 눈치채고

* 그 낯선 것을 분석하고

* 지속적으로 적응하며 성장하는 것

  이 모든 과정을 하나의 수학적 프레임워크로 엮어낸 것이다.


---


키워드:

#지속학습 #OOD탐지 #열린세계AI #클래스증강 #인공지능설명력


출처 논문:

Kim, G., Xiao, C., Konishi, T., Ke, Z., & Liu, B. (2025). *Open-world continual learning: Unifying novelty detection and continual learning*. Artificial Intelligence, 338, 104237.