GINet-DGC: 적은 환자 데이터에서도 성능을 높인 AI, 유전자 발현 분석의 새 접근

고차원·소표본(HDLSS) 유전자 발현 데이터를 효과적으로 분석하기 위해 구조적 정보와 적응형 일반화 제어를 결합한 AI 모델 GINet-DGC의 개념을 시각적으로 표현한 이미지.

고차원 유전자 데이터는 수만 개의 변수(유전자)를 담고 있지만 환자 수는 수십~수백 명에 불과한 경우가 많다. 이런 환경에서는 인공지능이 학습하기보다 데이터를 외우는 '과적합(overfitting)'에 빠지기 쉽다. 그렇다면 적은 데이터에서도 신뢰할 수 있는 예측 모델을 만들 방법은 없을까?

최근 발표된 연구는 이러한 문제를 해결하기 위해 GINet-DGC(Global Interaction Network with Dynamic Generalization Control)라는 새로운 딥러닝 프레임워크를 제안했다. 연구진은 단순히 신경망을 더 깊게 만드는 대신, 데이터의 구조를 학습 과정에 반영하고 과적합을 실시간으로 감시하는 방식을 도입했다. 공개된 8개의 생의학 유전자 발현 데이터셋에서 기존 17개 모델과 비교한 결과, 경쟁력 있는 성능과 안정성을 보였다고 보고했다.

왜 유전자 발현 데이터는 AI가 배우기 어려울까?

일반적인 딥러닝은 데이터가 많을수록 강점을 보인다. 하지만 생명과학 연구에서는 상황이 다르다.

암 진단이나 질병 예측에 사용되는 유전자 발현 데이터는 보통 수만 개의 유전자 정보를 포함하지만, 실제 환자 수는 수십 명에서 많아야 수백 명 수준인 경우가 흔하다.

이처럼 변수는 매우 많고 표본은 적은 데이터를 HDLSS(High-Dimensional Low-Sample-Size) 데이터라고 부른다.

이 환경에서는 모델이 질병과 관련된 패턴을 배우기보다 우연히 나타난 노이즈까지 외워버릴 가능성이 높다. 연구진은 기존 딥러닝 모델들이 이러한 환경에서 학습이 불안정하고 일반화 성능이 떨어지는 이유가 바로 여기에 있다고 설명했다.

기존 모델과 무엇이 달랐나

연구진은 첫 번째 신경망 층의 가중치를 직접 학습하지 않았다.

대신 유전자들의 구조적 특징을 먼저 분석한 뒤, 그 정보를 이용해 첫 번째 가중치를 생성하는 방식을 선택했다.

GINet-DGC는 하나의 정보만 사용하는 것이 아니라 네 가지 서로 다른 관점을 함께 활용한다.

• 잠재 의미(Latent Semantic)
• 전체 분포(Global Distribution)
• 국소 위상(Local Topology)
• 계층적 의미(Hierarchical Semantic)

각 정보는 유전자 사이의 관계를 서로 다른 방식으로 표현한다.

이 네 가지 정보를 결합해 모델이 처음부터 무작위로 모든 관계를 탐색하지 않도록 제한했다.

논문에서는 이를 Structure-Constrained Weight Generator(SCWG)라고 설명한다. 쉽게 말하면 AI가 무작정 답을 찾도록 하는 대신, 먼저 "가능성이 높은 방향"을 알려주는 셈이다.

과적합을 실시간으로 감시하는 장치도 추가했다

이번 연구의 또 다른 특징은 Dynamic Generalization Control(DGC)이다.

일반적인 조기 종료(Early Stopping)는 검증 성능이 일정 기간 좋아지지 않으면 학습을 멈춘다.

반면 GINet-DGC는 단순히 정확도만 보는 것이 아니라

• 훈련 정확도와 검증 정확도의 차이
• 훈련 손실과 검증 손실의 차이
• 최근 검증 성능이 악화되는 추세

를 함께 계산해 Overfitting-aware Index(OFI)라는 지표를 만든다.

이 값이 일정 수준 이상으로 지속되면 모델은 더 이상 학습하지 않는다.

즉, 과적합이 시작되는 시점을 자동으로 감지해 학습을 종료하는 방식이다. 연구진은 이러한 적응형 종료 전략이 기존의 고정된 조기 종료보다 일반화 성능을 높이는 데 도움이 된다고 설명했다.

실제 성능은 어땠을까?

연구진은 공개된 8개의 유전자 발현 데이터셋을 이용해 반복된 층화 5×5 교차검증을 수행했다.

비교 대상은 총 17개의 대표적인 머신러닝 및 딥러닝 모델이었다.

여기에는 Random Forest, LightGBM, TabNet, TabTransformer, TabPFN, GCondNet, WPFS, SPINN 등이 포함됐다.

평균 순위에서는 GINet-DGC가 1.50으로 가장 높은 성능을 기록했다.

특히 gli, smk, allaml, glioma, toxicity, lung 데이터셋에서는 가장 높은 Balanced Accuracy를 기록했다.

예를 들어 Lung 데이터에서는

• GINet-DGC : 98.77 ± 0.46%
• GCondNet : 96.64 ± 3.10%
• LightGBM : 89.79 ± 4.40%

흥미로운 점은 평균 성능뿐 아니라 표준편차가 매우 작아 반복 실험에서도 결과가 안정적이었다는 것이다.

어떤 요소가 가장 중요한 역할을 했을까?

연구진은 각각의 구성 요소를 제거하는 실험(Ablation Study)도 수행했다.

그 결과

• 구조 정보를 제거하면 대부분의 데이터셋에서 성능이 감소했다.
• Attention만 남기고 구조 정보를 제거한 모델은 완전한 GINet-DGC보다 일관되게 낮은 성능을 보였다.
• 특히 계층적 의미와 국소 위상 정보를 제거했을 때 성능 저하가 크게 나타난 데이터셋이 많았다.

이는 단순한 Attention 구조만으로는 HDLSS 환경의 복잡한 특징을 충분히 학습하기 어렵고, 여러 구조 정보를 함께 활용하는 접근이 중요한 역할을 한다는 점을 시사한다.

바로 의료 현장에 적용할 수 있다는 의미는 아니다

이번 연구는 임상시험이 아니라 AI 모델 개발 연구다.

또한 검증에 사용된 데이터는 모두 공개된 유전자 발현 데이터셋이며, 실제 병원 환경에서 새로운 환자를 대상으로 검증한 것은 아니다.

논문에서 확인된 사실은 다음과 같다.

• HDLSS 환경에서 새로운 구조 기반 딥러닝 모델을 제안했다.
• 공개 벤치마크에서는 기존 여러 모델과 비교해 경쟁력 있는 성능을 보였다.
• 반복 교차검증에서도 비교적 안정적인 결과가 나타났다.

반면 아직 확인되지 않은 내용도 있다.

• 실제 병원에서 동일한 성능이 유지되는지
• 다른 국가나 인구집단에서도 재현되는지
• 다양한 질병 데이터에서도 동일한 효과를 보이는지

이러한 부분은 추가적인 외부 검증 연구가 필요하다.

이번 연구가 갖는 의미

HDLSS 데이터는 생명과학과 의료 AI가 오랫동안 해결하지 못한 대표적인 문제 가운데 하나다.

GINet-DGC는 더 큰 모델을 만드는 대신 모델이 처음부터 의미 있는 구조를 참고하도록 설계하고, 과적합을 실시간으로 감시하는 전략을 결합했다는 점에서 기존 접근과 차별화된다.

연구 결과는 공개된 생의학 유전자 발현 데이터셋에서 경쟁력 있는 성능을 보여주었으며, 특히 적은 표본 환경에서 딥러닝 모델의 일반화 성능을 높일 수 있는 하나의 방향성을 제시했다. 다만 실제 의료 현장에서의 활용 가능성을 판단하기 위해서는 독립적인 외부 검증과 다양한 임상 데이터에서의 추가 평가가 뒤따라야 한다.

논문 출처

Zhang, X., Sheng, Y., Shen, S., Fan, D., & Liu, L. (2026). GINet-DGC: Structural Inductive Biases and Dynamic Generalization Control for High-Dimensional Small-Sample Tabular Data. AI, 7(304). https://doi.org/10.3390/ai7080304