GNN은 왜 그런 예측을 했을까? BioGraphEX가 제안한 설명 가능한 의료 AI

BioGraphEX는 간 조직의 유전자 발현 데이터를 그래프 신경망으로 분석하고, 개별 샘플과 전체 데이터 수준에서 어떤 특징이 예측에 영향을 주었는지 설명하려는 프레임워크다.

AI가 암이나 질병을 높은 정확도로 예측하더라도 “왜 그렇게 판단했는가?”를 설명하지 못한다면 의료 현장에서 신뢰받기 어렵다. 이 연구는 그래프 신경망(Graph Neural Network, GNN)에 두 단계의 설명 기능을 결합한 BioGraphEX라는 프레임워크를 제안했다.

연구진은 간 조직 유전자 발현 데이터 557개를 이용해 질병 상태를 분류했다. BioGraphEX는 테스트 데이터에서 정확도 85%, F1 점수 0.82를 기록했다. 그러나 이 논문의 핵심은 단순히 정확도가 높아졌다는 데 있지 않다. 개별 샘플에서 어떤 유전자가 판단에 영향을 주었는지, 전체 데이터에서 어떤 특징이 반복적으로 중요했는지를 함께 보여주려 했다는 점이 중요하다.

높은 정확도만으로는 의료 AI를 믿기 어렵다

그래프 신경망은 서로 연결된 대상의 관계를 학습하는 딥러닝 모델이다. 생물의학 분야에서는 유전자, 단백질, 질병, 약물처럼 복잡하게 연결된 정보를 분석하는 데 활용된다.

일반적인 신경망이 각각의 데이터를 독립적인 숫자 묶음처럼 처리한다면, GNN은 데이터 사이의 연결 관계까지 함께 학습한다. 유전자와 단백질의 상호작용처럼 구조 자체가 중요한 문제에 적합한 이유다.

문제는 대부분의 GNN이 블랙박스처럼 작동한다는 점이다. 모델이 특정 조직을 질병 상태로 분류하더라도 어떤 특징이 그 판단을 이끌었는지 이해하기 어렵다. 의료와 생명과학에서는 단순히 예측이 맞았는지만큼 판단 근거가 생물학적으로 타당한지도 중요하다.

기존의 GNNExplainer 같은 설명 기법은 특정 샘플이나 특정 예측을 분석하는 데 유용하다. 하지만 개별 사례에 대한 설명만으로는 모델이 전체 데이터에서 어떤 공통 패턴을 학습했는지 파악하기 어렵다. BioGraphEX는 이 간극을 메우는 것을 목표로 했다.

개별 샘플과 전체 데이터에 서로 다른 설명을 붙였다

BioGraphEX의 핵심은 설명을 두 수준으로 나눈 데 있다. 연구진은 개별 샘플의 판단 근거를 설명하는 방법과 전체 데이터에서 중요한 특징을 찾는 방법을 하나의 틀에 결합했다.

개별 샘플 수준에서는 Captum 라이브러리의 통합 기울기(Integrated Gradients)를 사용했다. 통합 기울기는 입력 특징을 기준점에서 실제 값까지 변화시켰을 때 모델의 예측이 어떻게 달라지는지를 계산한다. 이를 통해 각 유전자 발현 특징이 특정 샘플의 분류 결과에 얼마나 기여했는지 수치로 나타낸다.

쉽게 말하면 “이 조직을 질병 상태로 판단할 때 어떤 유전자 특징이 특히 중요했는가?”에 답하는 방법이다. 논문 16쪽의 Figure 4에는 한 테스트 샘플에서 각 입력 특징이 예측에 미친 영향을 막대 형태로 나타낸 결과가 제시돼 있다.

전체 데이터 수준에서는 SHAP(Shapley Additive Explanations)을 사용했다. SHAP는 게임이론의 샤플리 값을 바탕으로 각 특징이 모델의 최종 예측에 기여한 정도를 계산한다. 여러 샘플의 SHAP 값을 모으면 전체 데이터에서 반복적으로 중요한 특징을 찾을 수 있다.

논문 17쪽의 Figure 5는 평균 SHAP 값이 큰 상위 20개 특징을 보여준다. Figure 6의 히트맵은 테스트 샘플마다 특징 중요도가 어떻게 달라졌는지를 나타낸다. 따라서 BioGraphEX는 한 샘플의 판단 근거와 데이터 전체의 공통 패턴을 동시에 살펴보려는 구조다.

557개 간 조직을 질병과 비질병으로 나눴다

연구진은 미국 국립생물정보센터의 GEO 데이터베이스에 공개된 GSE25097 유전자 발현 자료를 사용했다. 이 데이터에는 총 557개의 간 조직 샘플이 포함됐다.

세부적으로는 간세포암(HCC) 종양 조직 268개, 종양에 인접한 비종양 조직 243개, 간경변 조직 40개, 건강한 간 조직 6개였다. 연구진은 간세포암과 간경변 조직을 질병군으로 묶고, 인접 비종양 조직과 건강한 조직을 비질병군으로 분류했다.

그 결과 질병군은 308개, 비질병군은 249개가 됐다. 다만 여기서 주의할 점이 있다. 비질병군 대부분은 완전히 건강한 사람의 간 조직이 아니라 종양 주변에서 얻은 비종양 조직이었다. 따라서 이 연구의 분류 문제를 일반적인 건강인과 간암 환자의 비교로 단순화해서는 안 된다.

데이터는 계층화 표본 추출을 통해 학습 80%, 검증 10%, 테스트 10%로 나뉘었다. 대략 446개가 학습에, 56개가 검증에, 55개가 최종 테스트에 사용됐다. 무작위 시드는 42로 고정했다.

GraphSAGE에 Integrated Gradients와 SHAP를 결합했다

BioGraphEX의 예측 모델은 GraphSAGE를 기반으로 한다. GraphSAGE는 각 노드 주변의 정보를 모아 노드의 표현을 학습하는 GNN 구조다. 학습할 때 보지 못한 새로운 노드에도 적용할 수 있는 귀납적 학습 능력이 장점으로 꼽힌다.

연구진은 은닉 차원을 16으로 설정하고, 질병과 비질병을 구분하는 2개 출력값을 사용했다. 최적화 알고리즘은 Adam, 학습률은 0.01, 가중치 감쇠는 5×10⁻⁴, 학습 횟수는 100회였다. 손실함수로는 음의 로그 가능도(Negative Log-Likelihood)를 적용했다.

논문 9쪽의 Figure 2는 BioGraphEX의 전체 흐름을 보여준다. 유전자 발현 데이터를 GraphSAGE 모델에 입력한 뒤, Captum의 통합 기울기로 개별 샘플을 설명하고 SHAP와 사후 분석을 이용해 전체 데이터의 특징 중요도를 정리한다. 최종 결과는 특징 중요도 점수와 히트맵 등의 형태로 시각화된다.

다만 논문의 그래프 구성 설명에는 주의해서 읽어야 할 부분이 있다. 일부 단락에서는 샘플을 노드로 사용하고 발현 패턴의 유사성으로 샘플 사이를 연결했다고 설명한다. 다른 단락과 표에서는 유전자나 단백질을 노드로 두고 STRING 단백질 상호작용 정보를 이용했다고 기술한다. 알고리즘 설명에서도 유전자 노드와 상관관계 기반 엣지가 다시 등장한다.

노드가 환자 샘플인지 유전자·단백질인지에 따라 모델이 학습하는 관계와 설명 결과의 의미가 크게 달라진다. 이처럼 방법 부분의 기술이 일관되지 않다는 점은 연구의 재현성과 해석 가능성을 평가할 때 중요한 한계다.

정확도 85%, AUROC 0.91을 기록했다

BioGraphEX는 테스트 세트에서 정확도 85%, F1 점수 0.82를 기록했다. AUROC는 0.91, AUPRC는 0.89로 보고됐다.

AUROC는 질병군과 비질병군을 구분하는 모델의 전반적인 능력을 나타낸다. 0.5에 가까우면 무작위 추측과 비슷하고 1에 가까울수록 구분 능력이 높다. AUPRC는 정밀도와 재현율의 균형을 반영하며, 클래스 비율이 고르지 않은 데이터에서 유용한 지표다.

비교 모델의 정확도는 GCN 80%, GAT 78%, GNN-SubNet 82%, XGDAG 80%였다. 논문에 제시된 수치만 보면 BioGraphEX가 비교 모델보다 3~7%포인트 높은 정확도를 보였다.

모델	정확도	F1 점수	설명 충실도	특징 중요도 일관성
BioGraphEX	85%	0.82	83%	80%
GCN	80%	0.75	78%	76%
GAT	78%	0.72	78%	72%
GNN-SubNet	82%	0.79	74%	72%
XGDAG	80%	0.74	76%	70%

연구진은 McNemar 검정을 이용해 BioGraphEX와 각 비교 모델의 예측 결과를 비교했고 모두 p값이 0.05 미만이었다고 보고했다. 그러나 논문 표에는 정확한 p값, 불일치 예측 건수, 신뢰구간이 제시되지 않았다. 따라서 통계적 유의성을 독립적으로 평가하기에는 정보가 부족하다.

테스트 세트가 약 55개로 작다는 점도 중요하다. 정확도 85%는 대략 55개 가운데 47개 안팎을 올바르게 분류한 수준에 해당할 수 있다. 샘플 몇 개의 결과만 달라져도 정확도가 여러 퍼센트포인트 움직일 수 있으므로, 3%포인트 차이를 안정적인 우위로 받아들이려면 반복 실험이나 외부 데이터 검증이 필요하다.

‘설명이 충실하다’는 수치는 무엇을 뜻할까

논문은 BioGraphEX의 설명 충실도(Explanation Fidelity)를 83%로 보고했다. 설명 충실도는 설명 기법이 모델의 실제 예측 행동을 얼마나 잘 반영하는지를 평가하려는 지표다.

그러나 설명 충실도가 높다고 해서 그 설명이 생물학적으로 참이라는 뜻은 아니다. 통합 기울기와 SHAP는 모델이 어떤 입력 특징을 이용했는지를 보여준다. 특정 유전자가 높은 점수를 받았다는 사실은 그 유전자가 모델의 분류에 중요했다는 의미이지, 간암을 일으킨 원인으로 확인됐다는 의미가 아니다.

AI의 판단 근거와 질병의 생물학적 원인은 구분해야 한다. 모델이 데이터 수집 과정의 편향, 조직 처리 방법, 환자군 차이 같은 비생물학적 단서를 학습했을 가능성도 있다. 중요한 특징이 실제 바이오마커인지 확인하려면 독립 코호트, 기능 실험, 임상 자료를 통한 검증이 필요하다.

논문은 생물학적 관련성 점수를 강조하지만, 상위 특징을 구체적인 유전자 이름과 질병 경로에 체계적으로 연결한 분석은 제한적이다. Figure 5의 상위 특징도 주로 특징 인덱스로 표시돼 있어 독자가 해당 특징의 생물학적 정체를 확인하기 어렵다.

설명 가능한 모델이 곧 임상적으로 신뢰할 수 있는 모델은 아니다

이 연구는 임상시험이나 전향적 진단 연구가 아니라 공개 데이터셋을 이용한 컴퓨터 모델 연구다. 따라서 BioGraphEX가 실제 환자의 간암을 진단하거나 치료 결정을 개선했다고 말할 수 없다.

첫째, 하나의 공개 마이크로어레이 데이터셋만 사용했다. 다른 병원, 다른 인구집단, 다른 유전자 측정 플랫폼에서도 같은 성능이 나오는지 확인되지 않았다.

둘째, 외부 검증 세트가 없다. 하나의 데이터셋을 내부적으로 학습·검증·테스트 세트로 나눈 결과만으로는 새로운 의료기관에서의 일반화 성능을 알기 어렵다.

셋째, 비교군 구성이 임상 현실과 다르다. 질병군에는 간세포암과 간경변이 함께 포함됐고, 비질병군에는 종양 인접 조직과 건강한 조직이 포함됐다. 모델이 간암 자체를 구분한 것인지, 손상된 간 조직과 상대적으로 정상에 가까운 조직을 구분한 것인지 명확히 분리하기 어렵다.

넷째, 논문은 데이터가 GEO에서 제공된 상태로 이미 정규화됐다고 설명하지만 구체적인 정규화 방식과 배치 효과 처리 과정은 충분히 제시하지 않는다. 유전자 발현 연구에서는 데이터 전처리 방식이 결과에 큰 영향을 줄 수 있다.

다섯째, 그래프 구성과 노드 정의에 대한 설명이 서로 충돌한다. 이는 단순한 문장상의 문제가 아니라 모델의 구조와 설명 결과를 재현하는 데 직접적인 영향을 미치는 문제다.

이 연구가 새롭게 보탠 것은 예측보다 설명의 범위다

BioGraphEX의 가장 분명한 기여는 새로운 설명 알고리즘을 완전히 처음 만든 것이라기보다, 기존의 GraphSAGE와 Integrated Gradients, SHAP를 결합해 설명의 범위를 확장한 데 있다.

기존의 많은 설명 가능한 GNN 연구는 특정 노드나 특정 예측에 집중했다. BioGraphEX는 개별 샘플의 특징 중요도를 계산한 뒤 이를 전체 데이터 수준으로 집계하고, 별도의 SHAP 분석과 함께 제시했다. 이를 통해 연구자는 “이 샘플에서 무엇이 중요했는가?”와 “전체 데이터에서 무엇이 반복적으로 중요했는가?”를 함께 살펴볼 수 있다.

이 접근은 의료 AI에서 필요한 설명의 두 층위를 잘 짚는다. 임상의는 특정 환자에 대한 판단 근거가 필요하고, 연구자는 전체 환자군에서 반복되는 패턴을 찾고 싶어 한다. BioGraphEX는 이 두 질문을 하나의 분석 흐름으로 연결하려 했다.

다만 현재 연구만으로 “신뢰할 수 있는 의료 AI”가 완성됐다고 보기는 어렵다. 설명 기법의 점수가 높다는 사실, 생물학적 의미가 확인됐다는 사실, 실제 진료에서 안전하다는 사실은 서로 다른 검증을 요구한다.

지금 말할 수 있는 범위

BioGraphEX는 간 조직 유전자 발현 데이터에서 질병과 비질병을 분류하면서 개별 샘플과 전체 데이터 수준의 특징 중요도를 함께 제시할 수 있음을 보여줬다. 테스트 정확도 85%, F1 점수 0.82, AUROC 0.91이라는 결과도 보고됐다.

그러나 이 수치가 곧 임상 진단 성능을 뜻하지는 않는다. 단일 데이터셋, 작은 테스트 세트, 외부 검증 부재, 집단 구성의 한계, 그래프 정의의 불일치가 남아 있다. SHAP나 통합 기울기가 강조한 특징 역시 질병의 원인이나 확정된 바이오마커로 해석할 수 없다.

이 논문의 가치는 의료 AI가 단순히 정답을 내는 데서 그치지 않고, 개별 판단과 전체 패턴을 서로 다른 수준에서 설명해야 한다는 방향을 구체적인 모델로 제시한 데 있다. 다음 단계에서는 독립적인 환자 코호트와 다양한 측정 환경에서 성능을 재현하고, 중요하다고 평가된 유전자 특징이 실제 생물학적 의미를 갖는지 검증해야 한다.

논문 출처

Sajid, M. T., Malik, A. K., Qamar, N., Abdullah, H., & Ahmed, A. (2026). BioGraphEX: Multi-Level Explainability in Graph Neural Networks for Trustworthy Biomedical AI. AI, 7, 283. https://doi.org/10.3390/ai7080283