그래프 신경망, '이웃'을 무조건 믿지 말자… 신뢰도 기반 연결 선별로 성능 개선
이 글의 의미
인공지능이 사람이나 사물의 관계를 학습할 때는 "가까이 연결된 대상은 비슷할 것"이라는 가정을 자주 사용한다. 하지만 현실의 사회관계망, 웹페이지, 생물학적 네트워크는 오히려 서로 다른 대상이 연결되는 경우가 많다. 이번 연구는 이런 현실적인 문제를 해결하기 위해 연결 자체보다 '얼마나 신뢰할 수 있는 연결인가'를 먼저 판단하는 새로운 그래프 신경망 기법을 제안했다. 이는 AI가 복잡한 네트워크를 보다 정확하게 이해하는 방향을 제시했다는 점에서 의미가 있다.
믿을 만한 연결만 골라 활용 방안의 제시
그래프 신경망(GNN)은 연결된 노드가 비슷한 성질을 가진다는 가정 덕분에 뛰어난 성능을 보여왔다. 하지만 현실의 많은 네트워크는 오히려 서로 다른 성질의 노드가 연결되는 경우가 흔하다. 이번 연구는 이런 한계를 해결하기 위해 '믿을 만한 연결만 골라 활용하는' 새로운 방법을 제안했다. 다만 모든 환경에서 만능 해결책은 아니며, 신뢰도 기준과 데이터 특성에 따라 성능이 달라질 수 있다는 점도 함께 강조했다.
가까운 이웃이 항상 좋은 정보는 아니다
논문이 주목한 문제는 의외로 단순하다. 기존 그래프 신경망은 연결된 노드끼리는 비슷한 정보를 공유한다고 가정한다. 논문 추천 네트워크처럼 같은 분야 논문끼리 많이 인용하는 데이터에서는 이 가정이 잘 맞는다.
하지만 위키피디아 페이지나 사회관계망처럼 서로 성격이 다른 대상끼리 연결되는 네트워크에서는 상황이 달라진다. 오히려 이웃의 정보를 그대로 받아들이면 잘못된 정보가 전파되면서 예측 성능이 떨어질 수 있다. 연구진은 "어떤 연결은 도움이 되지만, 어떤 연결은 오히려 방해가 된다"는 점에 주목했다.
왜 기존 그래프 신경망은 어려움을 겪을까
그래프 신경망(GNN)의 핵심은 메시지 전달(Message Passing)이다. 주변 노드의 정보를 모아 자신의 표현을 업데이트하는 방식이다.
이 접근법은 같은 클래스끼리 많이 연결된 동질성(Homophily) 그래프에서는 매우 효과적이다. 반대로 서로 다른 클래스가 많이 연결된 이질성(Heterophily) 그래프에서는 주변 정보를 많이 모을수록 잘못된 정보가 섞일 가능성이 커진다.
기존 연구들도 연결마다 다른 가중치를 부여하거나, 일부 연결을 제거하거나, 멀리 떨어진 유사 노드를 찾는 다양한 방법을 제안했지만, 여전히 어떤 연결을 신뢰해야 하는지를 정확하게 판단하는 것은 어려운 문제였다.
이웃 자체보다 '주변 구조'를 비교했다
연구진은 ConSM(Confidence-based Subgraph Matching)이라는 새로운 프레임워크를 제안했다.
핵심 아이디어는 단순히 두 노드만 비교하지 않고 각각의 2-hop 주변 서브그래프까지 함께 비교하는 것이다.
이를 위해 먼저 각 노드 주변의 작은 그래프를 추출한 뒤, Optimal Transport 기법을 이용해 두 서브그래프의 구조적 유사성을 계산한다. 이후 각 연결에 신뢰도 점수를 부여하고, 미리 정한 Confidence Ratio에 따라 가장 신뢰도가 높은 연결만 남긴다.
그 다음 단계에서는 이 신뢰도를 활용한 Sign-aware Label Propagation을 수행한다. 신뢰도가 높은 연결은 서로 비슷해지도록 학습하고, 신뢰도가 낮은 연결은 오히려 서로 다른 표현을 유지하도록 유도한다. 이는 기존처럼 모든 연결을 동일하게 활용하는 방식과 가장 큰 차이점이다.
다양한 그래프에서 성능을 검증했다
연구진은 Cora, Citeseer, PubMed와 같은 동질성 인용 네트워크뿐 아니라 Actor, Chameleon, Squirrel 같은 이질성 그래프에서도 실험을 수행했다.
비교 대상에는 GCN, GAT, GIN, APPNP, H2GCN, FAGCN, PTDNet, GloGNN 등 당시 대표적인 그래프 신경망 모델들이 포함됐다.
실험 결과 ConSM은 동질성과 이질성 그래프 모두에서 경쟁력 있는 성능을 보였으며, 특히 이질성 그래프에서는 노드 분류 정확도를 높이고 과도한 정보 혼합(Over-smoothing)을 완화하는 효과를 확인했다. 또한 최근 문제가 제기된 Chameleon과 Squirrel의 데이터 누수(Leakage)를 제거한 평가 환경에서도 성능 향상이 유지됐다고 보고했다. 연구진은 추가적으로 링크 예측과 다양한 학습 데이터 비율에서도 방법의 효과를 검증했다.
아직 해결해야 할 과제도 남아 있다
저자들은 몇 가지 한계를 함께 제시했다.
우선 성능은 Confidence Ratio 설정에 영향을 받을 수 있다. 이를 줄이기 위해 검증 데이터의 동질성 수준을 활용하는 적응형 조정 전략을 제안했지만, 여전히 데이터 특성에 따라 최적값이 달라질 수 있다.
또한 서브그래프를 생성하고 최적수송 기반 매칭을 수행하는 추가 과정 때문에 일반적인 GCN보다 계산량이 증가한다. 연구진은 선형화 기법을 적용해 계산 비용을 줄였지만, 대규모 그래프에서는 여전히 효율성 개선의 여지가 남아 있다고 설명했다. 이 연구 역시 특정 벤치마크 데이터셋을 중심으로 평가했기 때문에 모든 실제 응용 환경에서 동일한 성능을 보장하는 것은 아니라는 점도 함께 언급했다.
마무리
이번 연구는 그래프 신경망의 성능을 높이기 위해 "누구와 연결되어 있는가"보다 "그 연결을 얼마나 믿을 수 있는가"에 초점을 맞췄다. 모든 이웃의 정보를 똑같이 활용하는 대신, 구조적 신뢰도를 먼저 판단한 뒤 학습에 반영한 접근은 이질성이 강한 실제 네트워크에서도 활용 가능성을 보여준다. 앞으로 더 다양한 대규모 그래프와 실제 산업 환경에서 이러한 신뢰도 기반 메시지 전달이 얼마나 일반화될 수 있을지가 중요한 연구 과제가 될 것으로 보인다.
출처
Choi, Y., & Kim, C.-K. (2026). Identifying heterophilic neighbors via confidence-based subgraph matching for graph neural networks. Artificial Intelligence, 358, 104575. https://doi.org/10.1016/j.artint.2026.104575