간질환 AI 진단 정확도 높인 새로운 머신러닝 기법… CatBoost와 나비 최적화 알고리즘의 결합

CatBoost와 나비 최적화 알고리즘(BOA)을 결합한 인공지능 모델은 불균형한 의료 데이터에서도 간질환을 더욱 정확하게 예측할 수 있도록 설계됐다. 본 이미지는 AI 기반 간질환 진단 기술의 개념을 시각적으로 표현한 것이다.

불균형 의료 데이터를 더 정확하게 분석하는 새로운 인공지능 접근법이 제시됐다.

간질환을 조기에 발견하는 것은 치료 성공률을 높이는 데 매우 중요하다. 하지만 실제 의료 데이터는 건강한 사람과 환자의 비율이 크게 차이나는 경우가 많아 인공지능 모델이 환자를 놓치는 문제가 발생한다. 최근 발표된 연구는 이러한 한계를 해결하기 위해 CatBoost와 Butterfly Optimization Algorithm(BOA)을 결합한 새로운 예측 모델을 제안했다. 기존처럼 모델의 설정값만 조정하는 것이 아니라, 환자를 구분하는 기준값까지 동시에 최적화해 예측 성능을 높인 것이 핵심이다.

간질환 예측이 어려운 이유

간은 단백질 합성, 콜레스테롤 조절, 혈액 응고, 독소 제거 등 다양한 기능을 담당하는 중요한 장기다. 특히 과도한 음주는 간세포 손상을 일으켜 지방간, 간염, 간경변 등으로 이어질 수 있다.

문제는 의료 데이터의 특성이다. 실제 병원 데이터에서는 정상인과 환자의 수가 균형을 이루지 않는 경우가 많다. 연구에서 사용한 첫 번째 공개 데이터셋은 총 345명 가운데 간질환 관련 사례가 85건, 정상 사례가 260건으로 약 1:3의 불균형을 보였다.

이처럼 환자 수가 적으면 대부분의 머신러닝 모델은 정상 사례를 더 많이 예측하는 방향으로 학습된다. 전체 정확도는 높아질 수 있지만 정작 발견해야 할 환자를 놓칠 가능성이 커지는 것이 가장 큰 문제다.

연구진이 바꾼 것은 모델이 아니라 판단 기준이다

기존 머신러닝 분류기는 일반적으로 예측 확률이 0.5를 넘으면 환자로 판단한다. 그러나 불균형 데이터에서는 이 기준이 항상 최적이라고 볼 수 없다.

이번 연구는 Butterfly Optimization Algorithm을 이용해 두 가지 요소를 동시에 최적화했다. 첫 번째는 CatBoost의 하이퍼파라미터이고, 두 번째는 환자와 정상인을 구분하는 최적의 임계값(Threshold)이다.

즉, 모델을 더 잘 학습시키는 동시에 "몇 점 이상이면 환자로 판단할 것인가"라는 기준도 자동으로 찾도록 설계했다. 연구진은 이러한 공동 최적화(Joint Optimization)가 민감도와 특이도의 균형을 효과적으로 맞출 수 있다고 설명했다.

두 개의 공개 데이터셋에서 모두 가장 높은 성능을 기록했다

연구는 서로 다른 두 개의 공개 간질환 데이터셋을 이용해 성능을 검증했다.

첫 번째 UCI Liver Disorder 데이터셋에서는 새로운 모델이 정확도 85.50%, 정밀도 85.30%, 재현율 97.69%, F1-score 91.02%, MCC 0.5783을 기록했다. 특히 재현율이 매우 높아 실제 환자를 놓칠 가능성을 크게 줄였다.

두 번째 Indian Liver Patient Dataset에서도 정확도 78.55%, 재현율 94.85%, F1-score 86.35%, MCC 0.4230으로 비교 대상인 MLP, SVM, Random Forest, XGBoost, CatBoost보다 전반적으로 우수한 성능을 보였다.

또한 연구진은 20회의 반복 실험과 Wilcoxon signed-rank 검정을 실시해 대부분의 성능 향상이 통계적으로도 유의하다는 사실을 확인했다.

이런 결과가 가능한 이유

기존 연구들은 대부분 머신러닝 모델의 하이퍼파라미터만 조정하거나 학습이 끝난 뒤 임계값을 별도로 수정하는 방식을 사용했다.

이번 연구는 이 두 과정을 하나의 최적화 문제로 통합했다. 나비의 군집 행동을 모방한 BOA는 다양한 후보 해를 탐색하면서 가장 적합한 하이퍼파라미터와 최적의 분류 기준을 동시에 찾는다. 그 결과 모델이 환자를 더 잘 구별하도록 학습되고 불균형 데이터에서도 높은 재현율과 안정적인 예측 성능을 유지할 수 있었다.

특징 중요도 분석에서는 평균 적혈구 용적(MCV)이 가장 중요한 변수로 나타났으며, 감마글루타밀전이효소(GGT), 알칼리성 인산분해효소(AP), ALT, AST 등이 뒤를 이었다. 이들은 실제 임상에서도 간 기능을 평가할 때 널리 사용하는 검사 항목이다.

앞으로 해결해야 할 문제

이번 연구에도 한계는 존재한다. 사용된 데이터셋은 각각 345명과 566명 규모로 실제 의료 환경을 대표하기에는 비교적 작은 편이다.

또한 두 번째 데이터셋에서는 일부 결측치와 비수치 데이터를 제거해 분석했는데, 이러한 전처리 과정이 데이터 편향을 일으킬 가능성도 있다.

연구진은 앞으로 더 큰 규모의 실제 병원 데이터를 활용한 검증과 보다 발전된 데이터 전처리 기법을 적용해 모델의 신뢰성을 높일 계획이라고 밝혔다.

의료 AI의 성능은 알고리즘보다 판단 기준이 더 중요할 수도 있다

이번 연구는 새로운 인공지능 알고리즘을 개발했다기보다 이미 우수한 성능을 가진 CatBoost를 더욱 효과적으로 활용하는 방법을 제시했다는 점에서 의미가 있다.

특히 의료 데이터처럼 환자보다 정상 사례가 많은 환경에서는 단순히 정확도를 높이는 것보다 환자를 놓치지 않는 것이 훨씬 중요하다. 이번 연구는 모델의 구조뿐 아니라 판단 기준까지 함께 최적화하면 이러한 문제를 효과적으로 개선할 수 있음을 보여준다.

향후 이러한 접근법은 간질환뿐 아니라 암 진단, 심혈관 질환 예측, 희귀질환 탐지 등 다양한 의료 인공지능 분야에도 활용될 가능성이 높다.

출처

Weng, S., Fan, Z., & Devnath, L. (2026). A Joint Optimization Framework for Imbalanced Liver Disorder Prediction Using CatBoost and the Butterfly Optimization Algorithm. AI, 7, 290. https://doi.org/10.3390/ai7080290