소매 판매 예측 AI, XGBoost와 신경망을 합치자 정확도가 더 높아졌다

XGBoost와 인공신경망, 어텐션을 결합한 AI 모델은 상품과 매장 데이터를 함께 분석해 판매량을 예측하고, 예측에 중요한 특징을 파악하는 데 활용할 수 있다.

매출 예측 정확도와 AI 설명 가능성을 동시에 잡기 위해 XGBoost·인공신경망·어텐션을 특징 단계에서 결합한 새로운 모델이 제안됐다.

핵심만 먼저 보면

월터 시술루 대학교(Walter Sisulu University) 연구팀은 XGBoost와 인공신경망, 어텐션을 결합한 XGB–ANN–Attn 모델을 개발했다.
BigMart 데이터에서 RMSE 0.1584, R² 0.9946을 기록해 비교 모델 가운데 가장 좋은 성능을 보였다.
Walmart 데이터에서도 RMSE 0.8652, R² 0.9568로 가장 높은 예측 성능을 기록했다.
핵심은 여러 AI의 최종 답을 합치는 대신, 각 모델이 데이터에서 찾아낸 특징 자체를 먼저 결합하는 방식이다.

매출 예측 AI가 정확하기만 해서는 부족한 이유

소매점은 상품 가격, 진열 위치, 점포 유형, 계절 변화와 판촉 행사처럼 서로 얽힌 요인을 바탕으로 미래 판매량을 예측해야 한다. 문제는 전통적인 통계 모델이 복잡한 비선형 관계를 놓칠 수 있고, 인공신경망은 복잡한 관계를 찾는 대신 결과를 설명하기 어렵다는 점이다.

남아프리카공화국 월터 시술루 대학교의 Munienge Mbodila와 Omobayo Ayokunle Esan 연구팀은 두 접근법의 장점을 한 모델 안에서 결합했다. 연구 결과는 2026년 8월 20일 국제 학술지 Frontiers in Big Data에 발표됐다.

연구팀이 제안한 특징 수준 융합(feature-level fusion)이란 여러 AI가 마지막에 내놓은 예측값을 합치는 것이 아니라, 각각의 AI가 데이터에서 추출한 내부 특징을 예측 전에 하나로 결합하는 방법을 말한다. 기존 앙상블과 가장 크게 다른 지점이다.

나무가 찾은 규칙과 신경망이 찾은 패턴을 먼저 합쳤다

XGBoost는 여러 결정트리를 차례로 학습해 앞선 트리의 오류를 보완하는 머신러닝 기법이다. 표 형태의 데이터에서 규칙과 비선형 관계를 찾아내는 데 강점이 있다.

반면 인공신경망(Artificial Neural Network, ANN)은 여러 층을 거치면서 데이터 사이의 복잡하고 연속적인 관계를 학습한다. 연구팀은 XGBoost가 찾아낸 트리의 구조적 정보와 인공신경망이 학습한 잠재 특징을 최종 예측 전에 연결했다. 논문 6쪽의 그림 1과 7쪽의 그림 2는 이러한 특징 수준 융합 과정을 단계별로 보여준다.

여기에 어텐션(attention)을 추가했다. 어텐션이란 모델이 모든 정보를 똑같이 취급하지 않고 현재 예측에 중요한 특징에 더 큰 가중치를 주는 방법이다. 연구팀은 사람이 중요한 정보에 선택적으로 주의를 기울인다는 개념에서 아이디어를 가져왔다.

즉 XGBoost는 데이터 속의 구조적 규칙을 찾고, 신경망은 더 복잡한 관계를 학습하며, 어텐션은 그 순간 어떤 정보에 더 집중해야 하는지를 조절한다.

BigMart에서는 R² 0.9946으로 비교 모델을 앞섰다

연구팀은 BigMart 데이터를 이용해 선형회귀, 인공신경망, XGBoost, LightGBM, CatBoost, TabNet 등의 모델과 새 모델을 비교했다. BigMart 데이터에는 8,523개 관측치가 포함됐으며 상품 가격, 무게, 진열 가시성, 점포 유형과 위치 같은 변수가 사용됐다. 학습과 테스트 데이터는 일반적으로 80대 20으로 나누고 5겹 교차검증을 적용했다.

모델	RMSE	MAE	R²
선형회귀	1.3970	1.0593	0.5542
인공신경망	0.2453	0.1628	0.9871
XGBoost	0.1849	0.1149	0.9924
LightGBM	0.1765	0.1102	0.9930
CatBoost	0.1728	0.1084	0.9933
XGBoost + ANN	0.1712	0.1097	0.9931
XGB–ANN–Attn	0.1584	0.0986	0.9946

RMSE(Root Mean Squared Error)는 실제값과 예측값의 차이를 측정하는 지표로 낮을수록 좋다. R²는 데이터의 변화를 모델이 얼마나 설명하는지를 나타내며 1에 가까울수록 설명력이 높다.

XGB–ANN–Attn은 BigMart에서 비교 대상 가운데 가장 낮은 RMSE와 가장 높은 R²를 기록했다. 연구팀이 5겹 교차검증 결과를 이용해 수행한 대응표본 t검정에서도 LightGBM과의 비교는 p=0.012, CatBoost는 p=0.008, TabNet은 p=0.021로 모두 연구진이 설정한 0.05 기준보다 낮았다.

더 복잡한 Walmart 데이터에서도 같은 방향의 결과가 나왔다

한 데이터에서만 좋은 결과가 나오면 모델이 그 데이터의 특징을 외웠을 가능성을 배제하기 어렵다. 연구팀은 이를 확인하기 위해 시간 변화와 외부 경제 요인이 포함된 Walmart 데이터에서도 같은 모델들을 비교했다.

Walmart에서 XGB–ANN–Attn은 RMSE 0.8652, MAE 0.6217, R² 0.9568을 기록했다. XGBoost의 R²는 0.9412, CatBoost는 0.9493, XGBoost와 ANN을 결합한 모델은 0.9510이었다. 새 모델이 두 데이터에서 모두 가장 높은 R²를 기록한 것이다.

왜 세 모델을 결합하면 예측 오차가 줄었을까. 연구진의 설명은 각 모델이 서로 다른 종류의 정보를 포착하기 때문이다. XGBoost는 국소적인 규칙과 특징 간 상호작용에 강하고, 인공신경망은 더 부드럽고 복잡한 고차원 관계를 학습한다. 어텐션은 다시 중요하지 않은 특징의 영향력을 줄인다. 구성 요소를 제거하는 절제 실험에서도 성능이 떨어져 각 요소가 서로 다른 정보를 제공한다는 연구진의 해석을 뒷받침했다.

AI가 왜 그런 매출을 예측했는지도 확인했다

판매량 예측 시스템이 실제 재고와 가격 결정에 사용되려면 정확도만큼 중요한 것이 설명 가능성이다.

연구팀은 SHAP(SHapley Additive exPlanations·각 입력 변수가 예측 결과에 얼마나 기여했는지 계산하는 설명 기법)과 어텐션 가중치를 함께 분석했다. 두 방법이 중요하다고 판단한 특징이 비슷하게 나타났으며, 연구팀은 이를 모델이 의미 있는 특징 중요도를 학습했다는 근거로 해석했다.

논문에서 판매량에 중요한 변수로 제시된 것은 상품의 최대 소매가격인 Item_MRP, 점포 유형인 Outlet_Type, 점포 위치 유형인 Outlet_Location_Type, 상품 진열 가시성을 나타내는 Item_Visibility 등이었다. 이런 정보는 매출 예측을 넘어 가격 결정이나 상품 배치, 재고 관리에 활용할 가능성이 있다.

280만 건 데이터에서는 정확도와 계산 비용의 균형을 확인했다

연구팀은 최대 280만 건 규모의 데이터에서도 실행 시간을 비교했다. 280만 건에서 XGB–ANN–Attn의 학습 시간은 4.9시간, 추론 시간은 샘플당 2.14밀리초, GPU 메모리 사용량은 8.1GB였다.

같은 조건에서 FT-Transformer는 학습에 11.4시간, 샘플당 추론에 6.83밀리초, GPU 메모리 18.6GB를 사용했다. 다만 단독 XGBoost나 LightGBM은 새 모델보다 학습 속도가 빨랐다. 따라서 이 결과는 XGB–ANN–Attn이 무조건 가장 가벼운 모델이라는 뜻이 아니라, 연구진이 정확도와 계산 효율 사이에서 유리한 균형을 확인했다는 의미로 보는 것이 적절하다.

실제 매장에 바로 적용됐다고 보기는 아직 어렵다

이번 연구의 중요한 한계는 실제 기업의 운영 환경에서 장기간 검증한 현장 실험이 아니라 공개 데이터에 기반한 모델 비교라는 점이다. 논문도 BigMart 데이터의 상대적으로 작은 규모와 시간·외부 변수 부족을 한계로 언급한다. 대규모 실시간 소매 시스템에서의 확장성 역시 추가 검증이 필요하다고 밝혔다.

연구팀은 향후 여러 출처의 데이터와 시계열 정보를 추가하고, 분산형 빅데이터 환경에서 모델을 검증할 필요가 있다고 제안했다. 트랜스포머 기반 모델, 그래프 신경망, 연합학습, 여러 종류의 소비자 정보를 함께 분석하는 멀티모달 분석도 후속 연구 대상으로 제시됐다.

자주 묻는 질문

Q. XGB–ANN–Attn이란 무엇인가?

A. XGBoost가 찾은 구조적 특징과 인공신경망이 학습한 복잡한 특징을 합친 뒤, 어텐션으로 중요한 정보의 가중치를 조절해 판매량을 예측하는 하이브리드 AI 모델이다.

Q. 기존 앙상블 AI와 가장 큰 차이는 무엇인가?

A. 기존 방식은 여러 모델의 최종 예측값을 평균 내거나 다시 결합하는 경우가 많다. XGB–ANN–Attn은 최종 답을 만들기 전에 각 모델이 학습한 특징 표현을 결합한다는 점이 다르다.

Q. 이 연구 결과를 실제 매출 예측에 바로 사용할 수 있나?

A. 연구 결과는 가능성을 보여주지만 실제 기업 환경에서의 추가 검증이 필요하다. 특히 실시간 데이터, 다양한 외부 변수와 서로 다른 유통 환경에서 성능이 유지되는지 확인해야 한다.

Q. 생성형 AI나 챗GPT와 같은 기술을 이용한 연구인가?

A. 아니다. 이번 연구의 핵심은 생성형 AI가 아니라 정형 데이터의 판매량을 예측하는 머신러닝이다. XGBoost, 인공신경망과 어텐션을 하나의 예측 구조로 결합했다.

매출 예측 AI의 다음 경쟁력은 ‘정확하면서 설명할 수 있는가’에 있다

이번 연구가 보여주는 핵심은 하나의 AI 알고리즘이 모든 문제를 해결해야 할 필요는 없다는 점이다. 서로 다른 방식으로 데이터를 바라보는 모델의 특징을 적절한 단계에서 결합하면 더 풍부한 정보를 이용할 수 있다.

소매업에서는 판매량을 조금 더 정확하게 예측하는 것이 재고 부족과 과잉 재고를 줄이고 공급망 운영을 개선하는 데 연결될 수 있다. 동시에 어떤 상품·가격·점포 조건이 예측에 영향을 줬는지를 설명할 수 있다면 사람이 AI의 결과를 검토하고 의사결정에 활용하기도 쉬워진다.

다만 높은 R² 하나만으로 실제 매장의 미래 매출을 거의 완벽하게 예측할 수 있다고 해석해서는 안 된다. 공개 벤치마크 데이터에서 얻은 높은 성능과 현실의 계속 변하는 판매 환경에서 얻는 성능은 같은 의미가 아니다. 이번 연구의 다음 단계는 다양한 실제 데이터와 실시간 환경에서도 정확도·설명력·계산 효율이라는 세 가지 장점이 함께 유지되는지를 확인하는 것이다.

출처 

Mbodila, M., & Esan, O. A. (2026). A cognitively inspired feature-level fusion framework for interpretable retail sales forecasting using integration of extreme gradient boost machine, artificial neural network and attention mechanism model. Frontiers in Big Data, 9, 1889044. https://doi.org/10.3389/fdata.2026.1889044