느슨한 코어 안정성, 뭉치면 좋지만 무턱대고는 안 되는 이유
연합도 좋지만, 무작정 뭉치면 손해?
사람이 모이면 힘이 생긴다. 회사도, 정당도, 국가도 결국은 ‘같은 뜻’을 품은 이들이 모여서 만들어졌다. 하지만 아무나 함께한다고 해서 항상 이익이 될까? 인공지능(AI)과 게임이론 연구자들은 이 질문에 오랫동안 답을 찾아왔다. 최근, 이 복잡한 문제를 조금 더 현실에 맞게 풀어내려는 시도가 나왔다. 프랑스 CNRS 연구소와 이탈리아 키에티-페스카라 대학 소속 연구진은 ‘헤도닉 게임(Hedonic Games)’이라는 모델을 한층 현실에 가깝게 다듬었다.
헤도닉 게임이란, 쉽게 말해 ‘누구와 함께 있느냐에 따라 내가 얻는 만족이 달라진다’를 수학적으로 표현한 이론이다. 이를 통해 사람이나 AI가 어떤 식으로 무리를 이루고 흩어지는지를 연구한다. 그런데 지금까지 쓰여온 전통적인 규칙엔 허점이 있었다.
완벽한 안정성? 현실에서는 글쎄
헤도닉 게임에서 ‘코어 안정성(Core Stability)’은 꽤 중요한 개념이다. 누구도 불만이 없어서 무리를 떠나지 않는 상태를 뜻한다. 즉, 어떤 집단 안에 있는 누구도 “우리끼리 나가서 새로 뭉치면 더 이득이겠다”라고 생각하지 않으면 그 집단은 코어 안정적이라고 본다.
문제는 이 조건이 지나치게 이상적이라는 점이다. 현실에서 수십, 수백 명이 동시에 작당해 새로운 팀을 짜는 일은 쉽지 않다. 게다가 굳이 새로운 팀으로 나가도 이득이 겨우 1원이라면, 번거로운 이동을 감수할 사람은 많지 않다. 연구진은 바로 이 점에 주목했다.
그래서 ‘느슨한 코어 안정성(Relaxed Core Stability)’이라는 개념을 제시했다. 이 개념은 두 가지 조건으로 기존 틀을 완화한다. 하나는 ‘같이 움직이는 사람 수(q)’에 제한을 둔다. 예컨대 2명이나 3명까지만 몰래 새 팀을 꾸릴 수 있도록 한다. 다른 하나는 ‘얼마나 이득이 커야 움직일지(k)’를 반영한다. 가령 최소한 1.5배는 이득을 봐야 새로운 팀에 합류할 만하다고 보는 식이다.
빵집과 방앗간의 은근한 신경전
연구진은 이 아이디어를 실제로 계산할 수 있는 형태로 다듬었다. 실험에선 ‘단순 대칭 분수 헤도닉 게임(SS-FHG)’이라는 단순화된 모델을 썼다. 이해를 돕기 위해 ‘빵집과 방앗간 시나리오’를 들어보자.
빵집과 방앗간 주인들은 서로 필요하다. 방앗간은 밀가루를 팔아야 하고, 빵집은 밀가루를 사야 한다. 같은 직종끼리는 경쟁자이니 서로 가치가 없다. 그래서 이들은 상대 업종과 손을 잡아야 이익이다. 이 상황에서 ‘같은 빵집 주인끼리만 모여도 득이 없다’라는 식으로 수치를 매기면, 누가 누구랑 어울릴지 모델링할 수 있다.
하지만 여기서도 마찬가지다. 큰 무리가 한 번에 빠져나가서 새로운 조합을 짜기란 쉽지 않다. 현실이라면 가까운 몇 명이 몰래 팀을 바꿀 수 있고, 그때도 ‘손익 계산서’를 들여다본 뒤 움직인다. 연구진은 이를 실험 모델로 만들어, 어떤 상황에서 팀이 안정적으로 굳어지는지 계산했다.
복잡한 계산, 그러나 답은 있다
연구진은 이 모델을 수학적으로 증명해 보였다. 그 결과, 2명까지만 무리를 짜고 빠져나갈 수 있도록 제한하면 무조건 안정적인 팀 구성이 존재한다는 사실을 밝혔다. 게다가 이 경우엔 ‘다이나믹(변동)’이 무한 반복되지 않고 언젠가는 꼭 멈춘다. 말하자면 ‘팀 재편이 끝나고 안정 상태에 도달한다’는 의미다.
3명까지 가능할 땐 좀 더 복잡해진다. 하지만 특별한 경우라면 여전히 계산 가능하고, ‘몇 번 안에 끝난다’는 보장도 있다. 다만 4명 이상이 뭉쳐 나갈 수 있도록 허용하면 다시 상황이 꼬인다. 무한 루프에 빠질 수 있다는 얘기다.
이득 비율 k도 흥미롭다. 무조건 조금이라도 더 이득이면 움직일 수 있게 하는 대신, ‘최소한 2배는 벌어야 움직인다’고 제한하면 역시 안정적인 팀 구성이 존재하고 계산도 가능하다. 연구진은 이런 여러 조건을 조합해 ‘코어 가격(Core Price)’이 얼마나 비싼지, 즉 효율성을 따졌다.
모이면 좋지만, 무턱대고 뭉치진 않는다
이 연구는 단순히 게임이론에 머물지 않는다. AI가 여러 에이전트(플레이어)로 이뤄진 시스템을 다룰 때, 혹은 온라인 플랫폼이 사용자 집단을 분석할 때도 응용될 수 있다. 예컨대 직장인이 팀을 옮길 때 드는 비용과 기대 이득, 혹은 정치인이 새로운 정당에 합류할 때의 손익 등을 더 현실적으로 반영할 수 있다.
‘코어 안정성’은 오랫동안 이상적인 집단 구성의 기준으로 여겨졌다. 하지만 현실에서 사람은 단순한 숫자가 아니다. 누구와 함께하느냐, 얼마나 번거로우냐, 이득이 충분하냐 같은 요인이 얽혀 있다. 연구진은 이번에 제시한 ‘느슨한 코어’ 개념이 AI 연구뿐 아니라 경제학, 사회과학에서도 폭넓게 활용될 수 있다고 본다.
앞으로 더 복잡한 시나리오를 적용하려면 넘어야 할 산도 많다. 하지만 확실한 건 하나다. 이론 속 ‘이상적인 집단’보다, 현실 속 ‘적당히 안정적인 집단’이 더 쓸모있다는 사실이다.
출처 논문
Fanelli, A.; Monaco, G.; Moscardelli, L. Relaxed Core Stability in Hedonic Games. Artificial Intelligence 2025, 104394. https://doi.org/10.1016/j.artint.2025.104394