팀워크의 수학: 더 현실적인 ‘동맹 안정성’ 찾기

현대 사회는 혼자가 아닌 ‘팀’으로 움직인다. 직장에서의 프로젝트 팀, 정치에서의 연합, 국제관계에서의 동맹까지. 그런데 이 팀이 얼마나 오래, 얼마나 안정적으로 유지될 수 있을까? 바로 이 질문이 ‘헤도닉 게임(hedonic games)’이라는 수학적·경제학적 모델의 핵심이다.

최근 프랑스 파리 도핀대와 이탈리아 키에티-페스카라 대학 연구진이 기존 이론의 한계를 극복할 새로운 안정성 개념을 내놨다. 이름하여 **‘완화된 코어 안정성(relaxed core stability)’**이다. 이 개념은 팀이 언제 깨질 수 있는지, 그리고 깨진다면 그 이유가 무엇인지 좀 더 ‘현실적으로’ 반영한다.

기존 이론의 문제: 너무 완벽하거나, 너무 비현실적

기존의 ‘코어 안정성(core stability)’ 개념은 단순하다. 팀 구성 결과(즉, 어떤 사람들이 어떤 팀에 속하는지)에서, 어느 누구도 “우리끼리 새 팀을 만들면 더 이득이겠다”라고 생각하지 않는 상태를 말한다. 이런 경우 팀 구성이 ‘안정적’이라고 본다.

문제는, 이 모델이 너무 이상적이라는 점이다.

첫째, 팀을 깨고 새로 만드는 데 드는 ‘조율 비용’을 고려하지 않는다. 현실에서는 수십 명이 동시에 움직여야 한다면, 그만큼 설득과 조율이 어렵다.
둘째, 얻는 이득이 아주 조금만 커져도 팀을 옮기는 것으로 본다. 하지만 실제 사람들은 “이 정도면 옮길 만하네”라는 최소한의 유의미한 개선을 원한다. 예를 들어, 직장에서 팀을 옮기려면 단순히 급여가 1% 오르는 것보다 더 큰 변화가 필요하다.

두 가지 완화 방식: q와 k

연구진은 이 문제를 풀기 위해 두 가지 새로운 안정성 기준을 제안했다.

q-사이즈 코어 안정성(q-size core stability)
팀을 깨고 나갈 수 있는 사람 수(=블로킹 연합의 크기)를 최대 q명으로 제한한다.
예를 들어 q=2라면, 두 명이 짝을 지어 팀을 옮길 수 있는 경우만 고려한다. 현실적으로 소규모의 조율은 쉽지만, 대규모 이동은 어렵다는 점을 반영한 셈이다.
k-개선 코어 안정성(k-improvement core stability)
팀을 바꾸는 사람들은 현재보다 최소 k배 이상 좋아져야 한다.
k=1.5라면, 최소 50% 이상의 효용 증가가 있어야 팀을 옮긴다. 이렇게 하면 ‘티끌 모아 옮기기’ 같은 비현실적인 이동을 걸러낼 수 있다.

실험적 사례: 제빵사와 제분업자, 그리고 팀 재편

논문에서는 ‘빵집-제분소’ 모델 같은 예시로 설명한다.
제빵사와 제분업자가 서로 협력하면 좋지만, 같은 업종끼리는 경쟁 관계다. 각자는 자신이 속한 팀에서 이익을 최대화하려고 한다.

기존 모델에서는 단 한 명이라도 조금 이득을 보면 팀이 깨질 수 있었지만, q-사이즈와 k-개선 개념을 적용하면 이런 변동이 줄어든다. 예를 들어 q=2를 적용하면 두 명 이하가 움직이는 경우만 따져서, 대규모 팀 붕괴를 방지한다. k=1.5라면 50% 이상의 이익이 있어야 움직이므로, ‘미미한 유혹’에는 꿈쩍하지 않는다.

연구 성과: 계산 가능성과 효율성

연구진은 수학적으로 다음과 같은 결과를 증명했다.

항상 안정 상태 도달:
S-FHG(대칭 분수 헤도닉 게임)에서 q=2이면 언제나 안정 상태에 도달할 수 있다. 심지어 초기 상태가 엉망이어도, 몇 번의 이동 끝에 2-사이즈 코어 안정 상태에 도달한다.
q=3의 경우:
단순 버전(SS-FHG)에서는 3명 이하의 연합 이동으로도 안정 상태를 찾을 수 있고, 계산 시간도 다항식(polynomial) 안에 끝난다.
k 기준:
k≥2이면 언제나 k-개선 코어 안정 상태를 찾을 수 있다. k≥1.5면 단순 버전에서도 안정 상태를 효율적으로 계산할 수 있다.

효율성 지표: 사회적 후생과 가격

논문은 ‘사회적 후생(social welfare)’이라는 지표를 사용했다. 이는 모든 사람의 만족도를 합친 값이다. 여기서 두 가지 개념이 등장한다.

가격(price) of anarchy:
가장 나쁜 안정 상태가 최적 상태보다 얼마나 손해를 보는지. 예를 들어 q=2면 최대 4배까지 차이가 날 수 있다.
가격(price) of stability:
가장 좋은 안정 상태가 최적 상태와 얼마나 차이 나는지. k≥2면 이 값이 1, 즉 최적 상태 자체가 안정 상태가 될 수 있다.

실제 의미: 더 ‘현실적인’ AI 협상 모델

이 연구는 단순한 게임이론 장난이 아니다. 인공지능이 다중 에이전트 환경에서 협력·경쟁 구조를 형성할 때, 혹은 온라인 플랫폼에서 집단 형성이 이뤄질 때 이런 안정성 개념이 중요하다.

예를 들어, AI가 주식 거래, 물류 네트워크, 혹은 대규모 프로젝트 인력 배치 등을 스스로 조정해야 하는 경우, q와 k 개념을 적용하면 현실에 가까운 예측과 안정적인 결과를 얻을 수 있다.

마무리

기존의 코어 안정성은 완벽하지만, 지나치게 이상적인 면이 있었다. 이번 연구는 ‘얼마나 많은 사람이 움직일 수 있는가(q)’, ‘얼마나 좋아져야 움직이는가(k)’라는 두 가지 현실적인 조건을 도입해, 이론과 현실의 간극을 좁혔다.

다시 말해, 이번 연구는 팀워크의 수학에 ‘상식’을 더한 셈이다. 앞으로 다중 에이전트 시스템, 협상형 AI, 사회 네트워크 분석 등 다양한 분야에서 이 개념이 쓰일 가능성이 크다.

출처:
Fanelli, A., Monaco, G., & Moscardelli, L. (2025). Relaxed core stability in hedonic games. Artificial Intelligence, 348, 104394.