머신러닝에 새로운 바람, '비대칭 체틀린 머신'

AI가 이미 우리 삶 깊숙이 파고든 시대, 더 똑똑하고 유연한 알고리즘의 등장은 언제나 주목할 만하다. 이번에 소개할 연구는 머신러닝의 '두뇌' 역할을 하는 학습 알고리즘, 그중에서도 '체틀린 머신(Tsetlin Machine)'에 흥미로운 변화를 시도했다. 이름도 낯선 '비대칭 확률 체틀린 머신(Asymmetric Probabilistic Tsetlin Machine, APT)'과 '비대칭 체틀린 머신(Asymmetric Tsetlin Machine, AT)'이 그 주인공이다.

이 기술은 단순히 성능 향상만을 노린 것이 아니다. 결정 과정이 투명하고, 설명 가능한 AI 모델을 어떻게 더 유연하고 지능적으로 만들 수 있을까라는 물음에서 시작됐다. 특히 복잡하고 잡음이 많은 환경에서도 안정적인 학습을 유지할 수 있는 해법을 제시하며, 향후 다양한 응용 분야에서 활용 가능성을 높였다.

확률과 결정론 사이, 절묘한 줄타기

체틀린 머신은 인간이 이해할 수 있는 논리적 규칙을 학습하는 머신러닝 모델이다. 기존 모델은 상태 전이를 대칭적이고 결정론적으로 처리했는데, 이는 복잡한 패턴을 학습하는 데 한계가 있었다. 연구팀은 여기에 두 가지 실험적 변화를 줬다.

첫째, 상태 전이를 대칭이 아닌 '비대칭'으로 설정했다. 즉, 상태를 이동할 때 왼쪽으로는 한 걸음, 오른쪽으로는 두 걸음 가는 식이다. 이 작은 변화가 시스템의 적응성과 탐색 능력을 극적으로 높였다.

둘째, '확률적 요소'를 추가해 학습 초기에 다양한 가능성을 탐색하게 하고, 시간이 지남에 따라 점점 더 결정론적으로 바뀌도록 설계했다. 이 과정은 정규분포의 표준편차가 시간이 지남에 따라 감소하는 방식으로 구현됐다.

연구는 두 모델을 개발했다.

* APT는 상태 전이가 오직 확률적으로 일어나는 모델로, 데이터가 단순하거나 패턴이 명확한 경우 효과적이었다.

* 반면 AT는 확률성과 결정론을 조화롭게 혼합한 방식으로, 복잡한 데이터셋에서 두각을 나타냈다.

실제 실험 결과도 눈에 띈다. 붓꽃(Iris), 버섯(Mushroom), 숫자 필기체(MNIST) 데이터셋을 대상으로 한 테스트에서 AT는 특히 MNIST와 같은 복잡한 환경에서 기존 체틀린 머신보다 최대 12%까지 정확도를 끌어올렸다. APT 역시 단순한 환경에서는 뛰어난 성능을 보이며 가능성을 입증했다.

설명 가능한 AI, 한층 더 강해지다

AI 모델의 '설명 가능성(Interpretability)'은 의료, 금융, 법률 등 분야에서 점점 더 중요해지고 있다. 복잡한 딥러닝 모델이 '블랙박스'라면, 체틀린 머신은 그 안을 투명하게 들여다볼 수 있는 '유리 상자'에 가깝다. 이번 연구는 여기에 확률적 사고와 방향성 있는 탐색을 추가함으로써, '이해할 수 있는 AI'의 가능성을 한층 더 확장했다.

앞으로 이 기술은 순차적 의사결정, 비정형 데이터 분석, 적응형 시스템 설계 등 다양한 분야로 확장될 수 있다. 특히 복잡한 환경에서 안정적이면서도 해석 가능한 학습을 요구하는 상황에 적합할 것으로 기대된다.

무엇보다도, 이번 연구는 머신러닝 알고리즘이 단순히 정확도를 높이는 데 그치지 않고, '어떻게 더 인간처럼 생각할 수 있을까'라는 근본적인 질문에 다가서려는 시도로 보인다. 이는 AI의 다음 진화를 예고하는 신호일지도 모른다.

출처 논문

Elmisadr N, Belaid M-B and Yazidi A (2025) Stochastic and deterministic processes in Asymmetric Tsetlin Machine. *Front. Artif. Intell.* 8:1377944.