의료 인공지능에 감정을 심는 새로운 시도
"AI가 '두려움'을 배웠다고?
“무서운 걸 무서워할 줄 아는 인공지능, 필요하지 않을까?”
누군가는 뜬금없다고 생각할지도 모른다. 하지만 수술실이나 중환자실처럼 생명이 오가는 현장에서, 지나치게 용감한 인공지능은 오히려 위험할 수 있다. 2025년 5월 발표된 흥미로운 논문 하나가 이 문제에 정면으로 도전장을 내밀었다. 제목은 다소 파격적이다. *“Embedding Fear in Medical AI”*, 번역하자면 “의료 인공지능에 ‘공포’를 심다.”
이 논문은 말 그대로, 의료용 인공지능 시스템 안에 일종의 ‘두려움 메커니즘’을 넣자는 제안이다. 물론 여기서 말하는 ‘두려움’은 우리가 깜짝 놀라거나 공포에 떠는 감정과는 다르다. 이는 ‘해를 끼치지 않기 위해 주저하는 본능’, 즉 신중함과 위험 회피를 뜻하는 일종의 디지털 본능(digital instinct)이다.
사람처럼 ‘멈칫’하는 AI가 필요한 이유
현재의 의료 인공지능은 놀랍도록 똑똑하다. 방대한 데이터를 분석하고, 최적의 진단이나 치료법을 제시하기도 한다. 하지만 한 가지가 빠져 있다. 바로 ‘직감’과 ‘신중함’이다.
논문은 인간 뇌의 편도체(amygdala)에서 착안했다. 편도체는 공포와 위협을 인식하는 데 중요한 역할을 하는 기관이다. 자동차가 갑자기 튀어나왔을 때 본능적으로 멈추는 것처럼, 우리 뇌는 위협을 감지하고 반응한다. 이처럼 AI도 데이터가 불확실하거나 위험한 상황에서는 스스로 ‘잠깐 멈춰야겠다’고 판단하는 기제가 필요하다는 게 논문의 핵심이다.
어떻게 ‘두려움을 계산’하게 만들까?
연구진은 이를 위해 여러 기술을 조합했다. 놀랍게도 이건 완전히 새로운 기술이 아니라 이미 존재하는 기술들의 재배치다.
* 베이지안 모델: 불확실성과 위험 확률을 계산하는 통계 모델. 예측이 불확실할수록 경고 신호를 보내도록 한다.
* 강화학습 + 패널티 시스템: 위험한 결정을 내리면 AI가 스스로 ‘혼나도록’ 훈련시키는 방식이다.
* 불확실성 추정: Gaussian Process 같은 수학 모델로 ‘자신의 판단이 얼마나 확신 있는가’를 계산.
* 기억 시스템: 과거에 틀린 판단이나 사고 경험을 기억해 유사한 상황에서 더 신중해진다.
* 계층적 승인: 위험도가 임계치를 넘으면 사람이 마지막 결정을 내리도록 ‘패스’한다.
이 시스템은 수학적으로도 설명된다. 위험(R), 이득(B), 불확실성(UQ)를 각각 가중치(w1, w2, w3)를 곱해 총합 유틸리티를 계산하고, 일정 임계치 이하일 경우 AI가 스스로 결정을 유보하는 구조다.
"수술하자" 대신 "잠깐, 다시 생각해봐야 할 것 같아"
실제 예시도 등장한다. 뇌동맥류를 클립으로 막는 고위험 수술을 추천할지 말지 고민하는 AI. 이 AI는 수술 성공률과 부작용 가능성을 종합적으로 분석하고, 결과가 불확실하고 위험이 일정 수준 이상이면 자동으로 ‘사람에게 넘기는’ 식으로 작동한다.
흥미로운 건, AI가 이런 판단을 ‘무조건 거부’하는 게 아니라, **사람처럼 조심스럽게 ‘멈칫’** 한다는 점이다. 마치 경험 많은 의사가 “뭔가 꺼림칙하다”며 수술을 미루는 것과 유사하다.
무조건 안전지향이면 안 된다?
하지만 모든 상황에서 이런 ‘두려운 AI’가 좋은 것만은 아니다. 논문은 ‘과도한 조심성’이 오히려 문제를 일으킬 수 있다고 경고한다. 즉, 너무 쉽게 경고만 날리면 실제로 필요한 치료를 놓칠 수 있기 때문이다. 그래서 이 ‘공포 모듈’은 자율적으로 결정을 취소하진 않으며, 사람의 최종 판단을 보완하는 보조자 역할에 머무른다.
또한 악의적인 해커가 AI의 ‘두려움’ 신호를 조작해 시스템을 마비시키는 가능성도 언급한다. 예를 들어, 환자 데이터에 일부러 오류를 넣어 AI가 계속 위험하다고 판단하게 만들면, 병원이 제대로 작동하지 못할 수도 있다. 이 때문에 보안 시스템과 입력 검증 기술이 중요하다는 지적도 함께 한다.
의료 AI에 감정을 흉내 내게 한다고?
놀랍게도 이 논문은 의료 인공지능의 미래는 “감정 흉내”가 아닌 “감정 구조의 내장”에 있다고 본다. AI가 실제로 감정을 느끼는 것은 아니지만, 감정을 흉내 내는 표면적인 ‘필터’가 아닌 의사결정의 뼈대에 감정처럼 작동하는 모듈을 집어넣자는 것이다.
‘편도체 유사 모듈’, 즉 ‘디지털 편도체’로 명명하고, AI가 감정처럼 위험 신호를 실시간 감지하고 조정할 수 있도록 하자고 주장한다.
왜 중요한가? – 미래는 ‘과감한 AI’보다 ‘신중한 AI’가 필요하다
의료 현장은 생명을 다루는 곳이다. 빠른 판단도 중요하지만, 그보다 더 중요한 건 **위험한 선택을 피하는 능력**이다. 특히 향후 AI가 자율적으로 치료를 결정하게 될지도 모른다는 전망에서, 이런 ‘두려움 메커니즘’은 생명을 살리는 마지막 안전장치가 될 수 있다.
결국 이 논문은 AI의 속도를 유지하면서도, 인간의 직관과 신중함을 흉내 내는 새로운 길을 제시한다. 인간처럼 무서워하진 않지만, 인간처럼 망설일 줄 아는 인공지능, 그것이야말로 진짜 ‘의료 파트너’가 아닐까?
---
출처 논문
Thurzo, A.; Thurzo, V. *Embedding Fear in Medical AI: A Risk-Averse Framework for Safety and Ethics.* AI 2025, 6, 101.
#의료AI #위험회피 #편도체모듈 #AI윤리 #강화학습