금융권에서 책임 있는 AI 구현의 실체: 기술 너머의 비기술적 장벽과 기업 디지털 책임의 가능성

서론: AI가 바꾸는 금융의 미래, 그러나 남겨진 질문들

금융 산업은 인공지능(AI)과 생성형 AI(GenAI)의 도입으로 비약적인 발전을 이루고 있다. 고객 맞춤형 서비스, 사기 탐지, 신용 점수 산정 등에서 AI는 혁신을 선도하고 있다. 그러나 기술이 빠르게 발전할수록 이에 대한 책임 있는 사용과 윤리적 관리가 더욱 중요해진다. 바로 이 지점에서 '책임 있는 AI(Responsible AI)'라는 개념이 등장한다. 하지만 지금까지의 논의는 주로 기술적, 법적 측면에 치중되어 왔고, 실제 기업 현장에서 이를 구현하는 데 필요한 비기술적 요소에 대한 논의는 부족했다. 본 글에서는 최근 발표된 논문 "Scratching the Surface of Responsible AI in Financial Services"를 바탕으로 금융 산업에서 책임 있는 AI 구현에 어떤 비기술적 장벽이 존재하며, '기업 디지털 책임(Corporate Digital Responsibility, CDR)'이 이를 어떻게 보완할 수 있는지를 깊이 있게 살펴본다.

책임 있는 AI, 왜 중요한가?

책임 있는 AI란 단순히 성능 좋은 AI 시스템을 만드는 것이 아니라, 공정성, 투명성, 설명 가능성, 책임성 등을 내포하는 포괄적인 지침 체계다. 이는 기술을 안전하게 활용하면서도 사회적 가치와 윤리를 실현하려는 노력의 일환이다. 특히 금융 산업에서는 한 번의 알고리즘 오류가 수백만 명의 고객에게 영향을 줄 수 있기 때문에, 책임 있는 AI의 구현은 선택이 아니라 필수다.

그러나 현실은 녹록지 않다. 수많은 원칙과 규정이 쏟아지는 반면, 이를 실제 업무에 적용하는 방법에 대한 구체적 가이드라인은 부족하다. AI 원칙이 선언적 수준에 머물고 실천으로 이어지지 못하는 이유는 어디에 있을까?

연구의 핵심: 비기술적 장벽의 정체

이 논문은 유럽 내 15개 금융기관의 실무자와 전문가들을 대상으로 심층 인터뷰를 진행했다. 그 결과, 책임 있는 AI 구현을 가로막는 9가지 주요 비기술적 장벽이 드러났다:

책임 소재 불분명: AI 결과에 대해 누가 책임질 것인지에 대한 명확한 체계 부족
기존 관행과 충돌: 기존 금융 프로세스가 AI 속도와 맞지 않아 충돌 발생
의사결정의 불투명성: AI가 어떻게 결론에 도달했는지 설명하기 어려운 '블랙박스' 문제
공정성과 포용성의 구현 난이도: 공정성의 기준 자체가 모호하거나 주관적
조직 내 기술 이해 부족: 실무자와 경영진 간 기술 이해도의 격차
인적 요인의 복잡성: 조직 문화, 직원의 태도, 기술 수용성 부족
지속 가능성 미흡: AI 시스템이 환경에 미치는 영향에 대한 고려 부족
거버넌스의 병목: 여러 이해관계자 간 충돌과 느린 의사결정 구조
예산 및 리소스 부족: 책임 있는 AI를 위한 전담 조직이나 예산 미비

이 장벽들은 단순한 기술 문제가 아닌 조직 문화, 리더십, 의사소통, 인재 관리 등 복합적인 요인들이 얽혀 있음을 보여준다.

생성형 AI, 기존 AI와 다른 점

흥미로운 점은 인터뷰 대상자들이 전통적 AI보다 생성형 AI(GenAI)에 더 큰 위협을 느낀다는 것이다. 기존의 기계학습이 패턴 인식과 예측에 머물렀다면, GenAI는 사람처럼 문장, 이미지, 오디오 등을 생성할 수 있다. 이는 금융권에서 사기 탐지나 리스크 분석을 넘어서, 고객 대응, 투자 전략 수립 등 다양한 분야로 확장되고 있다. 하지만 동시에 오류 가능성과 설명 불가능성도 커지며, 기존의 RAI 거버넌스를 압도하고 있다는 점이 문제다.

기업 디지털 책임(CDR), 새로운 가능성의 열쇠

이처럼 기술 중심의 RAI 접근이 한계에 부딪히는 상황에서, '기업 디지털 책임(CDR)'이 대안으로 떠오른다. CDR은 단순히 법적 컴플라이언스를 넘어서, 기업이 자발적으로 디지털 기술을 윤리적으로 활용하고 사회적 책임을 다하겠다는 포괄적 개념이다. 이 연구는 CDR이 다음과 같은 측면에서 RAI 실현에 기여할 수 있다고 본다:

윤리적 의사결정 구조 정립: 기술이 아닌 사람이 중심이 되는 거버넌스 설계 가능
이해관계자와의 공감대 형성: AI 사용에 대한 사회적 정당성 확보
지속 가능성과 연결: 탄소발자국 등 환경 측면까지 고려한 AI 활용 전략
데이터 책임성 강화: 데이터 수집, 해석, 활용까지 일관된 책임 체계 구축

실무에 주는 시사점: '사람'이 해답이다

인터뷰 결과에서 반복적으로 등장하는 단어는 '사람'이다. 기술은 도구일 뿐, 이를 어떻게 설계하고, 관리하고, 사용하는가는 결국 사람의 몫이다. 여러 인터뷰이들은 다음과 같은 실천적 조언을 남겼다:

기술 중심의 접근에서 조직 중심, 사람 중심 접근으로 전환하라.
책임 있는 AI의 성공은 AI 모델이 아니라 조직 내 '책임 문화'에 달려 있다.
윤리적 판단을 내릴 수 있는 인재 양성과 리더십이 필수다.

결론: 기술의 책임은 결국 인간의 몫이다

이 논문은 책임 있는 AI를 구현하는 데 있어 기술적 한계를 넘어서는 인간 중심의 접근이 얼마나 중요한지를 강조한다. 특히 금융권처럼 고도로 규제되고 사회적 영향력이 큰 분야에서는, '책임'은 선언이 아니라 실행이어야 한다. 비기술적 장벽을 제거하고, 기업 디지털 책임(CDR)을 실천적 거버넌스로 삼는다면, 우리는 더 신뢰받는 AI 시대를 만들어갈 수 있을 것이다.

출처논문 (APA Style)

Skouloudis, A., & Venkatraman, A. (2025). Scratching the Surface of Responsible AI in Financial Services: A Qualitative Study on Non-Technical Challenges and the Role of Corporate Digital Responsibility. AI, 6(169). https://doi.org/10.3390/ai6080169

```