AI 사용 사실을 밝히지 않고 소통하는 사람들, 과연 도덕적으로 잘못된 일일까?
생성형 AI가 만든 글을 숨기는 행위
회의 중 적어 둔 메모를 ChatGPT 같은 생성형 인공지능 도구로 정리했다고 가정해 보자. 동료는 그 메모가 매우 명확하다고 칭찬한다. 그러나 당신은 메모를 깔끔하게 다듬은 주체가 실제로 AI였다는 사실을 밝히지 않는다.
이번에는 다른 상황을 생각해 보자.
당신은 어머니의 장례식에 참석해 있다. 오랜 친구가 진심 어린 추도사를 낭독하며 고인의 안식을 기원한다. 그런데 나중에 알고 보니 그 친구는 추도사를 직접 쓰지 않았고, 모든 내용은 AI가 작성한 것이었다.
두 사례 모두 AI 사용 사실을 숨겼다는 점에서 일종의 기만이다. 그러나 그것이 곧 도덕적으로 그른 행동을 뜻할까?
생성형 AI가 빠르게 확산되는 지금, 이 철학적 질문은 충분히 검토할 가치가 있다. 연구에 따르면 사람들은 AI 사용 사실이 인간관계에 영향을 미칠 수 있다고 여기기 때문에 이를 숨기려는 강한 동기를 가질 수 있다.
많은 사람은 생성형 AI가 만든 결과물을 상대적으로 낮게 평가한다. 또한 AI를 사용하는 사람을 덜 유능하거나 덜 진정성 있는 사람으로 보는 경향도 있다.
다양한 종류의 기만 구분하기
일반적으로 기만적 행동이란 자신이 거짓이라고 아는 내용을 다른 사람이 사실로 믿게 만드는 행위를 뜻한다. 그러나 기만에도 여러 종류가 있다.
철학자 John Danaher는 AI나 로봇이 만들어 내는 기만을 세 가지 유형으로 구분하는 틀을 제시했다. 로봇이 인간 행동을 그럴듯하게 모방하듯, 생성형 AI 역시 인간이 유사한 일을 하도록 돕기 때문에 이 구분은 유용하다.
첫 번째는 외부 세계에 관한 거짓말이나 왜곡이다. 예를 들어 실제로는 보지 못했는데 길에서 말을 봤다고 말하는 경우다. Danaher는 이를 ‘외부 상태 기만’이라고 부른다.
두 번째는 자신에 관한 사실을 왜곡하는 경우다. 예컨대 AI가 만든 작품을 보여 주며 자신이 뛰어난 예술가라고 믿게 만드는 상황이다. 그는 이를 ‘표면 상태 기만’이라고 부른다.
세 번째는 실제로 자신이 지닌 생각이나 감정, 능력을 숨기는 경우다. 예를 들어 어떤 언어를 이해하면서도 모르는 척하며 남의 대화를 엿듣는 행동이다. 그는 이를 ‘숨겨진 상태 기만’이라고 설명한다.
그렇다면 언제 기만은 비도덕적인가?
첫 번째 사례로 돌아가 보자.
회의 메모를 AI로 정리했다는 사실을 밝히지 않으면, 동료는 당신에게 그 작업을 수행할 능력이 있다고 생각할 수 있다. 실제로 당신에게 그런 능력이 있을 수도 있다. 그러나 동료는 동시에 당신이 직접 그 능력을 발휘해 작업을 수행했다고 믿게 된다. 이 부분은 사실이 아니다. 이는 외부 상태 기만에 해당한다.
이런 기만은 도덕적으로 문제가 있지만, 반드시 윤리적으로 허용될 수 없다고 보기는 어렵다. 이처럼 사소한 수준의 기만은 일상에서 흔히 일어난다. 우리는 자신이 무엇을 했고 왜 그렇게 했는지에 관한 모든 사실을 언제나 공개해야 할 의무를 지니지는 않는다.
예를 들어 대부분의 상황에서 맞춤법 실력은 핵심적인 문제가 아니기 때문에, 맞춤법 검사기를 사용했다고 굳이 밝히지는 않는다. 그러나 맥락에 따라 판단은 달라진다. 철자 맞히기 대회에서 맞춤법 검사기를 사용했다면 사람들은 훨씬 더 비판적으로 볼 것이다.
장례식 추도사의 사례도 구조는 비슷하지만, 훨씬 덜 사소하다. 당신은 어머니의 친구가 고인의 안식을 기원한다고 믿을 수 있으며, 그것은 사실일 수도 있고 아닐 수도 있다. 그러나 그 추도사가 친구 자신의 마음에서 직접 나온 표현이라고 믿는다면, 그것은 분명 잘못된 믿음이다.
이 경우는 훨씬 더 중대한 도덕적 문제를 낳는다. AI가 만든 결과물을 자신의 창작물처럼 제시할 때, 특히 그것이 자신의 감정이나 정체성을 드러내는 내용일 때 우리는 단순히 그 결과물에 동의한다는 뜻을 넘어 직접 작성했다는 신호를 보낸다. 추도사의 경우 중요한 것은 그 말의 출처가 AI가 아니라 친구 자신이어야 한다는 점이다. 따라서 이는 사소하지 않은 외부 상태 기만이다.
우리는 그 결과물이 자신의 생각과 감정, 능력에서 직접 비롯된 것처럼 암시한다. AI 사용 사실을 숨기면 사람들은 세상과 타인에 대해 정확한 판단을 내리는 데 필요한 정보를 얻지 못한다. 그리고 사람들이 그러한 정보를 알 자격이 있다면, 이는 잘못된 행동이 된다.
그러나 장례식 사례는 AI 사용 사실을 밝히지 않는 일이 때로는 허용될 수 있음을 보여 주기도 한다. 예를 들어 친구가 너무 큰 슬픔에 압도되어 추도사를 직접 쓸 수 없었고, AI의 도움 없이는 장례식 전까지 글을 완성할 수 없었다고 가정해 보자. 또한 생성된 내용에 그가 진심으로 동의했다고 해 보자.
이 경우 AI 사용 사실을 밝히지 않는 행동은 여전히 도덕적 문제를 안고 있지만, 전체 상황을 고려하면 허용될 수 있다. 첫 번째 사례에서 기만의 사소함이 문제를 완화했듯, 여기서는 더 중요한 이유가 비공개의 문제점을 상쇄할 수 있기 때문이다.
AI를 더 윤리적으로 사용하는 방법
타인을 부당하게 속이지 않으려면 사소하지 않은 상황에서는 AI 사용 사실을 공개하는 것이 바람직하다. 무엇이 사소하지 않은 경우인지는 고정되어 있지 않으며, 맥락에 따라 달라진다. 사회적 관행과 규범에 따라 그 기준 역시 변화한다.
AI 사용 사실을 솔직히 밝히면 상대방은 우리가 전달하는 내용뿐 아니라, 그 내용이 드러내는 우리의 내면 상태를 더 정확하게 이해할 수 있다.
출처: People are using AI to communicate without disclosing it. Is this morally wrong?
출판일: 2026년 6월 5일
글쓴이: Siavosh Sahebi, Thomas Montefiore
플랫폼: The Conversation (Creative Commons)