AI가 쓴 글, 이제 AI도 못 잡는다… 교사·교수·면접관이 백기 든 이유
학생이 제출한 과제물을 읽던 교수가 갑자기 손을 멈춘다. 문장은 매끄럽고 논리도 훌륭하다. 맞춤법 오류도 거의 없다. 그런데 어딘가 이상하다. 평소 수업 시간에 제대로 대답하지 못하던 학생이 이렇게 완벽한 글을 썼다는 사실이 믿기지 않는다. 교수는 인공지능(AI) 탐지 프로그램에 글을 입력한다. 결과는 '인간이 작성했을 가능성이 높음'이다. 이제 교수는 누구를 믿어야 할까. 학생일까, 탐지 프로그램일까, 아니면 자신의 직감일까. 생성형 AI가 등장한 이후 학교와 대학, 기업의 채용 현장에서는 새로운 고민이 시작되었다. 챗GPT(ChatGPT)가 작성한 글과 인간이 직접 쓴 글을 구별하는 일이 갈수록 어려워지고 있기 때문이다. 더 놀라운 사실은 AI가 작성한 글을 판별하도록 만들어진 프로그램조차 정확성을 보장하지 못한다는 점이다. 글을 잘 쓰는 능력과 글을 직접 썼다는 사실이 더 이상 같은 의미가 아닌 시대가 찾아왔다. AI 탐지 프로그램이 믿었던 문장의 비밀 AI 글 탐지기는 일반적으로 문장 속 단어의 통계적 패턴과 표현의 규칙성 등을 분석한다. 생성형 AI는 앞에 나온 단어들을 바탕으로 다음에 등장할 단어를 예측하는 방식으로 문장을 만든다. 따라서 특정 표현이 지나치게 예측 가능하거나 문장 구조가 일정하면 AI가 작성했을 가능성이 있다고 판단할 수 있다. 그러나 여기에는 근본적인 문제가 있다. 인간도 규칙적인 문장을 쓰고, AI도 다양한 문체를 구사할 수 있다는 사실이다. 특히 학술논문이나 공문서처럼 일정한 형식을 따르는 글에서는 인간과 AI의 문체가 비슷해질 수 있다. 반대로 AI가 작성한 문장에 사람이 조금만 손을 대도 통계적 특징이 달라질 수 있다. 결국 탐지기가 측정하는 것은 글의 실제 작성자가 아니라 AI가 작성한 글에서 자주 발견되는 특징이다. 이러한 특징만으로 작성자를 확정하는 것은 지문이나 신분증을 확인하는 것과 전혀 다른 문제다. AI 탐지기의 한계를 드러낸 스탠퍼드대학교 연구 2023년 미국 스탠...