AI가 모든 것을 해낸다는 말을 들을 때

창밖으로 서울의 저녁 풍경이 보이는 방에서 노년의 남성이 원고와 노트북을 앞에 두고 생각에 잠겨 있다.

놀라운 AI 소식 앞에서 잠시 멈춘다. 번역할 때 원문을 다시 살피듯, 큰 발표 뒤에 무엇이 확인됐는지 묻기 위해서다.

나는 오랫동안 남이 쓴 문장을 읽고 옮기는 일을 해 왔다. 문장이 그럴듯하다고 해서 곧바로 믿지는 않는다. 숫자 하나가 잘못 들어갔을 수도 있고, 앞뒤를 떼어 놓으면 뜻이 달라지는 말도 있다. 번역을 하다 보면 매끄러운 문장일수록 한 번 더 원문을 들여다보게 된다.

요즘 AI 뉴스를 읽을 때도 그렇다. 전문가보다 뛰어나다, 어려운 수학 문제를 풀었다, 머지않아 사람을 넘어설 것이라는 제목이 잇따른다. 처음에는 나도 놀란다. 하지만 조금 읽다 보면 알고 싶은 것이 생긴다. 정확히 어떤 일을 해냈다는 것일까. 다른 사람도 같은 결과를 확인했을까.

AI가 놀라운 일을 하는 것은 사실이다. 나도 낯선 내용을 이해하거나 글의 실마리를 찾을 때 도움을 받는다. 그렇지만 한번 제대로 답했다고 해서 다음에도 반드시 옳은 것은 아니다. 내가 아는 주제에서는 선뜻 믿기 어려운 답을 태연하게 내놓기도 한다. 그럴 때면 참 묘하다. 말투는 그렇게 자신 있는데, 내용은 다시 확인해야 한다니.

큰 발표가 지나간 뒤

팀닛 게브루와 에밀리 벤더는 《MIT 테크놀로지 리뷰》에 쓴 글에서 최근의 AI 발표를 다시 살펴본다. 기업이 대단한 성과를 알리면 언론도 크게 보도한다. 그런데 관련 분야의 전문가들이 시간을 들여 검토한 뒤에는 처음 발표와 다른 설명이 나오기도 한다는 것이다.

나는 그 시간 차이가 마음에 걸린다. 놀라운 소식은 아침에 들었는데, 자세한 검토는 며칠 뒤에 나온다. 그사이 첫 소식은 이미 여러 사람에게 전해졌다. 정작 뒤늦게 나온 설명은 처음만큼 널리 읽히지 않는다. 나 역시 제목만 보고 기억해 둔 일을 나중에야 바로잡은 적이 있다.

AI가 수학이나 컴퓨터 작업에서 좋은 성과를 거두면 반갑다. 다만 그 성과가 무엇을 뜻하는지는 수학자와 컴퓨터 전문가의 설명까지 듣고 판단하고 싶다. 바둑을 잘 두는 사람이 내 병까지 진단해 줄 수는 없듯, 한 가지 일을 잘하는 AI가 모든 일을 잘한다고 생각할 수는 없다.

기계 뒤에 있는 사람

“AI가 통제를 벗어났다”는 표현을 읽을 때도 나는 잠시 멈춘다. 기계가 무슨 일을 했는지는 알아야 한다. 하지만 거기서 이야기가 끝나서는 안 된다. 그 기계에 어떤 일을 맡겼는지, 어디까지 접근하도록 했는지, 문제가 생길 가능성을 누가 살폈는지도 알아야 한다.

우리 주변에서는 이미 AI가 아이의 공부를 돕고, 건강 정보를 설명하고, 돈을 관리하는 데까지 쓰인다. 이런 서비스가 도움이 될 수 있다. 그만큼 틀렸을 때 어떻게 바로잡을지도 분명해야 한다. “AI가 그랬다”는 말만으로는 잘못된 정보를 믿고 시간을 쓰거나 돈을 잃은 사람의 마음이 풀리지 않는다.

나이가 들수록 새로운 것을 따라가는 일이 쉽지만은 않다. 그래서 “알아서 다 해 준다”는 말이 솔깃하게 들릴 때가 있다. 그래도 나는 묻고 싶다. 어디까지 해 주는가. 틀릴 때는 어떻게 알 수 있는가. 문제가 생기면 누구에게 말해야 하는가.

기술은 앞으로 더 좋아질 것이다. 나도 필요할 때 기꺼이 쓸 것이다. 다만 큰소리로 들려오는 약속을 조금 천천히 받아들이려 한다. 글을 번역할 때 원문을 다시 펼쳐 보듯, 놀라운 뉴스를 읽을 때도 한 번 더 살펴보려 한다. 내가 믿고 싶은 말인지, 확인된 말인지 구별하기 위해서다.

참고 문헌

Timnit Gebru·Emily M. Bender, “Don’t be fooled by this summer of AI hype”, MIT Technology Review, 2026년 9월 22일.
Stanford HAI, 2026 AI Index Report: Technical Performance.
U.S. Federal Trade Commission, “FTC Announces Crackdown on Deceptive AI Claims and Schemes”.