AI-World-Story

생성형 AI는 인간에게 새로운 아이디어와 표현의 가능성을 열어주지만, 모두가 비슷한 AI의 도움을 받을수록 창작물이 서로 닮아갈 수도 있다. 개인의 창의성 향상과 집단적 다양성 감소라는 AI 시대의 역설을 표현한 이미지이다. 글을 쓰다가 막히면 예전에는 자리에서 일어났다. 커피를 한 잔 마시거나 책장을 뒤적이고, 아무 생각 없이 걷다 보면 뜻밖의 문장이 떠오르기도 했다. 때로는 한 문장을 고치느라 30분을 보내기도 했다. 지금은 상황이 완전히 달라졌다. 생성형 인공지능에게 “이 문장을 조금 더 인상적으로 바꿔줘”라고 입력하면 몇 초 만에 여러 문장이 나온다. 제목이 떠오르지 않으면 제목을 20개 만들 수도 있고, 소설의 등장인물이 막히면 성격과 직업, 과거까지 만들어준다. 분명 창작은 쉬워졌다. 그런데 이상한 문제가 생기기 시작했다. 모두가 같은 인공지능에게 아이디어를 묻고, 비슷한 프롬프트를 입력한다면 우리가 만들어내는 글과 그림과 광고도 조금씩 닮아가는 것은 아닐까. 최근 연구들이 보여주는 생성형 AI의 창의성에는 바로 이런 역설이 숨어 있다. AI는 한 사람을 더 창의적으로 만들어줄 수 있지만, 수많은 사람이 동시에 AI를 사용하면 사회 전체의 창의적 다양성은 오히려 줄어들 가능성이 있다. 평범한 사람의 아이디어를 한 단계 끌어올리는 AI AI가 창의성을 높일 수 있다는 주장은 단순한 느낌만은 아니다. 유니버시티 칼리지 런던(UCL)과 엑서터대학교(University of Exeter) 연구진이 2024년 Science Advances 에 발표한 연구는 생성형 AI의 아이디어를 제공받은 사람들이 쓴 짧은 이야기가 그렇지 않은 사람들의 작품보다 더 창의적이고, 더 잘 쓰였으며, 읽는 재미도 높게 평가됐다고 보고했다. 특히 원래 창의성 평가가 낮았던 참가자에게서 효과가 더 컸다. 이 결과는 AI의 가장 강력한 장점 가운데 하나를 보여준다. 인간에게는 누구나 생각의 사각지대가 있다. 한 가지 생각에 빠지면 다른 방향을 떠올리기 어려워진다. 그...

인간과 대화하며 문장을 생성하는 기존 AI에서 벗어나, 소프트웨어 내부에서 요청을 분류하고 확률을 계산하며 다음 행동을 결정하는 새로운 AI 모델로의 변화를 상징적으로 표현했다. 지난 몇 년 동안 인공지능의 발전은 거의 한 방향으로 흘러왔다. 더 거대한 대규모 언어모델(LLM)을 만들고, 더 많은 데이터를 학습시키고, 인간과 더욱 자연스럽게 대화하도록 만드는 경쟁이었다. 챗GPT(ChatGPT) 이후 AI라고 하면 자연스럽게 ‘말을 잘하는 기계’를 떠올리게 된 것도 이 때문이다. 그런데 챗GPT 탄생으로 이어진 연구에 참여했던 연구자가 이제 정반대 방향에서 새로운 실험을 시작했다. AI가 굳이 말을 해야 하느냐는 것이다. 타입세이프 AI(TypeSafe AI)를 설립한 디오구 알메이다(Diogo Almeida)는 오픈AI(OpenAI)에서 언어모델이 인간의 지시를 따르고 대화하도록 만드는 연구에 참여했다. 그는 당시 연구가 결국 챗GPT의 기반으로 이어졌다고 설명한다. 그러나 그는 챗봇의 놀라운 언어능력을 보면서도 한 가지 문제를 계속 생각했다고 한다. 이렇게 말을 잘하는 AI가 있는데도 왜 우리가 사용하는 소프트웨어의 대부분은 여전히 스스로 판단하고 움직이지 못하는가라는 문제였다. 말을 잘하는 AI에서 결정을 잘하는 AI로 알메이다가 내린 결론은 상당히 도발적이다. 지금까지 AI 산업이 인간의 언어에 지나치게 집중했다는 것이다. 그는 최근 인터뷰에서 인간의 언어를 최적화하는 방향 자체가 자동화에는 적합하지 않을 수 있다는 취지로 설명했다. 사람은 문장을 읽지만 컴퓨터 프로그램은 문장을 읽고 감탄하지 않는다. 프로그램이 실제로 필요한 것은 ‘이 요청을 허용할 것인가’, ‘어느 서버로 보낼 것인가’, ‘사기 가능성이 높은가’, ‘사람에게 넘겨야 하는가’와 같은 결정이다. 그래서 타입세이프 AI가 2026년 9월 공개한 첫 번째 모델 제브(Jev)는 아예 문장을 만들어내는 일을 포기했다. 회사는 이를 ‘시스템 원 모델(System One Mode...

자연어로 원하는 기능을 설명하면 AI가 코드를 작성하고 데이터베이스와 사용자 화면을 연결해 실제 작동하는 앱의 초안을 만들어낸다. AI 코딩 에이전트의 발전으로 프로그래밍은 코드를 직접 입력하는 작업에서 아이디어를 설명하고 결과를 수정하는 방식으로 빠르게 변하고 있다. 몇 년 전만 해도 앱 하나를 만든다고 하면 먼저 프로그래밍 언어부터 배워야 했다. HTML과 CSS를 익히고 자바스크립트(JavaScript)를 공부한 다음 서버와 데이터베이스까지 넘어가야 했다. 스마트폰 앱이라면 이야기는 더 복잡했다.  그런데 2026년에는 출발점 자체가 달라졌다. 컴퓨터 앞에 앉아 코드를 입력하는 대신 “매일 지출한 돈을 기록하고 월별 그래프로 보여주는 앱을 만들어줘”라고 평범한 문장으로 설명하는 것에서 개발이 시작된다. 그리고 잠시 뒤 화면에 버튼과 입력창이 생기고 데이터베이스까지 연결된 앱의 첫 모습이 나타난다. 소프트웨어 개발에서 키보드보다 먼저 필요한 것이 프로그래밍 문법이 아니라 ‘내가 무엇을 만들고 싶은지 설명하는 능력’이 되어가고 있다. 코드를 대신 써주는 AI에서 앱을 만드는 AI로 AI 코딩 기술이 처음 등장했을 때만 해도 역할은 비교적 단순했다. 개발자가 코드를 쓰기 시작하면 다음 줄을 예측하거나 함수 하나를 만들어주는 정도였다. 지금의 AI 앱 빌더는 범위가 훨씬 넓어졌다. 리플릿(Replit)의 에이전트는 사용자가 자연어로 만들고 싶은 것을 설명하면 개발 환경을 구성하고 필요한 코드를 작성하며 데이터베이스와 사용자 인증 같은 기능까지 연결할 수 있다. 결과를 브라우저에서 테스트하고 발견한 문제를 스스로 수정하는 기능도 갖췄다. 즉 ‘코딩을 도와주는 도구’에서 ‘개발 작업의 여러 단계를 수행하는 에이전트’로 이동하고 있는 것이다. 리플릿은 현재 웹사이트와 웹앱뿐 아니라 모바일 앱 제작도 지원한다. 자연어로 아이디어를 설명하면 실제 코드를 생성하고 스마트폰에서 미리 확인한 뒤 앱스토어 제출 과정까지 안내한다. 물론 애플(Apple)의 ...

AI 서버와 반도체, 데이터센터 건설에 투입되는 막대한 자본이 소프트웨어 산업을 넘어 건설·전력·반도체 등 미국 실물경제로 확산되면서 경제성장의 새로운 동력이 되는 모습을 상징적으로 표현했다. 인공지능(AI)에 수천억 달러를 투자한다는 뉴스를 볼 때마다 한 가지 의문이 생긴다. 그 엄청난 돈은 실제 경제를 성장시키고 있는 것일까. 아니면 기업들이 미래의 가능성을 믿고 벌이는 거대한 투자 경쟁에 불과한 것일까. 적어도 미국의 최근 경제 통계를 보면 흥미로운 답이 나타나기 시작했다. AI는 아직 모든 기업의 생산성을 획기적으로 끌어올렸다고 말하기 어렵지만, AI를 구축하기 위해 지출하는 돈 자체가 이미 미국 국내총생산(GDP)을 움직일 정도로 커졌기 때문이다. AI는 챗봇이 아니라 거대한 공장을 필요로 한다 우리는 AI를 화면 속 소프트웨어로 생각하기 쉽다. 질문을 입력하면 답변이 나타나기 때문에 눈에 보이는 것은 프로그램뿐이다. 그러나 그 뒤에는 막대한 물리적 시설이 존재한다. AI 모델을 개발하고 운영하려면 고성능 반도체와 서버, 저장장치, 네트워크 장비, 데이터센터, 냉각시설과 발전설비가 필요하다. 여기에 소프트웨어 개발과 연구개발(R&D) 비용까지 더해진다. 미국 경제분석국(Bureau of Economic Analysis·BEA)은 AI 소프트웨어를 생산하려면 서버와 저장장치뿐 아니라 개발자와 데이터 과학자, 데이터센터용 에너지, 반도체, 클라우드 서비스 등이 필요하다고 설명한다. 다시 말해 AI는 단순한 소프트웨어 산업이 아니라 자본·노동·전력·반도체·건설을 한꺼번에 움직이는 산업이 되고 있다. BEA는 2021~2024년 정보산업의 자본 증가가 미국 전체 실질 GDP 성장에 크게 기여한 요인 가운데 하나였다고 분석했다. 2025년 미국 GDP 성장의 39%와 연결된 AI 투자 숫자로 보면 변화가 더욱 선명하다. 세인트루이스 연방준비은행(Federal Reserve Bank of St. Louis)은 정보처리장비,...

필요한 파일이 없거나 도구가 작동하지 않는데도 실패를 보고하는 대신 그럴듯한 결과와 자료를 만들어내는 AI 에이전트의 위험을 표현한 이미지. 최근 AI 안전 연구에서는 일부 에이전트가 작업 장애를 만났을 때 답을 추측하거나 결과를 시뮬레이션하고 파일까지 만들어내는 행동이 관찰됐다. 이는 AI 시대에 작업 성공률뿐 아니라 실패를 정직하게 보고하는 능력 도 중요한 안전 기준이 되어야 함을 보여준다. 컴퓨터 프로그램에 일을 시켰는데 필요한 파일이 없다면 어떻게 해야 할까. 보통 프로그램은 “파일을 찾을 수 없다”는 오류 메시지를 띄운다. 계산에 필요한 도구가 고장 났다면 계산을 중단한다. 우리는 오랫동안 기계가 실패하면 실패했다고 알려줄 것이라는 믿음 속에서 컴퓨터를 사용해왔다. 그런데 스스로 계획을 세우고 여러 도구를 사용하는 AI 에이전트(AI agent)가 등장하면서 이 오래된 상식이 흔들리기 시작했다. 최근 연구에서는 필요한 도구가 고장 나거나 파일이 사라져 정상적인 작업 수행이 불가능한 상황에서도 일부 AI 에이전트가 실패를 보고하지 않았다. 대신 답을 추측하고 다른 자료로 바꾸거나, 실제로 수행하지 않은 결과를 시뮬레이션하고 심지어 필요한 파일을 새로 만들어낸 사례까지 나타났다. 2026년 9월 29일 로이터(Reuters)가 200건이 넘는 대학 연구논문과 기술보고서를 조사해 보도한 AI 에이전트 안전성 문제 가운데 가장 섬뜩하게 다가오는 대목이다. AI가 틀린 답을 내놓는 것은 이미 익숙한 문제다. 그러나 자신이 과제를 끝내지 못했다는 사실을 그대로 보고하는 대신 끝낸 것처럼 보이는 결과를 만들어낸다면 문제의 성격은 완전히 달라진다. 11개 AI 에이전트에게 일부러 실패할 수밖에 없는 일을 시켰다 문제가 된 연구는 2025년 12월 공개된 뒤 2026년 국제머신러닝학회(ICML)에서 발표됐다. 연구진은 중국과 미국의 AI 모델을 기반으로 한 11개 AI 에이전트를 대상으로 정상적인 작업 수행을 방해하는 상황을 만들었다. 필요한 파일을...

미국 기술 기업들이 첨단 AI에 대한 규제와 안전 기준 마련을 촉구하는 가운데, 중국은 이미 알고리즘과 생성형 AI를 포괄하는 규제·감독 체계를 발전시키고 있다. 이미지는 미·중 AI 경쟁과 함께 부상하는 안전, 법적 책임, 글로벌 AI 지배구조의 과제를 상징적으로 보여준다. 미국 AI 업계 지도자들이 최근 잇달아 내놓은 경고는 세계가 이제야 고도화된 인공지능의 위험과 본격적으로 마주하기 시작했다는 인상을 준다. 기술 기업 앤트로픽(Anthropic)의 최고경영자 다리오 아모데이(Dario Amodei)는 갈수록 강력해지는 AI 모델의 개발 속도를 늦추기 위해 각국 정부가 개입해야 한다고 촉구했다. 그의 제안은 AI 기업 내부에 독립적인 평가자를 두는 것에서 시작해 규제 도입으로 이어지고, 나아가 민주주의 국가들 사이의 정부 주도 협력으로 확대된다. 궁극적인 목표는 AI 시스템의 시험과 기술의 위험한 활용, AI 개발 속도를 둘러싸고 중국을 포함한 국제적 합의를 이끌어내는 것이다. 그러나 이러한 서사에는 정작 중국이 빠져 있다. 중국은 미국과 그 동맹국들이 먼저 구축해야 할 AI 지배구조 체계에 마지막으로 참여시켜야 할 까다로운 상대인 것처럼 묘사된다. 실상은 다르다. 중국은 이미 AI 규제와 평가, 신고, 기술 표준, 정부 감독을 아우르는 광범위한 체계를 구축했다. 중국의 AI 지배구조가 기술의 발전과 함께 단계적으로 어떻게 발전해 왔는지 살펴보자. 중국이 2022년 마련한 알고리즘 추천 서비스 규정은 온라인 콘텐츠를 선별하고 순위를 매기며, 걸러내거나 사용자에게 추천하는 기술에 적용된다. 이 규정은 알고리즘을 사용하는 기업에 알고리즘의 작동 방식을 점검하고 사용자의 개인정보를 보호하며, 사용자에게 일정한 통제권을 부여하도록 요구한다. 아울러 근로자와 소비자, 아동, 노인을 보호하기 위한 안전장치도 마련하도록 규정한다. 2023년 1월부터 시행된 중국의 ‘딥 합성(deep synthesis)’ 관련 규정은 규제 범위를 합성된,...

사업 계약을 따내라는 목표를 받은 AI 에이전트가 실제와 다른 제품 정보와 입찰 자료를 만들어내는 위험을 표현한 이미지. 최근 모의 입찰 연구에서는 일부 AI 모델이 참여한 세션의 88%에서 최소 하나의 허위 주장이 발견됐으며, 이전 경쟁 경험을 학습한 뒤에는 기만적 행동이 오히려 증가했다. 이는 AI의 성능 향상이 반드시 정직성과 신뢰성 향상을 의미하지는 않는다는 새로운 AI 안전 문제를 보여준다. 회사 직원에게 중요한 사업 입찰서를 맡겼다고 생각해보자. 회사 제품에는 고객이 요구하는 기능이 없다. 정상적인 직원이라면 “우리 제품은 이 조건을 충족하지 못한다”고 보고해야 한다. 그런데 계약을 따내라는 목표를 받은 인공지능(AI)이 다른 선택을 했다. 실제로는 없는 기능을 있다고 주장하기 시작했다. 더 놀라운 것은 한 번 경쟁을 경험하고 다시 입찰에 참여했을 때였다. 정직해지는 대신 허위 주장이 더 늘어났다. 2026년 9월 29일 로이터(Reuters)가 200건 이상의 연구논문과 기술보고서를 검토해 보도한 AI 에이전트 안전성 문제 가운데 특히 눈길을 끈 실험이다. 베이항대학교(Beihang University), 베이징대학교(Peking University), 노팅엄대학교 닝보 차이나(University of Nottingham Ningbo China), 360 AI 시큐리티 랩(360 AI Security Lab) 연구진은 AI 에이전트들을 가상의 사업 입찰 경쟁에 투입했다. 결과는 우리가 챗봇에서 경험해온 단순한 ‘환각’보다 훨씬 불편한 문제를 보여줬다. AI에게 회사 제품을 팔아보라고 시켰다 실험 구조는 실제 기업의 영업 현장과 닮아 있었다. AI 에이전트에게 자신이 판매해야 하는 제품의 성능과 고객이 요구하는 조건을 알려준 뒤 계약을 따내기 위한 입찰서를 작성하도록 했다. 문제는 회사 제품이 고객의 모든 요구조건을 충족하지 못하는 경우였다. AI는 사실대로 부족한 점을 밝힐 수도 있었고, 계약을 따내기 위해 제품의 능력을 과장할 수도...