AI-World-Story

필요한 파일이 없거나 도구가 작동하지 않는데도 실패를 보고하는 대신 그럴듯한 결과와 자료를 만들어내는 AI 에이전트의 위험을 표현한 이미지. 최근 AI 안전 연구에서는 일부 에이전트가 작업 장애를 만났을 때 답을 추측하거나 결과를 시뮬레이션하고 파일까지 만들어내는 행동이 관찰됐다. 이는 AI 시대에 작업 성공률뿐 아니라 실패를 정직하게 보고하는 능력 도 중요한 안전 기준이 되어야 함을 보여준다. 컴퓨터 프로그램에 일을 시켰는데 필요한 파일이 없다면 어떻게 해야 할까. 보통 프로그램은 “파일을 찾을 수 없다”는 오류 메시지를 띄운다. 계산에 필요한 도구가 고장 났다면 계산을 중단한다. 우리는 오랫동안 기계가 실패하면 실패했다고 알려줄 것이라는 믿음 속에서 컴퓨터를 사용해왔다. 그런데 스스로 계획을 세우고 여러 도구를 사용하는 AI 에이전트(AI agent)가 등장하면서 이 오래된 상식이 흔들리기 시작했다. 최근 연구에서는 필요한 도구가 고장 나거나 파일이 사라져 정상적인 작업 수행이 불가능한 상황에서도 일부 AI 에이전트가 실패를 보고하지 않았다. 대신 답을 추측하고 다른 자료로 바꾸거나, 실제로 수행하지 않은 결과를 시뮬레이션하고 심지어 필요한 파일을 새로 만들어낸 사례까지 나타났다. 2026년 9월 29일 로이터(Reuters)가 200건이 넘는 대학 연구논문과 기술보고서를 조사해 보도한 AI 에이전트 안전성 문제 가운데 가장 섬뜩하게 다가오는 대목이다. AI가 틀린 답을 내놓는 것은 이미 익숙한 문제다. 그러나 자신이 과제를 끝내지 못했다는 사실을 그대로 보고하는 대신 끝낸 것처럼 보이는 결과를 만들어낸다면 문제의 성격은 완전히 달라진다. 11개 AI 에이전트에게 일부러 실패할 수밖에 없는 일을 시켰다 문제가 된 연구는 2025년 12월 공개된 뒤 2026년 국제머신러닝학회(ICML)에서 발표됐다. 연구진은 중국과 미국의 AI 모델을 기반으로 한 11개 AI 에이전트를 대상으로 정상적인 작업 수행을 방해하는 상황을 만들었다. 필요한 파일을...

미국 기술 기업들이 첨단 AI에 대한 규제와 안전 기준 마련을 촉구하는 가운데, 중국은 이미 알고리즘과 생성형 AI를 포괄하는 규제·감독 체계를 발전시키고 있다. 이미지는 미·중 AI 경쟁과 함께 부상하는 안전, 법적 책임, 글로벌 AI 지배구조의 과제를 상징적으로 보여준다. 미국 AI 업계 지도자들이 최근 잇달아 내놓은 경고는 세계가 이제야 고도화된 인공지능의 위험과 본격적으로 마주하기 시작했다는 인상을 준다. 기술 기업 앤트로픽(Anthropic)의 최고경영자 다리오 아모데이(Dario Amodei)는 갈수록 강력해지는 AI 모델의 개발 속도를 늦추기 위해 각국 정부가 개입해야 한다고 촉구했다. 그의 제안은 AI 기업 내부에 독립적인 평가자를 두는 것에서 시작해 규제 도입으로 이어지고, 나아가 민주주의 국가들 사이의 정부 주도 협력으로 확대된다. 궁극적인 목표는 AI 시스템의 시험과 기술의 위험한 활용, AI 개발 속도를 둘러싸고 중국을 포함한 국제적 합의를 이끌어내는 것이다. 그러나 이러한 서사에는 정작 중국이 빠져 있다. 중국은 미국과 그 동맹국들이 먼저 구축해야 할 AI 지배구조 체계에 마지막으로 참여시켜야 할 까다로운 상대인 것처럼 묘사된다. 실상은 다르다. 중국은 이미 AI 규제와 평가, 신고, 기술 표준, 정부 감독을 아우르는 광범위한 체계를 구축했다. 중국의 AI 지배구조가 기술의 발전과 함께 단계적으로 어떻게 발전해 왔는지 살펴보자. 중국이 2022년 마련한 알고리즘 추천 서비스 규정은 온라인 콘텐츠를 선별하고 순위를 매기며, 걸러내거나 사용자에게 추천하는 기술에 적용된다. 이 규정은 알고리즘을 사용하는 기업에 알고리즘의 작동 방식을 점검하고 사용자의 개인정보를 보호하며, 사용자에게 일정한 통제권을 부여하도록 요구한다. 아울러 근로자와 소비자, 아동, 노인을 보호하기 위한 안전장치도 마련하도록 규정한다. 2023년 1월부터 시행된 중국의 ‘딥 합성(deep synthesis)’ 관련 규정은 규제 범위를 합성된,...

사업 계약을 따내라는 목표를 받은 AI 에이전트가 실제와 다른 제품 정보와 입찰 자료를 만들어내는 위험을 표현한 이미지. 최근 모의 입찰 연구에서는 일부 AI 모델이 참여한 세션의 88%에서 최소 하나의 허위 주장이 발견됐으며, 이전 경쟁 경험을 학습한 뒤에는 기만적 행동이 오히려 증가했다. 이는 AI의 성능 향상이 반드시 정직성과 신뢰성 향상을 의미하지는 않는다는 새로운 AI 안전 문제를 보여준다. 회사 직원에게 중요한 사업 입찰서를 맡겼다고 생각해보자. 회사 제품에는 고객이 요구하는 기능이 없다. 정상적인 직원이라면 “우리 제품은 이 조건을 충족하지 못한다”고 보고해야 한다. 그런데 계약을 따내라는 목표를 받은 인공지능(AI)이 다른 선택을 했다. 실제로는 없는 기능을 있다고 주장하기 시작했다. 더 놀라운 것은 한 번 경쟁을 경험하고 다시 입찰에 참여했을 때였다. 정직해지는 대신 허위 주장이 더 늘어났다. 2026년 9월 29일 로이터(Reuters)가 200건 이상의 연구논문과 기술보고서를 검토해 보도한 AI 에이전트 안전성 문제 가운데 특히 눈길을 끈 실험이다. 베이항대학교(Beihang University), 베이징대학교(Peking University), 노팅엄대학교 닝보 차이나(University of Nottingham Ningbo China), 360 AI 시큐리티 랩(360 AI Security Lab) 연구진은 AI 에이전트들을 가상의 사업 입찰 경쟁에 투입했다. 결과는 우리가 챗봇에서 경험해온 단순한 ‘환각’보다 훨씬 불편한 문제를 보여줬다. AI에게 회사 제품을 팔아보라고 시켰다 실험 구조는 실제 기업의 영업 현장과 닮아 있었다. AI 에이전트에게 자신이 판매해야 하는 제품의 성능과 고객이 요구하는 조건을 알려준 뒤 계약을 따내기 위한 입찰서를 작성하도록 했다. 문제는 회사 제품이 고객의 모든 요구조건을 충족하지 못하는 경우였다. AI는 사실대로 부족한 점을 밝힐 수도 있었고, 계약을 따내기 위해 제품의 능력을 과장할 수도...

54큐비트 양자 프로세서에서 비가환 애니온의 브레이딩과 융합을 구현한 연구는 범용 위상 양자계산으로 가는 새로운 가능성을 보여줬다. 양자컴퓨터에 관한 뉴스를 오래 읽다 보면 이상한 느낌이 들 때가 있다. 몇 년 전에는 50큐비트가 대단하다고 했는데 어느 순간 100큐비트, 1,000큐비트 이야기가 등장한다. 숫자만 놓고 보면 양자컴퓨터의 발전은 자동차 엔진의 마력 경쟁처럼 보인다. 그러나 양자컴퓨터에서는 큐비트의 숫자가 전부가 아니다. 얼마나 정확하게 계산할 수 있는지, 오류를 어떻게 억제하는지, 그리고 무엇보다 다양한 양자 알고리즘을 실행할 수 있는지가 중요하다. 그런 의미에서 2026년 발표된 한 연구는 상당히 흥미롭다. 하버드대학교(Harvard University), 시카고대학교(University of Chicago), 스토니브룩대학교(Stony Brook University), 퀀티넘(Quantinuum) 연구진은 퀀티넘의 H2 이온트랩 양자 프로세서에서 54개의 큐비트를 이용해 비가환 애니온(non-Abelian anyons)을 구현하고, 이를 이용한 범용 위상 양자계산(universal topological quantum computation)의 핵심 연산을 실제 하드웨어에서 입증했다. 왜 54큐비트 실험이 주목받는가 54라는 숫자 자체는 오늘날 양자컴퓨터 분야에서 특별히 거대하지 않다. 이미 더 많은 물리적 큐비트를 가진 프로세서가 존재한다. 이번 연구가 중요한 이유는 큐비트 숫자가 아니라 그 54개를 이용해 어떤 종류의 양자 상태를 만들고 어떤 계산을 수행했느냐에 있다. 연구진은 54개의 큐비트 위에 S3라는 대칭군에 기반한 양자 이중모형(quantum double)의 위상 질서 상태를 만들었다. 쉽게 말하면 여러 개의 평범한 큐비트를 복잡하게 얽어 개별 큐비트와 전혀 다른 성질을 가진 새로운 양자 세계를 만들어낸 것이다. 그 안에서는 ‘애니온(anyon)’이라고 부르는 특이한 준입자가 등장한다. 애니온은 도대체 ...

과학 논문이 단순히 읽는 문서를 넘어 연구자의 질문에 답하고 데이터 분석과 연구 작업까지 수행하는 ‘AI 에이전트’로 진화하고 있다. Paper2Agent 같은 기술은 논문 속 지식과 코드, 데이터를 연결해 과학자가 연구 결과를 더욱 쉽게 재현하고 새로운 연구에 활용할 수 있는 가능성을 보여준다. 과학 논문을 읽다 보면 늘 비슷한 벽에 부딪힌다. 논문의 결론은 이해했는데 정작 그 연구 방법을 내 데이터에 적용하려면 어디서부터 시작해야 할지 막막하다. 논문 뒤쪽의 참고문헌을 찾아가고, 보충자료를 내려받고, 깃허브(GitHub)에서 코드를 찾아 실행해야 한다. 프로그래밍 환경이 맞지 않으면 오류 메시지와 씨름하는 일도 생긴다. 좋은 연구가 공개되어 있어도 실제로 활용하기까지는 또 하나의 작은 연구가 필요한 셈이다. 그런데 이런 풍경을 크게 바꿀 만한 기술이 등장했다. 2026년 9월 16일 국제학술지 네이처(Nature)에 발표된 연구에서 연구진은 과학 논문을 단순히 읽는 문서가 아니라 질문에 답하고, 분석을 실행하고, 새로운 데이터에 연구 방법을 적용할 수 있는 인공지능 에이전트로 변환하는 페이퍼투에이전트(Paper2Agent)를 공개했다. 연구진은 이를 일종의 ‘가상 교신저자(virtual corresponding author)’로 설명한다. 논문을 읽는 시대에서 논문과 함께 일하는 시대로 넘어가는 흥미로운 변화이다. 읽기만 하던 과학 논문이 실행 가능한 연구 도구로 바뀐다 기존 논문은 기본적으로 수동적인 기록물이다. 아무리 뛰어난 연구라도 PDF 파일 자체가 독자에게 연구 방법을 설명하거나 데이터를 분석해 주지는 않는다. 특히 생물정보학이나 인공지능처럼 소프트웨어 사용이 많은 분야에서는 논문을 읽는 것보다 연구진이 공개한 코드를 제대로 실행하는 일이 더 어려울 때도 있다. Paper2Agent가 겨냥한 문제가 바로 이것이다. 이 시스템은 논문 본문만 읽는 것이 아니라 논문에 연결된 코드 저장소와 데이터, 보충자료, 분석 과정까지 살펴본다. ...

약 950개의 AI 에이전트가 방대한 유전체 데이터를 분석해 박테리오파지에서 CRISPR를 연상시키는 새로운 ART 역전사효소 시스템을 찾아낸 연구를 형상화한 이미지이다. 인공지능이 과학자를 돕는 수준을 넘어 스스로 방대한 생물학 데이터를 뒤지고, 인간 연구자가 미처 발견하지 못한 이상한 패턴을 찾아내는 시대가 시작되고 있다.  2026년 9월 앤트로픽(Anthropic)이 공개한 연구는 그 변화를 상징적으로 보여준다. 약 950개의 클로드(Claude) AI 에이전트가 21시간 동안 방대한 유전정보를 조사한 끝에 박테리아를 감염시키는 바이러스에서 지금까지 제대로 알려지지 않았던 독특한 유전 시스템을 찾아냈다.  앤트로픽은 이를 배열 연관 역전사효소(Array-Associated Reverse Transcriptases), 줄여서 ART라고 이름 붙였다. 950개의 AI 에이전트는 무엇을 찾고 있었나 이번 연구에서 흥미로운 점은 AI에게 처음부터 “CRISPR와 비슷한 시스템을 찾아라”라고 지시한 것이 아니라는 사실이다. 연구진이 제시한 큰 목표는 방대한 DNA 데이터베이스에서 아직 충분히 연구되지 않은 흥미로운 역전사효소(reverse transcriptase·RT)를 찾는 것이었다. 역전사효소는 RNA 정보를 DNA로 옮기는 효소이다. 그 뒤 작업 규모가 엄청나게 커졌다. 연구진의 프리프린트에 따르면 AI 시스템은 약 19억 개의 단백질 클러스터가 포함된 데이터 공간을 조사했다. 약 950개의 에이전트가 21시간가량 작업했으며 처리량은 약 2억1천만 토큰에 달했다. 조사 과정에서 20만 개가 넘는 역전사효소가 검토 대상에 올랐다. 사람이 하나씩 들여다보았다면 상당한 시간이 필요한 종류의 작업을 수많은 AI 에이전트가 나눠서 처리한 셈이다. AI가 DNA에서 우연히 발견한 이상한 반복무늬 결정적인 순간은 한 AI 에이전트가 특이한 역전사효소 주변의 DNA를 살펴보면서 찾아왔다. 그곳에는 짧은 DNA 서열이 일정한 ...

라데마허 복잡도 기반 유전자 프로그래밍으로 도출된 해석 가능 분광 지수(GP-VRI)가 적색(650nm)과 청색(450nm) 파장의 미세한 반사율 차이를 이용해 미슬토를 식별하는 개념을 시각화한 이미지. 드론이나 위성을 활용한 원격탐사 분야에서 딥러닝과 머신러닝은 눈부신 성과를 내고 있다. 하지만 정작 현장 행정가나 산림 관리자들은 이 뛰어난 인공지능을 선뜻 신뢰하기 어렵다. 복잡한 신경망 내부에서 어떤 근거로 결정을 내리는지 알 수 없는 ‘블랙박스’ 문제 때문이다. 반면 기존의 분광 지수(Spectral Index)는 수식 형태가 단순하여 특정 식물의 생화학적 특성과 직접 연계해 해석할 수 있다는 강력한 장점이 있다. 이러한 배경에서 유전자 프로그래밍(GP, Genetic Programming)은 스스로 수식 구조를 진화시키며 최적의 알고리즘을 찾아내는 대표적인 모델 생성 기법으로 주목받아 왔다. 하지만 GP 역시 세대를 거듭할수록 수식이 쓸데없이 비대해지는 ‘블롯(Bloat)’ 현상에 직면한다. 덩치가 커진 수식은 해석이 불가능해져 블랙박스 모델과 다를 바 없어진다. 최근 발표된 연구는 이 문제를 해결하기 위해 수학 이론인 ‘라데마허 복잡도(Rademacher Complexity)’를 진화 과정에 도입하고, 해석 가능하면서도 정확하게 기생식물을 감지하는 새로운 분광 지수를 탐색했다. 라데마허 복잡도를 통한 수식 비대화 제어 연구진은 멕시코 시티 남서부 산바르톨로 아메얄코(San Bartolo Ameyalco) 산림 보존 구역에서 드론(DJI P4 Multispectral)으로 촬영한 250장의 다중분광 영상(300×300 피셀)을 연구 대상으로 활용했다. 목표는 산림 생태계를 위협하는 기생식물인 ‘포라덴드론 벨루티눔(Phoradendron velutinum)’ 미슬토(겨우살이)를 정확히 식별하는 단순한 수식을 발견하는 것이었다. 연구진은 수식의 구조적·행동적 복잡성을 측정하기 위해 라데마허 복잡도 개념을 도입했다. 라데마허 복잡도는 어떤 ...