AI-World-Story

AI 에이전트의 지속적인 기억에 악성 정보가 삽입되면 당장은 정상적으로 작동하더라도 이후의 상호작용에서 오염된 기억을 불러와 잘못된 판단이나 행동으로 이어질 수 있다. 인공지능(AI) 시스템은 이제 단순히 질문에 답하는 수준을 넘어서는 단계로 나아가고 있다. 새로운 AI ‘에이전트(agent)’는 이전 상호작용에서 얻은 정보를 기억하고, 여러 단계에 걸친 계획을 세우며, 디지털 도구를 활용해 작업을 수행할 수 있다. 기억은 이러한 시스템을 유용하게 만드는 핵심 기능 가운데 하나이다. 그러나 캘거리 대학교(University of Calgary)의 동료 연구자 하디스 카리미푸르(Hadis Karimipour)와 함께 수행한 필자의 최근 연구에 따르면, 기억은 쉽게 간과할 수 있는 보안 취약점을 만들어내기도 한다. AI 에이전트를 자신이 배운 내용을 노트에 기록하는 비서라고 생각해 보자. 에이전트가 작업을 하나씩 완료할 때마다 유용한 정보가 노트에 기록되고, 이후 필요할 때 다시 참조된다. 그런데 누군가 그 노트에 오해를 불러일으키는 지시를 몰래 끼워 넣었다고 가정해 보자. 공격자는 AI 자체를 직접 장악할 필요조차 없을 수 있다. 에이전트는 한동안 아무 문제 없이 정상적으로 작동할 수 있다. 그러나 며칠 뒤, 혹은 여러 차례의 상호작용이 지난 뒤 노트를 다시 펼쳐 오염된 정보를 불러오고, 그것을 자신이 이전에 학습한 신뢰할 만한 정보로 받아들일 수 있다. 이를 ‘기억 오염(memory poisoning)’이라고 한다. 여기서 핵심은 시간 지연 이다. 기억이 오염된 AI 에이전트가 즉시 침해된 시스템처럼 행동하는 것은 아닐 수 있다. 기다리는 공격 우리가 익숙하게 접하는 많은 사이버 공격은 비교적 빠르게 효과가 나타난다. 악성 링크를 클릭하면 악성코드가 실행되고, 탈취된 비밀번호가 사용되면 계정에 접근할 수 있게 되는 식이다. 그러나 기억 오염은 다르게 작동할 수 있다. 필자 연구진은 기억 기능이 활성화된 대형 언어 모델(...

AI가 운전자의 뇌파에서 피로와 졸음의 초기 신호를 포착해 졸음운전 사고를 예방하는 미래형 운전자 안전 시스템을 시각화했다. 심야의 고속도로를 시속 100km로 달리는 운전자가 단 2초 동안 눈을 감으면 자동차는 약 56m를 나아간다. 졸음이 짧은 순간에 그치더라도 차량은 운전자의 통제를 벗어나 치명적인 사고로 이어질 수 있다. 문제는 운전자가 졸음이 시작됐다는 사실을 깨달았을 때는 이미 주의력과 반응 속도가 떨어진 뒤일 가능성이 크다는 점이다. 중국 베이징정보과학기술대학교와 난징항공항천대학교 연구진은 운전자의 뇌파에서 피로 신호를 찾아내는 새로운 인공지능 모델을 개발했다. 이 모델은 뇌파를 2차원 이미지로 변환한 뒤, 졸음과 관련된 특징은 강화하고 불필요한 잡음은 걸러낸다. 두 개의 공개 데이터셋을 이용한 실험에서 각각 98.86%와 97.38%의 정확도를 기록했다. 운전자 졸음 감지가 어려운 이유 현재 운전자 피로 감지 기술은 주로 카메라로 눈꺼풀의 움직임, 하품, 머리 자세와 표정 변화를 분석한다. 차량이 차선 안에서 흔들리는 정도나 운전대 조작 패턴을 측정하는 방식도 사용한다. 그러나 카메라는 어두운 조명과 선글라스, 얼굴 가림, 고개 방향에 영향을 받는다. 차량 움직임을 이용한 방법 역시 도로 상태와 운전 습관에 따라 결과가 달라질 수 있다. 뇌파검사(EEG)는 뇌의 전기적 활동을 직접 측정하기 때문에 운전자의 생리적 각성 수준을 파악하는 중요한 수단이다. 눈이 완전히 감기거나 운전 자세가 무너지기 전에 나타나는 뇌 활동의 변화를 포착할 가능성이 있다는 점도 장점이다. 하지만 실제 운전 상황에서 얻은 뇌파에는 눈동자 움직임, 눈 깜박임, 얼굴과 목 근육의 활동, 차량 진동, 주변 전기 장치의 간섭이 뒤섞인다. 신호 자체도 시간에 따라 계속 변한다. 따라서 졸음과 관련된 미세한 뇌파 변화와 우연히 섞인 잡음을 정확히 구분하기가 쉽지 않다. 1차원 뇌파를 재귀도표 이미지로 변환한 방법 연구진은 시간에 따라 이어지는 1...

전자건강기록과 임상 데이터를 분석하는 인공지능은 자간전증 위험을 조기에 발견할 가능성을 보여주지만, 실제 의료 현장에 적용하려면 외부 검증과 교정, 설명 가능성 평가가 필요하다. 전자건강기록과 혈압, 혈액검사 결과를 분석해 자간전증 위험을 조기에 가려내는 인공지능 연구가 빠르게 늘고 있다. 일부 머신러닝 모델은 0.9에 가까운 높은 AUC를 보고하며 산부인과 진료를 바꿀 기술로 주목받는다. 그러나 높은 예측 성능이 곧바로 실제 병원에서 사용할 수 있다는 뜻은 아니다. 에콰도르 국립폴리테크닉대학교 연구진은 자간전증과 임신고혈압질환을 예측한 머신러닝 연구 29편을 분석했다. 그 결과 트리 기반 모델과 선형 모델이 가장 널리 사용됐고, 논문 초록에서 확인할 수 있는 AUC도 전반적으로 높았다. 반면 외부 검증과 확률 교정, 설명 가능성, 데이터 공개 여부처럼 임상 적용에 필요한 정보는 초록에 충분히 드러나지 않았다. 이번 연구가 보여준 핵심은 “자간전증 예측 AI의 성능이 형편없다”는 것이 아니다. 높은 성능 수치만으로 모델의 신뢰성과 임상 준비도를 판단해서는 안 되며, 논문 초록만으로는 중요한 검증 절차의 수행 여부조차 제대로 파악하기 어렵다는 점이다. 한눈에 보는 자간전증 예측 머신러닝 연구 결과 연구진은 자간전증과 임신고혈압질환을 다룬 머신러닝·인공지능 연구 29편을 최종 분석했다. 트리 기반 모델은 17편, 선형·일반화선형 모델은 15편, 서포트벡터머신은 9편, 신경망은 8편의 초록에서 확인됐다. 전자건강기록과 일반 임상 변수를 이용한 연구가 21편으로 가장 많았다. 논문 초록에서 수치가 확인된 14편의 AUC는 0.790~0.976 범위였으며, 평균은 0.873이었다. 외부 검증은 8편, 설명 가능성 관련 방법은 5편의 초록에서 확인됐다. 교정 관련 정보는 4편, 저장소 또는 데이터 출처 정보는 1편의 초록에서만 확인됐다. 이 수치는 연구 전문이 아니라 제목·초록·서지정보에서 확인된 정보만 집계한 결과이다. 자간...

음색이 다른 나무 태핑과 빗소리도 일정한 리듬과 에너지를 유지하면 비슷한 시간 구조의 ASMR 소리로 분류될 수 있다. 나무를 두드리는 소리와 빗소리는 귀에 전혀 다르게 들린다. 하나는 단단한 물체가 만들어 내는 짧고 건조한 소리이고, 다른 하나는 수많은 물방울이 이어지는 자연의 소리이다. 그런데 ASMR 음원을 시간의 흐름에 따라 분석하자 두 소리는 놀랍게도 같은 유형으로 묶였다. 소리의 재질이나 음색은 달라도 일정한 에너지와 반복 구조를 유지한다는 공통점이 있었기 때문이다. 일본 국제기독교대학교 연구팀은 3,000개가 넘는 ASMR 음원 구간을 인공지능 기반 통계 기법으로 분석했다. 그 결과, 소리를 평균적인 음색으로 분석했을 때와 시간에 따른 변화 구조로 분석했을 때 전혀 다른 분류 결과가 나왔다. 이 연구는 특정 소리가 실제로 팅글이나 수면을 유발하는지를 시험한 임상 연구가 아니다. 대신 ASMR 콘텐츠를 구성하는 소리가 어떤 음향학적 구조를 공유하는지 객관적으로 살펴본 연구이다. 한눈에 보는 ASMR 음향 분석 연구 연구팀은 유튜브에서 수집한 ASMR 음원 3,152개를 비교 분석했다. 각 음원은 10초 길이였으며, 분석된 총길이는 약 525분이다. 소리마다 음량·음높이·주파수·음색을 나타내는 88개 음향 특징을 추출했다. 주성분분석은 건조한 소리, 말소리, 속삭임, 입소리처럼 음색이 비슷한 소리를 묶었다. 터커텐서분해는 태핑·스크래칭·빗소리처럼 시간적으로 안정된 소리를 하나의 큰 군집으로 묶었다. 연구 결과는 음색과 시간 구조를 함께 고려해야 ASMR 소리를 정확하게 분류할 수 있음을 보여준다. ASMR 자극을 객관적으로 분류한 대규모 음향 연구 ASMR은 ‘자율감각쾌락반응’을 뜻한다. 어떤 사람은 속삭임이나 손가락 두드리는 소리를 들을 때 두피에서 시작해 목과 척추로 내려가는 기분 좋은 저림을 느낀다. 팅글이 나타나지 않더라도 마음이 편안해지거나 잠이 잘 온다고 말하는 사람도 있...

BRI DataLab은 분산된 중국 일대일로 인프라 금융 데이터와 정책·학술 문서를 하나의 AI 연구 환경에서 검색하고 교차 검증할 수 있도록 통합했다. 중국의 일대일로(Belt and Road Initiative·BRI)를 연구하려면 서로 다른 세계를 오가야 했다. 한쪽에는 수만 건의 대출과 보조금 기록이 있고, 다른 한쪽에는 중국 정부의 정책 문서와 국제기구 보고서가 있다. 여기에 부채 지속가능성, 거버넌스, 이른바 ‘부채 함정 외교’를 다룬 수많은 학술 논문까지 더해진다. 자료는 풍부하지만 서로 연결되지 않아, 연구자가 하나의 질문에 답하려면 여러 데이터베이스와 문서 저장소를 직접 대조해야 했다. 인도공과대학교 마드라스(IIT Madras)의 사눕 사잔 코시(Sanoop Sajan Koshy) 연구원이 개발한 BRI DataLab은 이러한 자료의 분절 문제를 해결하기 위한 오픈소스 연구 플랫폼이다. 이 시스템은 중국의 해외 인프라 금융 데이터, 정부 정책 문서, 국제기구 보고서, 학술 문헌을 하나의 검색 환경에 연결한다. 다만 이 플랫폼의 가치는 생성형 AI가 모든 질문에 답해 준다는 데 있지 않다. AI가 무엇을 말할 수 있고 무엇을 말해서는 안 되는지를 시스템 차원에서 제한했다는 점이 더 중요하다. BRI DataLab 연구 핵심 내용 에이드데이터(AidData)의 3만 3,580개 금융 기록을 정제해 4,861개 인프라 프로젝트로 통합했다. 중국 정부 정책 문서, 일대일로 정상포럼 자료, 국제기구 보고서, 주요 학술 연구 등 42개 영문 문서를 선별했다. 42개 문서를 4,369개의 텍스트 조각으로 나누어 의미 기반 검색이 가능하도록 색인했다. 질문의 성격에 따라 정형 데이터, 문서, 두 자료를 함께 검색하는 하이브리드 경로로 자동 분류했다. 검색된 자료에 없는 내용을 AI가 임의로 보충하지 못하도록 8가지 인식론적 규칙을 적용했다. 플랫폼의 결과는 확정된 연구 결론이 아니라 추가 검증이 필요한 탐색 자료로 사용해야...

블록체인은 산림에서 제재소까지 이어지는 목재의 이동 기록을 연결해 EUDR이 요구하는 원산지 추적과 합법성 검증을 지원한다. 숲에서 베어 낸 나무가 가구와 건축자재, 종이로 바뀌어 소비자에게 도착하기까지는 수많은 사람과 기업이 관여한다. 산림 소유자와 벌목업자, 운송회사, 제재소, 목재 가공업체, 수입업자와 유통업자가 하나의 긴 사슬로 연결된다. 문제는 이 사슬의 중간에서 목재의 출처와 이동 기록이 끊어지거나 바뀔 수 있다는 점이다. 합법적으로 벌채한 목재에 불법 목재가 섞일 수도 있고, 서류에 적힌 산지와 실제 벌목 장소가 다를 수도 있다. 이러한 문제를 해결할 기술로 블록체인이 주목받고 있다. 2026년 학술지 Blockchains 에 발표된 연구는 블록체인이 목재 공급망의 투명성과 합법성을 얼마나 높일 수 있는지 분석했다. 연구진은 특히 유럽연합 산림전용방지규정인 EUDR과 블록체인의 결합 가능성에 주목했다. 결론부터 말하면 블록체인은 목재 이력 관리에 유용하지만, 그 자체가 불법 벌목을 막아 주는 만능 해결책은 아니었다. 불법 벌목과 산림 파괴를 막는 EUDR의 추적성 기준 EUDR은 산림 파괴와 관련된 상품이 유럽연합 시장에 들어오는 것을 막기 위해 마련된 제도이다. 목재를 비롯해 소, 코코아, 커피, 팜유, 고무, 대두와 관련 제품이 규제 대상에 포함된다. 사업자는 제품이 합법적으로 생산됐으며 산림 훼손과 관련되지 않았다는 사실을 입증해야 한다. 목재의 경우에는 원산지 국가만 표시하는 것으로 충분하지 않다. 나무를 벌채한 산림 구획의 위치정보와 생산 시기, 공급망 이동 과정, 거래 당사자와 관련 증거를 확인할 수 있어야 한다. 연구가 제시한 시행 일정에 따르면 EUDR 의무는 대규모 사업자에게 2026년 12월 30일부터 적용되고, 영세·중소기업에는 2027년 6월 30일까지 연장된 일정이 적용된다. 이처럼 세밀한 실사 의무를 종이 문서와 이메일만으로 처리하기는 어렵다. 나무가 국경과 기업을 넘을 때마다 자료 형식이 달...

Block-BVAS는 얼굴과 지문을 이용해 유권자의 신원과 투표 자격을 확인하고, 암호화된 인증·투표 기록을 블록체인에 저장해 선거의 보안성과 감사 가능성을 높이는 전자투표 프레임워크이다. 전자투표의 신뢰성을 높이기 위해 얼굴 인식과 지문 인식, 사설 이더리움 블록체인을 결합한 유권자 인증 시스템이 개발됐다. ‘Block-BVAS’라 불리는 이 시스템은 투표자의 신원을 두 가지 생체정보로 확인하고, 인증과 투표 기록을 블록체인에 남겨 위변조 가능성을 줄이는 방식이다. 연구진은 고가의 전용 장비 대신 Raspberry Pi 5를 처리 장치로 사용해 저비용 전자투표 단말기에서도 이러한 구조를 구현할 수 있음을 보여줬다. 그러나 이번 연구는 200명을 대상으로 한 실내 통제 환경의 프로토타입 실험이다. 따라서 실제 국가 선거에 적용할 수 있는 완성형 시스템이 아니라 블록체인 기반 유권자 인증의 기술적 가능성을 확인한 초기 연구로 이해해야 한다. 전자투표에서 유권자 인증이 중요한 이유 전자투표는 투표와 개표 시간을 단축하고, 거동이 불편하거나 멀리 떨어진 유권자의 접근성을 높일 수 있다. 수작업 개표 과정에서 발생하는 실수를 줄일 수 있다는 장점도 있다. 반면 전자투표 시스템이 해킹되거나 중앙 데이터베이스가 조작되면 대규모 선거 기록이 한꺼번에 훼손될 위험이 있다. 특히 투표 전에 실시하는 유권자 본인 확인과 투표 자격 인증은 전체 선거 보안의 출발점이다. 다른 사람의 신분을 도용하거나 한 사람이 여러 차례 인증을 통과하면 이후의 투표 기록이 아무리 안전하게 보관돼도 선거의 정당성을 보장하기 어렵다. 기존 생체인증 시스템은 얼굴이나 지문 가운데 하나만 사용하는 경우가 많다. 그러나 얼굴 인식은 조명, 카메라 각도, 안경과 마스크 등에 영향을 받고, 지문 인식은 손가락의 상처나 마모, 센서 오염 때문에 실패할 수 있다. Block-BVAS는 얼굴과 지문을 함께 확인해 한 가지 생체정보에만 의존하는 방식의 한계를 줄이도록 설계됐다. Bl...