AI-World-Story

생성형 AI가 추천한 정보를 어디까지 믿어도 될까. 대화형 AI는 그럴듯한 답을 만들어내는 데 뛰어나지만, 실제로 존재하지 않는 제품이나 서비스를 추천하는 이른바 '환각(hallucination)' 문제가 꾸준히 지적돼 왔다. 특히 기업이나 연구기관처럼 정해진 목록 안에서만 답해야 하는 환경에서는 이런 오류가 치명적이다. 불가리아 소피아공과대학교 연구진은 이러한 문제를 줄일 수 있는 시스템 구조를 시험했다. 핵심은 AI 자체를 새로 학습시키는 것이 아니라, 검증된 데이터베이스를 기반으로 답하도록 설계했을 때 환각이 얼마나 줄어드는지를 확인하는 것이었다. 연구 결과는 국제학술지 AI 에 발표됐다. AI가 틀린 이유는 '없는 도구를 추천했기 때문' 이번 연구는 일반적인 사실 오류를 측정하지 않았다. 연구진은 전자설계(EDA) 분야의 공학 소프트웨어 82개를 검증된 목록으로 구축한 뒤, AI가 이 목록에 없는 도구를 추천하는 경우를 '환각'으로 정의했다. 여기에는 두 가지 경우가 포함된다. 실제로 존재하지 않는 가상의 소프트웨어를 만들어내는 경우와, 실제 상용 프로그램이지만 연구진이 구축한 데이터베이스에는 등록되지 않은 프로그램을 추천하는 경우다. 즉, 이 연구에서 측정한 환각은 '사실이 틀렸다'기보다 '허용된 목록을 벗어났다'는 의미에 가깝다. 따라서 연구 결과는 폐쇄형 추천 시스템에서의 신뢰성을 평가한 것으로 이해해야 한다. 세 가지 장치를 함께 적용하자 환각률이 크게 감소했다 연구진은 모두 6912회의 API 호출을 수행하며 세 가지 방법을 조합해 비교했다. 첫 번째는 데이터베이스에서 관련 정보를 미리 불러와 AI에게 제공하는 방식이다. 두 번째는 추천 가능한 도구 이름을 검증된 목록으로 제한하는 것이다. 세 번째는 답변을 자유로운 문장이 아니라 일정한 JSON 형식으로 출력하도록 강제했다. 아무런 제약이 없는 상태에서는 데이터...

2008년 인도 비하르주의 코시(Kosi)강은 갑자기 물길을 바꾸면서 대규모 홍수를 일으켰다. 수백 개 마을이 침수됐고 300만 명 이상이 삶의 터전을 잃었다. 이런 변화는 단순한 홍수와 다르다. 강 자체가 새로운 길을 선택해 버린 것이다. 문제는 기존 기술로는 이런 변화를 미리 예측하기가 매우 어려웠다는 점이다. 이번 연구가 답하려 한 핵심 질문도 여기에 있다. 위성영상과 강수량, 하천 유량, 토양 정보를 인공지능으로 함께 분석하면 강의 이동 경로를 미리 예측하고 재난 위험지역을 사전에 제시할 수 있을까? 여러 종류의 데이터를 하나로 묶은 AI 연구진은 새로운 AI 알고리즘을 개발했다기보다, 이미 성능이 입증된 여러 기술을 하나의 예측 체계로 통합하는 데 초점을 맞췄다. 구성은 크게 네 단계다. 위성영상(Landsat, Sentinel)에서 강의 경계를 추출한다(U-Net). 시간에 따라 강이 어떻게 이동하는지를 학습한다(ConvLSTM). 강수량, 유량, 토양, 토지이용 정보를 함께 분석한다. 침식과 홍수 위험지역을 낮음·중간·높음으로 분류해 위험지도를 만든다. 즉 "현재 강이 어디 있는가"뿐 아니라 "앞으로 어디로 이동할 가능성이 높은가"까지 예측하려는 구조다. 가장 중요한 결과는 세 가지 수치다 연구에서 제시한 핵심 성능 지표는 다음과 같다. IoU(Intersection over Union) 0.82 Dice 계수 0.88 F1-score 0.89 이 수치들은 AI가 예측한 강의 경계와 실제 강의 위치가 상당히 잘 일치했음을 의미한다. 특히 Dice와 F1 점수가 0.9에 가까울수록 강의 형태를 비교적 정확하게 찾아냈다는 뜻이다. 연구진은 또한 학습 과정에서 과적합(overfitting)이 크게 나타나지 않았으며, 약 15회 학습(epoch) 이후 성능이 안정적으로 수렴했다고 보고했다. 하지만 새로운 예측 AI라고 보기에...

챗GPT를 비롯한 생성형 AI가 빠르게 발전하면서 또 하나의 기대가 커지고 있다. 바로 양자컴퓨터가 인공지능까지 혁신할 것이라는 전망이다. 일부에서는 '양자 언어모델(Quantum Language Model)'이 기존 대규모 언어모델(LLM)을 곧 대체할 것이라는 주장도 나온다. 그러나 이번 리뷰 논문의 결론은 오히려 반대에 가깝다. 연구진은 현재 알려진 수학적 이론과 최근 연구들을 종합한 결과, 양자컴퓨터가 자연어 생성 자체를 더 잘하는 것은 아니며, 생성형 AI의 일부 계산만 맡는 '공동 프로세서(coprocessor)' 역할이 가장 현실적인 방향 이라고 평가했다. 양자컴퓨터가 잘하는 일과 못하는 일 많은 사람이 양자컴퓨터는 무엇이든 기존 컴퓨터보다 빠를 것이라고 생각한다. 하지만 연구진은 이 인식이 대표적인 오해라고 지적한다. 현재의 LLM은 인간이 만든 문장, 이미지, 음성처럼 자연계에서 관찰되는 통계적 패턴 을 학습하도록 설계돼 있다. 트랜스포머 구조와 자기주의(attention) 메커니즘은 바로 이런 데이터를 처리하는 데 최적화돼 있다. 반면 양자컴퓨터는 전자 상태, 분자 구조처럼 양자역학적 확률분포 자체를 계산하거나 매우 거대한 조합 문제를 탐색하는 데 강점을 가진다. 다시 말해 두 시스템은 애초에 잘하는 문제가 다르다는 것이 연구진의 핵심 주장이다. 연구진은 "양자컴퓨터가 이미지나 텍스트 생성을 대신하는 것이 아니라, 고전 컴퓨터가 근본적으로 어려워하는 계산을 보조하는 역할을 맡게 될 가능성이 높다"고 설명했다. 양자컴퓨터가 특별한 이유 논문은 가장 중요한 차이를 '확률분포를 표현하는 방식'에서 찾는다. 고전 컴퓨터는 가능한 경우를 하나씩 저장하거나 계산해야 한다. 문제의 규모가 커질수록 필요한 메모리와 계산량도 기하급수적으로 증가한다. 대표적인 예가 분자 시뮬레이션이다. 논문에 따르면 전자 50개 정도를 ...

캘리포니아대학교 샌프란시스코(UCSF) 연구진이 발표한 이번 연구는 의료 인공지능의 안전성을 기존의 테스트 방식이 아닌 수학적 증명을 통해 확인할 수 있는 새로운 접근법을 제시했다. 연구진은 생성형 AI가 단순히 질문에 답하는 수준을 넘어 환자의 치료 과정을 장기간 관리하는 시대가 도래하면서, 기존 평가 방식만으로는 환자 안전을 충분히 보장하기 어렵다고 지적했다. 이를 해결하기 위해 연구진은 형식 검증(Formal Verification) 이라는 컴퓨터 과학 분야의 검증 기법을 의료 AI에 적용했다. 또한 832개의 임상 규칙으로 구성된 새로운 공개 벤치마크인 CIV-Bench를 개발하여 기존의 무작위 테스트, 의료진 평가, 대규모 언어모델 심사와 비교 분석했다. 연구 결과는 단순히 어떤 AI가 더 높은 정확도를 보였는지를 비교하는 데 그치지 않았다. 오히려 의료 AI에서 가장 중요한 질문인 "절대로 틀려서는 안 되는 판단을 어떻게 보장할 것인가"에 대해 새로운 해답을 제시했다는 점에서 큰 의미를 갖는다. 의료 AI는 이제 여러 번의 진료를 기억해야 하는 시대가 됐다 기존 의료 AI는 하나의 질문에 답하는 방식으로 사용됐다. 예를 들어 특정 증상이 어떤 질환과 관련 있는지, 어떤 검사가 필요한지를 한 번의 대화 안에서 제시하는 역할이었다. 하지만 최근 등장하는 에이전트형 AI는 상황이 다르다. 환자의 여러 차례 진료 기록을 계속 이어받아 관리하며 다음 진료에도 이전 정보를 유지해야 한다. 예를 들어 첫 번째 진료에서 환자가 경제적 어려움을 호소했고, 두 번째 진료에서 특정 약물에 대한 거부 의사를 밝혔으며, 세 번째 진료에서 혈압이 높아졌다면 AI는 이 모든 정보를 동시에 기억해야 한다. 경제적 지원이 필요한 사실을 잊어서는 안 되고, 환자가 거부한 약을 다시 권해서도 안 되며, 고혈압 관리도 지속해야 한다. 이처럼 여러 차례 진료에 걸쳐 이어지는 안전 규칙은 기존 AI 평가 방식으로는 충분히...

  의료 인공지능은 높은 예측 정확도만으로는 실제 의료현장에서 활용되기 어렵다. 환자의 개인정보를 안전하게 보호하면서도 다양한 의료기관이 협력해 학습할 수 있는 기술이 함께 갖춰져야 한다.  이번 연구는 연합학습(Federated Learning)과 차등 개인정보보호(Differential Privacy), 그리고 최신 시계열 딥러닝을 결합해 이러한 과제를 해결하려는 시도를 보여준다. 비록 아직 실제 임상 적용을 위해서는 다기관 검증이 필요하지만, 의료 AI가 앞으로 나아가야 할 방향을 제시했다는 점에서 의미가 큰 연구이다. 연합학습과 시계열 인공지능을 결합한 NeuroFATE-MS 는 의료 데이터 공유의 한계를 극복하면서도 높은 예측 정확도를 보여주었다. 다만 실제 임상 적용을 위해서는 다기관 검증이 필요하다. 의료 AI가 넘어서야 할 가장 큰 장벽 인공지능은 의료 분야에서 눈부신 발전을 이어가고 있다. 그러나 병원 데이터를 활용하는 순간 가장 먼저 마주하는 문제는 개인정보 보호이다. 환자의 의료기록은 민감정보이기 때문에 여러 의료기관의 데이터를 한곳에 모아 학습시키는 방식은 현실적으로 쉽지 않다. 특히 다발성경화증(Multiple Sclerosis, MS)처럼 장기간 경과를 관찰해야 하는 질환에서는 더욱 어려움이 크다. 환자마다 진료 간격이 일정하지 않고, 증상이 악화되는 시점도 매우 다양하다. 이러한 불규칙한 시계열 데이터를 정확히 분석하는 것은 기존 인공지능 모델에게도 쉽지 않은 과제였다. 최근 발표된 NeuroFATE-MS 연구는 이러한 문제를 해결하기 위해 개인정보 보호 기술과 최신 인공지능 모델을 하나의 프레임워크로 결합했다. 병원은 데이터를 보내지 않고, 모델만 학습한다 연구진이 선택한 방법은 연합학습(Federated Learning)이다. 연합학습에서는 각 병원이 환자 데이터를 외부로 전송하지 않는다. 대신 각 병원에서 자체적으로 모델을 학습한 뒤, 모델의 가중치만 중앙 서...

지속학습(Continual Learning) 분야에서는 지금까지 대부분의 연구가 저장하는 데이터의 개수(Item 수)를 동일하게 맞춘 뒤 성능을 비교해 왔다. 하지만 실제 AI가 동작하는 스마트폰, 자율주행차, 엣지 디바이스는 저장 개수가 아니라 메모리 용량(Byte)을 기준으로 제한을 받는다.  이번 Harrisburg University 연구진은 이러한 문제를 해결하기 위해 동일한 바이트(Byte) 예산에서 AI 모델을 비교하는 새로운 평가 프로토콜(Equal-Byte Non-Inferiority Protocol)을 제안했다. 연구 결과는 새로운 평가 방식 자체는 의미가 있었지만, 실험 대상으로 사용한 2단계 메모리 구조(Two-Tier Consolidation Memory)는 기존 방법보다 우수하다는 근거를 보여주지 못했다. 지속학습 평가 방식의 한계 지속학습은 새로운 데이터를 계속 학습하면서도 이전에 학습한 내용을 잊지 않는 AI 기술이다. 이를 위해 과거 데이터를 일부 저장해 다시 학습하는 Replay 기반 방법이 널리 사용된다. 기존 연구에서는 "200개 저장", "500개 저장"처럼 저장 데이터 개수만 동일하게 맞춰 성능을 비교하는 것이 일반적이었다. 그러나 저장 방식에 따라 실제 메모리 사용량은 크게 달라진다. 예를 들어 Split-CIFAR-100 데이터셋에서는 원본 이미지를 저장하면 약 3,072Byte가 필요하지만, 압축된 특징 벡터는 약 1,024Byte만 사용한다. 반대로 원본 이미지와 로짓(Logit)을 함께 저장하는 방식은 약 3,472Byte가 필요하다. 즉, 같은 200개의 데이터를 저장하더라도 실제 메모리 사용량은 최대 3배 이상 차이가 발생한다. 연구진은 이러한 방식으로는 실제 배포 환경에서 어떤 방법이 더 효율적인지 객관적으로 판단하기 어렵다고 설명했다. Equal-Byte Non-Inferiority Protocol의 핵심 이번 연구의 ...

대학생의 스트레스는 학업 성취도와 정신건강에 큰 영향을 미치는 문제다.  페루 호세 파우스티노 산체스 카리온 국립대학교(Universidad Nacional José Faustino Sánchez Carrión) 연구진은 머신러닝 앙상블 모델을 활용해 학생의 스트레스 수준을 높은 정확도로 예측할 수 있는지 분석했다.  연구 결과, Gradient Boosting 모델은 약 89.5%의 정확도와 98.6%의 ROC-AUC를 기록하며 가장 우수한 성능을 보였고, 수면의 질, 혈압, 사회적 지지, 자존감, 우울 및 불안 수준이 스트레스 예측에 가장 중요한 변수로 확인됐다.  다만 연구진은 여러 알고리즘 간 통계적으로 유의한 차이는 발견되지 않았으며, 실제 대학 상담 시스템에 적용하려면 추가적인 외부 검증이 필요하다고 강조했다. 학생 스트레스 예측에 머신러닝이 주목받는 이유 대학생 스트레스는 단순히 심리적인 불편함에 그치지 않는다. 높은 스트레스는 우울증, 불안장애, 학업 성취도 저하, 학업 중단, 삶의 질 감소와 밀접한 관련이 있다. 최근 대학들은 다양한 정신건강 프로그램과 상담 서비스를 운영하고 있지만, 학생이 직접 도움을 요청해야 하는 경우가 많아 조기 개입에는 한계가 있었다. 이번 연구는 이러한 문제를 해결하기 위해 인공지능 기반 머신러닝 기술을 활용했다.  연구진은 심리적·사회적·생활습관 데이터를 함께 분석하면 학생의 스트레스 위험을 비교적 정확하게 예측할 수 있으며, 이를 대학의 조기 경보 시스템(Early Warning System)에 활용할 가능성이 있다고 설명했다. 연구진이 데이터를 분석한 방법 연구에는 공개 데이터셋인 Student Stress Factors가 사용됐다. 데이터는 네팔의 한 대학 학생 1,100명을 대상으로 수집됐으며 총 20개의 예측 변수와 1개의 목표 변수(스트레스 수준)로 구성됐다. 예측 변수에는 불안 수준, 우울 정도, 자존감, 정신건강 병력, 수면의...