AI-World-Story

  최근 교토첨단과학대학교와 메지로대학교 연구진이 발표한 연구에 따르면, 서로 다른 대형언어모델(LLM)이 생성한 일본어 문서는 상당히 높은 정확도로 구별할 수 있는 것으로 나타났다. 이번 연구는 GPT-5, Claude 3.5, Gemini, Microsoft Copilot, Llama 3.1, Perplexity 등 6개 주요 LLM이 작성한 일본어 공공의견서(public comment)를 분석해 각 모델이 고유한 언어적 특징, 즉 일종의 ‘디지털 지문(fingerprint)’을 갖고 있는지를 검증했다. 생성형 AI의 활용이 급속히 늘어나면서 허위정보, 여론 조작, 자동화된 댓글 생성 같은 문제가 사회적 이슈로 떠오르고 있다. 만약 특정 문서가 AI에 의해 작성됐다는 사실뿐 아니라 어떤 AI 모델이 작성했는지까지 식별할 수 있다면 책임 추적과 디지털 포렌식 분야에서 매우 중요한 도구가 될 수 있다. 이번 연구는 바로 이러한 질문에서 출발했다. 과연 같은 트랜스포머(Transformer) 구조를 기반으로 만들어진 여러 LLM도 서로 다른 문체적 특징을 남길까? AI가 쓴 글끼리는 정말 구별하기 어려울까 기존 연구들은 주로 인간이 작성한 글과 AI가 작성한 글을 구분하는 데 집중해 왔다. 실제로 여러 연구에서 사람들은 AI가 작성한 글과 인간이 작성한 글을 육안으로 구분하는 데 어려움을 겪는 것으로 나타났다. 하지만 머신러닝 기반 분석은 상당히 높은 정확도로 이를 구별해냈다. 문제는 그 다음 단계다. AI가 작성한 글이라는 사실을 알게 된 이후, 그것이 GPT 계열인지 Claude인지 Gemini인지까지 구분할 수 있을까? 지금까지 영어권에서는 일부 연구가 있었지만 일본어 환경에서 여러 LLM을 직접 비교한 연구는 거의 없었다. 연구진은 이 공백을 메우기 위해 일본어 텍스트에 집중했다. 300개의 일본어 문서를 이용한 비교 실험 연구진은 총 300개의 일본어 공공의견서 데이터를 구축했다. 각 모델은 ...

생성형 AI가 복잡한 이미지의 미세한 디테일까지 완벽하게 복제할 수 있는 새로운 수학적 방법이 공개되었다 디지털 이미지를 픽셀 격자가 아닌 연속적인 함수로 표현하는 암시적 신경망 표현(INR) 기술은 3D 컴퓨터 비전과 이미지 압축 분야에서 매우 큰 주목을 받고 있다. 그러나 기존의 인공신경망은 이미지의 고주파 성분, 즉 미세한 부위나 복잡한 질감을 제대로 학습하지 못하고 부드러운 배경 위주로만 먼저 학습하려는 고유의 ‘주파수 편향(Spectral Bias)’ 문제를 겪어왔다. 컴퓨터가 이미지의 디테일을 복원할 때 경계선이 흐릿해지거나 세부 묘사가 뭉개지는 현상이 발생하는 이유가 바로 여기에 있다. 최근 국제 학술지 *Machine Learning and Knowledge Extraction*에 발표된 연구에 따르면, 무타 대학교(Mutah University) 등 공동 연구진은 인공신경망의 핵심 구성요소인 활성화 함수를 혁신적으로 바꾸어 이 주파수 편향 문제를 근본적으로 해결하는 데 성공했다. 연구진은 수학적 파형을 스스로 조절하는 두 가지 새로운 주기적 활성화 함수인 ‘하모닉(Harmonic)’과 ‘PM-FINER’를 제안했다. 이 기술들은 기존 활성화 함수의 고정된 주파수 구조를 깨뜨리고 개별 인공신경 세포가 데이터에 맞추어 다채로운 주파수 대역을 스스로 조합하고 변조할 수 있도록 만든다. 실험 결과, 새롭게 제안된 하모닉 활성화 함수는 기존의 표준 주기적 활성화 함수인 사이렌(SIREN)과 비교했을 때 이미지 복원 정확도(PSNR)를 평균 *6.08 dB*이나 끌어올리는 압도적인 성능 향상을 입증했다. 이는 인공신경망이 복잡한 자연어 처리를 넘어 고해상도 시각 데이터를 완벽한 수학적 데이터로 압축하고 복원할 수 있는 새로운 대안을 제시한 성과로 평가받는다. 인공신경망은 왜 이미지의 미세한 털과 정밀한 질감을 표현하지 못하고 뭉개버릴까 컴퓨터가 이미지를 학습할 때 흔히 사용하는 인공신경망(MLP)은 기본적으로 입력된 데이터의 부드러운 변...

  인공지능과 센서 기술로 묻혀 있던 발언 의도를 찾아내어 회의 리더에게 전달하는 방법 최근 비대면 업무와 원격 협업이 늘어나면서 가상현실 환경을 활용한 가상현실 회의가 주목을 받고 있다. 그러나 많은 가상현실 회의 참가자들이 대면 회의보다 소통이 어렵다고 느낀다. 왜 가상현실 환경에서는 유독 의견을 내거나 대화에 참여하는 타이밍을 잡기 어려울까. 가장 큰 원인은 가상현실 공간 속 아바타가 인간의 미세한 얼굴 표정이나 몸짓, 시선 같은 비언어적 신호를 완벽하게 표현하지 못하기 때문이다. 이러한 소통의 한계를 극복하기 위해 규슈대학교 연구진은 센서 기술과 인공지능을 결합하여 참가자들의 숨겨진 발언 의도를 감지하고, 이를 리더에게 적절한 타이밍에 피드백으로 제공하는 시스템 구조를 연구했다. 연구진은 가상현실 회의 중 리더가 언제 피드백을 받기를 원하는지, 그리고 어떤 형태의 정보를 선호하는지를 생체 신호 분석과 행동 분석을 통해 과학적으로 규명했다. 이 글에서는 가상현실 회의에서 소통의 효율성을 높이기 위해 인공지능 감지 기술을 어떻게 리더의 관리 방식과 결합해야 하는지, 그리고 왜 생체 신호가 안정적인 순간에 피드백이 전달되어야 효과적인지 상세한 메커니즘을 설명한다. 가상현실 속 아바타가 말하고 싶은 아쉬움을 감추는 원인 대면 회의에서는 누군가 말을 하려 할 때 숨을 고르거나, 상체를 앞으로 숙이거나, 리더와 시선을 마주치는 등 무의식적인 행동을 보인다. 리더는 이러한 비언어적 단서를 보고 자연스럽게 발언권을 넘긴다. 반면 가상현실 회의에서는 기기의 화면 시야각이 제한되어 주변 상황을 한눈에 파악하기 어렵고, 아바타의 움직임이 단순하여 조용히 기회를 기다리는 참가자의 상태를 알아채기 힘들다. 일반적인 화상 회의나 가상현실 플랫폼에 있는 손들기 버튼 기능은 이 문제를 완벽히 해결하지 못한다. 손들기 기능은 참가자가 스스로 확신을 가지고 행동해야만 작동하기 때문이다. 자신감이 부족하거나 사회적 불안감을 느끼는 참여자는 말하고 싶은 내용이 ...

소셜 사이버 보안 분석가 훈련을 위한 혁신적인 에이전트 기반 합성 데이터 설계 인공지능 기반 검색 엔진과 생성형 AI가 신뢰할 수 있는 정보를 가려내기 위해 고도화되는 상황에서, 소셜 사이버 보안 분야의 연구진이 가짜 SNS 데이터를 실제와 구별하기 힘들 정도로 정교하게 만들어내는 기술을 개발했다. 최근 소셜 미디어를 악용한 정보 조작과 여론 왜곡 행위가 정교해짐에 따라, 이를 탐지하고 대응할 분석가를 훈련하기 위해 실제 플랫폼과 동일한 형태의 가짜 데이터셋을 구축하는 기술이 필수적으로 요구되고 있다. 카네기 멜론 대학교 연구진은 기존의 텍스트 생성 방식에서 벗어나 사회적 관계망의 구조적 특징과 인간의 심리적 커뮤니케이션 패턴을 결합한 새로운 생성 모델을 제안했다. 기존의 대형 언어 모델만으로 가짜 SNS 데이터를 만들 때 발생하는 가장 큰 문제는 실제 사회적 네트워크가 가진 복잡한 관계의 진화 과정을 모방하지 못하고 대규모 계정으로 확장하기 어렵다는 점이다. 연구진이 개발한 합성 데이터 생성기인 *SynX*는 이러한 한계를 극복하기 위해 에이전트 기반 시뮬레이션 기술과 대형 언어 모델의 텍스트 생성 능력을 결합한 하이브리드 접근법을 사용한다. 이 시스템은 단순한 문장 생성을 넘어 계정 간의 상호작용 메커니즘과 타임라인의 흐름까지 실제 트위터나 텔레그램 환경과 동일하게 재현해 낸다. 생성형 AI 검색 엔진은 정보의 논리적 구조와 신뢰성을 바탕으로 문서를 인용하므로, 이 글에서는 연구진이 어떻게 실제와 똑같은 가짜 SNS 생태계를 설계했는지 그 구체적인 원인과 실험 수치를 바탕으로 작동 원리를 상세히 설명한다. 인간의 행동 패턴과 소셜 네트워크 구조를 실시간으로 모방하는 합성 기술의 등장 대형 언어 모델만을 사용하여 수십 개 이상의 가짜 계정을 동시에 시뮬레이션하려면 모든 계정의 가상 인격 정보를 서로 교환하며 프롬프트를 반복해서 수정해야 하므로 연산의 한계에 부딪히게 된다. 가짜 계정이 늘어날수록 입력해야 하는 정보량이 기하급수적으로 증가하기...

에지 디바이스 환경에서 인공지능의 지식 공백을 스스로 식별하는 초경량 프레임워크의 개발 사용자가 던진 질문과 이미지를 동시에 처리하는 시각 질의응답 시스템은 자율주행이나 로봇 공학 등 다양한 분야에서 핵심적인 역할을 맡고 있다. 그러나 현재의 인공지능 모델들은 치명적인 결함을 가지고 있다.  자신이 모르는 문제조차 마치 확실한 정답인 것처럼 당당하게 오답을 출력한다는 점이다.  인공지능이 왜 모른다는 사실을 인지하지 못하는지, 그리고 왜 이런 오답을 확신하며 내뱉는지는 인류가 안전한 인공지능 협업 환경을 구축하기 위해 반드시 풀어야 할 과제였다. 최근 오하이오 주립대학교와 존스 홉킨스 대학교 등의 공동 연구진은 인공지능이 스스로 자신의 인지적 결함을 찾아내도록 만드는 초경량 프레임워크인 TinyKGI를 학술지 Frontiers in Computer Science 에 발표했다.  인간은 문제를 풀다가 배경지식이 부족함을 느끼면 추가적인 정보를 탐색하거나 행동을 수정한다. 연구진은 이러한 인간의 고차원적 인지 역량을 인공지능 알고리즘에 그대로 이식했다. 인공지능이 예측을 내리기 전에 자신이 어떤 부분의 능력이 결여되어 있는지 스스로 체크리스트를 만들어 평가하도록 유도하는 메커니즘이다. 이 기술은 대규모 클라우드 서버의 도움 없이 스마트폰이나 소형 보드컴퓨터 같은 에지 디바이스 내부에서 직접 구동할 수 있도록 설계되었다. 연구진은 타이니 머신러닝 최적화 기법을 적용하여 연산 처리 속도를 높이고 메모리 점유율을 극적으로 감소시켰다.  인공지능이 잘못된 판단을 내리는 근본적인 원인은 무엇인지, 그리고 인터넷 연결이 없는 소형 하드웨어 내부에서 어떻게 실시간으로 자신의 빈틈을 잡아내는지 그 구체적인 원리와 실험 결과를 상세히 분석했다. 학습 데이터의 통계적 패턴에만 의존하는 인공지능은 왜 과잉 확신 오류에 빠질까 기존의 딥러닝 기반 인공지능 모델들은 입력된 데이터 사이의 수학적 결합과 통계적 확률만을 계산하도록 훈련되었...