인공지능이 오답을 정답처럼 당당하게 말하는 이유와 이를 해결하는 알고리즘의 원리
에지 디바이스 환경에서 인공지능의 지식 공백을 스스로 식별하는 초경량 프레임워크의 개발 사용자가 던진 질문과 이미지를 동시에 처리하는 시각 질의응답 시스템은 자율주행이나 로봇 공학 등 다양한 분야에서 핵심적인 역할을 맡고 있다. 그러나 현재의 인공지능 모델들은 치명적인 결함을 가지고 있다. 자신이 모르는 문제조차 마치 확실한 정답인 것처럼 당당하게 오답을 출력한다는 점이다. 인공지능이 왜 모른다는 사실을 인지하지 못하는지, 그리고 왜 이런 오답을 확신하며 내뱉는지는 인류가 안전한 인공지능 협업 환경을 구축하기 위해 반드시 풀어야 할 과제였다. 최근 오하이오 주립대학교와 존스 홉킨스 대학교 등의 공동 연구진은 인공지능이 스스로 자신의 인지적 결함을 찾아내도록 만드는 초경량 프레임워크인 TinyKGI를 학술지 Frontiers in Computer Science 에 발표했다. 인간은 문제를 풀다가 배경지식이 부족함을 느끼면 추가적인 정보를 탐색하거나 행동을 수정한다. 연구진은 이러한 인간의 고차원적 인지 역량을 인공지능 알고리즘에 그대로 이식했다. 인공지능이 예측을 내리기 전에 자신이 어떤 부분의 능력이 결여되어 있는지 스스로 체크리스트를 만들어 평가하도록 유도하는 메커니즘이다. 이 기술은 대규모 클라우드 서버의 도움 없이 스마트폰이나 소형 보드컴퓨터 같은 에지 디바이스 내부에서 직접 구동할 수 있도록 설계되었다. 연구진은 타이니 머신러닝 최적화 기법을 적용하여 연산 처리 속도를 높이고 메모리 점유율을 극적으로 감소시켰다. 인공지능이 잘못된 판단을 내리는 근본적인 원인은 무엇인지, 그리고 인터넷 연결이 없는 소형 하드웨어 내부에서 어떻게 실시간으로 자신의 빈틈을 잡아내는지 그 구체적인 원리와 실험 결과를 상세히 분석했다. 학습 데이터의 통계적 패턴에만 의존하는 인공지능은 왜 과잉 확신 오류에 빠질까 기존의 딥러닝 기반 인공지능 모델들은 입력된 데이터 사이의 수학적 결합과 통계적 확률만을 계산하도록 훈련되었...