공룡의 이빨, 인공지능이 읽는다

인공지능으로 공류 화석을 연구한다

잊힌 작은 화석에서 되살아나는 트로오돈의 이야기

현대 과학은 이제 뼛조각 하나로도 과거를 되살려낸다. 특히 공룡 화석, 그중에서도 가장 작고 흔한 ‘이빨’은 과거 생물의 생태를 짐작하게 해주는 중요한 열쇠다. 그런데 이 작고 부서지기 쉬운 화석들을 사람이 하나하나 분류하는 데에는 엄청난 시간과 노력이 든다. 이 지루하고도 복잡한 작업에 인공지능이 등장했다.

미국 남부 애드벤티스트 대학교의 연구팀은 ‘Pectinodon bakkeri’라는 트로오돈 공룡의 이빨 화석을 인공지능으로 분류하는 데 성공했다. 단순한 분류를 넘어, 이 공룡의 치아 형태학적 다양성과 진화적 특징까지 파악해낸 이 연구는, 고생물학에 있어 인공지능이 얼마나 유용한 도구가 될 수 있는지를 보여주는 중요한 전환점이 될 것이다.

사라진 육식공룡을 이빨 하나로 찾는다

‘Pectinodon bakkeri’는 트로오돈류 공룡 중 하나로, 주로 북미 대륙 후기 백악기 지층에서 발견된다. 문제는 이 종에 대한 자료가 극도로 부족하다는 것. 다른 공룡은 해골이나 뼈가 많이 발견되지만, 이 공룡은 대부분 이빨 조각만 남아 있다. 게다가 다른 트로오돈류 공룡들과 이빨 모양이 비슷해, 전문가도 구분하기 어렵다.

이런 상황에서 연구진은 약 20여 년에 걸쳐 와이오밍 주 핸슨 란치 지층에서 발굴된 459개의 화석 치아 데이터를 기반으로, 인공지능에게 이빨을 ‘배우게’ 했다. 데이터를 단순히 입력하는 것이 아니라, 이빨의 길이, 폭, 앞뒤 돌기의 수, 모양 등을 수치화해 AI가 패턴을 스스로 학습할 수 있도록 구성했다.

먼저 숫자를 보고, 그 다음 이미지를 본다

이 연구의 핵심은 두 단계로 나뉜다. 먼저, 연구진은 이빨의 수치 데이터를 기반으로 PCA(주성분 분석)와 K-평균 클러스터링을 수행했다. 이 과정에서 AI는 이빨들을 세 개의 그룹으로 나눴는데, 이 중 하나는 명백히 다른 종의 것으로 확인되어 제외했다. 나머지 두 그룹은 크기나 형태는 달랐지만, 같은 종 안의 변이로 간주했다.

두 번째 단계는 이빨의 이미지를 인공지능에게 보여주는 작업이다. 여기서는 CNN(합성곱 신경망)을 활용했다. K-평균으로 분류된 이미지를 기반으로 AI가 각 이빨이 어떤 그룹에 속하는지를 자동으로 판단할 수 있도록 학습시켰다.

이빨의 미세한 패턴까지 읽어낸다

사람 눈으로는 구분하기 어려운 이빨의 돌기(denticle) 개수나 기울기, 미세한 굴곡을 AI는 놀랄 만큼 정밀하게 감지했다. 특히 CNN은 각 이빨 이미지에서 특징을 추출하고 분류하는 데 최적화된 구조다. 이 모델은 전체 이미지 데이터를 반복 학습하면서 점점 정확한 분류 능력을 갖추게 됐고, 그 정확도는 무려 71%에 달했다.

사실 이 정도 정확도는 이미지 품질과 배경 노이즈, 이빨의 미세한 손상 등을 고려했을 때 매우 높은 수치다. 더군다나 사람이 분류한 것보다 더 일관된 결과를 보여주기도 했다.

AI는 공룡 연구의 새로운 발굴 도구다

이번 연구의 또 다른 의미는, 단순히 공룡 이빨을 분류하는 데 그치지 않는다. AI가 학습한 분류 기준은, 기존에 사람의 직관이나 경험에 의존하던 고생물 분류의 새로운 기준점을 제공해 준다.

예를 들어, 연구진은 클러스터 1과 3의 차이를 단순히 ‘이빨 크기’ 차이로 생각했지만, AI는 돌기의 밀도, 이빨 기저부의 너비까지 고려해 두 그룹을 나눴다. 이는 ‘입 안에서 이빨이 앞쪽일수록 크고, 뒤쪽일수록 작아진다’는 해부학적 특성도 설명해 준다.

실제로는 종이 다른 경우도 잡아냈다

또 하나 흥미로운 결과는, 클러스터 2로 분류된 이빨들이다. 이 그룹은 크기, 모양, 돌기 밀도에서 다른 그룹과 확연히 달랐고, 결국 이들은 다른 종의 이빨로 추정되어 CNN 학습에서는 제외됐다. 즉, AI가 스스로 ‘이건 좀 다른데?’라고 판단한 것이다. 이는 공룡 분류학에서 흔한 ‘동일 종 오판’을 줄이는 데 큰 도움이 될 수 있다.

작은 이빨 하나, 거대한 공룡 생태를 그리다

화석 연구는 흔히 거대한 뼈나 발자국 같은 ‘크고 웅장한’ 유물에만 집중하는 경향이 있다. 하지만 이 연구는 작고 흔한 화석인 이빨이, 오히려 공룡 생태를 복원하는 데 얼마나 강력한 단서가 될 수 있는지를 보여준다.

더불어 이 연구는 ‘AI가 공룡의 과거를 복원할 수 있다’는 가능성을 제시했다. 앞으로 더 많은 화석 이미지가 수집되고, 다양한 종의 데이터가 누적된다면, 인공지능은 과거 수천만 년 전 생태계를 정밀하게 재현할 수 있을지도 모른다.

출처 논문:

Bahn, J.; Alférez, G.H.; Snyder, K.Machine Learning Classification of Fossilized Pectinodon bakkeri Teeth Images: Insights into Troodontid Theropod Dinosaur Morphology.Mach. Learn. Knowl. Extr. 2025, 7, 45.