귀여운 외모의 인공지능 에이전트가 심각한 위험을 가릴 수 있다

친근하고 사랑스러운 외형의 인공지능 에이전트는 사용자에게 신뢰와 정서적 유대감을 형성하도록 유도한다. 그러나 이러한 귀여움은 개인정보 수집과 감시, 과도한 접근 권한 등 기술에 내재한 위험을 가릴 수 있다.

친근한 얼굴과 사랑스러운 외형이 사용자의 경계심을 낮추고, 개인정보 침해와 감시의 위험을 간과하게 만들 수 있다.

메타의 뮤즈(Muse)는 사용자를 대신해 이메일을 보내고, 쇼핑과 여행 예약을 처리하며, 각종 애플리케이션을 이용해 업무를 수행하는 개인용 인공지능(AI) 에이전트다. 휴대전화나 컴퓨터에서 뮤즈를 호출하면 ‘졸리(Jolly)’라는 작은 아바타가 나타난다. 눈을 깜빡이고 손을 흔드는 모습은 디지털 세계에 구현된 테디베어를 연상시킨다.

메타는 언제 어디서나 졸리를 이용할 수 있도록 주머니에 넣고 다닐 수 있는 기기인 ‘뮤즈 참(Muse Charm)’도 출시했다. 이 기기에는 납작하게 누른 골프공만 한 크기의 화면이 달려 있다. 언론은 뮤즈를 ‘마법 같다’, ‘앙증맞다’고 묘사했으며, 뮤즈 참을 1990년대 선풍적인 인기를 끌었던 휴대용 디지털 반려동물 다마고치에 비유했다. 다마고치는 알에서 부화한 가상의 생명체를 아기, 어린이, 청소년, 성체의 단계에 걸쳐 돌보며 키우는 장난감이었다.

메타의 뮤즈가 등장한 직후, 오픈AI도 개인용 인공지능 비서인 ‘닷츠(Dots)’를 선보였다. 닷츠는 밝고 다채로운 색상의 둥근 얼굴을 가진 여러 마스코트로 구성되어 있으며, 화면 위를 떠다니면서 사용자와 대화를 나눈다. 오픈AI는 닷츠가 사용자의 업무 처리 방식에 맞춰 일을 완수하며, 때로는 사용자가 요청할 생각조차 하기 전에 먼저 일을 처리해 줄 것이라고 설명한다.

스타트업들도 이와 유사한 전략을 택하고 있다. 개인용 인공지능 앱 ‘피클(Pickle)’은 호기심 어린 커다란 눈을 가진 보라색의 입체적인 동물 캐릭터로 구현되어 있으며, 공중에 떠 있는 듯한 모습을 하고 있다. 피클의 홍보 자료는 사람들이 자신의 삶을 기억하고 마침내 자신과 함께 행동하는, 애착을 느끼게 되는 살아 있는 듯한 존재와 더 많이 대화하고 더 많은 정보를 공유하게 될 것이라고 강조한다.

귀여운 디자인 자체가 본질적으로 해로운 것은 아니다. 오히려 낯선 기술을 한층 친근하고 편안하게 받아들이도록 돕는다. 그러나 이러한 귀여움은 인공지능 에이전트가 지닌 사생활 침해의 잠재적 위험을 가릴 수도 있다. 광범위한 데이터 수집과 감시 같은 문제를 사용자가 덜 심각하게 받아들이도록 만들고, 명확한 동의 없이 에이전트가 자신을 대신해 행동하도록 허용하게 할 우려도 있다.

우리는 디지털 기술을 연구하는 학자로서, 기업들이 기술을 소개하고 설명하는 데 사용하는 언어와 메시지를 오랫동안 연구해 왔다. 첨단 기술을 경계심을 누그러뜨리는 친근한 외형으로 포장하는 이러한 교묘한 마케팅 방식이야말로 귀여움이 지닌 가장 강력한 영향력일 수 있다고 본다. 기술 기업들은 사람들이 인공지능을 적극적으로 받아들이도록 유도하기 위해 이 영향력을 활용하고 있는 것으로 보인다.

더욱 커진 위험

새로운 기술을 귀엽게 포장하는 전략은 결코 새로운 현상이 아니다. 헬로키티, 라부부, 다마고치 등의 제품은 귀여움을 앞세워 소비자의 정서적 애착을 이끌어 내는 데 성공한 대표적인 사례다.

그러나 이들은 어디까지나 수집용 상품이었으며, 대체로 별다른 위해를 끼치지 않았다. 소유자의 메시지를 읽거나 계정에 접근할 수 없었고, 소유자를 대신해 행동할 수도 없었다. 반면 귀여운 외형을 지닌 대상이 인공지능 에이전트라면 문제의 심각성은 훨씬 커진다.

우리는 기술을 어떤 방식으로 설명하느냐에 따라 사람들이 그 기술의 안전성을 인식하는 방식이 달라지고, 기술에 내재한 위험이 잘 드러나지 않게 될 수 있음을 연구를 통해 보여주었다. 이른바 ‘큐트워싱(cutewashing)’은 귀여운 이미지로 개인정보 보호에 관한 우려를 가리고, 많은 사람이 기술을 받아들이도록 유도함으로써 대규모 시장의 형성을 촉진할 수 있다.

감정을 자극하는 귀여움

귀여운 대상은 사람들에게 행복감과 신뢰감, 애정과 보호 본능을 불러일으킨다. 이러한 감정은 사용자가 기술과 정서적 유대감을 형성하도록 이끈다.

특히 거대 기술 기업들은 오랫동안 다양한 귀여운 동물 캐릭터를 디지털 세계에 등장시켜 왔다. 실리콘밸리가 선보인 대표적인 사례로는 파이어폭스의 여우, 이제는 사라진 게이트웨이의 소, 옛 트위터의 파랑새, 깃허브의 문어, 메일침프의 원숭이, 후트스위트의 부엉이가 있다.

이러한 동물 캐릭터가 풍기는 순수하고 무해한 이미지는 사람들이 기술 혁신의 결과를 인식하는 방식에도 영향을 미친다. 그 결과 기술이 가져올 수 있는 부정적 영향을 덜 심각하게 받아들이게 될 수 있다.

수익 창출의 수단

인공지능 기업들은 수익을 창출하기 위해 일부 연구자들이 ‘귀여움 경제(cute economy)’라고 부르는 영역에도 주목하고 있다.

귀여움이 불러일으키는 감정은 브랜드 충성도를 높이고, 사용자가 제품과 지속적으로 상호작용하도록 유도한다. 사용자가 제품에 정서적으로 애착을 갖게 되면 귀여움 자체가 효과적인 마케팅 전략으로 기능할 수 있다. 이러한 정서적 유대는 결국 구매 결정에도 영향을 미친다.

연구에 따르면 사람들은 단순한 도구보다 친근한 캐릭터에게 자신의 감정 상태와 일상생활, 인간관계, 개인적 선호를 더 많이 털어놓는 경향이 있다.

또한 친근한 인공지능 에이전트에는 자신의 메시지와 일정표, 각종 계정에 접근할 수 있는 권한까지 부여하기 쉽다. 그 결과 에이전트를 운영하는 기업은 일반적인 챗봇을 통해 확보하는 것보다 훨씬 풍부한 데이터를 수집하고 분석할 수 있게 된다.

귀여움은 사용자의 의구심과 경계심을 낮춘다. 이에 따라 사람들은 광범위한 접근 권한을 쉽게 허용하고, 이용 약관의 세부 조항은 꼼꼼히 읽지 않을 가능성이 커진다. 나아가 에이전트에 대한 정서적 애착이 깊어질수록 사용자가 해당 서비스를 떠나는 일도 어려워진다.

지나친 신뢰의 위험

기술을 귀엽게 포장하는 방식은 사람들이 그 기술의 어떤 측면에 주목하고 무엇을 간과하는지에 영향을 미칠 수 있다.

매력적인 외형의 인공지능 비서는 더욱 친근하고 덜 위협적인 존재로 받아들여질 수 있다. 그러나 바로 이러한 인상이 데이터 수집, 개인정보 보호, 보안, 감시와 관련된 중요한 문제에서 사용자의 관심을 다른 곳으로 돌릴 가능성이 있다.

실제로 뮤즈가 사용자가 알지 못하는 사이에 문자 메시지를 읽거나, 다른 사람의 집 주소를 당사자도 모르게 제공한 사례가 있다.

우리는 사람들이 귀여운 인공지능 에이전트를 더욱 신중하게 바라볼 수 있도록 기업들이 에이전트의 접근 권한과 수행 가능한 작업, 그리고 그로부터 이익을 얻는 주체가 누구인지를 명확히 설명해야 한다고 생각한다.

정보 공개 문서와 개인정보 처리방침 역시 난해한 법률 용어로 가득 채울 것이 아니라, 누구나 쉽게 이해할 수 있는 평이한 언어로 작성해야 한다.

무엇보다 인공지능 에이전트를 도입하기 전에 그 에이전트가 어떤 데이터에 접근할 수 있으며, 그렇게 얻은 접근 권한으로 무엇을 할 수 있는지 먼저 확인해야 한다.

기술의 귀여운 외형에 마음을 빼앗긴 나머지, 그 기술을 사용하는 데 따르는 결과를 간과해서는 안 된다.

출처 및 저자 정보

원문 제목: AI agents with friendly faces and adorable bodies can distract you from serious risks

출판일: November 5, 2026, 8:16 a.m. EST

글쓴이: Ankolika De(안콜리카 데) — 밴더빌트대학교 박사후연구원
Jessica Maddox(제시카 매독스) — 조지아대학교 광고 및 홍보학 부교수

플랫폼: The Conversation