미국 기술 기업 리더들은 AI 규제를 시급히 요구하고 있다 — 중국은 이미 규제를 갖췄다

미국 기술 기업들이 첨단 AI에 대한 규제와 안전 기준 마련을 촉구하는 가운데, 중국은 이미 알고리즘과 생성형 AI를 포괄하는 규제·감독 체계를 발전시키고 있다. 이미지는 미·중 AI 경쟁과 함께 부상하는 안전, 법적 책임, 글로벌 AI 지배구조의 과제를 상징적으로 보여준다.

미국 AI 업계 지도자들이 최근 잇달아 내놓은 경고는 세계가 이제야 고도화된 인공지능의 위험과 본격적으로 마주하기 시작했다는 인상을 준다.

기술 기업 앤트로픽(Anthropic)의 최고경영자 다리오 아모데이(Dario Amodei)는 갈수록 강력해지는 AI 모델의 개발 속도를 늦추기 위해 각국 정부가 개입해야 한다고 촉구했다.

그의 제안은 AI 기업 내부에 독립적인 평가자를 두는 것에서 시작해 규제 도입으로 이어지고, 나아가 민주주의 국가들 사이의 정부 주도 협력으로 확대된다.

궁극적인 목표는 AI 시스템의 시험과 기술의 위험한 활용, AI 개발 속도를 둘러싸고 중국을 포함한 국제적 합의를 이끌어내는 것이다.

그러나 이러한 서사에는 정작 중국이 빠져 있다. 중국은 미국과 그 동맹국들이 먼저 구축해야 할 AI 지배구조 체계에 마지막으로 참여시켜야 할 까다로운 상대인 것처럼 묘사된다.

실상은 다르다. 중국은 이미 AI 규제와 평가, 신고, 기술 표준, 정부 감독을 아우르는 광범위한 체계를 구축했다. 중국의 AI 지배구조가 기술의 발전과 함께 단계적으로 어떻게 발전해 왔는지 살펴보자.

중국이 2022년 마련한 알고리즘 추천 서비스 규정은 온라인 콘텐츠를 선별하고 순위를 매기며, 걸러내거나 사용자에게 추천하는 기술에 적용된다.

이 규정은 알고리즘을 사용하는 기업에 알고리즘의 작동 방식을 점검하고 사용자의 개인정보를 보호하며, 사용자에게 일정한 통제권을 부여하도록 요구한다. 아울러 근로자와 소비자, 아동, 노인을 보호하기 위한 안전장치도 마련하도록 규정한다.

2023년 1월부터 시행된 중국의 ‘딥 합성(deep synthesis)’ 관련 규정은 규제 범위를 합성된, 즉 AI가 생성한 텍스트와 이미지, 오디오, 비디오까지 확대했다. AI 기업은 사용자의 신원을 확인하고 데이터를 보호하며 관련 기록을 보관해야 한다. 또한 자사 시스템을 평가하고, 실제 콘텐츠로 오인될 가능성이 있는 합성 콘텐츠에는 그 사실을 명시해야 한다.

2023년 8월에는 생성형 인공지능 서비스에 관한 임시 조치가 도입됐다. 이는 일반 대중을 대상으로 하는 생성형 AI, 특히 여론에 영향을 미치거나 다른 방식으로 사용자를 설득할 수 있는 서비스에 추가적인 규칙을 적용한 것이다.

이 조치는 학습 데이터의 적법성과 품질, 사용자의 개인정보, 지식재산권, 보호 대상 특성에 따른 차별 문제 등을 포괄한다. AI 기업의 투명성과 제품의 정확성 및 신뢰성 역시 규율 대상이다.

이 규정에 따라 기업은 자사 서비스에서 발견된 문제를 시정해야 한다. 해당 서비스는 위험 요소와 중국 법률 준수 여부를 점검하기 위한 안전성 평가를 거쳐야 하며, 기업은 알고리즘에 관한 정보도 중국 당국에 신고해야 한다.

이러한 장치가 아모데이가 제안한 것처럼 AI 기업 내부에 독립 평가자를 상주시켜 평가하도록 하는 체계와 동일한 것은 아니다. 그러나 그 가운데 일부는 유사한 기능을 수행한다.

최첨단 AI의 위험

중국 당국이 가장 최근 내놓은 조치는 2026년 9월 발표된 ‘AI 안전 지배구조 프레임워크 3.0(AI Safety Governance Framework 3.0)’이다. 이 프레임워크는 AI 시스템의 전체 생애주기에 걸쳐 위험을 식별하고 등급을 부여하며 이에 대응하기 위한 포괄적인 접근법을 제시한다.

이전 버전을 토대로 발전한 이 프레임워크는 AI 모델과 데이터에서 발생하는 위험, 오픈소스 모델, 즉 사용자가 자유롭게 수정할 수 있는 모델의 취약성, AI가 고용과 사회에 미치는 영향, 그리고 갈수록 자율성이 높아지는 시스템에서 비롯되는 위험까지 포괄한다.

또한 빠르게 발전하는 AI 에이전트, 즉 사용자의 지시에 따라 작업을 수행하는 시스템과 관련된 위험을 관리하기 위한 별도의 메커니즘도 포함한다.

이 프레임워크는 현재 실리콘밸리에서 우려를 불러일으키고 있는 위험 가운데 일부를 직접 다룬다. 고도의 자율성을 지닌 시스템, 화학·생물학·핵 기술의 오용, 인간이 첨단 AI에 대한 통제력을 상실할 가능성 등이 여기에 해당한다. 이에 대한 대응책으로 지속적인 안전성 평가, 위험 수준에 따른 안전장치, 인간의 통제권 유지, 비상 개입 메커니즘 등을 제시한다.

미국 싱크탱크 카네기 국제평화재단(Carnegie Endowment for International Peace)의 독립적인 분석은 이 프레임워크를 강압적인 규제 개입에 의존하지 않으면서도 “최첨단 AI의 안전성을 발전시키려는” 중국의 시도로 평가했다.

법적 책임의 문제

그렇다고 중국의 AI 규제를 다른 국가에 그대로 이식해야 한다는 뜻은 아니다. 중국의 제도와 규제 전통, 기술적 우선순위는 다른 나라와 다르다.

그러나 현재 미국에서 시급히 구축해야 할 과제로 제시되는 여러 기능, 즉 AI 평가와 기업의 책임성, AI 시스템의 위험 분류, 규제 당국에 대한 신고, 기술 표준, 정부 감독 등은 이미 세계의 또 다른 AI 강대국이 구축한 지배구조 안에 자리 잡고 있다.

미국은 시장 주도형 체제가 자국의 경제적·전략적 이익에 가장 부합한다고 판단할 자유가 있다. 트럼프 행정부는 AI에 대해 “부담을 최소화하는(minimally burdensome)” 국가 차원의 접근법을 선호해 왔으며, 이보다 엄격한 주정부 차원의 규제를 제한하려 해 왔다.

그러나 시장 주도형 모델이 AI가 창출하는 이익은 민간 기업이 차지하면서 그 위험은 외부로 떠넘기는 방식이 되어서는 안 된다. 미국 기업들이 상업적 이익을 거두는 동안 다른 국가의 정부들은 보안 사고를 조사하고 공공 시스템을 보호하며, 기술이 실패했을 때 발생하는 더 광범위한 비용을 떠안게 될 수 있다.

호주의 공공 의료 서비스에 무단으로 접근한 OpenAI 에이전트 사례는 AI의 위험이 어떻게 국외로 전가될 수 있는지를 보여준다.

워싱턴이 AI 시스템을 출시하기 전에 광범위한 통제 장치를 마련하는 방식을 거부한다면, 미국은 적어도 그러한 AI 모델이 초래한 피해의 책임이 누구에게 있는지를 판단할 수 있는 신뢰할 만한 법적 체계를 갖춰야 한다. 그렇지 않다면 외국의 AI 시스템에 의존하는 국가들은 어느 나라의 기술을, 어떠한 조건 아래 신뢰할 것인지를 두고 갈수록 어려운 선택에 직면하게 될 것이다.

실리콘밸리를 오랫동안 지배해 온 신조는 “빠르게 움직이고 기존의 것을 깨뜨려라(move fast and break things)”였다. 시민의 일상에 깊숙이 스며든 기술에 적용하기에는 애초부터 의문이 따르는 원칙이었다. 더구나 자사 제품이 재앙적 피해를 초래할 수 있다고 기업의 지도자들 스스로 경고하는 상황이라면, 이제 그러한 원칙은 더 이상 유지될 수 없다.

중국 당국은 이미 AI 산업을 공적 의무와 규제 감독, 끊임없이 발전하는 위험 평가 체계로 둘러싸고 있다. 이러한 지배구조를 여전히 미래의 과제로 간주하는 국제적 논의라면, 적어도 한 국가가 이미 그 길을 앞서가고 있다는 사실은 인정해야 한다.

출처

원문: US tech leaders are urgently calling for rules on AI – China already has them
출판일: September 30, 2026
글쓴이: Madeline Carr (Professor of Global Politics and Cybersecurity, UCL)
The Conversation

이 글의 의의 — 한국에 주는 시사점

이 글은 한국에도 AI 경쟁력 강화와 안전 규제를 서로 대립하는 목표로만 보아서는 안 된다는 중요한 시사점을 제공한다. 특히 한국은 자체 AI 산업을 육성하는 동시에 미국과 중국의 AI 기술 및 글로벌 플랫폼과 긴밀하게 연결되어 있어, 해외에서 개발된 AI가 초래하는 위험과 책임 문제에서도 자유롭지 않다. 따라서 단순히 규제의 강도를 높이거나 낮추는 논의를 넘어 AI의 위험 수준에 따른 평가, 기업의 책임, 사고 보고, 기술 표준, 피해 발생 시 책임 소재를 구체화하는 제도적 장치가 중요하다. 중국의 사례를 그대로 답습할 필요는 없지만, 기술 발전에 맞추어 규제와 위험 평가 체계를 지속적으로 갱신한다는 접근법은 한국의 AI 정책에도 참고할 가치가 있다. 궁극적으로 한국에는 산업 경쟁력을 훼손하지 않으면서도 국민의 안전과 권리를 보호하고, 해외 AI 사업자에게도 적절한 책임을 요구할 수 있는 독자적인 AI 지배구조를 구축하는 과제가 놓여 있다.