AI 속도조절론에 중국은 왜 발끈했나? ‘AI 안전’이 미·중 기술패권 싸움으로 번진 이유

AI 속도조절론에 중국은 왜 발끈했나? ‘AI 안전’이 미·중 기술패권 싸움으로 번진 이유

AI 속도조절론에 중국은 왜 발끈했나? ‘AI 안전’이 미·중 기술패권 싸움으로 번진 이유

“AI가 위험하다면 미국과 중국이 같이 속도를 늦추면 되는 것 아닌가?”

처음 뉴스를 보면 이런 생각이 듭니다.

세계적인 AI 기업 수장들이 너무 빨리 발전하는 인공지능에 제동을 걸어야 한다고 말했습니다. 그런데 중국은 이를 반기기는커녕 “위협론을 퍼뜨리고 악의적인 경쟁을 벌인다”며 반발했습니다. 9월 14일 KBS 뉴스에서도 이 충돌이 주요하게 다뤄졌습니다. (KBS)

그러면 이상합니다.

AI가 위험하다는 이야기인데 중국은 왜 자신들을 공격하는 이야기로 받아들였을까요?

답은 ‘AI를 늦추자’는 말 뒤에 붙은 조건에 있습니다.

이번 논쟁을 촉발한 앤트로픽 최고경영자 다리오 아모데이는 AI 개발 속도를 조절해야 한다고 주장하면서 동시에 미국은 중국보다 AI에서 앞서 있어야 하며, 중국으로 가는 첨단 AI 반도체와 기술을 더 강하게 제한해야 한다고 주장했습니다. (Dario Amodei 원문)

그래서 중국이 보는 이번 논쟁은 단순한 ‘AI 안전’ 문제가 아닙니다.

“같이 브레이크를 밟자면서 왜 우리 쪽에는 연료까지 덜 주겠다는 것이냐”는 문제입니다.

더 흥미로운 사실도 있습니다.

중국 역시 AI가 인간의 통제를 벗어날 위험을 공식적으로 걱정하고 있습니다.

그러니까 이번 미·중 충돌의 진짜 쟁점은 “AI가 위험한가, 위험하지 않은가”가 아닙니다.

“누가 AI의 속도를 정할 것인가, 그리고 속도를 늦추는 동안 누가 세계 1등 자리를 지킬 것인가.”

여기까지 이해하면 이번 뉴스가 전혀 다르게 보입니다.

중국이 발끈한 건 ‘속도조절’이라는 말 때문만은 아니다

중국이 발끈한 건 ‘속도조절’이라는 말 때문만은 아니다

며칠 사이 일어난 일을 순서대로 놓으면 이번 갈등이 훨씬 잘 보입니다.

날짜무슨 일이 있었나의미
9월 8일미국 NSA·CISA·FBI가 중국 AI 기업들의 대규모 ‘모델 증류’를 문제 삼는 공동 권고문 발표미국의 중국 AI 견제 강화
9월 12일앤트로픽 CEO 다리오 아모데이가 AI 개발 속도조절 제안AI 안전과 중국 문제를 한 글에서 연결
9월 13~14일트럼프 대통령이 AI 개발을 늦추는 데 부정적 입장 표명미국 내부에서도 의견 충돌
9월 14일중국 외교부와 관영매체가 아모데이의 주장을 비판AI 안전 논쟁이 미·중 갈등으로 확대

미국 국가안보국(NSA), 사이버안보·인프라보안국(CISA), 연방수사국(FBI)은 9월 8일 공동 권고문에서 딥시크, 알리바바, 문샷AI 등 중국 기업들이 미국의 최첨단 AI 모델에서 기능을 대규모로 추출하는 이른바 ‘산업 규모의 모델 증류’를 했다고 주장했습니다. 이는 미국 정부기관의 판단이며, 중국은 이 주장을 부인하고 있습니다. (CISA·NSA·FBI 공동 권고문 · AP)

그리고 나흘 뒤인 9월 12일, 다리오 아모데이가 ‘We Must Pace the Frontier’라는 글을 공개했습니다.

제목을 직역하면 “최첨단 AI의 속도를 조절해야 한다”는 의미입니다.

여기까지는 기존에 뉴알남에서 다뤘던 AI 통제 위험과 연결됩니다. AI 연구자들이 왜 속도조절을 주장하기 시작했는지, AI 에이전트와 자기개선 문제가 무엇인지는 아래 글에서 함께 볼 수 있습니다.

AI가 10년 안에 인류를 멸망시킨다? 앤트로픽 연구원이 회사를 그만둔 이유

이번 글에서 중요한 것은 그 다음입니다.

아모데이는 단순히 “AI를 천천히 개발하자”고만 말하지 않았습니다.

중국 문제를 함께 꺼냈습니다.

AI를 늦추자면서 왜 중국에는 더 강한 제한을 걸자고 했을까?

AI를 늦추자면서 왜 중국에는 더 강한 제한을 걸자고 했을까?

다리오 아모데이의 제안은 크게 세 단계입니다.

단계내용쉽게 풀면
1단계AI 회사 내부에 독립적인 외부 평가자 배치회사가 자기 AI를 혼자 검사하지 않도록 함
2단계민주주의 국가의 주요 AI 기업들이 공통 안전기준 마련한 회사만 늦춰 경쟁에서 손해 보는 상황 방지
3단계중국을 포함한 국가들과 국제적인 속도조절 협의국가 간 AI 군비경쟁까지 관리

여기까지만 보면 국제적인 안전협약을 만들자는 주장에 가깝습니다. (Dario Amodei 원문)

그런데 두 번째 단계부터 조건이 붙습니다.

아모데이는 미국 기업들이 개발을 늦추는 정도는 미국이 중국보다 얼마나 앞서 있느냐에 따라 제한될 수밖에 없다고 봅니다.

미국이 너무 많이 늦췄다가 중국이 계속 개발해 미국을 추월하면 오히려 국가안보 문제가 생길 수 있다는 논리입니다.

그래서 아모데이는 미국의 AI 우위를 유지하기 위한 방법으로 중국에 고성능 AI 반도체와 첨단 반도체 제조장비를 판매하지 말고, 반도체 밀수를 막으며, 미국 AI 모델의 능력을 중국 업체가 무단으로 ‘증류’하는 행위도 강하게 단속해야 한다고 주장했습니다. 그는 이런 조치가 성공할 경우 향후 3~5년 동안 미국의 우위를 더 벌릴 수 있다고 전망했습니다. 이는 아모데이 개인이 제시한 정책적 주장입니다. (Dario Amodei 원문 · Reuters)

쉽게 비유하면 이렇습니다.

두 자동차가 위험할 정도로 빠르게 달리고 있다고 가정해보겠습니다.

“우리 둘 다 시속 200km 대신 150km로 줄이자.”

여기까지라면 공동 안전규칙입니다.

그런데 한쪽이 동시에 이렇게 말하는 겁니다.

“다만 나는 네 차보다 계속 앞에 있어야 한다. 그러니 네가 더 빠른 엔진을 구하는 것은 막겠다.”

미국과 중국 사이에서 문제가 되는 부분이 바로 이 두 번째 문장입니다.

중국은 왜 이를 ‘AI 안전’이 아니라 ‘중국 견제’라고 보는 걸까?

중국은 왜 이를 ‘AI 안전’이 아니라 ‘중국 견제’라고 보는 걸까?

중국 외교부가 문제 삼은 것도 바로 이 지점입니다.

궈자쿤 중국 외교부 대변인은 9월 14일 미국 AI 업계의 주장에 대해 위협을 부풀리고 대립과 악의적 경쟁을 벌이면 국제적인 AI 거버넌스를 오히려 방해한다고 비판했습니다. 중국 외교부의 공식 입장은 국가 간 협력과 개방적인 AI 발전을 강조하는 쪽입니다. (AP · Reuters)

중국 관영매체 글로벌타임스는 한발 더 나갔습니다.

아모데이의 제안을 겉으로는 AI 안전을 이야기하지만 실제로는 중국의 기술 발전을 막기 위한 ‘냉전식 접근’이라고 비판했습니다. 다만 이는 중국 정부의 공식 외교문서가 아니라 관영매체의 사설이라는 점은 구분해서 볼 필요가 있습니다. (Reuters)

중국 입장에서는 이유가 있습니다.

AI 안전 협력을 하자면서 동시에 미국은 중국이 최첨단 AI를 만드는 데 필요한 반도체와 기술 접근을 제한하겠다고 합니다.

그러니 중국에서는 이렇게 묻게 됩니다.

“우리가 미국보다 뒤처진 상태를 유지하는 것이 왜 세계 AI 안전의 전제조건이어야 하나?”

반대로 미국 쪽에서는 또 다른 질문이 나옵니다.

“미국만 안전을 위해 속도를 늦췄는데 중국이 계속 달리면 어떻게 하나?”

두 주장 모두 결국 기술의 안전성과 국가 간 힘의 균형을 동시에 이야기하고 있습니다.

그래서 이번 문제는 기술만으로 풀 수 있는 문제가 아닙니다.

그런데 트럼프도 아모데이와 같은 편은 아니다

그런데 트럼프도 아모데이와 같은 편은 아니다

여기서 많이 헷갈리는 부분이 있습니다.

이번 사건을 단순히 “미국은 AI를 늦추자고 하고 중국은 반대한다”고 이해하면 정확하지 않습니다.

미국 안에서도 입장이 갈립니다.

주체AI 속도에 대한 입장중국에 대한 시각
다리오 아모데이·앤트로픽안전장치가 따라올 시간을 확보하도록 속도조절 필요미국이 중국보다 앞선 상태는 유지해야 한다는 입장
트럼프 행정부지나친 속도조절과 추가 규제에 부정적중국에 추월당해서는 안 된다는 입장
중국 정부국제협력 필요, 미국의 위협론·견제에는 반대미국이 안전을 명분으로 중국 발전을 막는다고 비판

트럼프 대통령은 AI 위험 경고가 과장됐다는 취지로 반박하면서 미국이 중국보다 AI에서 앞서 있고 그 우위를 유지해야 한다고 밝혔습니다.

9월 14일에는 미국에는 이미 AI 기업의 불법행위를 처벌하고 규제할 수 있는 수단이 있다며 추가적인 안전규제 요구에 부정적인 태도를 보였습니다. (Reuters)

흥미로운 점은 아모데이와 트럼프가 서로 다른 결론을 내리면서도 한 가지에서는 만난다는 것입니다.

둘 다 미국이 중국에 AI 주도권을 내주는 상황을 원하지 않습니다.

차이는 방법입니다.

아모데이는 “미국이 우위를 유지한 상태에서 안전하게 속도를 조절하자”는 쪽이고, 트럼프는 “중국과 경쟁 중인데 굳이 미국 스스로 속도를 낮춰서는 안 된다”는 쪽에 가깝습니다.

그러니 이번 논쟁은 미국과 중국의 단순한 1대1 싸움이 아닙니다.

미국 AI 업계의 안전론, 미국 정부의 경쟁론, 중국의 견제론이 동시에 충돌하고 있습니다.

그렇다면 중국은 AI가 통제를 벗어날 위험을 전혀 걱정하지 않는 걸까?

그렇다면 중국은 AI가 통제를 벗어날 위험을 전혀 걱정하지 않는 걸까?

아닙니다.

오히려 이 부분이 이번 뉴스에서 가장 흥미로운 대목입니다.

중국은 미국 AI 기업들의 경고 방식에는 반발하고 있지만, AI가 인간의 통제를 벗어날 가능성 자체를 무시하고 있지는 않습니다.

중국은 2024년 국가 차원의 AI 안전 프레임워크에서 미래의 AI가 외부 자원을 스스로 확보하거나 복제하고 인간의 통제와 경쟁할 가능성을 위험 시나리오에 포함했습니다.

2025년 개정된 프레임워크에서는 AI 능력이 갑자기 크게 도약한 뒤 자원을 확보하고 스스로 복제하거나 힘을 추구하는 상황을 더욱 구체적으로 언급했습니다. (Reuters)

2026년 7월 상하이에서 열린 세계인공지능대회에서는 시진핑 중국 국가주석도 AI가 항상 인간의 통제 아래 있어야 한다는 취지의 입장을 밝혔습니다. (Reuters)

중국은 AI 에이전트에 대한 실제 지침도 만들고 있습니다.

중국 인터넷정보판공실 등은 올해 5월 AI 에이전트가 잘못 행동할 경우 이를 발견하고 개입하거나 차단하고 복구할 수 있도록 해야 한다는 지침을 내놓았습니다. AI가 자율적으로 결정을 내리더라도 최종 결정권은 사용자에게 남아 있어야 한다는 원칙도 포함됐습니다. (Reuters)

따라서 이번 논쟁을

“미국은 AI 위험을 걱정하고 중국은 무조건 빨리 개발하려 한다”

라고 단순하게 보면 실제 상황과 다릅니다.

양쪽 모두 위험을 이야기합니다.

다만 누구의 AI를 더 위험하게 보느냐, 누가 국제규칙을 만들 것이냐, 그리고 안전규칙을 적용한 뒤에도 어느 나라가 기술적으로 앞서 있어야 하느냐에서 생각이 갈립니다.

‘모델 증류’는 또 무엇이길래 미국과 중국이 싸우는 걸까?

‘모델 증류’는 또 무엇이길래 미국과 중국이 싸우는 걸까?

이번 갈등에서 반복해서 나오는 단어가 ‘모델 증류’, 영어로는 model distillation입니다.

말이 어렵지만 원리는 비교적 간단합니다.

아주 성능이 좋은 AI를 ‘선생님’이라고 생각해보겠습니다.

선생님 AI에게 수많은 문제를 내고 답을 받은 뒤, 그 답을 학습자료로 이용해 더 작거나 새로운 AI를 가르치는 방식입니다.

이런 증류 기술 자체는 AI 업계에서 널리 사용되는 정상적인 기술입니다.

문제는 다른 회사의 유료·비공개 AI에 대량으로 접근해 서비스 약관이나 접근 제한을 우회하면서 그 능력을 복제하려 했느냐는 부분입니다.

미국 NSA·CISA·FBI는 9월 8일 공동 권고문에서 딥시크와 알리바바, 문샷AI 등 중국 기업들이 미국 AI 모델에 수백만 차례의 요청을 보내 수십억 개 규모의 토큰을 추출했다고 주장했습니다. 미국 기관들은 이를 정상적인 연구 수준을 넘어선 조직적인 활동이라고 평가했습니다. (CISA·NSA·FBI 공동 권고문)

하지만 이것은 미국 정부기관의 주장이라는 점을 분명히 해야 합니다.

중국 상무부는 이 주장이 근거가 없다며 반박했고, 모델 증류는 여러 AI 기업이 일반적으로 활용하는 기술이라고 주장했습니다. 또한 미국이 AI 산업에서 독점적 지위를 유지하려 한다고 비판했습니다. (AP)

바로 이 문제 때문에 ‘AI 안전’과 ‘기술보호’의 경계가 더욱 흐려집니다.

미국에서는 첨단 AI 모델과 반도체가 국가안보 자산으로 취급되고 있습니다.

중국에서는 이런 제한을 기술 발전을 봉쇄하려는 조치로 받아들이고 있습니다.

그래서 AI 모델 하나의 성능 문제가 어느 순간 반도체, 수출규제, 사이버안보, 외교 문제로까지 번지는 것입니다.

결국 ‘AI 안전’과 ‘AI 패권’을 따로 떼어놓을 수 있을까?

결국 ‘AI 안전’과 ‘AI 패권’을 따로 떼어놓을 수 있을까?

이번 사건을 뉴알남식으로 가장 단순하게 연결하면 이런 구조입니다.

AI가 너무 빨리 발전한다
↓
AI 기업 내부에서 “안전장치가 따라갈 시간이 필요하다”는 주장이 나온다
↓
그런데 미국만 늦추면 중국이 추월할 수 있다는 걱정이 생긴다
↓
미국의 기술 우위를 지키기 위해 중국의 첨단 반도체와 AI 기술 접근을 제한하자는 주장이 나온다
↓
중국은 “그렇다면 이것이 정말 안전을 위한 규칙인가, 중국을 계속 뒤에 두려는 규칙인가”라고 반발한다
↓
정작 국제적인 AI 안전협력은 더 어려워진다

바로 이 순환구조가 이번 뉴스의 핵심입니다.

더구나 미국과 중국 모두 AI가 통제를 벗어나거나 사이버공격 등 위험한 용도로 사용될 가능성을 경계하고 있습니다.

공통의 위험을 걱정하면서도 서로를 믿지 못하는 셈입니다.

냉전 시절 핵무기 문제와 비슷한 부분도 있습니다.

두 국가 모두 핵전쟁을 원하지 않았지만 상대방이 몰래 더 많은 무기를 만들 가능성을 걱정했기 때문에 일방적으로 무장을 줄이기 어려웠습니다.

아모데이 역시 자신의 글에서 미래의 고도 AI에 대한 국제적인 속도제한을 과거 전략무기제한협정과 비슷한 방식으로 생각해볼 수 있다고 제안했습니다. 다만 그는 실제로 그런 수준의 전면적인 합의를 만드는 것은 매우 어렵다고 인정했습니다. (Dario Amodei 원문)

AI 시대에도 비슷한 문제가 생긴 겁니다.

상대방이 규칙을 지킬 것이라는 확신이 없으면 내가 먼저 브레이크를 밟기가 어렵습니다.

앞으로 가장 먼저 봐야 할 것은 미국과 중국이 실제로 대화할 수 있느냐다

앞으로 가장 먼저 봐야 할 것은 미국과 중국이 실제로 대화할 수 있느냐다

앞으로 가장 중요한 것은 “누가 더 좋은 AI를 만드느냐”만이 아닙니다.

미국과 중국이 최소한의 공통 안전선이라도 만들 수 있는지가 중요합니다.

Reuters는 미국과 중국이 9월 중 최첨단 AI의 안전 위험을 논의하는 방안을 준비하고 있다고 보도했습니다. AP는 9월 24일로 예정된 트럼프 대통령과 시진핑 주석의 회담에서도 AI 거버넌스가 논의될 것으로 전망했습니다. 아직 구체적인 합의가 나왔다는 뜻은 아닙니다. (Reuters · AP)

앞으로는 세 가지를 보면 됩니다.

첫째, 미국의 주요 AI 기업들이 실제로 개발 속도를 조절하는 행동에 들어가는지입니다.

말로만 “천천히 가자”고 하는 것과 실제 신형 모델 개발을 늦추는 것은 전혀 다른 문제입니다.

둘째, 미국 정부가 중국에 대한 AI 반도체와 모델 관련 제한을 더 강화하는지입니다.

이 부분이 강화될수록 중국은 미국의 AI 안전론을 기술 견제로 받아들일 가능성이 커집니다.

셋째, 미국과 중국이 사이버공격, 생물무기, AI 에이전트 통제처럼 서로에게도 위험한 분야부터 작은 합의를 만들 수 있는지입니다.

처음부터 “모든 AI 개발 속도를 함께 늦추자”고 합의하기는 쉽지 않습니다.

하지만 양쪽 모두 피해를 볼 수 있는 특정 위험부터 관리하는 것은 상대적으로 가능성이 있습니다.

이번 뉴스에서 가장 중요한 변화는 AI 문제가 더 이상 실리콘밸리 기업들만의 문제가 아니라는 점입니다.

AI가 강력해질수록 반도체와 데이터센터, 국가안보와 외교까지 한꺼번에 움직입니다.

그래서 앞으로 AI 뉴스를 볼 때는 단순히 “새 모델이 얼마나 똑똑해졌나”만 봐서는 전체 그림을 놓칠 수 있습니다.

누가 그 AI를 통제하는지, 누가 반도체를 공급하는지, 그리고 어느 나라가 기술의 속도와 규칙을 정하려 하는지를 같이 봐야 합니다.

뉴알남 한 줄 정리

중국이 미국 AI 업계의 ‘속도조절론’에 반발한 이유는 AI 안전 자체를 부정해서가 아닙니다.

앤트로픽 CEO 다리오 아모데이가 “AI 발전 속도를 늦추자”고 주장하면서 동시에 미국의 AI 우위를 유지하기 위해 중국에 대한 첨단 반도체·AI 기술 제한을 강화해야 한다고 제안했기 때문입니다.

중국 역시 AI의 ‘통제 상실’ 위험을 공식적으로 관리하고 있습니다.

결국 지금 벌어지는 싸움은 단순히 “AI가 위험한가”를 둘러싼 논쟁이 아니라, “안전을 위해 속도를 늦춘다면 누가 그 속도를 정하고, 그동안 누가 세계 AI 주도권을 갖느냐”를 둘러싼 미·중 기술패권 경쟁입니다.

AI 속도조절론, 핵심 질문으로 한눈에 정리

Q. 미국이 공식적으로 AI 개발을 늦추기로 한 건가요?

아닙니다. 속도조절을 강하게 주장한 쪽은 앤트로픽의 다리오 아모데이 등 AI 업계 인사들입니다. 트럼프 행정부는 오히려 미국이 중국과 경쟁하는 상황에서 AI 발전을 늦추는 데 부정적인 입장입니다. (Reuters)

Q. 다리오 아모데이는 AI 개발을 완전히 중단하자고 주장했나요?

아닙니다. 아모데이는 AI 연구와 모델 훈련을 완전히 멈추자는 것이 아니라 AI의 능력이 향상되는 속도를 안전 연구와 외부 검증이 따라갈 수 있도록 조절하자는 입장입니다. (Dario Amodei 원문)

Q. 중국은 왜 AI 속도조절론에 반발했나요?

중국은 아모데이가 AI 안전을 주장하면서 동시에 중국에 대한 첨단 AI 반도체 수출 제한과 기술 통제를 강화해야 한다고 주장한 점을 문제 삼고 있습니다. 중국은 이를 순수한 안전정책이 아니라 기술 우위를 유지하려는 견제로 해석하고 있습니다. (Reuters)

Q. 중국은 AI가 인간의 통제를 벗어날 가능성을 인정하지 않나요?

그렇지 않습니다. 중국은 2024년부터 공식 AI 안전 프레임워크에 ‘통제 상실’ 가능성을 포함했고, 2025년 개정안에서도 AI의 급격한 능력 상승과 자율적인 자원 확보·복제 등의 위험을 다뤘습니다. (Reuters)

Q. 트럼프 대통령은 왜 AI 속도조절에 반대하나요?

트럼프 대통령은 미국이 현재 중국보다 AI에서 앞서 있는 상황에서 스스로 속도를 늦추면 중국에 유리해질 수 있다고 보고 있습니다. 그는 미국에 이미 AI 기업을 규제하고 처벌할 수 있는 법적 수단이 있다는 입장도 밝혔습니다. (Reuters)

Q. AI ‘모델 증류’는 불법 기술인가요?

모델 증류 자체는 불법 기술이 아닙니다. 큰 AI의 지식이나 출력을 이용해 더 작거나 새로운 모델을 학습시키는 일반적인 AI 기술입니다. 다만 미국 정부기관들은 일부 중국 업체가 이용약관과 접근 제한을 우회하며 미국 AI 모델의 기능을 대규모로 추출했다고 주장하고 있고, 중국은 이를 부인하고 있습니다. (CISA·NSA·FBI 공동 권고문 · AP)

Q. 미국과 중국이 AI 개발 속도를 함께 늦추기로 합의할 가능성이 있나요?

현재 그런 합의는 없습니다. 양국 모두 AI 위험을 관리할 필요성은 인정하고 있지만 기술 우위와 국가안보 문제가 얽혀 있어 전면적인 속도조절 합의는 쉽지 않습니다. 다만 특정 사이버위험이나 위험한 AI 활용을 관리하는 제한적인 협력 가능성은 논의될 수 있습니다.

Q. 앞으로 미·중 AI 경쟁에서 가장 중요한 것은 무엇인가요?

AI 모델의 성능뿐 아니라 첨단 반도체 접근, 데이터센터와 연산능력, 모델 보호, 안전규칙과 국제적인 검증체계가 함께 중요해지고 있습니다. 결국 누가 가장 강력한 AI를 만드는지뿐 아니라 누가 그 AI를 안전하게 운영하면서도 기술 주도권을 유지하는지가 경쟁의 핵심이 되고 있습니다.

오늘 뉴알남이 풀어드린 이슈, 이해에 도움이 되셨나요? 🙂
앞으로도 뉴스 속 궁금증을 쉽고 명쾌하게 풀어드리기 위해 노력하겠습니다!

주요 출처

1차 자료·공식자료

국제 통신·외신

국내 보도·영상

이런 뉴스도 있어요