솔직히 이 뉴스를 처음 접했을 때 저도 좀 멍했습니다. 가짜 계정 2만 5천 개, 대화 2,880만 건, 단 한 달 반 만에. 알리바바가 앤트로픽의 AI 모델 클로드(Claude)를 대상으로 역대 최대 규모의 기술 탈취를 시도했다가 적발됐습니다. 단순한 해킹이 아니라 클로드의 답변 패턴 자체를 학습 데이터로 뽑아가는 방식이었다는 점에서, 이게 단순 사건으로 끝날 이야기가 아니라는 생각이 들었습니다.
기술도둑질: 강한 나라가 더 잘 훔치는 이유
이번 사건을 접하고 제가 가장 먼저 든 의문은 "왜 저렇게 잘하는 나라가 굳이?"였습니다. 세계 최고 권위 AI 학회 ICLR(International Conference on Learning Representations)에서 발표자 100명 중 43명이 중국인이었다는 사실이 알려졌을 때도 비슷한 감각이었는데요. ICLR이란 딥러닝·머신러닝 분야의 핵심 연구들이 경쟁적으로 발표되는 학술대회로, 논문 채택률이 극히 낮아 게재 자체가 연구 역량의 증명으로 통하는 자리입니다. 그 자리에서 미국(32명)을 앞서는 숫자가 중국 연구자였다는 건 더 이상 무시할 수 없는 수준입니다.
그런데 이런 학술 강자가 왜 훔쳤을까요. 제가 내린 결론은 이렇습니다. 강하기 때문에 훔칠 수 있는 겁니다. 약한 나라가 클로드의 대화 데이터 2,880만 건을 긁어간들 그걸로 아무것도 못 합니다. 데이터를 정제하고, 모델에 주입하고, 제품 성능으로 전환할 인프라와 인력이 없으면 그냥 쓰레기 더미일 뿐이니까요.
이번 탈취 방식은 크게 두 가지였습니다. 하나는 대규모 API 크롤링으로, 가짜 계정을 이용해 매일 64만 건씩 클로드에 코딩 관련 질문을 던져 모델 증류(model distillation) 데이터를 수집한 것입니다. 모델 증류란 큰 모델의 출력값을 학습 데이터로 삼아 더 작은 모델을 훈련시키는 기법인데, 쉽게 말해 전교 1등 답안지를 통째로 베껴 나만의 교재를 만드는 방식입니다.
또 하나는 이른바 클로드 암시장이었습니다. 중국에선 클로드를 직접 쓰기 어렵다 보니, 중간 브로커들이 해외 계정 접근권을 공식 가격의 10% 수준에 재판매했습니다. 사용자 입장에선 싸게 AI를 쓰는 것처럼 보이지만, 실제로는 자신의 프롬프트와 답변 로그 전체가 브로커 서버를 경유하며 고품질 학습 데이터로 수집되는 구조였습니다. 사용자가 스스로 데이터를 갖다 바친 셈이죠.
더 씁쓸했던 건 주가 반응입니다. 미국 상장사였다면 이 규모의 스캔들에 주가가 일주일 새 50% 가까이 폭락했을 거라는 시각도 있는데, 알리바바는 4.4% 하락으로 장을 마감했습니다. 결국 오픈AI, 앤트로픽, 구글이 중국의 기술 탈취 대응을 위해 공동 정보 공유 체계를 구축하기로 합의했습니다(출처: Anthropic 공식 사이트).
- 가짜 계정 2만 5천 개를 동원한 대규모 API 크롤링으로 코딩 특화 데이터 집중 수집
- 클로드 암시장을 통해 고급 연구자·개발자의 실사용 프롬프트 로그를 간접 확보
- 수집된 2,880만 건 데이터를 모델 증류 기법으로 자사 AI 재훈련에 활용
- 적발 후에도 알리바바 주가는 4.4% 하락에 그쳐 실질적 제재 효과 미미
AI패권과 한국전략: 오답 노트를 가진 쪽이 이긴다
그렇다면 훔치면 이길 수 있을까요? 제가 이 흐름을 지켜보면서 내린 판단은 "아니다"에 가깝습니다. 조지아텍과 구글 연구팀의 분석에 따르면, 큰 모델의 출력을 베끼는 것만으로는 원본 모델을 넘어서기가 구조적으로 어렵다고 합니다(출처: Google Research). 알리바바가 2,880만 건을 가져가더라도 잘해봐야 현재의 클로드 수준에 근접하는 것이고, 그 사이 진짜 클로드는 이미 다음 버전으로 넘어가 있습니다.
지금 AI 연구의 최전선은 아예 방향 자체가 바뀌고 있습니다. 이번 ICLR에서 주목받은 연구들을 보면 "얼마나 많이 학습시키는가"보다 "어떻게 학습시키는가"로 무게중심이 이동하고 있었습니다. 예를 들어 메모 에이전트(Memo Agent)라는 연구가 발표됐는데, AI가 긴 문서를 처리할 때 전체를 한 번에 집어넣는 대신 중간중간 핵심을 정리하는 메모를 유지하며 읽어나가는 방식입니다. 사람이 두꺼운 책을 읽으면서 노트를 정리하듯 AI의 컨텍스트 윈도우(context window), 즉 한 번에 처리할 수 있는 정보의 범위를 효율적으로 관리하는 거죠.
또 구글과 일리노이대 연구팀이 발표한 리즈닝 뱅크(Reasoning Bank)라는 개념도 인상 깊었습니다. 리즈닝 뱅크란 AI가 추론 과정에서 실패한 사례들을 전략과 교훈으로 정리해 두고, 다음 태스크 수행 시 그 교훈을 꺼내 참조하는 메모리 시스템입니다. 쉽게 말해 오답 노트입니다. 제 경험상 오답 노트를 제대로 쓰는 사람이 결국 시험에서 올라오더라고요. AI도 마찬가지입니다. 단순히 틀린 문제를 다시 보는 게 아니라 "왜 틀렸고, 다음엔 어떻게 해야 하나"를 구조화하는 능력이 진짜 실력입니다.
그런데 아이러니한 점이 있습니다. 메모 에이전트 연구의 주체가 중국 칭화대와 Baidu 연구팀이었습니다. 미래 AI 학습 방법론을 중국이 앞서 제안하고 있다는 겁니다. 훔치면 현재를 따라가고, 연구하면 미래를 만드는 것이죠. 중국은 두 트랙을 동시에 달리고 있습니다.
이 맥락에서 한국 얘기를 안 할 수가 없습니다. 솔직히 제가 봤을 때, 지금 소버린 AI(Sovereign AI) 전략의 방향 설정이 좀 걱정됩니다. 소버린 AI란 특정 국가가 외부 의존 없이 자국 내에서 독립적으로 운용하는 AI 인프라를 말합니다. 방향 자체는 맞습니다. 문제는 목표입니다. 미국 빅테크 한 곳이 연간 AI에 투자하는 금액이 100조~200조 원에 달하는데, 한국의 국가 단위 투자는 10조 원도 채 안 됩니다. 그 돈으로 클로드에 근접한 범용 프론티어 모델을 만들겠다는 목표는 제가 보기에 구조적으로 불가능합니다. 우리가 클로드 소네트 3.5 수준에 겨우 도달할 즈음이면 앤트로픽은 이미 그보다 성능이 20배 높은 다음 세대 모델을 내놓고 있을 테니까요.
제 경험상 이런 경쟁에선 같은 방식으로 더 적은 자원을 가지고 뛰어드는 전략은 거의 이긴 적이 없습니다. 한국의 실질적인 강점은 반도체, 배터리, 디스플레이, 조선, 자동차 같은 제조 현장에 있습니다. 그 현장에는 해외 빅테크가 쉽게 가져갈 수 없는 현장 데이터와 전문가 피드백이 축적되어 있습니다. 이게 진짜 한국만의 오답 노트입니다. 범용 모델 순위표에 이름 올리는 것보다, 현장 문제를 풀고 실패를 기록하고 전문가가 고치고 다시 학습되는 데이터 루프를 만드는 것이 훨씬 현실적인 전략입니다.
자주 묻는 질문
Q. 알리바바가 클로드를 탈취한 게 법적으로 처벌받을 수 있나요?
A. 앤트로픽의 이용약관을 위반한 것은 명확합니다. 다만 중국 기업을 상대로 미국 법을 실질적으로 집행하기는 매우 어렵습니다. 실제로 알리바바의 주가가 4.4% 하락에 그쳤다는 점이 제재 효과의 한계를 잘 보여줍니다. 오픈AI·앤트로픽·구글이 공동 대응 체계를 꾸린 것도 법적 처벌보다는 탐지와 차단 쪽에 무게를 둔 것으로 보입니다.
Q. 모델 증류로 만든 AI가 원본보다 성능이 높아질 수 있나요?
A. 조지아텍과 구글 연구팀의 분석에 따르면, 모델 증류만으로 원본을 넘어서기는 구조적으로 어렵습니다. 증류란 원본의 출력 분포를 학습하는 방식인데, 이 과정에서 원본이 가진 내부 추론 구조까지 복제되지는 않습니다. 잘해봐야 원본 수준에 근접하는 정도이고, 그 사이 원본 모델은 이미 다음 버전으로 진화해 있습니다.
Q. 중국 AI 연구가 쓰레기 물량전이라는 말, 지금도 맞는 얘기인가요?
A. 10~20년 전이라면 어느 정도 통했을 수 있지만, 지금은 완전히 다른 얘기입니다. ICLR처럼 채택률이 극히 낮은 최상위 학회에서 발표자의 43%가 중국 연구자라는 사실이 이를 반증합니다. 메모 에이전트처럼 미래 AI 방법론을 중국 팀이 제안하는 사례도 나오고 있어, 물량전이라는 프레임은 이제 시대착오적이라고 봐야 합니다.
Q. 한국이 소버린 AI에 투자하는 게 무조건 나쁜 건가요?
A. 자체 AI 인프라를 갖추는 것 자체는 필요합니다. 문제는 목표 설정입니다. 미국 빅테크 한 곳이 연간 100조~200조 원을 투자하는 경쟁에서, 10조 원 미만으로 범용 프론티어 모델 순위를 겨루겠다는 목표는 현실적이지 않습니다. 반도체·조선·배터리 등 한국이 실질적으로 강점을 가진 산업의 현장 데이터를 기반으로 한 특화 AI를 만드는 쪽이 훨씬 승산 있는 전략이라고 생각합니다.
결론
이번 알리바바 사태를 정리하면서 제가 계속 머릿속에 맴돌았던 문장이 하나 있습니다. "훔치는 건 언제나 클로드의 어제다." 베끼는 쪽은 항상 현재를 쫓아가고, 앞서가는 쪽은 실패에서 교훈을 뽑아내며 내일을 만듭니다. 미국 빅테크가 전 세계 사용자들에게 두들겨 맞으며 쌓아온 피드백 루프, 즉 리즈닝 뱅크와 메모 에이전트 같은 자기 학습 구조가 중국이 쉽게 복제할 수 없는 진짜 해자입니다.
한국이 이 구도에서 취할 수 있는 가장 영리한 포지션은 범용 모델 경쟁에 무리하게 뛰어드는 것이 아니라, 우리만 가진 산업 현장 데이터로 우리만의 오답 노트를 만드는 일입니다. 조선소 용접 불량 데이터, 배터리 셀 이상 패턴, 반도체 공정 수율 로그. 이런 건 해외 빅테크가 쉽게 살 수도, 만들 수도 없는 자산입니다. 지금이 그 방향을 진지하게 잡아야 할 시점이라고 생각합니다.