장관이 CEO에게 전화한 금요일 오후
6월 12일 오후 5시 21분(미국 동부 시간). 미국 상무장관 Howard Lutnick이 Anthropic CEO Dario Amodei에게 직접 연락했다. 내용은 단 하나였다. Claude Fable 5와 Mythos 5에 대한 외국인 접근을 즉시 차단하라.
이 전화가 걸려 오기 불과 72시간 전, Anthropic은 역대 최강 모델 두 종을 동시에 공개했다. 6월 9일 출시된 Claude Fable 5와 Claude Mythos 5는 코딩과 에이전틱 작업에서 기존 최고 모델을 큰 폭으로 앞서며, 개발자 커뮤니티에서 즉각적인 반응을 얻었다.
3일 만에 전부 꺼졌다.
AI 역사상 미국 정부가 상용 AI 모델에 직접 개입해 전 세계 서비스를 중단시킨 것은 이번이 처음이다. 이 사건이 어떻게 전개됐는지, 그 이후 무엇이 달라졌는지를 따라가면 AI 수출통제의 실체가 드러난다.
하루 만에 5천만 줄을 마이그레이션한 모델
Fable 5가 단순한 성능 업데이트가 아니었다는 것을 보여주는 사례가 있다.
결제 인프라 기업 Stripe는 약 5천만 줄 규모의 Ruby 코드베이스를 하루 만에 마이그레이션하는 데 Fable 5를 사용했다. 코드베이스 마이그레이션은 소프트웨어 엔지니어링에서 가장 고통스러운 작업 중 하나다. 레거시 코드와 신규 시스템 간의 차이를 파악하고, 의존성을 추적하며, 오류 없이 변환하는 과정에서 수십 명의 엔지니어가 수개월을 소비하는 것이 일반적이다. Stripe는 그것을 하루에 끝냈다.
이 결과가 가능했던 이유는 Fable 5의 기반 설계에 있다. 컨텍스트 윈도우가 100만 토큰이다. Claude Sonnet 4.6의 200K 토큰과 비교하면 5배다. 100만 토큰은 단순히 "더 긴 대화"를 뜻하지 않는다. 대규모 코드베이스 전체를 단일 요청에 올릴 수 있게 된다. 수백 개 파일에 걸친 맥락을 잃지 않고 추론할 수 있다는 의미다.
코딩 벤치마크도 이례적이었다. SWE-bench Verified 기준 95.0%, SWE-Bench Pro 기준 80.3%를 기록했다. SWE-bench는 GitHub에 실제로 올라온 소프트웨어 엔지니어링 이슈를 AI가 자동으로 해결하는 능력을 측정하는 지표다. 2위 모델과의 격차는 11점이었다.
이 성능이 문제의 시작이었다.
"탈옥 가능성"과 이중용도 딜레마
출시 이틀 후인 6월 10일, "Pliny the Liberator"라는 X 사용자가 Fable 5의 취약점을 공개했다. 소프트웨어 취약점 식별 코드를 생성하도록 유도할 수 있다는 내용이었다. 탈옥(jailbreak)이란 AI 모델에 설정된 안전장치를 우회해 원래 허용되지 않는 응답을 끌어내는 기법이다.
미국 상무부는 이를 군사적 사이버 무기화 우려로 해석했다. Lutnick 장관이 직접 Amodei에게 연락한 배경이다.
Anthropic은 즉각 반박했다. "정부가 일상적인 사이버보안 워크플로우를 안전장치 우회로 오해한 것"이라는 공개 성명을 냈다. 취약점 분석, 침투 테스트, 보안 감사 같은 방어적 사이버보안 작업은 Fable 5의 주요 활용 사례 중 하나였다. Anthropic의 입장은 "보안 전문가가 쓰는 도구와 무기는 다르다"는 것이었다.
이 충돌의 본질은 이중용도(dual-use) 딜레마다. 코딩 능력은 본질적으로 양날이다. 취약점을 찾아내는 코드를 쓰는 능력은 방어에도, 공격에도 쓸 수 있다. 어느 수준의 코딩 능력부터 무기 우려 대상으로 볼 것인지, 그 기준은 아직 누구도 명확히 정의하지 못하고 있다.
Anthropic의 반박이 맞더라도, 명령은 이미 집행됐다. AI 역사에서 처음으로 미국 수출 행정 규정(EAR)이 프론티어 AI 모델에 직접 적용된 사례가 생겼다.
기술 현실: 외국인만 차단이 불가능했다
명령의 내용은 "외국인 접근 차단"이었다. 집행 결과는 "전 세계 전면 차단"이었다. 그 사이의 거리는 기술적 한계였다.
Anthropic은 실시간으로 사용자의 국적을 검증하는 시스템이 없었다. IP 주소와 국적은 다르다. 미국에 있는 외국인도 있고, 해외에 있는 미국인도 있다. 관광비자로 방문한 연구자도 있고, 영주권자도 있다. "외국인을 실시간으로 가려내라"는 명령은 현재 클라우드 서비스 구조상 즉각 구현이 불가능하다.
Anthropic이 택한 유일한 방법은 전면 차단이었다. Fable 5와 Mythos 5에 대한 전 세계 접근이 모두 비활성화됐다. 결과적으로 Anthropic 내부의 외국 국적 직원들도 함께 차단됐다.
Claude Opus, Sonnet, Haiku 계열은 영향을 받지 않았다. 이번 조치는 Mythos 클래스, 즉 Fable 5와 Mythos 5에 한정됐다.
차단은 금요일 저녁에 발효됐다. 주말 사이 Fable 5를 프로덕션 파이프라인에 연결해 두었던 팀들은 월요일 아침이 아니라 그 주말 즉시 장애를 맞았다. 사전 경고는 없었다.
차단 직후, 오픈소스 4개가 움직였다
The New Stack 보도에 따르면 Fable 5 차단 소식이 공식화된 직후, 오픈소스 진영에서 4개 모델이 선제적 대응을 발표했다. 모델명과 개발사는 보도 시점에 일부 미확인 상태이나, 공통된 메시지는 명확했다. "정부가 끄지 못하는 모델이 여기 있다."
오픈소스 모델은 가중치(weights)가 공개된다. 가중치란 AI 모델이 학습을 통해 쌓은 수십억 개의 파라미터 값이다. 가중치가 공개되면 누구든 자신의 서버에 해당 모델을 내려받아 운영할 수 있다. 클라우드 서비스 제공사를 거치지 않기 때문에, 특정 정부가 API 차단을 지시해도 해당 모델 자체를 없앨 수 없다.
Fable 5 사태는 오픈소스 진영이 기다리던 논리적 근거를 제공했다. "클로즈드 최강 모델도 정부 명령 하나에 하루 만에 꺼진다." 이 사건이 오픈소스와 클로즈드 모델 논쟁에 미친 파장은 성능 비교보다 훨씬 컸다.
소버린 AI 논의가 실무로 내려온 이유
소버린 AI(Sovereign AI)라는 개념이 있다. AI 시스템을 특정 국가나 지역이 자체적으로 통제할 수 있는 체계를 구축해야 한다는 주장이다. 그간은 주로 국가 안보 논의나 빅테크 의존도 비판의 맥락에서 등장했다. 학술적, 정책적 언어였다.
Fable 5 사태 이후 이 개념이 기업 실무 논의로 내려오고 있다.
논리는 단순하다. 미국 기업이 제공하는 클라우드 AI 서비스는 미국 정부의 수출통제 정책에 종속된다. 오늘 Fable 5가 차단됐다면, 내일 다른 모델이 같은 이유로 차단될 수 없다는 보장이 없다. 서비스 약관도, 기술 성능도, 가격 경쟁력도 의미 없어지는 순간이다.
이 리스크를 완화하는 방법은 두 가지다. 자국 또는 동맹국 기반 AI 인프라를 직접 구축하거나, 특정 벤더에 의존하지 않는 멀티모델 전략을 갖추는 것이다.
멀티모델 전략이란 하나의 AI 제공사에만 의존하지 않고, 여러 모델을 동시에 운영하거나 전환 가능한 구조로 설계하는 것이다. Fable 5가 차단됐을 때 Claude Opus나 다른 모델로 즉각 전환할 수 있는 파이프라인을 갖추고 있었다면, 그 팀의 피해는 달랐을 것이다.
협상 진행 중, 복구는 수주 내 가능
Anthropic은 이번 차단이 이의 신청 대상이라는 입장이다. "정부의 오해에서 비롯된 명령"이며, 협상을 통해 빠른 복구가 가능하다고 공개적으로 밝혔다.
미국 수출 행정 규정에는 사업자가 차단 명령에 이의를 제기하고 조건부 허가를 받을 수 있는 절차가 있다. 반도체나 군사 장비에는 수십 년 축적된 사례가 있지만, AI 모델에 이 절차가 적용된 것은 처음이다. 어떤 기준으로, 얼마나 빠르게 결론이 날지 현재로서는 전례가 없다.
복구가 되더라도 같은 상황이 반복될 가능성은 열려 있다. 이번에 사용된 법적 근거가 정착된다면, 미국 정부는 향후에도 동일한 방식으로 AI 모델 접근을 통제할 수 있다. 이번 사건은 선례다.
AI를 인프라로 쓴다는 것의 의미
이번 사태를 "Anthropic 문제"로 보면 틀린다. 미국 클라우드 기업이 제공하는 AI 서비스를 프로덕션에 쓰는 모든 팀에게 해당하는 구조적 문제다.
사전 경고 없이, 금요일 오후에, 3일 만에. 이 세 가지가 이번 사태의 핵심이다. 성능이 뛰어나고 가격이 적절하고 약관을 꼼꼼히 읽었더라도, 정부 명령이 내려지면 아무 소용이 없었다. 클라우드 AI 서비스 계약서를 지금 다시 읽어보면, 규제 기관 명령에 의한 서비스 중단을 면책으로 두는 조항이 대부분 들어가 있다.
Fable 5가 차단됐을 때 다른 모델로 즉각 전환할 수 있었던 팀과 그렇지 못했던 팀의 차이는 기술 수준이 아니었다. 설계의 전제가 달랐다. "이 API가 내일도 살아 있을 것"을 당연하게 여기느냐, 아니면 잠재적 장애 포인트로 보느냐의 차이였다.
전력망이나 통신망에는 이중화 설계가 기본이다. 하나가 끊겨도 다른 경로로 이어지도록 처음부터 구조를 짠다. AI 서비스도 그 수준의 신뢰성 기대를 갖기 시작했지만, 실제 시스템은 아직 그 수준의 설계를 갖추지 못한 경우가 많다.
소버린 AI 논의가 이번 계기로 기업 실무 테이블에 오른 것은 그 때문이다. 어떤 AI를 쓰느냐보다, 그 AI가 내 통제 밖에 있을 때 어떻게 되는가를 먼저 따져야 하는 시점이 됐다.