"AI가 위험해지고 있다" — 그 다음 날 가장 강한 모델을 냈다
6월 초, Anthropic은 이례적인 공개 서한을 발표했다. 내용은 단순했다. "AI가 너무 위험해지고 있다." 회사가 직접 자신들이 만드는 것의 위험성을 공개적으로 경고한 것이다.
그리고 수일 후인 6월 9일, 역대 가장 강력한 모델인 Claude Fable 5를 공개했다.
타이밍이 묘하다. 아이러니처럼 읽히지만, 사실 이 두 사건은 모순이 아니다. Anthropic의 논리는 일관된다. "위험하다는 걸 알기 때문에, 우리가 직접 만들어서 통제한다." 위험한 기술을 아무도 안 만들면 좋겠지만, 어차피 만들어질 거라면 안전을 가장 많이 고민하는 팀이 주도해야 한다는 입장이다. 회사 내부에서는 이를 "race to the top" 논리라고 부른다.
그리고 이 출시에는 또 다른 맥락이 있었다. OpenAI GPT-5 시리즈, Google Gemini 3.5 Pro(200만 토큰 컨텍스트, GA 임박), MiniMax M3 같은 경쟁 모델들이 쏟아지는 시점이었다. Anthropic은 Mythos 계열 모델을 오랫동안 내부와 제한된 연구자 그룹에만 제공해왔다. Fable 5 공개는 "이 수준을 이제 외부에 낼 준비가 됐다"는 선언이기도 했다.
Mythos가 뭔데
Fable 5를 이해하려면 "Mythos 클래스"가 무엇인지 먼저 짚어야 한다.
기존 Claude는 Haiku, Sonnet, Opus의 3단 구조였다. 비용 대비 속도(Haiku), 범용 균형(Sonnet), 고성능(Opus) 식으로 나뉘었다. Fable 5는 이 위에 새로운 최상위 계층인 "Mythos 클래스"를 신설하고, 그 첫 공개 모델로 출시된 것이다.
그런데 Mythos 클래스에는 두 모델이 있다. Claude Fable 5와 Claude Mythos 5.
두 모델은 기반이 같다. 같은 아키텍처, 같은 학습 데이터, 같은 파라미터다. 차이는 안전 제어 계층이다.
Fable 5는 일반 사용자를 위한 공개 모델이다. 사이버보안, 생물학, 화학 같은 고위험 영역 요청이 들어오면 자동으로 차단하고 Claude Opus 4.8로 폴백 처리한다. 그러니까 Fable 5는 "능력은 전부 있지만, 위험한 질문에는 일부러 대답하지 않도록 설계된" 모델이다.
Mythos 5는 다르다. Project Glasswing이라는 프로그램을 통해 검증된 사이버 방어 전문가, 핵심 인프라 운영자, 승인된 생물학 연구자에게만 제한적으로 접근을 준다. 같은 모델인데 안전 필터가 없다. 실제 취약점 분석이나 바이오 리서치에 제약 없이 쓸 수 있다는 뜻이다.
이 구조는 전례가 없다. 한 회사가 동일한 기반 모델을 두 개의 제품으로 나눠서, 각각 다른 안전 규칙을 적용하는 방식이다. "능력을 제한해서 안전을 확보하는 게 아니라, 접근 권한을 통해 위험을 통제한다"는 발상이다. 안전과 성능이 trade-off라는 기존 통념에 정면으로 도전하는 시도다.
숫자로 보는 실제 변화
성능 얘기를 안 할 수 없다.
컨텍스트 윈도우가 100만 토큰이다. Claude 3.7 Sonnet의 200K에서 5배 뛰었다. 수치만 보면 "그냥 더 긴 대화 가능"처럼 들리지만, 실제로는 에이전틱 파이프라인 설계가 근본적으로 달라진다. 기존에는 대규모 코드베이스 전체를 단일 요청에 담는 게 불가능했다. 수백 페이지 문서를 요약 없이 통째로 처리하는 것도 마찬가지였다. 100만 토큰은 이 제약을 사실상 없애버린다.
코딩 벤치마크는 더 충격적이다. SWE-bench Verified 95.0%, SWE-Bench Pro 80.3%다. 2위보다 11점 앞선 격차는 단순한 순위 차이가 아니다. 실제 프로덕션 코드베이스에서 체감 가능한 질적 차이일 수 있다. Cursor나 Windsurf 같은 에이전틱 코딩 툴들이 Fable 5를 기본 모델로 채택하기 시작하면, 개발자의 작업 방식이 달라질 수 있다.
가격도 흥미롭다. 입력 $10/M 토큰, 출력 $50/M 토큰이다. Opus 4.8(입력 $15, 출력 $75)보다 저렴하면서 성능은 더 높다. 더 싼 값에 더 좋은 모델을 살 수 있게 된 셈이다. 단, 출력 토큰 최대 128K를 풀로 쓰는 장문 생성 시나리오에서는 비용이 빠르게 증가한다. 캐싱 전략과 출력 토큰 제어 로직이 중요해졌다.
추론 방식도 바뀌었다. Claude 3.7 Sonnet은 표준 모드와 확장 사고 모드를 사용자가 선택할 수 있었다. Fable 5에서는 추론이 항상 켜져 있다. 단일 요청이 수 분에 걸릴 수 있다. 빠른 응답보다 깊은 추론이 기본값이 됐다는 뜻이다. 빠른 응답이 필요한 쓰임에는 여전히 Sonnet 4.6이 맞는 선택이다.
사흘 만에 내려갔다
출시 72시간 후인 6월 12일 금요일 저녁(미국 동부 시간 17:21), Anthropic에 미국 정부의 수출 통제 지침이 전달됐다. 외국 국적자에 대한 모델 접근을 차단하라는 명령이었다.
Anthropic은 당일 즉시 전 세계 Fable 5와 Mythos 5 접근을 비활성화했다.
이유는 기술적이다. 실시간으로 사용자의 국적을 필터링하는 시스템이 없었다. "미국 국적자만 접근 허용"을 구현하려면 전 세계를 통째로 막는 것 외에 즉각적인 선택지가 없었다. 결국 Anthropic 직원 중 외국 국적자까지 포함해서 모두 접근이 차단됐다.
이 사건에는 세 가지 레이어가 겹쳐 있다.
첫 번째는 기술적 촉발이다. 출시 이틀 후인 6월 10일, "Pliny the Liberator"라는 X 사용자가 Fable 5의 젤브레이크 기법을 공개했다. 소프트웨어 취약점 식별 코드를 생성하도록 유도할 수 있다는 내용이었다. 정부는 이것이 사이버 무기화 가능성이 있다고 판단했다. Anthropic은 "기존 모델보다 오히려 안전성이 높다"며 반박했지만, 명령은 이미 내려진 뒤였다.
두 번째는 법적 근거다. 미국 수출 행정 규정(EAR)이 처음으로 프론티어 AI 모델에 적용됐다. 반도체나 무기와 동일한 국가 자산으로 AI를 취급한 첫 사례다. 범위도 전례가 없다. 미국 고객만이 아니라 전 세계, 그리고 회사 내부 외국 국적 직원까지 포함됐다.
세 번째가 가장 본질적인 충돌이다. Anthropic이 밝힌 핵심 갈등은 모델 기술과는 별개였다. "대량 국내 감시 및 완전 자율 무기 시스템에 제한 없이 Claude를 개방하라는 요구를 거절했다"는 것이다. 단순한 기술적 규제가 아니라, AI 안전 정책과 국가 안보 논리의 정면 충돌이었다.
개발자 입장에서 이 사건은 구체적인 피해로 다가왔다. Fable 5를 프로덕션에 붙여두던 팀들은 금요일 저녁에 갑작스러운 에러를 마주했다. 환불 처리도 즉시 명확하지 않았다. Snyk과 VentureBeat는 즉시 벤더 리스크 대응 가이드를 발행했고, "AI를 인프라로 믿으면 안 된다"는 회의론이 커뮤니티에 퍼졌다.
현재 Anthropic은 "오해에서 비롯된 명령"이라며 이의 신청 중이다. 접근이 재개될지, 언제 재개될지는 이 글을 쓰는 시점에서 미확인 상태다.
이 구조가 표준이 될까
이 사건을 단순히 "AI 회사와 정부의 충돌"로 읽으면 중요한 부분을 놓친다.
Fable/Mythos 이중 구조 자체가 새로운 제품 전략의 원형이다. 동일한 기반 모델에 서로 다른 안전 프로필을 적용해 일반 시장과 전문가 시장을 동시에 공략하는 방식이다. OpenAI나 Google이 유사한 구조로 대응한다면, 이 이중화 방식이 업계 표준이 될 수 있다.
정부 수출 통제라는 변수는 이 구조를 더 복잡하게 만든다. 미국 정부가 AI 모델을 수출 통제 품목으로 취급하기 시작했다는 신호가 명확해졌다. 글로벌 클라우드 서비스 형태로 제공되는 AI에 국적 기반 접근 제어를 구현하는 것은 기술적으로도, 법적으로도 전례 없는 영역이다. 한국, EU, 중국 같은 비미국 시장의 AI 접근성 지형이 앞으로 어떻게 달라질지는 아직 아무도 모른다.
에이전틱 AI의 방향도 짚어야 한다. Fable 5가 수일 단위의 자율 작업 처리를 설계 핵심으로 삼은 것은, AI를 대화 도구에서 비동기 작업 실행자로 전환하는 흐름을 공식화한 것이다. AI 오케스트레이션 도구, 작업 관리 레이어, 비동기 결과 검증 시스템에 대한 수요가 커질 수밖에 없다.
한국 기업 입장에서 이번 사건은 이론이 아닌 실무 리스크로 다가온다. Claude 기반 AI 에이전트 프로젝트를 운영하는 팀이라면, 단일 공급자 의존이 어떤 결과를 낳는지 이번에 실증됐다. 멀티모델 전략이 선택이 아니라 필수 설계 원칙으로 자리잡아야 하는 이유다.
모델 성능 경쟁은 계속된다. 하지만 이제 성능 외에 "이 모델이 내일도 쓸 수 있는가"가 기술 선택의 핵심 기준 중 하나가 됐다.