지난 몇 달 코딩 모델 소식은 대체로 한 방향으로 흘렀습니다. 새 모델이 나오면 SWE-Bench 점수가 몇 점 올랐는지부터 봤고, 그 숫자가 곧 순위였습니다. 그런데 이번 여름 들어 대화의 결이 달라졌습니다. 점수판 맨 윗자리는 여전히 클로드 오퍼스와 GPT 계열이 지키고 있는데, 정작 현업에서 오가는 질문은 "그래서 이 모델이 내 도구를 제대로 부릴 줄 아느냐"로 옮겨가고 있습니다.
이 변화를 상징적으로 보여준 모델이 문샷 AI(Moonshot AI)가 6월 12일 공개한 Kimi K2.7-Code입니다. 무게로만 따지면 오퍼스나 GPT를 정면으로 이기는 모델은 아닙니다. 그런데 가격은 최대 열 배 이상 싸고, 가중치를 통째로 내려받아 회사 서버에 올릴 수 있으며, 결정적으로 외부 도구를 다루는 특정 시험에서는 오퍼스 4.8을 앞섰습니다. 라이선스가 상업적 이용까지 허용하는 오픈웨이트라는 점이 겹치면서, 공개는 6월 중순이었지만 정작 개발자 사이에서 가장 자주 오르내린 시점은 7월로 접어든 지금입니다.
오픈웨이트가 정확히 뭘 준다는 걸까
용어부터 짚겠습니다. 오픈웨이트(open-weight)는 모델이 학습으로 얻은 가중치 파일을 공개한다는 뜻입니다. 소스 코드까지 완전히 여는 오픈소스와는 결이 다릅니다. 완성된 소스를 통째로 나눠주되 그걸 어떻게 만들었는지 레시피(학습 데이터와 절차)까지 다 밝히지는 않는 쪽에 가깝습니다. 그래도 받은 소스를 내 주방에서 얼마든지 다시 데워 쓸 수 있으니, 쓰는 사람 입장에서는 실질적인 자유가 꽤 큽니다.
Kimi K2.7-Code는 이 가중치를 허깅페이스에 그대로 올려뒀고, 라이선스도 출처만 밝히면 상업적으로 써도 되는 수정 MIT 방식입니다. 이게 왜 중요하냐면, API로만 열려 있는 폐쇄형 모델은 결국 남의 서버에 내 코드와 데이터를 보내야 쓸 수 있기 때문입니다. 예를 들어 은행 내부 시스템 코드를 외부 AI에 물려 리팩터링을 시키고 싶어도, 그 코드가 회사 밖으로 나가는 순간 망분리와 정보보호 규정에 걸립니다. 의료 기록을 다루는 병원도 사정이 같습니다. 이런 곳에서는 모델이 아무리 똑똑해도 "데이터를 밖으로 못 보낸다"는 조건 하나 때문에 후보에서 빠지곤 했습니다. 가중치를 받아 내부망에 올릴 수 있다는 건, 성능을 조금 양보하더라도 "우리 울타리 안에서 돌린다"는 선택지가 생긴다는 뜻입니다.
1조 개의 부품, 그런데 한 번에 쓰는 건 3%뿐
Kimi K2.7-Code의 구조를 들여다보면 요즘 대형 모델이 왜 이렇게 만들어지는지가 보입니다. 이 모델의 전체 파라미터는 약 1조 개입니다. 파라미터는 모델이 학습으로 얻은 지식을 저장해두는 손잡이 같은 것인데, 그 수가 1조 개라는 겁니다. 그런데 질문 하나를 처리할 때 실제로 켜지는 건 그중 약 320억 개, 전체의 3% 남짓입니다.
이게 MoE(Mixture-of-Experts), 우리말로 전문가 혼합이라 부르는 구조입니다. 하나의 거대한 뇌를 통째로 쓰는 대신, 작은 전문가를 여럿 두고 질문 성격에 맞는 몇 명만 골라 부르는 방식입니다. 큰 병원을 떠올리면 쉽습니다. 환자가 왔다고 모든 과 의사가 다 달려들지 않습니다. 접수처가 증상을 보고 해당 과 전문의 한둘에게 보냅니다. Kimi K2.7-Code는 전문가 384명 중 질문마다 9명을 부릅니다. 항상 참여하는 1명에, 질문에 따라 뽑히는 8명을 더한 숫자입니다. 병원 규모는 크게 유지하면서, 매번 드는 인건비는 당직 의사 몇 명분만 내는 셈입니다. 지식의 총량은 1조 개 파라미터만큼 넉넉하면서도, 한 번 답할 때 드는 계산 비용은 320억 개짜리 모델 수준으로 눌러둘 수 있는 이유가 여기 있습니다.
여기에 메모리를 아끼는 어텐션 기법(MLA)과 이미지·영상을 함께 읽는 작은 시각 인코더가 얹혀 있고, 한 번에 다룰 수 있는 맥락은 25만 6천 토큰입니다. 웬만한 중소 규모 코드베이스 전체를 한 번에 물려도 버틸 만한 크기입니다. 코드 몇 줄이 아니라 저장소 하나를 통째로 보여주고 "여기서 이 버그를 찾아 고쳐라"라고 시킬 수 있다는 이야기입니다.
'생각을 30% 줄였다'는 말의 진짜 의미
이번 모델에서 가장 이야깃거리가 된 건 성능 점수가 아니라 "생각을 30% 덜 한다"는 문장이었습니다. 얼핏 들으면 모델을 게으르게 만들었다는 말처럼 들리는데, 실제 의미는 정반대입니다.
요즘 코딩 모델은 답을 내기 전에 혼잣말을 합니다. 문제를 어떻게 풀지 단계별로 따져보는 이 과정을 추론 토큰, 흔히 '생각 토큰'이라 부릅니다. 사람이 어려운 문제를 만나면 종이에 이것저것 끄적이며 정리하는 것과 비슷합니다. 이 혼잣말이 답의 품질을 끌어올리는 건 맞습니다. 문제는 그 끄적임에도 돈과 시간이 든다는 점입니다.
세 가지가 한꺼번에 걸립니다. 첫째는 돈입니다. 대부분의 요금제는 이 생각 토큰을 출력 토큰과 똑같이 계산합니다. 모델이 속으로 중얼거린 분량만큼 그대로 요금이 붙는다는 뜻입니다. 문샷 기준 출력 토큰이 100만 개당 4달러이니, 열두 시간 쉬지 않고 도는 에이전트라면 혼잣말을 30% 줄이는 것만으로 그 비용에서 2달러 넘게 빠집니다. 한 번은 푼돈이지만, 수백 명이 하루 종일 돌리는 조직 단위로 가면 무시하기 어려운 액수가 됩니다.
둘째는 속도입니다. 생각이 짧아지면 한 단계를 넘어가는 시간이 줄고, 이건 명령어 창에서 모델과 주거니 받거니 하는 대화형 작업에서 특히 체감됩니다. 매 단계 몇 초씩 쌓이던 답답함이 눈에 띄게 준다는 겁니다.
셋째는 맥락의 여유입니다. 앞서 맥락 한도가 25만 6천 토큰이라고 했는데, 모델이 혼잣말로 이 창을 잔뜩 채워버리면 정작 코드에 쓸 자리가 줄어듭니다. 혼잣말을 30% 줄이면 그만큼 실제 작업에 더 많은 코드를 담을 수 있고, 한도에 부딪히기 전까지 더 여러 단계를 밟을 수 있습니다.
그러니까 "생각을 덜 한다"는 건 대충 한다는 뜻이 아니라, 같은 결론에 도달하는 길을 더 짧게 다듬었다는 쪽에 가깝습니다. 에이전트가 몇 시간씩 자율적으로 도는 시대에는 결론의 정확도만큼이나 결론까지 가는 경로의 군더더기를 줄이는 일이 곧 비용입니다.
점수판 1등이 아니라 '도구를 부리는' 시험에서 앞섰다
Kimi K2.7-Code가 눈길을 끈 진짜 이유는 여기 있습니다. 문샷이 자체 공개한 수치를 보면 코딩 벤치마크에서 이전 세대보다 20% 안팎 올랐고, 일부 항목은 GPT-5.5에 근접했습니다. 그래도 순수 코딩 실력만 놓고 보면 여전히 GPT-5.5나 클로드 오퍼스 4.8에 못 미친다고 문샷 스스로 인정합니다.
그런데 MCP Mark Verified라는 시험에서는 81.1점을 받아 오퍼스 4.8의 76.4점을 앞섰습니다. 이 시험이 무엇을 재는지가 핵심입니다.
MCP(Model Context Protocol)는 AI가 외부 도구와 데이터에 접근하는 방식을 표준화한 규약입니다. 지난해 앤트로픽이 처음 내놨는데, 비유하자면 AI 세계의 USB-C 단자 같은 겁니다. 예전에는 AI를 노션에 붙이려면 노션 전용 배선을, 깃허브에 붙이려면 깃허브 전용 배선을 따로 만들어야 했습니다. MCP는 이 연결 규격을 하나로 통일해서, 도구 쪽이 표준 단자만 갖춰두면 어떤 AI든 같은 방식으로 꽂아 쓸 수 있게 했습니다. MCP Mark Verified는 노션, 깃허브, 파일시스템, 포스트그레스, 플레이라이트 같은 실제 도구들을 놓고, 모델이 이것들을 제대로 조작하는지를 사람이 직접 확인하는 시험입니다.
순수 코딩 점수는 "혼자 알고리즘 문제를 얼마나 잘 푸느냐"를 잽니다. 반면 MCP 시험은 "실제 도구를 손에 쥐고 일을 끝까지 처리하느냐"를 봅니다. 둘은 다른 능력입니다. 알고리즘은 깔끔하게 짜도 데이터베이스에 붙어 원하는 값을 꺼내고 파일을 고치는 실무는 서툴 수 있습니다. 그리고 요즘 현업에서 코딩 에이전트에게 정말 시키고 싶은 일은 후자입니다.
이 지점이 7월 초 분위기와 맞물립니다. 6월 말부터 이번 주 사이에 기업용 MCP 연결 도구가 줄줄이 나왔습니다. 통합 파이프라인을 MCP 도구로 바꿔주는 SnapLogic의 MCP 빌더, 챗봇 대화 안에서 주문을 받는 스퀘어의 연동, 규제·컴플라이언스 업무를 붙이는 커넥터까지, 도구를 AI에 물리는 배선 작업이 한꺼번에 쏟아졌습니다. 도구가 이렇게 많아질수록 모델을 고르는 기준에서 "도구를 얼마나 능숙하게 다루느냐"의 비중이 커집니다. Kimi K2.7-Code가 순수 코딩에서 뒤지고도 주목받은 건, 마침 시장이 궁금해하기 시작한 바로 그 능력에서 앞선 숫자를 들고 나왔기 때문입니다.
냉정하게 봐야 할 조건들
여기까지만 보면 값싸고 열려 있고 도구까지 잘 다루는 만능처럼 들리지만, 붙는 조건이 적지 않습니다. 이걸 빼놓으면 반쪽짜리 이야기가 됩니다.
가장 먼저, 지금까지 인용한 점수는 전부 문샷이 자체 발표한 수치입니다. 공개 시점 기준으로 SWE-Bench나 터미널 벤치 같은 표준 시험의 독립 검증 결과는 아직 없습니다. 벤더가 내놓는 자체 점수는 유리한 조건에서 측정되기 쉬우므로, 외부 기관 숫자가 나오기 전까지는 방향을 참고하는 정도로 받아들이는 편이 안전합니다.
성능의 위치도 분명히 해둘 필요가 있습니다. 문샷도 인정했듯 순수 코딩 실력에서는 프론티어 모델에 못 미칩니다. 정말 까다로운 문제를 한 번에 정확히 풀어야 하는 작업이라면 값이 비싸도 최상위 모델을 쓰는 게 맞습니다. Kimi K2.7-Code의 매력은 "가장 똑똑하다"가 아니라 "가격 대비 충분히 좋고, 내 서버에 올릴 수 있다"는 조합에 있습니다.
쓸 때 걸리는 제약도 있습니다. 생각하는 모드를 끌 수 없어서, 짧게 답해도 되는 간단한 작업에서도 혼잣말 비용이 붙습니다. 무작위성을 조절하는 온도(temperature) 값도 1.0에 고정돼 있어 출력의 편차를 손볼 여지가 좁습니다. 무엇보다 가중치를 직접 받아 자체 서버에서 돌리려면 약 595GB의 저장 공간이 필요합니다. 개인 개발자가 노트북에 올려 쓸 수 있는 규모가 아닙니다. "오픈웨이트라 내가 직접 돌릴 수 있다"는 말은, 현실적으로는 그만한 서버 인프라를 갖춘 조직에나 해당하는 이야기인 셈입니다.
코딩 모델을 고르는 기준이 하나 늘었다
Kimi K2.7-Code 한 모델의 성능보다 더 눈여겨볼 건, 이 모델이 서 있는 자리입니다. 코딩 모델 경쟁이 "누가 점수판 1등이냐"에 더해 "누가 적당한 값에 도구를 잘 부리느냐"라는 축을 하나 더 갖게 됐다는 신호이기 때문입니다.
이 두 번째 축은 국내 상황과 특히 잘 맞습니다. 데이터를 밖으로 못 보내는 규제 산업, 비용을 빡빡하게 따져야 하는 조직, 사내 시스템을 AI에 붙여 실무를 자동화하려는 팀이라면, 최고 점수 모델보다 "받아서 우리 서버에 올릴 수 있고, 도구를 붙였을 때 실제로 일하는" 모델이 더 현실적인 선택일 수 있습니다. 오픈웨이트에 토큰 효율까지 갖춘 모델이 계속 나온다면, 프론티어 모델은 정말 어려운 문제에 쓰고 이런 모델은 대량의 일상 작업에 붙이는 식으로 역할을 나누는 구도가 자리 잡을 가능성이 큽니다.
물론 자체 발표 점수의 한계, 595GB짜리 인프라 부담, 프론티어와의 실력 격차는 그대로 남아 있습니다. 다만 분명한 건, 모델을 고를 때 우리가 정말 봐야 할 숫자가 벤치마크 순위 하나만은 아니게 됐다는 사실입니다. 그 모델이 내 도구를 손에 쥐었을 때 일을 끝까지 해내는지가 이제 순위표만큼 중요한 질문이 됐고, 도구를 AI에 물리는 배선이 이번 주에도 쏟아지는 걸 보면 그 무게는 앞으로 더 커질 겁니다.