1조 파라미터 모델을 공개했는데, 이 '오픈'은 누구에게 열려 있을까: Mistral Large 4
목차
흥미로운 소식이 하나 올라왔습니다. 프랑스 AI 회사 Mistral이 이달 초 API로만 써 볼 수 있게 내놓았던 플래그십 모델 Mistral Large 4의 가중치를 10월 29일 Hugging Face에 올렸습니다. 별명은 "Le Chonk"인데, 이름에 걸맞게 덩치가 큽니다. 파라미터가 약 1조 개거든요.
가중치를 공개했다는 건 학습이 끝난 모델 파일을 내려받아 내 서버에서 돌릴 수 있다는 뜻입니다. 남의 서버에 요청을 보내고 답을 받아 오는 방식만 있는 게 아니라는 거죠. Mistral은 이 모델을 "코딩에 가장 좋은 공개 가중치 모델(best open-weight model for coding)"이라고 소개합니다.
여기서 질문이 두 개 생깁니다. 내려받을 수 있다면 비싼 최상위 코딩 모델 대신 써도 될까요? 그리고 정말 누구나 받아서 쓸 수 있을까요? 마침 독립 평가 기관인 Artificial Analysis(AA)도 측정 결과를 냈습니다. Hacker News(HN)에서는 라이선스와 하드웨어를 두고 1,600점이 넘는 토론이 이어졌고요. 회사가 하는 말과 제3자가 잰 숫자를 나란히 놓고 볼 수 있게 된 겁니다.
1조 파라미터 모델을 내려받는다는 건 무슨 뜻일까
파라미터가 1조 개라고 하면 돌릴 때도 그만큼 계산하겠거니 생각하기 쉬운데요, 실제로는 그렇지 않습니다. 이 모델은 토큰 하나를 처리할 때마다 전체 중 일부 칸만 골라 계산하고 나머지는 쉬게 둡니다. 그런데 빠르게 돌리려면 쉬는 칸도 보통 메모리에 올려 둡니다. 다음 토큰이 그 칸을 부를 수 있으니까요.
토큰 1이 들어오면 라우터가 128개 전문가 중 4개를 고르고, 공유 전문가 1개가 함께 계산한다.
모든 단계 보기
- 토큰 1이 들어오면 라우터가 128개 전문가 중 4개를 고르고, 공유 전문가 1개가 함께 계산한다.
- 토큰 2는 다른 4개를 고른다. 공유 전문가는 그대로 켜져 있고, 앞서 쓴 칸은 쉬지만 메모리에서 내려가지 않는다.
- 토큰 3도 또 다른 4개를 고른다. 다음 토큰이 어느 칸을 고를지 미리 알 수 없어 128개 모두 메모리에 올려 둔다.
- 토큰 하나가 쓰는 계산은 활성 파라미터 52B어치지만, 메모리에는 1.05T 전체가 올라가 있어야 한다.
이런 구조를 Mixture-of-Experts(MoE, 전문가 혼합)라고 부릅니다. 모델 안에 '전문가'라는 작은 신경망을 여러 개 넣어 두고 라우터가 토큰마다 그중 몇 개만 골라 계산하게 하는 방식이죠. 큰 병원을 떠올려 보면 쉽습니다. 전문의가 백 명 넘게 있어도 환자 한 명은 접수 창구가 골라 준 전문의 몇 명과, 누구에게나 붙는 가정의 한 명에게만 진료를 받습니다. 아이디어 자체는 오래됐어요. 뿌리는 적어도 1991년 연구까지 거슬러 올라가고 지금처럼 대규모로 쓰는 희소 게이팅 MoE 층은 Shazeer 등이 ICLR 2017 논문에서 제시했습니다.
Large 4는 라우팅 전문가 128개 가운데 토큰마다 4개를 고르고, 공유 전문가 1개는 늘 함께 돌립니다(HF 블로그). 그래서 토큰 하나에 실제로 쓰이는 파라미터는 49B이고, 임베딩과 출력층까지 넣으면 52B입니다. 텍스트와 이미지를 입력으로 받고 컨텍스트는 100만 토큰을 넘습니다. Mistral은 유럽에 있는 자체 데이터센터에서 이 모델을 처음부터 학습했다고 밝혔습니다.
이 구조를 알아야 하는 이유가 있습니다. 하나는 "1조"라는 숫자가 곧 추론 비용은 아니라는 점입니다. 토큰 하나에 쓰는 파라미터는 50B 남짓이거든요. 다른 하나는 반대 방향입니다. 메모리는 보통 조 단위 그대로 필요해서, 계산은 가벼워도 내 컴퓨터에 들어가느냐는 별개 문제가 됩니다. 이 차이는 뒤에서 하드웨어를 따질 때 다시 걸립니다. 그 전에 먼저 물어볼 게 있죠. 이렇게 일부만 쓰는 모델로 실력은 어느 정도 나올까요?
최상위 폐쇄 코딩 모델을 대신할 수 있을까
짧게 답하면 아직은 대신하지 못합니다. 공개 모델끼리는 점수가 한두 점 차이로 붙어 있지만 폐쇄 모델인 Claude와는 두 자릿수로 벌어져 있습니다. 여기서 AA Coding Agent Index는 모델 하나만 재는 대신 모델과 그 모델을 돌리는 에이전트 소프트웨어를 한 조합으로 묶어서 비교합니다(VentureBeat, The Decoder).
| 벤치마크 | 모델 (설정, 에이전트) | 점수 |
|---|---|---|
| AA Coding Agent Index | GLM-5.3 (max, Opencode) | 49 |
| AA Coding Agent Index | Mistral Large 4 (high, Mistral Vibe) | 48 |
| AA Coding Agent Index | DeepSeek V4.1 Flash 1017 (max) | 46 |
| AA Coding Agent Index | Claude Opus 5.5 (Claude Code) | 62 |
| FrontierCode 2.0 | Mistral Large 4 | 19.7% |
| FrontierCode 2.0 | Claude Opus 5.5 | 46% |
Mistral이 직접 공개한 자료에서도 결과는 같습니다. 사람이 어느 모델 답인지 모르고 두 답을 비교한 Surge Code 블라인드 평가에서, Large 4는 Opus 5.5를 상대로 22%만 이겼습니다. AA 전체 리더보드로 넓혀 보면 차이가 더 커지는데요. 상위는 Gemini 4 Carbon 59, Claude Opus 5.5 58, GPT-6 Astra 57이고, Large 4는 26입니다.
그렇다고 볼 게 없는 모델은 아닙니다. 효율이 강점입니다. 코딩 에이전트 과제 하나를 푸는 데 쓴 토큰이 8.5M으로, 거의 같은 점수를 낸 GLM-5.3(15.9M)보다 약 47% 적습니다. The Decoder가 인용한 AA 차트에서는 '가격 대비 성능' 쪽에 놓입니다.
판단은 이렇게 정리됩니다. 지금 가장 잘하는 코딩 에이전트가 필요하다면 답은 여전히 폐쇄 모델입니다. 반면 데이터를 밖으로 내보낼 수 없거나 토큰 비용이 먼저라면, Large 4는 GLM-5.3, DeepSeek 계열과 함께 비교해 볼 후보입니다. 그런데 이상한 점이 하나 있습니다. 이 성적표를 보고도 Mistral은 어떻게 '코딩 최고'라고 말할 수 있었을까요?
'코딩 최고'는 누가 잰 숫자일까
Mistral 발표문의 근거는 주로 자체 차트입니다. 예를 들어 FrontierCode 2.0 차트에서 Large 4는 DeepSeek V4.1 Flash(19.3%)와 GLM-5.3(17.8%)을 근소하게 앞섭니다. 그런데 AA가 종합 지수용으로 모델을 따로 잰 결과에서는 숫자도 순위도 달라졌습니다.
| 항목 | Mistral 발표 | AA 측정 |
|---|---|---|
| Terminal-Bench 4.0 | 41% | 25% (AA 에이전트 평가에선 41%) |
| FrontierCode 2.0 | 19.7%, 공개 모델 1위 | 15% (DeepSeek, GLM-5.3보다 낮음) |
| 사이버보안 | 공개 모델 중 "선도" | Cyber Index 51, 공개 모델 중 3위 |
| AA 종합 지수(미리보기) | — | 개편 전 38 → v5 기준 25 |
VentureBeat는 AA의 독립 평가로는 FrontierCode 1위 주장을 회사 자체 비교 밖으로 넓힐 수 없다고 봤습니다. Coding Agent Index에서 GLM-5.3과 "사실상 동률"이라는 표현도 그렇습니다. 1점 차이가 통계적으로 의미가 있는지 보여 주는 자료는 AA 설명에서 찾지 못했거든요.
사이버보안 쪽도 비슷합니다. 발표문은 방어용 보안에서 공개 모델 중 앞선다고 쓰는데, 정작 자기 차트에 DeepSeek V4.1 Flash 1017(57)과 MiMo-V2.6-Pro(56)가 앞에 있다고 The Decoder가 짚었습니다. 악성 사이버 요청 거부율 96.6%라는 숫자를 두고 HN에서는 멀쩡한 요청을 거부하는 비율도 같이 내야 한다는 지적이 나왔습니다. Mistral도 실제 공격에 도움이 될 가능성(uplift)을 인정했고 가드레일을 고치는 중이라고 밝혔습니다.
숫자를 읽을 때 하나 더 조심할 게 있습니다. 미리보기 때 Large 4가 "미국·중국 밖 최고"라는 기사가 나왔는데, 그 점수는 지금과 다른 척도에서 나온 겁니다. AA가 10월 27일에 Intelligence Index v5를 공개하면서 지수의 60%를 비공개 문제나 비공개 정답을 쓰는 평가로 채웠고 그 바람에 ActuIA가 정리한 공개 모델들 점수가 12~16점씩 떨어졌거든요(ActuIA). HN에는 AA가 공식을 너무 자주 바꿔서 믿기 어렵다는 의견도 있습니다. 결국 같은 v5 척도로 잰 미리보기와 최종판끼리만 서로 비교할 수 있습니다. 그럼 그 둘 사이에서는 무엇이 달라졌을까요?
미리보기 3주 뒤 달라진 건 실력이었을까
같은 척도로 보면 미리보기와 최종판의 점수 차이는 1점입니다. Mistral은 그사이 약 3주 동안 강화학습(RL)을 더 했다고 밝혔습니다. RL은 모델이 낸 답에 보상을 주면서 더 다듬는 학습입니다. 그런데 종합 점수는 거의 그대로인데 비용과 속도는 크게 바뀌었습니다(VentureBeat, The Decoder).
| 항목 | 미리보기 | 최종판 |
|---|---|---|
| AA Intelligence Index v5 | 25 | 26 |
| 과제당 비용 (Intelligence Index) | $5.54 | $2.06 |
| API 가격 (입력/출력, 100만 토큰당) | $1.36 / $4.18 | $0.70 / $2.10 |
| 생성 속도 (AA 측정) | 111 tok/s | 161 tok/s |
| AA-Omniscience 환각률 | 41% | 28% |
AA도 주요 변화로 토큰 효율 향상과 환각 감소를 꼽았습니다. 같은 문제를 더 짧게 생각하고 풀게 된 데다 API 단가도 내려가면서 둘이 함께 반영돼 과제당 비용이 63% 줄었죠. 환각은 줄었지만 VentureBeat가 전한 AA 수치로는 같은 평가에서 정답을 맞힌 비율이 여전히 네 문제 중 하나 남짓이라, 사실 확인이 중요한 작업이라면 검색이나 검증 단계를 따로 붙이는 게 맞습니다.
The Decoder에 따르면 Mistral 연구진은 학습이 진행될수록 더 어려워지는 과제를 직접 만들어 RL에 썼다고 설명했습니다. AA 종합 지수의 상승은 작았지만 비용과 속도 변화는 컸습니다. 종합 지수는 여러 능력을 합친 값이라 개별 코딩 평가까지 제자리였다는 뜻은 아니고 실제로 Mistral은 Terminal-Bench가 올랐다고 따로 발표했습니다. API로 쓰는 사람에게는 반가운 변화죠. 그런데 이 모델은 애초에 가중치를 내려받아 직접 돌리라고 공개한 모델입니다. 직접 돌리는 데에는 어떤 조건이 붙을까요?
Apache 2.0 다음에 왜 조건이 붙었을까
가중치를 받기 전에 먼저 라이선스를 봐야 하는데, 여기서 흐름이 한 번 꺾였습니다. Mistral 플래그십의 라이선스는 Large 2의 비상업용 Research License에서 Large 3의 Apache 2.0으로 넓어졌습니다. 그러다 Large 4에 와서 특정 사업자에게 별도 계약을 요구하는 조건이 붙으며 다시 좁아졌습니다.
여기서 용어 하나를 짚고 가야 합니다. 공개 가중치(open weight)와 오픈소스(open source)는 같은 말이 아닙니다. 공개 가중치는 학습이 끝난 결과물, 그러니까 숫자 덩어리만 내려받게 해 준다는 뜻입니다. 오픈소스 정의를 관리하는 OSI(Open Source Initiative)는 가중치 공개만으로는 오픈소스 AI 정의를 충족하지 않는다는 입장입니다. 요리에 빗대면, 완성된 요리는 받았지만 레시피와 재료 출처(학습 데이터와 학습 코드)는 받지 못한 상태입니다. 게다가 Large 4는 상업적 활용은 대부분 열어 두면서도 특정 사업 형태에는 따로 계약을 요구합니다.
그 조항이 LICENSE 파일에 있습니다. 이름은 "Mistral Ecosystem Open-Weight License"이고 MIT를 고친 라이선스입니다. 2조는 라이선시 또는 그 계열사가 MaaS(Model-as-a-Service) 사업을 한다면, 상업적으로 쓰기 전에 Mistral과 별도 상업 계약을 맺으라고 요구합니다. MaaS는 제3자에게 API나 호스팅 엔드포인트로 추론이나 사후학습 접근을 제공하면서 입력·파라미터·학습 데이터 중 어느 하나라도 상대가 의미 있게 통제하게 해 주는 사업을 말합니다. 반면 특정 기능에 모델을 넣은 최종 사용자 제품이나 단순 중계는 MaaS에서 빠집니다. 3조는 내부 사용과 Mistral 공식 제품을 거친 사용을 예외로 두는데, 이 예외는 MaaS 사업자와 그 계열사에도 똑같이 적용됩니다.
VentureBeat는 이 라이선스에 매출 기준선이 없다는 점에 주목했습니다. 회사 규모 대신 무슨 사업을 하는지, 그리고 모델을 어떻게 쓰는지를 본다는 거죠. 그래서 사내에서만 돌리는 사용은 규모와 상관없이, 설령 MaaS 사업을 하는 회사라도 자유롭습니다. 반대로 이 모델로 추론 API를 팔려는 호스팅 업체는 작은 곳이라도 계약을 해야 합니다. 10월 30일 Hugging Face 페이지의 Inference Providers 목록에는 제공자가 표시되지 않았는데, 그게 라이선스 때문인지는 확인되지 않았습니다. Microsoft Foundry, NVIDIA 호스팅 엔드포인트, OpenRouter 같은 공식 경로는 따로 발표돼 있습니다.
HN 반응은 갈렸습니다. 이 정도면 'open weight'보다 'weight-available'이 정확한 표현이라는 댓글이 있었고 Redis·Elasticsearch·Terraform이 소스 공개(source-available) 라이선스로 바꿨을 때 받은 반발과 비교하는 사람도 있었습니다.
Mistral이 왜 이 조항을 넣었는지는 발표문과 라이선스 문서 어디에도 설명이 없습니다. 다만 발표문 전체가 '주권 AI(Sovereign AI)'와 '방어자를 위한 모델'에 맞춰져 있다는 건 짚어 둘 만합니다. 미리보기 발표의 논리는 이렇습니다. 폐쇄 모델 제공자가 요청을 거부하면 정당한 취약점 연구도 막힐 수 있고, 사고를 처리하는 도중에 접근이 끊기는 것 자체가 위험하다는 거죠. Mistral CRO Marjorie Janiewicz가 전한 고객의 요구도 같은 이야기입니다. "I don't want to get disconnected. I want to own my model." 모델을 직접 소유하려는 기업에는 문을 열어 두고, 그 모델로 호스팅 사업을 하려는 쪽과는 따로 계약하겠다는 설계로 읽힙니다. 물론 이건 해석입니다. 그렇다면 이런 질문이 남습니다. 내부 사용은 자유라는데, 그 내부에서 이 모델이 돌아가기는 할까요?
집에 있는 컴퓨터로는 돌릴 수 있을까
라이선스는 막지 않지만 앞에서 본 MoE의 조건이 여기서 걸립니다. 토큰당 쓰는 파라미터는 50B 남짓이어도 일반적인 고속 추론에서는 가중치 전체를 메모리에 올려 두니, 가중치를 몇 비트로 줄여 저장하느냐가 필요한 메모리를 정합니다. 이렇게 비트를 줄이는 걸 양자화라고 부릅니다. 고해상도 사진을 JPEG로 압축하는 것과 비슷하죠. 많이 줄일수록 파일은 작아지고 디테일은 조금씩 사라집니다. Unsloth는 그 손실을 원본 모델과 다음 토큰 1순위가 얼마나 일치하는지(top-1 일치율)로 쟀습니다(Unsloth, vLLM 레시피, HF 블로그).
| 형식 | 파일 크기 | 품질 | 보고된 실행 예 |
|---|---|---|---|
| Unsloth 1비트 (UD-IQ1_S) | 233GB | top-1 일치율 90.6% | 성능 수치 없음 |
| Unsloth 2비트 (UD-Q2_K_XL) | 378GB | top-1 일치율 95.6% | — |
| Unsloth 4비트 (UD-Q4_K_XL) | 605GB | top-1 일치율 97.8% | — |
| llama.cpp 2비트 (Q2_K) | — | — | M3 Ultra 1대, 생성 15 tok/s (HF 측정) |
| 공식 NVFP4 | 약 610GB | FP8 대비 정확도 하락 없음(Mistral 주장) | 8× B200·B300, GB300 트레이 |
| 공식 FP8 | 약 1.06TB | 공식 기준 체크포인트 | 8× H200, 생성 약 65 tok/s (HF 측정) |
Unsloth는 가장 작은 1비트 실행에도 RAM과 VRAM을 합쳐 256~270GB를 안내합니다. Mac Studio나 DGX Spark 두 대에 들어갈 수 있다고도 쓰지만 속도 수치는 내놓지 않았습니다. 그나마 직접 확인된 '책상 위' 사례는 통합 메모리 512GB짜리 Apple Silicon Ultra 한 대에서 2비트를 돌린 경우입니다. llama.cpp 팀의 GGUF 파일로는 이 두 줄이면 됩니다.
curl -LsSf https://llama.app/install.sh | sh
llama serve -hf ggml-org/Mistral-Large-4-1T-A52B-GGUF:Q2_K서비스에 붙일 때 필요한 GPU 수는 정밀도, GPU 메모리, 컨텍스트, 동시 요청 수에 따라 달라집니다. 공식 자료에는 NVFP4로 GPU 4장을 쓰는 구성도 있지만 모델 카드에 실린 vLLM 공식 이미지 실행 예는 텐서 병렬 8을 전제로 합니다.
docker run --runtime nvidia --gpus all \
-v ~/.cache/huggingface:/root/.cache/huggingface \
-p 8000:8000 \
--ipc=host \
vllm/vllm-openai:mistral-large-4 \
--model mistralai/Mistral-Large-4-1T-A52B \
--tensor-parallel-size 8 \
--tool-call-parser mistral \
--reasoning-parser mistral \
--enable-auto-tool-choice \
--gpu-memory-utilization 0.85판단은 간단합니다. 512GB급 Mac이 있다면 2비트로 맛을 볼 수는 있지만 생성 속도와 품질 손실을 감안하면 실무용이라기보다 실험용입니다. Blackwell이나 H200급 다중 GPU 노드가 없는 팀이라면, 가격이 내려간 공식 API나 OpenRouter를 쓰는 편이 대개 현실적입니다. HN에 "RAM이 1테라바이트 더 필요하다"는 댓글이 달린 데는 이유가 있습니다.
그래서 이 '오픈'은 누구에게 열려 있나
성능, 라이선스, 하드웨어를 한데 모으면 답이 나옵니다. Large 4는 최상위 폐쇄 코딩 모델을 대신하는 모델이 아닙니다. 유럽에서 처음부터 학습했고 회사 안에 직접 설치할 수 있는 조 단위 모델을, 토큰 효율과 가격으로 파는 제품입니다. 그리고 실무에서 쓸 만한 '오픈'의 혜택은 GPU 노드를 직접 가진 기업과 기관에 몰립니다. 내부 사용은 라이선스가 풀어 줬고 고정밀 모델을 제 속도로 서비스할 메모리와 GPU는 그들에게 있으니까요.
처음 질문으로 이어 보면 이렇습니다. 가중치를 내려받는 건 누구나 할 수 있습니다. 저비트로 줄이면 수백 GB 메모리를 갖춘 고사양 개인용 장비에서도 돌려 볼 수 있죠. 하지만 고정밀 모델을 높은 처리량으로 서비스하려면 대규모 메모리와 다중 GPU가 있어야 하고 남에게 API로 팔려면 Mistral과 계약해야 합니다. 개인 개발자에게는 내려받을 권리와 고사양 장비에서의 실험이, 호스팅 사업자에게는 협상 테이블이, GPU를 가진 기업에게는 실제로 쓸 수 있는 모델이 돌아간 셈이죠.
아직 모르는 것도 여럿입니다. 기술 보고서는 "곧 나온다(coming soon)"는 상태이고 학습 데이터 구성이나 총 학습 토큰 수는 공식 발표와 모델 카드에 나와 있지 않습니다. 2조의 '계열사'와 '상당한 통제(meaningful control)'를 어디까지로 볼지에 대해서는 Mistral의 공식 FAQ 같은 해석 자료가 아직 보이지 않습니다. 순위도 곧 흔들릴 수 있습니다. The Decoder는 Moonshot이 Kimi K3.1 Pro 가중치를 11월 4일까지 공개할 계획이라고 전했는데, Moonshot의 1차 발표는 확인하지 못했습니다.
도입을 검토하고 있다면 벤치마크 점수보다 두 가지를 먼저 확인하세요. 하나는 쓰려는 방식이 3조의 내부 사용 예외에 들어가는지입니다. 예외 안이라면 회사나 계열사가 어떤 사업을 하든 쓸 수 있고 예외 밖의 상업적 사용이라면 회사나 계열사 중 고객에게 모델 API를 파는 곳이 있는지까지 법무팀이 2조를 놓고 봐야 합니다. 다른 하나는 고르려는 정밀도(FP8, NVFP4, 2비트 GGUF 등)와 목표 컨텍스트·동시 처리량에 맞는 메모리가 사내에 실제로 있는지입니다. 이 두 번째 답이 '아니오'라면, 지금 맞는 선택은 가중치가 아니라 API입니다.
