소식 · · 읽는 시간 12분

Inkling 2 Small 공개: 가중치보다 API가 먼저 나온 594B 모델, 제3자 지수 31의 의미

이 글의 차례
  1. 1세대에서 2세대로 달라진 숫자
  2. 활성 파라미터가 비슷한 오픈 모델과의 위치
  3. 줄어든 환각률과 그 대가
  4. 가중치가 나오면 어디에 올라가나
  5. 개발자 반응
  6. 한국 개발자에게 바뀌는 것
  7. 한계
  8. 출처

Thinking Machines Lab이 2026년 11월 5일 Inkling 2 Small을 공개했습니다. 전체 594B, 활성 17B 파라미터의 전문가 혼합(MoE) 모델이고, 이미지 입력을 받습니다. 독립 평가 기관 Artificial Analysis는 이 모델을 Intelligence Index v5.0.1에서 31점으로 측정했습니다. 7월에 나온 1세대 Inkling Small(13점)보다 18점 높습니다. 다만 이번 공개는 순서가 다릅니다. 지금은 회사의 Tinker 플랫폼에서 가중치 비공개로만 쓸 수 있고, Apache 2.0 가중치는 외부 안전성 시험이 끝난 뒤 "다음 주"에 내놓겠다고 밝혔습니다.

그래서 지금 한국 개발자가 할 수 있는 판단은 두 가지입니다. 비슷한 활성 파라미터의 오픈 모델 중 어디쯤인지, 그리고 가중치가 나오면 실제로 손에 쥘 수 있는 크기인지입니다. 이 글에서는 1세대에서 달라진 숫자, 제3자 지수를 활성 파라미터와 함께 놓은 비교, 환각률이 줄어든 방식과 그 대가, 직접 계산한 가중치 메모리, 개발자 반응을 다룹니다.

1세대에서 2세대로 달라진 숫자

Inkling 2 Small은 Thinking Machines의 두 번째 모델 세대입니다. 회사는 사전학습부터 강화학습까지 모든 단계를 고쳤다고 설명합니다. 특히 추론과 에이전트 강화학습을 따로 돌린 뒤 증류로 합쳤던 1세대와 달리, 이번에는 하나의 통합 강화학습 실행(1,075 스텝, 9일)으로 끝냈습니다. 학습 후반 두 단계의 데이터는 대부분 Kimi K3와 자사 이전 모델에서 뽑은 추론·에이전트 궤적(마지막 단계는 에이전트 궤적만)을 정확성과 정렬 기준으로 걸러 만든 것이라고 직접 밝혔습니다.

Artificial Analysis가 같은 지수 체계로 잰 1세대와 2세대 값은 다음과 같습니다. 파라미터 수는 Thinking Machines 공식 발표 값입니다(Artificial Analysis는 Inkling Small을 266B로 표기합니다).

항목Inkling SmallInkling 2 Small
전체 / 활성 파라미터276B / 12B594B / 17B
Intelligence Index v5.0.11331
AutomationBench-AA5%46%
AA-Omniscience 환각률61%27%
지수 과제 1개당 출력 토큰약 37,000약 150,000

가장 크게 오른 것은 에이전트 작업입니다. 업무 자동화 벤치마크 AutomationBench-AA는 5%에서 46%로, 스프레드시트·발표자료·메모를 만드는 장기 업무 벤치마크 AA-Briefcase는 912 Elo에서 1,527 Elo로 올랐습니다. 회사 발표에 따르면 사전학습은 처음부터 NVIDIA Blackwell의 4비트 형식 NVFP4로 진행했고, 첫 단계(8.4조 토큰)는 GB300 NVL72 랙에서 68시간 걸렸습니다.

활성 파라미터가 비슷한 오픈 모델과의 위치

MoE 모델은 토큰마다 일부 전문가만 계산하므로, 응답 속도와 서빙 비용은 활성 파라미터에 크게 좌우됩니다. 그래서 Artificial Analysis의 모델별 페이지에서 지수와 파라미터 수를 가져와, 앞서 다룬 오픈 웨이트 모델들과 한 축에 직접 정리했습니다.

그림 1. Artificial Analysis Intelligence Index v5.0.1 점수와 활성 / 전체 파라미터. 모든 값은 Artificial Analysis 모델별 페이지에서 2026년 11월 6일 확인했습니다. 괄호 안은 Artificial Analysis가 표기한 추론 설정입니다.

Inkling 2 Small은 1위가 아닙니다. 활성 파라미터가 비슷한 DeepSeek V4.1 Flash 1017(활성 16B)이 Max 설정에서 33점으로 2점 앞섭니다. 대신 활성 파라미터가 2.5~3배인 Mistral Large 4(26점)와 Muse Spark Open(25점)보다는 높습니다. Artificial Analysis가 이 모델을 "가중치가 공개되면 중국 밖에서 개발된 오픈 웨이트 모델 중 최고 점수"라고 부른 것도 이 위치 때문입니다.

이 비교에는 단서가 하나 붙습니다. Artificial Analysis는 지금 Inkling 2 Small을 "Proprietary(비공개)"로 분류합니다. 가중치가 실제로 나오기 전까지 그림 1의 다른 모델과 같은 조건이라고 볼 수 없습니다.

줄어든 환각률과 그 대가

환각률 61%에서 27%로의 하락은 모델이 더 많이 알게 돼서가 아니라 덜 답하게 돼서 나온 결과입니다. Artificial Analysis에 따르면 AA-Omniscience에서 정답률은 32%에서 34%로 2포인트 올랐을 뿐이고, 답을 시도한 비율은 77%에서 53%로 떨어졌습니다. 모르는 문항에서 "모른다"를 고르는 쪽으로 학습됐다는 뜻입니다. 회사도 강화학습에 불확실성을 반영한 보상을 썼다고 밝혔고, 한계 절에서 거절이 늘었다고 적었습니다.

두 번째 대가는 시간과 토큰입니다. Artificial Analysis는 지수 과제 1개당 21.2분이 걸린다고 측정했습니다. 같은 비교군 모델의 중앙값은 7.0분입니다. 과제당 출력 토큰은 약 150,000개로 1세대의 네 배이고, 첫 답변 토큰까지 36.24초가 걸렸습니다. 토큰 단가는 입력 100만 개당 0.30달러, 출력 1.00달러로 낮은 편이지만, 출력이 길어서 과제당 비용은 1.18달러로 1세대(0.20달러)의 6배 가까이 됩니다.

정리하면 Inkling 2 Small은 빠른 대화형 응답보다 몇십 분씩 걸려도 되는 장기 에이전트 작업에 맞춘 모델로 보입니다. 사용자가 화면 앞에서 기다리는 기능이라면 이 대기 시간을 먼저 재 봐야 합니다.

가중치가 나오면 어디에 올라가나

가중치 공개가 예고된 만큼, 594B라는 크기가 실제 장비에 들어가는지를 직접 계산했습니다. NVIDIA 문서에 따르면 NVFP4는 값 하나에 4비트를 쓰고 16개 값마다 8비트 스케일을 하나 붙이므로, 파라미터 하나당 평균 4.5비트입니다. 활성 파라미터가 아니라 전체 파라미터가 메모리에 올라가야 하므로 계산은 전체 파라미터 기준입니다.

모델전체 파라미터NVFP4 가중치 (직접 계산)DGX Spark 2대(256GB)에 드나
Inkling 2 Small594B약 334GB아니오
DeepSeek V4.1 Flash 1017552B약 311GB아니오
GLM-5.3-Flash320B180GB예
Inkling Small276B약 155GB예

계산식은 "전체 파라미터 × 4.5비트 ÷ 8"이고, 1GB는 10억 바이트로 잡았습니다. KV 캐시와 실행 메모리는 넣지 않은 가중치만의 하한입니다. NVIDIA DGX Spark는 상위 구성이 한 대에 128GB 통합 메모리이므로, 두 대를 묶어도 Inkling 2 Small의 4비트 가중치가 들어가지 않습니다. Hacker News에서 한 사용자는 "DGX Spark 2대로 Q2~Q3 양자화는 돌릴 수 있을 것"이라고 썼습니다. 계산으로도 3비트로 낮추면 약 223GB라 들어가지만, 3비트를 넘는 양자화 형식은 다시 256GB에 가까워지고 품질 손실도 감수해야 합니다.

같은 계산으로 1세대 Inkling Small은 약 155GB라 DGX Spark 2대에 들어갑니다. 2세대는 전체 파라미터가 두 배 넘게 늘었으므로, 1세대 기준으로 장비를 잡아 둔 팀이라면 다시 계산해야 합니다.

개발자 반응

Hacker News의 공개 글(11월 6일 기준 180점대 후반, 댓글 65개)에서는 기대와 회의가 섞였습니다.

긍정 쪽은 "미국에서 나온 쓸 만한 오픈 모델"이라는 점에 주목했습니다. 사용자 Jackobrien은 이렇게 썼습니다.

"The best open models today have been "good enough" to do most knowledge work for a few months. This might be the first US one good enough too." (Hacker News)

사용자 a11r은 회사 벤치마크 표에서 자사 모델이 모든 항목 1위가 아니라는 점을 좋게 봤습니다.

"Very refreshing to see benchmarks where the reporting team is not the clear winner." (Hacker News)

회의 쪽은 DeepSeek V4.1 Flash와의 비교에 집중했습니다. 사용자 lifeisloving은 가격을 이유로 들었습니다.

"If you cant beat Deepseek on price im not using it." (Hacker News)

사용자 alexandra_au는 크기 대비 성능을 지적했습니다.

"It doesn't beat DS v4.1, and they have so much more compute capacity than any Chinese company, yet still cannot even beat MiniMax M3.1 Flash (220B) despite having 2.7x more parameters (596B)." (Hacker News)

이 댓글의 숫자는 공식 값과 다릅니다. Inkling 2 Small은 594B이고, Artificial Analysis는 MiniMax-M3.1-Flash를 428B로 표기합니다. 지수 비교(Inkling 2 Small 31, MiniMax-M3.1-Flash 29)에서도 Inkling 2 Small이 앞섭니다. 반면 DeepSeek V4.1 Flash 1017보다 낮다는 지적은 그림 1과 맞습니다.

한국 개발자에게 바뀌는 것

당장 바뀌는 것은 크지 않습니다. 출시 시점 제공처는 Tinker 플랫폼과 Tinker Playground이고, 모델 카드의 언어 항목은 "English, general multilingual support"뿐이며 한국어 평가는 발표에도 제3자 측정에도 없습니다. 한국어 서비스에 넣으려면 직접 한국어 과제로 재 보는 수밖에 없습니다.

가중치가 실제로 Apache 2.0으로 나오면 선택지 하나가 늘어납니다. 같은 활성 파라미터대에서 점수만 보면 DeepSeek V4.1 Flash 1017이 여전히 앞서므로, Inkling 2 Small을 고를 이유는 성능보다 조건 쪽에 있을 것으로 보입니다. 모델 출처 국가를 따져야 하는 조직, 미세조정을 Tinker에서 하고 가중치를 내려받아 사내에서 서빙하려는 팀이 그 경우입니다. 회사는 미세조정 적합성을 이번 모델의 목표로 내세웠지만, 그 비교는 회사 자체 실험만 있습니다.

다만 응답 대기 시간이 길다는 측정은 사용처를 좁힙니다. 결제·상담처럼 몇 초 안에 답해야 하는 기능보다는 밤사이 돌리는 문서 분석, 코드 이전, 보고서 작성 같은 배치형 에이전트 작업에 먼저 시험해 볼 만해 보입니다.

한계

항목내용
직접 실행 없음이 글은 모델을 직접 호출해 재지 않았습니다. 비교는 Artificial Analysis 공개 값을 정리한 것입니다
가중치 미공개11월 6일 기준 가중치가 나오지 않았고, Artificial Analysis는 공개 날짜를 "미확정"으로 적었으며, 회사의 Inkling 소개 페이지는 "coming weeks(수 주 안)"라고 씁니다. 공개판이 Tinker 판과 같은지 확인할 수 없습니다
추론 설정 차이그림 1의 모델마다 Artificial Analysis가 측정한 추론 설정(Max, High, Xhigh)이 다릅니다
메모리 계산가중치만의 하한입니다. KV 캐시, 실행 메모리, 실제 배포 파일 형식은 넣지 않았습니다
파라미터 표기 차이Inkling Small 전체 파라미터를 Thinking Machines는 276B, Artificial Analysis는 266B로 적습니다. 이 글은 공식 값을 썼습니다
측정 시점속도·작업 시간 같은 Artificial Analysis 값은 계속 바뀝니다. 2026년 11월 6일 확인 값입니다
한국어 성능한국어 평가는 발표에도 제3자 측정에도 없습니다

일반화되는 것은 "같은 활성 파라미터대에서 상위권이지만 1위는 아니고, 느리다"는 방향이지 개별 숫자가 아닙니다.

출처

1 / 1