미라 무라티가 이끄는 씽킹머신스랩이 11월 20일(현지 시간) 새 모델 '인클링 2 미니(Inkling 2 Mini)'를 오픈 웨이트로 공개했다. 총 264억 파라미터의 작은 모델인데, 노트북에서 직접 돌릴 수 있을 만큼 가볍고, 코딩·에이전트 작업에서는 비슷한 크기의 어떤 오픈 모델보다 앞선다고 한다. 비결은 '반복'이다. 같은 층을 세 번 돌려 생각을 깊게 하는 구조다.
같은 층을 세 번, 생각을 길게

인클링 2 미니는 24개 층으로 이뤄진 '반복형 트랜스포머'다. 처음 6개 층과 마지막 6개 층은 한 번씩만 돌리고, 가운데 12개 층은 토큰마다 세 번 반복한다. 저장된 층은 24개지만, 토큰 하나를 처리할 때마다 층을 48번 거치는 셈이다. 가중치를 새로 늘리지 않고 내부 연산만 늘리는 방식이라, 긴 추론을 글로 다 써내지 않고도 더 깊게 생각할 수 있다. 씽킹머신스랩에 따르면 가운데 층을 반복하는 것이 마지막 층을 반복하는 것보다 28개 평가 중 27개에서 정확도 개선 폭이 컸다. 반복 횟수를 1~5회로 조절할 수 있는 연구용 모델도 함께 공개했는데, 추론을 글로 쓰지 않고 해결할 수 있는 작업 범위가 1회 반복 때 16초 분량에서 3회 반복 때 37초 분량으로 늘었다.
노트북에서 돌아가는 이유

전체 파라미터는 264억 개, 실제로 쓰는 활성 파라미터는 34억 개다. 반복을 반영한 토큰당 가중치 활성화 규모는 54억 개, 메모리 사용량은 약 20GB로 소비자용 노트북과 데스크톱 AI 컴퓨터에서 돌릴 수 있다. 연구진은 비행기 안에서 오프라인 상태의 맥북 프로로 몇 분 만에 플레이 가능한 비행 시뮬레이터를 만들었고, 같은 맥북 한 대로 주민 20명이 각자 생활하는 픽셀 마을 '싱키빌(Thinkyville)'을 구동하는 시연도 공개했다. 32GB 램 이상의 맥에서는 Ollama로 바로 실행할 수 있고, 가중치는 허깅페이스에서 내려받을 수 있다. 아파치 2.0 라이선스, 100만 토큰 컨텍스트, 텍스트·이미지 입력을 지원한다.
작지만 강한 이유, 그리고 약점

공개 평가에서 인클링 2 미니는 DeepSWE v1.1 48.2%, Vals Index v2.2 46.5%로 총 파라미터 1,000억 미만의 오픈 웨이트 모델 중 선두를 기록했다. 독립 평가 기관 아티피셜 애널리시스는 지능 지수 20.1점으로 알리바바 큐원3.8-27B와 동점인데, 활성 파라미터는 약 5분의 1 수준이라고 밝혔다. 같은 작업을 처리하는 데 큐원3.8-27B보다 약 6배 싸고 4배 빠르다(작업당 0.59달러·9.0분 대 3.53달러·38.2분). 다만 약점도 있다. 여러 번 대화를 주고받거나 조건이 많은 지시를 따르는 일은 상대적으로 약해 MultiChallenge 50.0%, ComplexConstraints v1.1 33.4%로 큐원3.8-27B에 뒤처졌다. 또 반복이 늘면 추론이 글로 드러나지 않아 모델을 감시하기 어려워질 수 있다는 점도 연구진이 직접 밝힌 과제다.
독자에게 어떤 의미인가요
클라우드 요금을 내지 않고 내 컴퓨터에서 쓸 만한 AI가 한 단계 더 현실에 가까워졌다. 코딩 에이전트처럼 오래 생각해야 하는 일을 노트북에서 오프라인으로 돌릴 수 있다는 것이 이번 모델의 의미다. 다만 '작은 모델이 만능'은 아니다. 사실 지식은 총 파라미터 수에 좌우돼 암기형 질문에서는 같은 크기 모델과 비슷하고, 복잡한 조건의 지시나 긴 대화에서는 더 큰 모델이 여전히 낫다. 직접 써보고 싶다면 허깅페이스에서 가중치를 받아 Ollama로 돌려보는 것이 가장 빠른 길이다.
출처: Thinking Machines Lab 공식 블로그 · Artificial Analysis · Unite.AI
관련 뉴스
- Thinking Machines has released Inkling 2 Mini, an open weights looped transformer — Artificial Analysis
- Thinking Machines Lab Releases Inkling 2 Mini for Local Devices — Unite.AI
- Inkling 2 Mini - 노트북에서 실행하는 반복형 트랜스포머 모델 — GeekNews