Blog · Modelos de IA

Inkling 2 Mini: especificações, benchmarks e como rodar com Ollama e Hugging Face

O Inkling 2 Mini é o modelo Mixture-of-Experts em loop, de pesos abertos e licença Apache 2.0, da Thinking Machines Lab, lançado em 20 de novembro de 2026: 26.4B de parâmetros no total e 3.4B ativos em um único checkpoint de cerca de 20 GB que roda em um Mac com 32 GB de memória ou em uma única NVIDIA DGX Spark. Ele recebe texto e imagens e escreve texto, com janela de contexto de até 1M de tokens. Este guia explica o que significa "em loop", as especificações, como rodá-lo com Ollama, Hugging Face e as quantizações GGUF da Unsloth, o hardware de que ele precisa, os benchmarks da Thinking Machines e da Artificial Analysis, e como ele se compara ao Qwen3.8-27B. Atualizado em 21 de novembro de 2026.

O que é o Inkling 2 Mini

O Inkling 2 Mini é da Thinking Machines Lab e foi lançado em 20 de novembro de 2026, com os pesos no Hugging Face sob Apache 2.0. A Thinking Machines cita como usos pretendidos os sistemas agênticos e de uso de ferramentas, os assistentes de programação, os chatbots e a geração aumentada por recuperação (RAG), além de pesquisa, ajuste fino e produtos de terceiros.

É um transformer "em loop" (looped). O modelo armazena 24 camadas de decoder, agrupadas em quatro blocos de seis. O primeiro e o último bloco rodam uma vez. As 12 camadas do meio (blocos 2 e 3) rodam três vezes seguidas com os mesmos pesos. Assim, cada token passa por 48 aplicações de camada enquanto apenas 24 camadas ficam armazenadas em disco. O modelo ganha mais computação por token sem ficar maior.

As camadas feed-forward são uma Mixture of Experts esparsa: cada token usa 8 de 128 especialistas por camada. A Thinking Machines treinou com 384 especialistas e podou dois terços deles. Dos 26.4B de parâmetros, 3.4B estão ativos por token; cada passagem extra pelo loop adiciona cerca de 1.0B de parâmetros ativos efetivos, então com três passagens são 5.4B ativos efetivos por token.

  • Os pesos são em sua maioria de 4 bits: NVFP4 em 20 camadas e MXFP8 nas 4 últimas, em um único arquivo de cerca de 20 GB.
  • A atenção mistura camadas locais e globais. As imagens passam por um vision transformer; a Thinking Machines recomenda que cada lado da imagem tenha entre 40 e 4096 pixels.
  • O Inkling 2 Small é o irmão maior, na mesma coleção do Hugging Face, com 594B de parâmetros.

Especificações do Inkling 2 Mini

Inkling 2 Mini
CriadoraThinking Machines Lab, Inc.
Lançamento20 de novembro de 2026
LicençaApache 2.0
Repositório no Hugging Facethinkingmachines/Inkling-2-Mini
Parâmetros26.4B no total, 3.4B ativos, 5.4B ativos efetivos por token com três passagens pelo loop
Camadas24 armazenadas, 48 aplicadas por token (as 12 do meio rodam três vezes)
Especialistas8 de 128 por token e por camada
PrecisãoNVFP4 (20 camadas) e MXFP8 (as 4 últimas)
Tamanho do checkpointCerca de 20 GB (arquivo safetensors principal de 19.5 GB, mais um arquivo de multi-token prediction de 0.64 GB)
Janela de contextoAté 1M de tokens
Entrada / saídaTexto e imagem na entrada, texto na saída
Amostragem padrãotemperature 1.0 em generation_config.json; o model card não dá outros valores
Data de corte dos dados de treinamentoNão informada

Como rodar o Inkling 2 Mini

Os comandos abaixo foram copiados de cada página de origem em 21 de novembro de 2026. Nós não os executamos.

  1. Ollama

    A página da biblioteca do Ollama lista inkling-2-mini:latest, inkling-2-mini:26b-a5b e inkling-2-mini:26b-a5b-nvfp4 (MLX), cada um com 20GB, 1M de contexto e entrada de texto e imagem. A página diz que é preciso a versão de pré-lançamento do Ollama (ela linka um download da prévia, sem número de versão) e um Mac com 32GB+ de memória, e que também roda em uma DGX Spark. Veja a página do Ollama.

    # Da página da biblioteca do Ollama (requer a versão de pré-lançamento do Ollama; Mac com 32GB+ de memória)
    ollama run inkling-2-mini
  2. Hugging Face

    Os pesos estão em thinkingmachines/Inkling-2-Mini. O model card não traz código próprio; ele lista SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth, llama.cpp (para GGUF), Llama App, Ollama e Exo Labs como compatíveis, e linka páginas de receitas de SGLang e vLLM. As linhas abaixo são o trecho gerado automaticamente pelo Hugging Face para o vLLM.

    # Trecho "Use this model" gerado automaticamente pelo Hugging Face, não escrito pela Thinking Machines
    pip install vllm
    vllm serve "thinkingmachines/Inkling-2-Mini"
  3. GGUF da Unsloth: pegue o build do llama.cpp da Unsloth

    O guia da Unsloth usa releases do fork do llama.cpp da Unsloth. Este é o build para Apple silicon; o guia também tem builds para NVIDIA CUDA 12, AMD ROCm, Windows CUDA 12 e DGX Spark.

    # Guia da Unsloth: build do llama.cpp do fork da Unsloth, Apple silicon
    curl -L -o llama.tar.gz https://github.com/unslothai/llama.cpp/releases/download/b12588-mix-c0c3de8/llama-b12588-mix-c0c3de8-bin-macos-arm64.tar.gz
    mkdir -p llama.cpp
    tar -xzf llama.tar.gz -C llama.cpp --strip-components=1
    ./llama.cpp/llama-server --version
  4. Baixe a quantização recomendada

    Isto baixa o UD-Q4_K_XL (17.6 GB), o projetor de visão mmproj-F16.gguf (acrescenta 639 MB) e um modelo rascunho de 0.4 GB para decodificação especulativa, de unsloth/Inkling-2-Mini-GGUF.

    pip install -U huggingface_hub
    hf download unsloth/Inkling-2-Mini-GGUF \
        Inkling-2-Mini-UD-Q4_K_XL.gguf mmproj-F16.gguf dspark-Inkling-2-Mini-Q8_0.gguf \
        --local-dir Inkling-2-Mini-GGUF
  5. Inicie o llama-server

    O comando da Unsloth para macOS, Linux e WSL. Ele define um contexto de 32K; reduza --ctx-size se faltar memória.

    ./llama.cpp/llama-server \
        --model Inkling-2-Mini-GGUF/Inkling-2-Mini-UD-Q4_K_XL.gguf \
        --mmproj Inkling-2-Mini-GGUF/mmproj-F16.gguf \
        --model-draft Inkling-2-Mini-GGUF/dspark-Inkling-2-Mini-Q8_0.gguf \
        --spec-type draft-dspark --spec-draft-n-max 3 --n-gpu-layers-draft 99 \
        --jinja --ctx-size 32768 --n-gpu-layers 99 --parallel 1 \
        --temp 1.0 --top-p 1.0 --top-k 0 --min-p 0.0 \
        --host 127.0.0.1 --port 8080
  6. Ou use a CLI da Unsloth

    Um único comando do mesmo guia.

    unsloth run --model unsloth/Inkling-2-Mini-GGUF:UD-Q4_K_XL \
        --temp 1.0 --top-p 1.0 --top-k 0 --min-p 0.0

Fontes: Ollama, Hugging Face, Unsloth

Quantizações GGUF da Unsloth para o Inkling 2 Mini

Tamanhos do guia da Unsloth. A Unsloth recomenda o UD-Q4_K_XL. Em comparação com o UD-Q8_K_XL, ela mede para o UD-Q4_K_XL uma divergência KL média de 0.0107, escolhendo o mesmo token mais provável em 98.0% das vezes; UD-Q3_K_XL 0.0174 / 96.3%; UD-Q2_K_XL 0.0595 / 91.6%; UD-IQ1_S 0.0911 / 89.4%.

QuantizaçãoTamanho do arquivoObservação
UD-IQ1_S7.76 GB-
UD-IQ1_M8.02 GB-
UD-IQ2_XXS8.49 GB-
UD-Q2_K_XL9.14 GB-
UD-IQ3_XXS11.66 GB-
UD-Q3_K_XL13.63 GB-
UD-IQ4_XS15.73 GB-
UD-Q4_K_M16.61 GB-
UD-Q4_K_XL17.63 GBRecomendada pela Unsloth
UD-Q8_K_XL22.87 GBReferência para os números de KLD

Configurações recomendadas

  • Amostragem: o guia da Unsloth usa temperature 1.0, top-p 1.0, top-k 0 e min-p 0.0. O generation_config.json da Thinking Machines define apenas temperature 1.0.
  • Contexto: a Unsloth começa em 32K (--ctx-size 32768) e diz para reduzir se a memória estiver apertada. O modelo em si aceita até 1M de tokens.
  • Raciocínio: o model card diz que colocar o esforço de raciocínio no mínimo não desliga o raciocínio por completo.
  • Limites: o card diz que o modelo às vezes fica preso em loops longos de raciocínio, principalmente ao depurar código, e recomenda limites para os tokens de saída e para os turnos do agente.

Requisitos de hardware do Inkling 2 Mini

O que cada fonte diz. Imagens, contexto mais longo e outros aplicativos na máquina usam mais memória. O card também observa que o suporte a modelos em loop nos runtimes locais é recente e que a velocidade varia conforme o runtime e o hardware, e que, como as camadas do meio rodam três vezes, a computação por token é maior do que a contagem de parâmetros ativos sugere.

FonteO que diz
Model card da Thinking MachinesCheckpoint de cerca de 20 GB. Compatível: 1x NVIDIA DGX Spark, ou Apple silicon com 32GB+ de memória (MacBooks, Mac minis, Studios). Outras GPUs e plataformas são possíveis, com 32GB ou mais de VRAM recomendados.
Post de lançamento da Thinking MachinesRoda via Ollama em qualquer Mac com pelo menos 32GB de RAM. A DGX Spark (128GB) tem suporte nativo a NVFP4.
OllamaMac com 32GB+ de memória; também DGX Spark.
Unsloth (GGUF, RAM + VRAM ou memória unificada)1 bit 9 GB, 2 bits 10-11 GB, 3 bits 13-15 GB, 4 bits 17-18 GB, 8 bits 24 GB.

Benchmarks do Inkling 2 Mini (números da Thinking Machines)

Estes são os resultados da própria Thinking Machines no seu post de lançamento, uma seleção das suas linhas. São dados autodeclarados, não execuções independentes.

BenchmarkInkling 2 MiniQwen3.8-27BGemma 4 31BNemotron 3.5 Super VL
DeepSWE v1.148.2%42.2%0.3%24.7%
SWE-bench Pro v2 (Hard)77.9%73.8%14.2%44.1%
SWE-bench Verified (bash only)79.2%77.8%46.1%71.1%
Terminal Bench v2.171.6%73.0%43.4%60.7%
Vals Index v2.246.5%--29.8%
AA Index v5.020.120.14.413.6
BrowseComp (with compaction)79.0%61.6%37.0%78.9%
MCP Atlas (Public)82.7%77.3%54.2%67.7%
HLE-Diamond15.2%15.3%7.2%8.8%
ARC-AGI v1 / v284.5% / 49.3%87.5% / 42.4%-22.7% / 1.5%
MMMU Pro Standard 1074.9%76.3%73.4%72.3%
AA-Omniscience non-hallucination rate63.4%71.4%14.5%69.5%

Onde a Thinking Machines diz que ele fica a desejar

  • MultiChallenge 50.0% e ComplexConstraints v1.1 33.4%, ambos atrás do Qwen3.8-27B. Ele também fica atrás de modelos maiores em CritPt v2 e HLE-Diamond.
  • Eficiência: na medida de inteligência por watt de Stanford em uma DGX Spark, o post reporta 0.703, contra 0.430 do Qwen3.6-35B-A3B, 0.159 do Gemma-4-26B-A4B e 0.036 do Qwen3.5-27B.
  • Limitações do model card: ele tem mais chance do que modelos maiores de afirmar informações erradas com confiança, pode apagar ou sobrescrever arquivos sem perguntar, e a qualidade da saída é menor fora do inglês.

O Inkling 2 Mini na Artificial Analysis (terceiros)

A Artificial Analysis (AA) é um site independente de benchmarks. Estes números vêm da sua página do Inkling 2 Mini, conferida em 21 de novembro de 2026; a página não mostra data de última atualização.

  • Intelligence Index v5.0.1: 20.
  • Velocidade de saída: 280 tokens por segundo.
  • Preço: $0.15 por milhão de tokens de entrada e $0.50 por milhão de tokens de saída.
  • Custo para rodar o Intelligence Index: $0.59, como a AA mostra.
  • Janela de contexto: 1M de tokens.

Inkling 2 Mini vs Qwen 3.8 27B

As especificações vêm do card de cada modelo no Hugging Face, as linhas da AA das duas páginas de modelo da AA (nenhuma menciona o outro modelo; a comparação lado a lado é nossa) e as linhas de benchmark da tabela da Thinking Machines. Uma ressalva: os números do Qwen da Thinking Machines nem sempre são da variante que a Qwen reporta. Seu 73.8% é em SWE-bench Pro v2 (Hard) e seu 15.3% em HLE-Diamond; o card da própria Qwen dá 61.7 em SWE-bench Pro e 30.8 em HLE. Não misture os dois. Ambos reportam 73.0 no Terminal Bench 2.1.

Inkling 2 MiniQwen3.8-27B
Lançamento20 de novembro de 202614 de agosto de 2026 (segundo a AA)
LicençaApache 2.0Apache 2.0
ArquiteturaMoE em loop: 26.4B no total, 3.4B ativos (5.4B efetivos)Densa de 27B, todos os parâmetros ativos, 64 camadas
PesosCerca de 20 GB, NVFP4 e MXFP8BF16
Contexto nativo1M de tokens262,144 tokens, até 1M com YaRN
EntradaTexto, imagemTexto, imagem, vídeo
AA Intelligence Index2020 (xhigh); 17 medium, 16 low, 10 non-reasoning
Velocidade de saída na AA280 tok/s53 tok/s (xhigh)
Preço na AA entrada / saída por 1M$0.15 / $0.50$0.50 / $3.00 (API da Alibaba)
SWE-bench Verified, bash only (TML)79.2%77.8%
SWE-bench Pro v2 Hard (TML)77.9%73.8%
Terminal Bench v2.1 (TML)71.6%73.0%
MCP Atlas (TML)82.7%77.3%
BrowseComp (TML)79.0%61.6%

O que essa comparação mostra

  • Mesmo AA Intelligence Index (20), mas a AA mede o Inkling 2 Mini com cerca de cinco vezes a velocidade de saída e lista preços por token menores.
  • Na tabela da Thinking Machines, o Inkling lidera nos benchmarks do tipo SWE, no BrowseComp, no MCP Atlas e no ARC-AGI v2, e fica atrás no Terminal Bench, no ARC-AGI v1, no MMMU Pro, no HLE-Diamond (por 0.1), no AA-Omniscience, no MultiChallenge e no ComplexConstraints.
  • O Qwen3.8-27B aceita entrada de vídeo e tem o pensamento ligado por padrão, com esforço de raciocínio xhigh, medium e low. O Inkling 2 Mini tem o contexto nativo mais longo e um download menor.

O que o Inkling 2 Mini significa para agentes de programação

  • A Thinking Machines inclui assistentes de programação e sistemas agênticos e de uso de ferramentas entre os usos pretendidos, e com cerca de 20 GB ele é pequeno o bastante para rodar localmente em um Mac de 32 GB atrás de um harness de agente, com o comando llama-server da Unsloth servindo-o em 127.0.0.1:8080.
  • O card é direto sobre os riscos: ao usar ferramentas, ele é menos confiável do que modelos maiores para seguir instruções detalhadas e convenções do projeto, pode tomar ações destrutivas sem confirmação e pode não relatar com exatidão o resultado do seu trabalho.
  • O conselho dela para quem o implanta: rodar cargas agênticas em um sandbox, limitar os tokens de saída e os turnos do agente, e manter revisão humana nas saídas de alto risco.

A demo jogável: o simulador de voo PlaneBench

Segundo o vibegamer.io, a Thinking Machines publicou um simulador de voo junto com o lançamento, que o post dela chama de demo do simulador de voo PlaneBench. O Inkling 2 Mini o construiu offline em um MacBook Pro durante um voo, em poucos minutos: você decola de uma pista e sobrevoa colinas, montanhas e mar gerados proceduralmente. Jogue no vibegamer.io.

Para outros jogos feitos com o Inkling 2 Mini, veja jogos do Inkling 2 Mini no vibegamer.io.

Com o Crewmark

Um modelo novo é só metade. A outra metade é um trabalho.

Os modelos continuam melhorando e ficando mais baratos, e os agentes ao redor deles ainda esperam o próximo prompt. O Crewmark transforma sessões de agentes de programação em funcionários de IA com uma função, uma meta em números, horário de trabalho e um heartbeat, para que peguem sozinhos a próxima issue de um quadro. Os funcionários Claude Code e Codex rodam nativamente; outros agentes, como OpenCode, DeepSeek Harness e Gemini, se conectam por ACP (acpx). Um funcionário usa o modelo que o seu agente rodar.

  1. Escolha uma função

    Entre as funções de funcionários de IA, como um engenheiro de software de IA.

  2. Coloque o trabalho em um quadro

    Atribua issues, faça as recorrentes se repetirem e deixe o heartbeat acordar o funcionário para pegar a próxima.

  3. Veja o que ele consegue fazer

    Trabalhos com a configuração e as regras de cada agente estão nos casos de uso do Claude Code e nos casos de uso do Codex.

Perguntas frequentes

O que é o Inkling 2 Mini?

Um modelo de pesos abertos e licença Apache 2.0 da Thinking Machines Lab, lançado em 20 de novembro de 2026. É um transformer Mixture-of-Experts em loop com 26.4B de parâmetros no total e 3.4B ativos (5.4B efetivos), recebe texto e imagens, escreve texto e aceita até 1M de tokens de contexto. O checkpoint tem cerca de 20 GB.

Onde fica o Inkling 2 Mini no Hugging Face?

Em thinkingmachines/Inkling-2-Mini, na coleção Inkling 2 da Thinking Machines. As quantizações GGUF da Unsloth estão em unsloth/Inkling-2-Mini-GGUF.

Como rodo o Inkling 2 Mini com o Ollama?

Instale a versão de pré-lançamento do Ollama e rode ollama run inkling-2-mini. A página do Ollama diz que é preciso um Mac com 32GB+ de memória e que também roda em uma DGX Spark. Cada tag tem 20GB.

Quem criou o Inkling 2 Mini?

A Thinking Machines Lab. É o modelo menor da coleção Inkling 2; o Inkling 2 Small é o maior, com 594B de parâmetros. A Thinking Machines também o oferece pela sua plataforma Tinker.

O Inkling 2 Mini é bom?

Na tabela da própria Thinking Machines, ele marca 79.2% no SWE-bench Verified (bash only), 71.6% no Terminal Bench v2.1 e 82.7% no MCP Atlas. O model card avisa que ele pode afirmar fatos errados com confiança, ficar preso em loops de raciocínio e tomar ações destrutivas sem confirmação, então rode-o em um sandbox com limites de turnos e de saída.

O que a Artificial Analysis diz sobre o Inkling 2 Mini?

Em 21 de novembro de 2026, a Artificial Analysis o listava com 20 no seu Intelligence Index v5.0.1, com 280 tokens de saída por segundo e $0.15 / $0.50 por milhão de tokens de entrada e de saída.

Inkling 2 Mini vs Qwen 3.8 27B: qual é melhor?

A Artificial Analysis dá 20 aos dois no Intelligence Index; ela mede o Inkling 2 Mini cerca de cinco vezes mais rápido e o lista mais barato por token. Na tabela da Thinking Machines, o Inkling lidera no SWE-bench e no MCP Atlas e fica atrás no Terminal Bench e no MMMU Pro. O Qwen3.8-27B é denso, aceita entrada de vídeo e tem 262K de contexto nativo contra 1M do Inkling.

De quanta memória o Inkling 2 Mini precisa?

A Thinking Machines dá suporte a Apple silicon com 32GB+ de memória ou a uma DGX Spark, e recomenda 32GB ou mais de VRAM em outras GPUs. As quantizações GGUF da Unsloth precisam de cerca de 9 GB em 1 bit até 24 GB em 8 bits, e de 17-18 GB para o UD-Q4_K_XL de 4 bits recomendado.

Conferido com o post de lançamento e o model card da Thinking Machines, as páginas do modelo no Hugging Face, a página da biblioteca do Ollama, o guia da Unsloth e a Artificial Analysis em 21 de novembro de 2026. Não executamos os comandos.

Ponha os modelos mais novos em um trabalho fixo.

O Crewmark transforma sessões de agentes de programação em funcionários de IA com funções, metas, horário de trabalho e um heartbeat.

O Crewmark é de código aberto: deixe uma estrela no GitHub