ブログ · AI モデル

Inkling 2 Mini:スペック、ベンチマーク、Ollama と Hugging Face での動かし方

Inkling 2 Mini は、Thinking Machines Lab が 2026年11月20日に公開した、オープンウェイト(Apache 2.0)のループ型 Mixture-of-Experts モデルです。総パラメータ 26.4B、アクティブパラメータ 3.4B で、チェックポイントは 1 つ・約 20 GB。メモリ 32 GB の Mac か、NVIDIA DGX Spark 1 台で動きます。テキストと画像を入力してテキストを出力し、コンテキストウィンドウは最大 1M トークンです。このガイドでは、「ループ型」とは何か、スペック、Ollama・Hugging Face・Unsloth の GGUF 量子化での動かし方、必要なハードウェア、Thinking Machines と Artificial Analysis のベンチマーク、Qwen3.8-27B との比較を紹介します。2026年11月21日更新。

Inkling 2 Mini とは

Inkling 2 Mini は Thinking Machines Lab のモデルで、2026年11月20日に、Apache 2.0 ライセンスの重みが Hugging Face で公開されました。Thinking Machines が想定する用途は、エージェント型・ツール利用システム、コーディングアシスタント、チャットボット、検索拡張生成(RAG)、さらに研究、ファインチューニング、サードパーティ製品です。

これは「ループ型」の Transformer です。モデルが保存しているデコーダ層は 24 層で、6 層ずつ 4 つのブロックに分かれています。最初と最後のブロックは 1 回だけ実行されます。中央の 12 層(ブロック 2 と 3)は、同じ重みのまま 3 回続けて実行されます。そのため、トークン 1 つが通る層は延べ 48 層分になりますが、ディスクに保存されているのは 24 層だけです。モデルを大きくせずに、トークンあたりの計算量を増やしています。

フィードフォワード層はスパースな Mixture of Experts で、各トークンは層ごとに 128 のエキスパートのうち 8 つを使います。Thinking Machines は 384 のエキスパートで学習したあと、その 3 分の 2 を刈り込みました。26.4B のパラメータのうち、トークンあたりのアクティブは 3.4B です。ループを 1 周増やすごとに実効アクティブパラメータが約 1.0B 増えるので、3 周ではトークンあたり実効 5.4B になります。

  • 重みは大半が 4 ビットです。20 層が NVFP4、最後の 4 層が MXFP8で、1 つのファイルに収めて約 20 GB です。
  • アテンションはローカル層とグローバル層を混ぜています。画像は vision transformer を通します。Thinking Machines は、画像の各辺を 40〜4096 ピクセルにするよう推奨しています。
  • Inkling 2 Small は同じ Hugging Face コレクションにある上位モデルで、594B パラメータです。

Inkling 2 Mini のスペック

Inkling 2 Mini
開発元Thinking Machines Lab, Inc.
公開日2026年11月20日
ライセンスApache 2.0
Hugging Face リポジトリthinkingmachines/Inkling-2-Mini
パラメータ数総計 26.4B、アクティブ 3.4B、ループ 3 周でトークンあたり実効アクティブ 5.4B
層数保存 24 層、トークンあたり 48 層分を適用(中央の 12 層が 3 回実行)
エキスパート層ごと・トークンごとに 128 のうち 8 つ
精度NVFP4(20 層)と MXFP8(最後の 4 層)
チェックポイントのサイズ約 20 GB(メインの safetensors ファイルが 19.5 GB、さらにマルチトークン予測用の 0.64 GB のファイル)
コンテキストウィンドウ最大 1M トークン
入力 / 出力テキストと画像を入力、テキストを出力
デフォルトのサンプリングgeneration_config.json では temperature 1.0。モデルカードにそれ以外の設定の記載はありません
学習データのカットオフ記載なし

Inkling 2 Mini の動かし方

以下のコマンドは、2026年11月21日に各情報源のページからコピーしたものです。私たちは実行していません。

  1. Ollama

    Ollama のライブラリページには inkling-2-mini:latest、inkling-2-mini:26b-a5b、inkling-2-mini:26b-a5b-nvfp4(MLX)が並び、いずれも 20GB、コンテキスト 1M、テキストと画像の入力に対応しています。ページには、Ollama のプレリリース版(プレビュー版のダウンロードへのリンクがあり、バージョン番号の記載はなし)と 32GB 以上のメモリを積んだ Mac が必要で、DGX Spark でも動くと書かれています。Ollama のページを参照してください。

    # Ollama のライブラリページより(Ollama のプレリリース版と、32GB 以上のメモリを積んだ Mac が必要)
    ollama run inkling-2-mini
  2. Hugging Face

    重みは thinkingmachines/Inkling-2-Mini にあります。モデルカード自体にはコードがなく、対応ランタイムとして SGLang、vLLM、TokenSpeed、NVIDIA Dynamo、Unsloth、llama.cpp(GGUF 用)、Llama App、Ollama、Exo Labs が挙げられ、SGLang と vLLM のレシピページへのリンクがあります。以下の行は、Hugging Face が vLLM 向けに自動生成したスニペットです。

    # Hugging Face の「Use this model」が自動生成するスニペット。Thinking Machines が書いたものではない
    pip install vllm
    vllm serve "thinkingmachines/Inkling-2-Mini"
  3. Unsloth GGUF:Unsloth の llama.cpp ビルドを入手する

    Unsloth のガイドでは、Unsloth の llama.cpp フォークのリリースを使います。これは Apple silicon 向けのビルドです。ガイドには、NVIDIA CUDA 12、AMD ROCm、Windows CUDA 12、DGX Spark 向けのビルドもあります。

    # Unsloth のガイドより:Unsloth のフォークの llama.cpp ビルド、Apple silicon 向け
    curl -L -o llama.tar.gz https://github.com/unslothai/llama.cpp/releases/download/b12588-mix-c0c3de8/llama-b12588-mix-c0c3de8-bin-macos-arm64.tar.gz
    mkdir -p llama.cpp
    tar -xzf llama.tar.gz -C llama.cpp --strip-components=1
    ./llama.cpp/llama-server --version
  4. 推奨の量子化をダウンロードする

    unsloth/Inkling-2-Mini-GGUF から、UD-Q4_K_XL(17.6 GB)、ビジョンプロジェクタの mmproj-F16.gguf(639 MB 追加)、投機的デコーディング用の 0.4 GB のドラフトモデルを取得します。

    pip install -U huggingface_hub
    hf download unsloth/Inkling-2-Mini-GGUF \
        Inkling-2-Mini-UD-Q4_K_XL.gguf mmproj-F16.gguf dspark-Inkling-2-Mini-Q8_0.gguf \
        --local-dir Inkling-2-Mini-GGUF
  5. llama-server を起動する

    macOS、Linux、WSL 向けの Unsloth のコマンドです。コンテキストは 32K に設定されています。メモリが足りなくなったら --ctx-size を小さくしてください。

    ./llama.cpp/llama-server \
        --model Inkling-2-Mini-GGUF/Inkling-2-Mini-UD-Q4_K_XL.gguf \
        --mmproj Inkling-2-Mini-GGUF/mmproj-F16.gguf \
        --model-draft Inkling-2-Mini-GGUF/dspark-Inkling-2-Mini-Q8_0.gguf \
        --spec-type draft-dspark --spec-draft-n-max 3 --n-gpu-layers-draft 99 \
        --jinja --ctx-size 32768 --n-gpu-layers 99 --parallel 1 \
        --temp 1.0 --top-p 1.0 --top-k 0 --min-p 0.0 \
        --host 127.0.0.1 --port 8080
  6. または Unsloth CLI を使う

    同じガイドにあるコマンド 1 つです。

    unsloth run --model unsloth/Inkling-2-Mini-GGUF:UD-Q4_K_XL \
        --temp 1.0 --top-p 1.0 --top-k 0 --min-p 0.0

出典:Ollama、Hugging Face、Unsloth

Inkling 2 Mini の Unsloth GGUF 量子化

サイズは Unsloth のガイドによるものです。Unsloth は UD-Q4_K_XL を推奨しています。UD-Q8_K_XL を基準にすると、UD-Q4_K_XL の平均 KL ダイバージェンスは 0.0107 で、最上位トークンが一致する割合は 98.0%。UD-Q3_K_XL は 0.0174 / 96.3%、UD-Q2_K_XL は 0.0595 / 91.6%、UD-IQ1_S は 0.0911 / 89.4% と測定されています。

量子化ファイルサイズ備考
UD-IQ1_S7.76 GB-
UD-IQ1_M8.02 GB-
UD-IQ2_XXS8.49 GB-
UD-Q2_K_XL9.14 GB-
UD-IQ3_XXS11.66 GB-
UD-Q3_K_XL13.63 GB-
UD-IQ4_XS15.73 GB-
UD-Q4_K_M16.61 GB-
UD-Q4_K_XL17.63 GBUnsloth の推奨
UD-Q8_K_XL22.87 GBKLD の数値の基準

推奨設定

  • サンプリング:Unsloth のガイドは temperature 1.0、top-p 1.0、top-k 0、min-p 0.0 を使っています。Thinking Machines の generation_config.json で設定されているのは temperature 1.0 だけです。
  • コンテキスト:Unsloth は 32K(--ctx-size 32768)から始め、メモリが厳しければ減らすよう書いています。モデル自体は最大 1M トークンに対応します。
  • 推論:モデルカードによると、推論の強度(reasoning effort)を最小にしても、推論を完全にオフにはできません。
  • 制限:カードには、特にコードのデバッグ時に、長い推論のループにはまることがあると書かれ、出力トークン数とエージェントのターン数に上限を設けるよう推奨されています。

Inkling 2 Mini のハードウェア要件

各情報源の記載を並べています。画像、長いコンテキスト、同じマシン上の他のアプリは、さらにメモリを使います。カードには、ループ型モデルへのローカルランタイムの対応は新しく、速度はランタイムやハードウェアによって異なること、また中央の層が 3 回実行されるため、トークンあたりの計算量はアクティブパラメータ数から想像されるより多いことも書かれています。

情報源記載内容
Thinking Machines のモデルカードチェックポイントは約 20 GB。対応:NVIDIA DGX Spark 1 台、またはメモリ 32GB 以上の Apple silicon(MacBook、Mac mini、Mac Studio)。その他の GPU やプラットフォームでも可能で、VRAM は 32GB 以上を推奨。
Thinking Machines のローンチ記事メモリ 32GB 以上の Mac なら Ollama で動作。DGX Spark(128GB)は NVFP4 をネイティブにサポート。
Ollamaメモリ 32GB 以上の Mac。DGX Spark でも動作。
Unsloth(GGUF、RAM + VRAM またはユニファイドメモリ)1 ビット 9 GB、2 ビット 10〜11 GB、3 ビット 13〜15 GB、4 ビット 17〜18 GB、8 ビット 24 GB。

Inkling 2 Mini のベンチマーク(Thinking Machines の数値)

これらは Thinking Machines がローンチ記事で公表した自社の結果から、一部の行を抜粋したものです。自己申告であり、独立した検証ではありません。

ベンチマークInkling 2 MiniQwen3.8-27BGemma 4 31BNemotron 3.5 Super VL
DeepSWE v1.148.2%42.2%0.3%24.7%
SWE-bench Pro v2 (Hard)77.9%73.8%14.2%44.1%
SWE-bench Verified (bash only)79.2%77.8%46.1%71.1%
Terminal Bench v2.171.6%73.0%43.4%60.7%
Vals Index v2.246.5%--29.8%
AA Index v5.020.120.14.413.6
BrowseComp (with compaction)79.0%61.6%37.0%78.9%
MCP Atlas (Public)82.7%77.3%54.2%67.7%
HLE-Diamond15.2%15.3%7.2%8.8%
ARC-AGI v1 / v284.5% / 49.3%87.5% / 42.4%-22.7% / 1.5%
MMMU Pro Standard 1074.9%76.3%73.4%72.3%
AA-Omniscience non-hallucination rate63.4%71.4%14.5%69.5%

Thinking Machines 自身が認めている弱点

  • MultiChallenge は 50.0%、ComplexConstraints v1.1 は 33.4% で、どちらも Qwen3.8-27B を下回っています。CritPt v2 と HLE-Diamond では、より大きなモデルにも及びません。
  • 効率:DGX Spark での Stanford の intelligence-per-watt 指標で、記事は 0.703 と報告しています。比較対象は Qwen3.6-35B-A3B が 0.430、Gemma-4-26B-A4B が 0.159、Qwen3.5-27B が 0.036 です。
  • モデルカードに書かれた制限:より大きなモデルに比べ、誤った情報を自信たっぷりに述べやすく、確認なしにファイルを削除したり上書きしたりすることがあり、英語以外では出力品質が下がります。

Artificial Analysis での Inkling 2 Mini(第三者)

Artificial Analysis(AA)は独立したベンチマークサイトです。以下の数値は Inkling 2 Mini のページから、2026年11月21日に確認したものです。ページには最終更新日の表示がありません。

  • Intelligence Index v5.0.1:20。
  • 出力速度:毎秒 280 トークン。
  • 価格:入力 100 万トークンあたり $0.15、出力 100 万トークンあたり $0.50。
  • Intelligence Index の実行にかかるコスト:AA の表示で $0.59。
  • コンテキストウィンドウ:1M トークン。

Inkling 2 Mini と Qwen 3.8 27B の比較

スペックは各モデルの Hugging Face のカード、AA の行は AA の 2 つのモデルページ(どちらのページも相手のモデルには触れていないので、この並べ方は私たちによるものです)、ベンチマークの行は Thinking Machines の表によります。注意点が 1 つあります。Thinking Machines が載せている Qwen の数値は、Qwen 自身が報告しているバリアントと同じとは限りません。73.8% は SWE-bench Pro v2 (Hard) の、15.3% は HLE-Diamond の数値で、Qwen 自身のカードでは SWE-bench Pro が 61.7、HLE が 30.8 です。両者を混ぜないでください。Terminal Bench 2.1 は、どちらも 73.0 と報告しています。

Inkling 2 MiniQwen3.8-27B
公開日2026年11月20日2026年8月14日(AA による)
ライセンスApache 2.0Apache 2.0
アーキテクチャループ型 MoE:総計 26.4B、アクティブ 3.4B(実効 5.4B)Dense 27B、全パラメータがアクティブ、64 層
重み約 20 GB、NVFP4 と MXFP8BF16
ネイティブのコンテキスト1M トークン262,144 トークン、YaRN で最大 1M
入力テキスト、画像テキスト、画像、動画
AA Intelligence Index2020(xhigh)、medium は 17、low は 16、非推論は 10
AA 出力速度280 tok/s53 tok/s(xhigh)
AA 価格 入力 / 出力(100 万トークンあたり)$0.15 / $0.50$0.50 / $3.00(Alibaba API)
SWE-bench Verified、bash only(TML)79.2%77.8%
SWE-bench Pro v2 Hard(TML)77.9%73.8%
Terminal Bench v2.1(TML)71.6%73.0%
MCP Atlas(TML)82.7%77.3%
BrowseComp(TML)79.0%61.6%

この比較から分かること

  • AA Intelligence Index は同じ 20 ですが、AA の測定では Inkling 2 Mini の出力速度は約 5 倍で、トークンあたりの価格も安く掲載されています。
  • Thinking Machines の表では、Inkling は SWE 系のベンチマーク、BrowseComp、MCP Atlas、ARC-AGI v2 で上回り、Terminal Bench、ARC-AGI v1、MMMU Pro、HLE-Diamond(差は 0.1)、AA-Omniscience、MultiChallenge、ComplexConstraints では下回っています。
  • Qwen3.8-27B は動画入力に対応し、デフォルトで thinking がオンで、reasoning effort は xhigh、medium、low を選べます。Inkling 2 Mini はネイティブのコンテキストが長く、ダウンロードが小さいのが利点です。

Inkling 2 Mini はコーディングエージェントにとって何を意味するか

  • Thinking Machines は、想定用途にコーディングアシスタントとエージェント型・ツール利用システムを挙げています。約 20 GB なので、32 GB の Mac でもエージェント harness の裏でローカルに動かせる大きさで、Unsloth の llama-server コマンドなら 127.0.0.1:8080 で提供できます。
  • カードはリスクについて率直です。ツールを使うとき、詳細な指示やプロジェクトの慣習に従う信頼性は大きなモデルより低く、確認なしに破壊的な操作をすることがあり、作業の結果を正確に報告しないことがあります。
  • 導入側への助言は、エージェント型のワークロードをサンドボックスで動かすこと、出力トークン数とエージェントのターン数に上限を設けること、重要な出力には人間のレビューを残すことです。

遊べるデモ:PlaneBench フライトシミュレーター

vibegamer.io によると、Thinking Machines はローンチと同時にフライトシミュレーターを公開しました。記事では PlaneBench flight simulator demo と呼ばれているものです。Inkling 2 Mini が、飛行機の中で MacBook Pro 上、オフラインで数分で作りました。滑走路から離陸し、プロシージャルに生成された丘、山、海の上を飛びます。vibegamer.io で遊べます。

Inkling 2 Mini で作られたほかのゲームは、vibegamer.io の Inkling 2 Mini のゲーム にまとめています。

Crewmark と一緒に

新しいモデルは半分。もう半分は仕事です。

モデルは良くなり、安くなり続けていますが、その周りのエージェントは今も次のプロンプトを待っています。Crewmark は、コーディングエージェントのセッションを、職種、数値で表した目標、勤務時間、ハートビートを持つ AI 社員にするので、ボードから次の issue を自分で取ります。Claude Code と Codex の社員はネイティブに動き、OpenCode、DeepSeek Harness、Gemini などのほかのエージェントは ACP(acpx)経由で接続します。社員は、そのエージェントが動かしているモデルをそのまま使います。

  1. 職種を選ぶ

    AI 社員の職種から選びます。たとえば AI ソフトウェアエンジニアです。

  2. 仕事をボードに置く

    issue を割り当て、定期的な仕事は繰り返しにし、ハートビートで社員を起こして次の issue を取らせます。

  3. できることを見る

    エージェントごとのセットアップとルールつきの仕事は、Claude Code のユースケースと Codex のユースケースにあります。

よくある質問

Inkling 2 Mini とは何ですか?

Thinking Machines Lab が 2026年11月20日に公開した、オープンウェイト(Apache 2.0)のモデルです。ループ型の Mixture-of-Experts Transformer で、総パラメータ 26.4B、アクティブ 3.4B(実効 5.4B)。テキストと画像を入力してテキストを出力し、最大 1M トークンのコンテキストに対応します。チェックポイントは約 20 GB です。

Inkling 2 Mini は Hugging Face のどこにありますか?

Thinking Machines の Inkling 2 コレクションの thinkingmachines/Inkling-2-Mini です。Unsloth の GGUF 量子化は unsloth/Inkling-2-Mini-GGUF にあります。

Inkling 2 Mini を Ollama で動かすには?

Ollama のプレリリース版をインストールして、ollama run inkling-2-mini を実行します。Ollama のページによると、32GB 以上のメモリを積んだ Mac が必要で、DGX Spark でも動きます。タグはどれも 20GB です。

Inkling 2 Mini は誰が作りましたか?

Thinking Machines Lab です。Inkling 2 コレクションの小さいほうのモデルで、大きいほうが 594B パラメータの Inkling 2 Small です。Thinking Machines は、自社の Tinker プラットフォームでも提供しています。

Inkling 2 Mini は性能が良いですか?

Thinking Machines 自身の表では、SWE-bench Verified(bash only)で 79.2%、Terminal Bench v2.1 で 71.6%、MCP Atlas で 82.7% です。モデルカードは、誤った事実を自信たっぷりに述べる、推論のループにはまる、確認なしに破壊的な操作をする、といった可能性を警告しています。ターン数と出力に上限を設けて、サンドボックスで動かしてください。

Artificial Analysis は Inkling 2 Mini をどう評価していますか?

2026年11月21日時点で、Artificial Analysis は Intelligence Index v5.0.1 で 20、出力速度は毎秒 280 トークン、価格は入力・出力 100 万トークンあたり $0.15 / $0.50 と掲載しています。

Inkling 2 Mini と Qwen 3.8 27B はどちらが良いですか?

Artificial Analysis の Intelligence Index は、どちらも 20 です。測定された速度は Inkling 2 Mini が約 5 倍で、トークンあたりの価格も安く掲載されています。Thinking Machines の表では、Inkling は SWE-bench と MCP Atlas で上回り、Terminal Bench と MMMU Pro では下回ります。Qwen3.8-27B は Dense モデルで、動画入力に対応し、ネイティブのコンテキストは Inkling の 1M に対して 262K です。

Inkling 2 Mini にはどれくらいのメモリが必要ですか?

Thinking Machines が対応を明記しているのは、メモリ 32GB 以上の Apple silicon か DGX Spark 1 台で、その他の GPU では VRAM 32GB 以上を推奨しています。Unsloth の GGUF 量子化は、1 ビットで約 9 GB から 8 ビットで 24 GB まで、推奨の 4 ビット UD-Q4_K_XL は 17〜18 GB です。

2026年11月21日に、Thinking Machines のローンチ記事とモデルカード、Hugging Face のモデルページ、Ollama のライブラリページ、Unsloth のガイド、Artificial Analysis で確認。コマンドは実行していません。

最新のモデルに、常設の仕事を。

Crewmark は、コーディングエージェントのセッションを、職種、目標、勤務時間、ハートビートを持つ AI 社員にします。

Crewmark はオープンソースです:GitHub で Star をお願いします