Inkling 2 Mini登場:総パラメータ約26B、1トークンあたり3BがアクティブなローカルAI向けマルチモーダルMoEモデル。transformers・llama.cpp・MLXに対応

Hugging Faceは11月20日、Thinking Machines LabのInkling 2 Miniを紹介しました。ローカル環境で動かせるマルチモーダルMoEのループ型モデルで、transformers、llama.cpp、MLX、SGLangに対応します。

ニュース日: 読了目安 7 分

LINEで送るThreadsFacebookX
目次
  1. 1. Inkling 2 MiniとInkling 2 Smallの違いは?
  2. 2. 性能はどうか?制約は?
  3. 3. 対応プラットフォームと推論方法は?
  4. 4. 試してみるには?

Hugging Faceは2026年11月20日、Thinking Machines Labと共同で公開したInkling 2 Miniを紹介する記事を投稿しました。同社はこのモデルを、ローカル環境向けに設計された中型モデルと位置づけています。画像とテキストの両方を入力できるマルチモーダルモデルで、方式はMoE(Mixture of Experts、混合エキスパート)です。MoEでは、「エキスパート」と呼ばれる多数のサブネットワークのうち、ごく一部だけを使って各トークン(モデルがテキストを分割する最小単位)を処理します。そのため総パラメータは約26Bですが、1回あたり実際に動くのは約3Bです。記事は複数の推論フレームワークへの対応状況と使い方を挙げており、プレビュー、ウェイトリスト、地域制限には触れていません。自分のPCでモデルを動かしたい開発者にとっては、小型の選択肢が増えることになります。ただし、記事中の性能比較の多くはHugging Face自身の主張であり、同社も追加の検証が必要だと述べています。

Inkling 2 MiniとInkling 2 Smallの違いは?

Hugging Faceの説明によると、Inkling 2 Miniはループ型transformerです。24のデコーダ層のうち第6〜17層は、重みを共有したまま3回繰り返し実行されます。そのため計算上は48の論理層(6 + 3×12 + 6)に相当します。つまり、保存する重みは24層分だけで、48層に近い計算ができます。ループの各パスの間では「パス間メッセージ」で情報が受け渡されます。小さなゲート制御器が、現在の入力をどれだけ忘れ、メッセージをどれだけ加えるかを決めます。

記事によれば、MiniとSmallはどちらも1トークンあたり48回の層訪問を行います。一方、Miniの隠れ次元(モデル内部で情報を表すベクトルの幅)は2,304(Smallは4,608)です。また、Miniは各層128個のエキスパートから8個を選びます(Smallは384個から8個)。6層ごとのブロックには、近くのトークンだけを見るスライディングウィンドウ層が5つと、全体を見る全注意層が1つあります。ローカルウィンドウは最大1,024トークンです。

Hugging Faceの記事に基づくMiniとSmallの違い
項目Inkling 2 MiniInkling 2 Small
隠れ次元2,3044,608
層あたりのエキスパート数128(8個を選択)384(8個を選択)
層訪問回数1トークンあたり48回1トークンあたり48回
位置づけローカル環境向けに設計記事ではMiniのほうがはるかに小さいとされる

性能はどうか?制約は?

Hugging Faceによると、Inkling 2 MiniはArtificial Analysis Intelligence Index v5で同クラス最高水準です。Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VLと比べると、48ベンチマーク中32項目でリードしているとのことです。個別には、FrontierCode v2.0ではリードし、Terminal-Bench 4.0ではQwen3.8-27Bと並び、AutomationBench-AA v1.0.6ではQwenに劣るとしています。詳細なスコアは公式モデルカードをご覧ください。

対応プラットフォームと推論方法は?

Inkling 2 Miniの推論サポート(Hugging Faceの記事に基づく)
フレームワーク記事に記載された対応内容備考
transformersAutoModelForMultimodalLM。固定ループ版と可変ループ版に対応reasoning_effortで推論の強度を設定可能
Llama App/llama.cppGGUF 4ビット(IQ4_NL)と8ビット(Q8_0)Llama AppはmacOSとWindowsに対応し、ローカルでOpenAI互換APIを提供
MLXmlx-lmにアップストリーム済み。画像・テキスト入力に対応元のチェックポイントはnvfp4 + mxfp8で、再変換不要
SGLangDay-0対応。データセンター向けデプロイが対象SM103が必要。DSPARK投機的デコーディング(小型モデルが先読みし、大型モデルが検証して高速化)を追加可能

試してみるには?

以下は記事に登場したコマンドのみを掲載します。GGUFはllama.cppが使うモデルファイル形式です。4ビット・8ビットは量子化の度合い、つまり重みをどれだけ少ないビット数に圧縮するかを表します。4ビットはメモリ消費が少なく、8ビットは精度をより多く保てます。Linuxやコマンドラインで使う場合、記事が示す固定ループモデル用のコマンドは次のとおりです。8ビットの重みを読み込むには、末尾を :Q8_0 に変えます。

記事に記載のllama.cppコマンド · bash
llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL

transformersでは、記事はモデルID thinkingmachines/Inkling-2-Mini を使い、AutoProcessorとAutoModelForMultimodalLMを組み合わせています。推論の強度は none、minimal、low、medium、high(デフォルト、0.9)、xhigh、max のいずれかに設定できます。0.0〜0.99の数値を渡すこともできます。

よくある質問

Inkling 2 Miniは画像を扱えますか?

はい。Hugging Faceによると、画像とテキストの入力を受け付けるマルチモーダルモデルで、1Mトークンのコンテキストに対応します。コンテキストとは、モデルが一度に読み込める内容の長さです。

可変ループ版とは何ですか?

同じアーキテクチャの研究版(TML-d24-varloop-research)で、さまざまなループ回数を受け付けるよう訓練されています。1回または2回に設定すると推論は速くなりますが、出力品質がやや下がる可能性があります。Hugging Faceは、詳しい評価はまだ行っていないとしています。

記事に価格や日本での提供情報はありますか?

いいえ。記事には価格、ライセンス条件の詳細、特定地域での提供状況への言及はありません。公式のモデルページをご確認ください。

これらのベンチマーク結果は独立した検証と見なせますか?

いいえ。現時点の情報はHugging Faceの1本の記事のみで、同社の自己申告です。記事自体も追加の検証が必要だと述べています。

このトピックの最新ニュースを見る

この記事が役に立ったら、必要な方にシェアしてください

LINEで送るThreadsFacebookX

出典

上記の参考資料および記載の確認日時点の情報をもとに整理しています。料金・時刻・機能・利用規約は変更される場合があるため、ご旅行や予約・購入の前には該当する公式サイトで最新情報をご確認ください。

ライフスタイル