Inkling 2 Mini登場:総パラメータ約26B、1トークンあたり3BがアクティブなローカルAI向けマルチモーダルMoEモデル。transformers・llama.cpp・MLXに対応
Hugging Faceは11月20日、Thinking Machines LabのInkling 2 Miniを紹介しました。ローカル環境で動かせるマルチモーダルMoEのループ型モデルで、transformers、llama.cpp、MLX、SGLangに対応します。
ニュース日: 読了目安 7 分
Hugging Faceは2026年11月20日、Thinking Machines Labと共同で公開したInkling 2 Miniを紹介する記事を投稿しました。同社はこのモデルを、ローカル環境向けに設計された中型モデルと位置づけています。画像とテキストの両方を入力できるマルチモーダルモデルで、方式はMoE(Mixture of Experts、混合エキスパート)です。MoEでは、「エキスパート」と呼ばれる多数のサブネットワークのうち、ごく一部だけを使って各トークン(モデルがテキストを分割する最小単位)を処理します。そのため総パラメータは約26Bですが、1回あたり実際に動くのは約3Bです。記事は複数の推論フレームワークへの対応状況と使い方を挙げており、プレビュー、ウェイトリスト、地域制限には触れていません。自分のPCでモデルを動かしたい開発者にとっては、小型の選択肢が増えることになります。ただし、記事中の性能比較の多くはHugging Face自身の主張であり、同社も追加の検証が必要だと述べています。
Inkling 2 MiniとInkling 2 Smallの違いは?
Hugging Faceの説明によると、Inkling 2 Miniはループ型transformerです。24のデコーダ層のうち第6〜17層は、重みを共有したまま3回繰り返し実行されます。そのため計算上は48の論理層(6 + 3×12 + 6)に相当します。つまり、保存する重みは24層分だけで、48層に近い計算ができます。ループの各パスの間では「パス間メッセージ」で情報が受け渡されます。小さなゲート制御器が、現在の入力をどれだけ忘れ、メッセージをどれだけ加えるかを決めます。
記事によれば、MiniとSmallはどちらも1トークンあたり48回の層訪問を行います。一方、Miniの隠れ次元(モデル内部で情報を表すベクトルの幅)は2,304(Smallは4,608)です。また、Miniは各層128個のエキスパートから8個を選びます(Smallは384個から8個)。6層ごとのブロックには、近くのトークンだけを見るスライディングウィンドウ層が5つと、全体を見る全注意層が1つあります。ローカルウィンドウは最大1,024トークンです。
| 項目 | Inkling 2 Mini | Inkling 2 Small |
|---|---|---|
| 隠れ次元 | 2,304 | 4,608 |
| 層あたりのエキスパート数 | 128(8個を選択) | 384(8個を選択) |
| 層訪問回数 | 1トークンあたり48回 | 1トークンあたり48回 |
| 位置づけ | ローカル環境向けに設計 | 記事ではMiniのほうがはるかに小さいとされる |
性能はどうか?制約は?
Hugging Faceによると、Inkling 2 MiniはArtificial Analysis Intelligence Index v5で同クラス最高水準です。Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VLと比べると、48ベンチマーク中32項目でリードしているとのことです。個別には、FrontierCode v2.0ではリードし、Terminal-Bench 4.0ではQwen3.8-27Bと並び、AutomationBench-AA v1.0.6ではQwenに劣るとしています。詳細なスコアは公式モデルカードをご覧ください。
対応プラットフォームと推論方法は?
| フレームワーク | 記事に記載された対応内容 | 備考 |
|---|---|---|
| transformers | AutoModelForMultimodalLM。固定ループ版と可変ループ版に対応 | reasoning_effortで推論の強度を設定可能 |
| Llama App/llama.cpp | GGUF 4ビット(IQ4_NL)と8ビット(Q8_0) | Llama AppはmacOSとWindowsに対応し、ローカルでOpenAI互換APIを提供 |
| MLX | mlx-lmにアップストリーム済み。画像・テキスト入力に対応 | 元のチェックポイントはnvfp4 + mxfp8で、再変換不要 |
| SGLang | Day-0対応。データセンター向けデプロイが対象 | SM103が必要。DSPARK投機的デコーディング(小型モデルが先読みし、大型モデルが検証して高速化)を追加可能 |
試してみるには?
以下は記事に登場したコマンドのみを掲載します。GGUFはllama.cppが使うモデルファイル形式です。4ビット・8ビットは量子化の度合い、つまり重みをどれだけ少ないビット数に圧縮するかを表します。4ビットはメモリ消費が少なく、8ビットは精度をより多く保てます。Linuxやコマンドラインで使う場合、記事が示す固定ループモデル用のコマンドは次のとおりです。8ビットの重みを読み込むには、末尾を :Q8_0 に変えます。
llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NLtransformersでは、記事はモデルID thinkingmachines/Inkling-2-Mini を使い、AutoProcessorとAutoModelForMultimodalLMを組み合わせています。推論の強度は none、minimal、low、medium、high(デフォルト、0.9)、xhigh、max のいずれかに設定できます。0.0〜0.99の数値を渡すこともできます。
よくある質問
Inkling 2 Miniは画像を扱えますか?
はい。Hugging Faceによると、画像とテキストの入力を受け付けるマルチモーダルモデルで、1Mトークンのコンテキストに対応します。コンテキストとは、モデルが一度に読み込める内容の長さです。
可変ループ版とは何ですか?
同じアーキテクチャの研究版(TML-d24-varloop-research)で、さまざまなループ回数を受け付けるよう訓練されています。1回または2回に設定すると推論は速くなりますが、出力品質がやや下がる可能性があります。Hugging Faceは、詳しい評価はまだ行っていないとしています。
記事に価格や日本での提供情報はありますか?
いいえ。記事には価格、ライセンス条件の詳細、特定地域での提供状況への言及はありません。公式のモデルページをご確認ください。
これらのベンチマーク結果は独立した検証と見なせますか?
いいえ。現時点の情報はHugging Faceの1本の記事のみで、同社の自己申告です。記事自体も追加の検証が必要だと述べています。
同じテーマの記事
Claude Code 2.1.330:Enterprise Admin Consoleへのログイン、easelグラフモジュール、スケジュールタスクが最長30日に
AnthropicのClaude Code 2.1.330変更履歴には、Enterprise Admin Consoleへのログイン、組み込みグラフモジュールeasel、最長30日のスケジュールタスク、より厳格なrmコマンドの承認が記載されています。
AWS Quick アップデート:チャットでのフロー作成、マルチエージェント連携、Meta ads・Amplitude コネクタを追加。AWS によると全提供リージョンで即日利用可能
AWSが分散KVキャッシュのAgent Skillを公開:AWSは自前LLMのコスト最大40%減、初回トークン遅延最大80%減と説明
Amazon SageMaker HyperPod Slurm にクラスター拡張機能が登場:オブザーバビリティとユーザー管理の2つのマネージド拡張、HyperPod対応の全リージョンで利用可能
出典
上記の参考資料および記載の確認日時点の情報をもとに整理しています。料金・時刻・機能・利用規約は変更される場合があるため、ご旅行や予約・購入の前には該当する公式サイトで最新情報をご確認ください。