Ling-2.6-flash on Novita AI: 340 Tokens/s、約7倍のトークン効率

Ling-2.6-flash on Novita AI: 340 Tokens/s、約7倍のトークン効率

エージェントのトークン費用は急増しています。複数ステップのツール呼び出し、長いコンテキストの計画、拡張された出力により、一見安価に見えるトークン単価が、月末には非常に高額な請求書に変わります。業界の答え——ベンチマークスコアを押し上げるために長い推論トレースをつなげる——は、経済性を悪化させるだけで、改善にはなりません。

Ling-2.6-flash は、まったく異なる種類のモデルです。ハイブリッド線形アテンションアーキテクチャを基盤とし、4× H20 ハードウェア上で最大 340 tokens/s を達成し、Nemotron-3-Super の 2.2 倍のプリフィルスループット を実現。完全な Artificial Analysis Intelligence Index を完了するのに必要な出力トークンはわずか 約 1,500 万トークン で、Nemotron-3-Super の消費量の約 10分の1 です。つまり、Ling-2.6-flash は 104B MoE モデル(7.4B アクティブ)で、256K のコンテキストウィンドウを持ち、単一の注目ベンチマークよりも速度、コスト、安定性が重要なエージェントワークロード向けに最適化されています。現在 Novita AI で利用可能です。

Ling-2.6-flash とは何か?

Ling-2.6-flash は、合計 104B パラメータフォワードパスあたり 7.4B アクティブパラメータ を持つスパース Mixture-of-Experts 言語モデルです。Ling チーム(InclusionAI)によって開発され、「Instant」カテゴリのモデルとして設計されています。トークン消費とレイテンシが単なるベンチマークの見出しではなく、実際のコストとなるプロダクションのエージェントデプロイメント向けに最適化されています。

  • 104B 合計 / 7.4B アクティブパラメータ — 高いスパース性を持つ MoE アーキテクチャ
  • 256K トークンのコンテキストウィンドウ — ハイブリッド線形アテンションにより実現
  • 4× H20 で 340 tokens/s のピークスループット(TP=4)
  • ハイブリッド 1:7 MLA + Lightning Linear アテンション — 長いコンテキストで 4 倍のスループット
  • トップエージェントベンチマーク — BFCL-V4(67.04)、PinchBench(81.10)、IFBench(58.10)、Multi-IF Turn-3(74.85)でリード
  • BF16、FP8、INT4 バリアント — Linghe 経由でオープンソースリリースを計画
  • プロダクションで検証済み — ローンチから数日以内に OpenRouter で毎日約 1,000 億トークンを処理

ハイブリッド線形アーキテクチャ:Ling-2.6-flash が大規模に高速化する仕組み

ほとんどの MoE モデルは、標準的なトランスフォーマーアテンションとスパース FFN 層を組み合わせています。Ling-2.6-flash は、ほとんどのアテンションを Lightning Linear 層に置き換え、1:7 MLA + Lightning Linear ハイブリッド を形成しています。アテンションのコストはコンテキスト長に対して二次関数的ではなく線形に増加するため、長いエージェントセッションで重要です。

Ling-2.6-flash ハイブリッド線形アテンション MoE アーキテクチャ図

Ling-2.6-flash アーキテクチャ:157K 語彙、256K コンテキスト、1:7 MLA + Lightning Linear ハイブリッド、256 の選択可能なエキスパート [出典:Ling 公式ブログ]

デコードスループット:長い出力で最大 4.38 倍

4× H20-3e(TP=4、バッチサイズ 32)において、Ling-2.6-flash は 65,536 トークン出力長で 4.38 倍の正規化デコードスループット を達成(GLM-4.5-Air ベースライン比)。Qwen3.5-122B-A10B は 1.90 倍、Nemotron-3-Super は 3.37 倍。タスク出力長が増えるにつれて差は拡大します。

Ling-2.6-flash 正規化デコードスループット vs 生成長

デコードスループット比較、4× H20-3e、TP=4、Batch=32 [出典:Ling 公式ブログ]

プリフィルスループット:長いコンテキストで Nemotron の 2.2 倍

Ling-2.6-flash は 65K コンテキストで約 4.68 倍の正規化プリフィルスループット を達成(Nemotron-3-Super は約 2.12 倍)。RAG パイプラインや長いシステムプロンプトを持つマルチターンエージェントにとって、これはリクエストあたりのコストを直接削減します。

Ling-2.6-flash プリフィルスループット vs コンテキスト長

プリフィルスループット比較、4× H20-3e、TP=4、Batch=32 [出典:Ling 公式ブログ]

トークン効率:同じベンチマークを解くのに 1,500 万 vs 1.1 億

完全な Artificial Analysis Intelligence Index において、Ling-2.6-flash は 約 1,500 万の出力トークン を使用します。Nemotron-3-Super は 1.1 億以上 を使用——エージェントタスクでスコアが低いモデルにもかかわらず、約 7 倍の差があります。毎日数十万のエージェントタスクを実行するアプリケーションにとって、この差はコスト予算に直接影響する項目です。

トークン使用量比較:Ling 2.6 Flash 1,500万 vs Nemotron 1.1億以上

Artificial Analysis Intelligence Index 完了に必要な出力トークン——Ling 2.6 Flash:約 1,500 万 vs Nemotron-3-Super:約 1.1 億以上 [出典:Artificial Analysis]

インテリジェンス vs 出力トークン散布図——Ling 2.6 Flash の高効率ゾーン

インテリジェンス vs 出力トークン:Ling 2.6 Flash は高効率ゾーンに位置 [出典:Artificial Analysis]

ベンチマーク結果:Ling-2.6-flash がリードする領域

Qwen3-57B-A14B、Qwen3.5-122B-A10B、GLM-4.5-Air、Nemotron-3-Super、MiniMax-M1-80k に対して、7 カテゴリ 19 のベンチマークで評価:

Ling-2.6-flash 完全ベンチマーク表:6 モデル、19 ベンチマーク、7 カテゴリ

包括的なベンチマーク表 [出典:Ling 公式ブログ]

Ling-2.6-flash エージェントベンチマーク比較——BFCL-V4 と PinchBench でリーダーシップ

エージェントベンチマーク:Ling-2.6-flash はツール使用とマルチターン IF でリード [出典:Ling 公式ブログ]

Ling-2.6-flash がリードする領域

  • BFCL-V4(関数呼び出し): 67.04——最も近い競合 Nemotron は 35.12(90% の差)
  • PinchBench(エージェントタスク): 81.10 vs Nemotron 73.10
  • IFBench(指示追従): 58.10
  • Multi-IF Turn-3: 74.85——強力なマルチターン指示持続性
  • LongBench-v2: 54.80——長いコンテキストカテゴリでトップ
  • CCAlignBench(中国語): 7.44——テストされた全モデル中で最高

他モデルがリードする領域

  • 数学(AIME 2025、MATH-500): Nemotron-3-Super と Qwen3 推論バリアントが勝利
  • コーディング(LiveCodeBench): Qwen3.5-122B-A10B がリード;Ling は競争力があるがトップではない
  • GPQA-Diamond: GLM-4.5-Air と Nemotron が高スコア

クイック比較表

モデル アクティブパラメータ BFCL-V4 ↑ PinchBench ↑ デコードTP @ 65K ↑ 出力トークン ↓
Ling-2.6-flash 7.4B 67.04 81.10 4.38× ~15M
Nemotron-3-Super 49B total 35.12 73.10 3.37× ~110M+
Qwen3.5-122B-A10B 10B 78.20 1.90×
GLM-4.5-Air 50.67 73.30 1.00× (ベースライン)
MiniMax-M1-80k 44.07 75.70
Qwen3-57B-A14B 14B 52.32 76.30

Novita AI がバックエンドする Ling-2.6-flash へのアクセス

Ling-2.6-flash は現在利用可能です。OpenRouter でお試しください。無料ティア、セットアップ不要:

OpenRouter — inclusionai/ling-2.6-flash:free で始めましょう。無料ティアが利用可能で、OpenAI 互換クライアントにコード変更は不要です。

Ling-2.6-flash は、LangChain、LlamaIndex、OpenAI Agent SDK と連携します。アダプターやコード変更は必要ありません。ストリーミング、関数呼び出し、構造化出力もすべてサポートされています。推論と安全なコード実行を組み合わせるために、Novita Agent Sandbox と組み合わせてご利用ください。

コミュニティの声

Ling-2.6-flash は、正式発表前に OpenRouter で “Elephant Alpha” としてローンチされました。数日以内に約 1,000 億トークンを処理し、発表なしでプラットフォームのトレンドリーダーボードのトップに躍り出ました。

「Ling-2.6-flash は実務志向のモデルですね。大きなモデルに比べて約 75% 冗長性が少ない。まだ少し定型文はありますが、コードを書くに関しては——ほぼ完璧です。」

— X/Twitter の初期ユーザー

「Ling-2.6-flash を llama.cpp のコーディングタスクで試してみました。予想よりもはるかに良い。ツール呼び出しを確実に処理し、不必要な説明で出力を膨らませることもありません。」

— Reddit の初期ユーザー

「75% 冗長性が少ない」というコメントは、Artificial Analysis ベンチマークにおける 1,500 万 vs 1.1 億のトークン差と正確に一致しています。トレーニング目標は直接的で完全な回答を報奨するように設計されているようで、この特性はプロダクション規模でコスト削減に大きく寄与します。

Ling-2.6-flash を誰が使うべきか?

  • 高頻度の関数呼び出し / ツール使用エージェント —— BFCL-V4 で大きなリード
  • マルチターンエージェントセッション —— 長い会話履歴にわたって一貫性
  • 長いコンテキストの RAG パイプライン —— 256K トークンウィンドウ、線形コストのプリフィル
  • コスト重視のプロダクションデプロイメント —— Nemotron 比約 7 倍少ない出力トークン
  • 中国語アプリケーション —— CCAlignBench でトップ
  • 数学競技 / AIME スタイルの推論 —— Nemotron または Qwen3 推論バリアントを使用
  • 最大のコーディングベンチマークパフォーマンス —— Qwen3.5-122B-A10B がリード

はじめに

Ling-2.6-flash は現在利用可能です。OpenRouter モデルページ からアクセスしてください。無料ティアはすぐに利用可能で、OpenAI 互換クライアントにコード変更は不要です。推論と安全な実行を組み合わせるチーム向けに、Agent Sandbox も併せてご利用いただけます。

Ling-2.6-flash を試す →

よくある質問

Ling-2.6-flash とは何ですか?

Ling-2.6-flash は 104B MoE モデル(7.4B アクティブ)で、ハイブリッド線形アテンション、256K コンテキストウィンドウ、最大 340 tokens/s の推論速度を備え、エージェントワークロード向けに最適化されています。

API 経由で Ling-2.6-flash を使用するには?

OpenRouter を Novita AI API キー(BYOK)と共に使用します。openrouter.ai/settings/integrations で Novita キーを追加し、プロバイダとして Novita を選択し、OpenAI 互換エンドポイントを介してリクエストを inclusionai/ling-2.6-flash:free にルーティングします:

POST https://openrouter.ai/api/v1/chat/completions
Authorization: Bearer YOUR_OPENROUTER_API_KEY

{
  "model": "inclusionai/ling-2.6-flash:free",
  "provider": {
    "order": ["Novita"],
    "api_key": "YOUR_NOVITA_API_KEY"
  },
  "messages": [{"role": "user", "content": "Hello!"}]
}

完全なセットアップについては OpenRouter BYOK ドキュメント を参照してください。BYOK を使用する場合、OpenRouter は手数料を請求しません。Novita に直接支払い、無料ティアの価格設定でご利用いただけます。

Ling-2.6-flash は Nemotron-3-Super と比較してどうですか?

Ling は BFCL-V4(67.04 vs 35.12)、PinchBench(81.10 vs 73.10)でリードし、約 7 倍少ない出力トークンを使用します。Nemotron は数学でリードします。エージェントワークロードには、Ling-2.6-flash の方が経済的に優れた選択肢です。

コンテキストウィンドウは?

256K トークン(262,144)で、ハイブリッド線形アテンションにより線形コストのプリフィルを実現します。長い RAG やマルチターンセッションが効率的にスケールします。

Ling-2.6-flash はオープンソースですか?

BF16、FP8、INT4 バリアントと Linghe カーネルはオープンソースリリースが計画されています。時期は未定です。最新情報は Ling 公式サイト をご確認ください。


こちらもおすすめ