English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

BaiDu ERNIE 4.5 MoEモデルAPIがNovita AIで提供開始

著者 / / Updates / 6 分で読めます
BaiDu ERNIE 4.5 MoEモデルAPIがNovita AIで提供開始
目次
  1. ERNIE 4.5 とは？
  2. パフォーマンスと機能
  3. 技術革新
  4. デプロイメントと統合
  5. Novita AIでERNIE 4.5-300B-A47Bにアクセスする方法
  6. まとめ

ERNIE 4.5は、Baiduが開発した最先端のオープンウェイト混合エキスパート（MoE）モデルで、Novita AIで利用可能になりました！

以下がNovita AIでのERNIE 4.5の現在の料金です：

baidu/ernie-4.5-vl-28b-a3b: 30kコンテキスト、無料

baidu/erine-4.5–21B-a3b: 120kコンテキスト、無料

baidu/erine-4.5–0.3b: 120kコンテキスト、無料

baidu/erine-4.5-vl-424b-a47b: 123kコンテキスト、入力$0.42/Mトークン、出力$1.25/Mトークン

baidu/ernie-4.5–300b-a47b-paddle: 123kコンテキスト、入力$0.3/Mトークン、出力$1/Mトークン

ERNIE-4.5-300B-A47Bのデモを今すぐ試す

ERNIE 4.5 とは？

ERNIE 4.5は、Baiduが提供する最新のオープンソースモデルシリーズで、10種類のモデルで構成されています。ラインナップには、アクティブパラメータ470億および30億の混合エキスパート（MoE）モデル（最大モデルは総パラメータ4240億）と、3億パラメータのDenseモデルが含まれています。

erine family

アーキテクチャの革新： これらのモデルは、** 革新的なマルチモーダル異種混合モデル構造**を採用しており、クロスモーダルパラメータ共有メカニズムを通じてクロスモーダル知識融合を実現しつつ、個々のモダリティ専用のパラメータ空間を保持しています。このアーキテクチャは、大規模言語モデルからマルチモーダルモデルへの継続事前学習パラダイムに非常に適しており、テキストタスクのパフォーマンスを維持または向上させながら、マルチモーダル理解能力を大幅に強化します。

フレームワークとトレーニング： すべてのERNIE 4.5シリーズモデルは、**PaddlePaddle深層学習フレームワーク ** を使用して効率的にトレーニング、推論、デプロイされています。大規模言語モデルの事前学習において、Model FLOPs Utilization (MFU) は47% に達しています。

パフォーマンスと機能

ベンチマークの成果： 実験結果によると、このモデルシリーズは複数のテキストおよびマルチモーダルベンチマークで ** 最先端（SOTA）のパフォーマンス**を達成しており、特に以下の分野で顕著な結果を示しています：

ernie 4.5 benchmark

  • 指示追従 - 複雑なコマンドの理解と実行
  • 世界知識の保持 - 包括的な事実知識の保存と想起
  • 視覚的理解 - 高度な画像理解能力
  • マルチモーダル推論タスク - テキストと視覚入力にわたる複雑な推論

モデル仕様（ERNIE-4.5-300B-A47B）：

  • 総パラメータ数： 300B、トークンあたり47Bアクティブ
  • アーキテクチャ： 54層、64クエリヘッド / 8キーバリューヘッド
  • エキスパート構成： 64テキストエキスパート（8アクティブ）/ 64視覚エキスパート（8アクティブ）
  • コンテキスト長： 131,072トークン
  • モダリティ： マルチモーダルトレーニング機能を備えたテキスト

アクセシビリティとデプロイメント：

  • Apache 2.0ライセンス - モデルウェイトは学術研究および産業アプリケーション向けにオープンソース化
  • 産業グレードの開発ツールキット - ERNIEKitサポートを備えたPaddlePaddleの包括的なスイートに基づく
  • 幅広いチップ互換性 - さまざまなハードウェアプラットフォームで動作し、事後トレーニングとデプロイの障壁を低減
  • 優れた推論パフォーマンス - FastDeploy、Transformers、vLLM統合を含む複数のデプロイオプション
  • 柔軟な量子化 - さまざまなリソース制約に対応する4ビット、2ビット、FP8オプション

技術革新

マルチモーダル混合エキスパートモデルの事前学習

アプローチ： ERNIE 4.5は、** テキストと視覚のモダリティにわたる共同トレーニング**を実行し、マルチモーダル情報の微妙な違いをより適切に捉え、テキスト生成、画像理解、マルチモーダル推論タスクのパフォーマンスを向上させます。

革新点： 学習中に2つのモダリティが相互に強化し合いながらも、一方のモダリティが他方の学習を妨げないようにするため、Baiduは ** マルチモーダル異種混合エキスパートモデル構造**を提案しており、以下の特徴があります：

  • 専門的なエキスパート割り当てのための モダリティ分離ルーティング
  • エキスパートの専門性を高める ルーター直交損失
  • モダリティ間の最適なリソース利用のための マルチモーダルトークンバランス損失

高度な最適化： これらのアーキテクチャ上の選択により、両方のモダリティが効果的に表現され、トレーニング中の ** マルチモーダルの相互促進と改善**が可能になります。

効率的なトレーニングと推論フレームワーク

トレーニングの最適化： ERNIE 4.5モデルの効率的なトレーニングをサポートするため、Baiduは ** 異種混合並列処理と階層的負荷分散戦略**を提案しています。複数の先進技術を通じて、事前学習のスループットを大幅に向上させています：

  • ノード内エキスパート並列処理 - 計算ノード内での最適化された並列処理
  • メモリ効率の良いパイプラインスケジューリング - トレーニング中のスマートなメモリ管理
  • FP8混合精度トレーニング - 高度な数値精度技術
  • 細粒度の再計算 - メモリ効率のための戦略的な再計算

推論のブレークスルー： 推論最適化のために、いくつかの最先端手法を提案しています：

  • マルチエキスパート並列協調手法 - モデルエキスパート間の協調処理
  • 畳み込みコード量子化アルゴリズム - 圧縮のための高度な符号化技術
  • ほぼロスレス量子化： 最小限のパフォーマンス低下で 4ビット量子化と2ビット量子化 を実現
  • 動的役割切り替えによるPD分離 - リソースをより完全に活用し、ERNIE 4.5 MoEモデルの推論パフォーマンスを向上させる適応型デプロイメント

モダリティ固有の事後トレーニング

カスタマイズされた最適化： 実用的なシナリオにおけるさまざまな要件を満たすため、Baiduは ** 事前学習モデルに対してモダリティ固有のファインチューニング**を実行します：

大規模言語モデル（LLM）：

  • 一般的な言語理解と生成 に特化して最適化

視覚言語モデル（VLM）：

  • 視覚言語理解 に焦点を当てる
  • 思考モード ** と非思考モード** の両方の操作をサポート

多段階トレーニングパイプライン： 各モデルは、高度な技術を使用した ** 多段階事後トレーニング**を採用：

  • SFT（教師ありファインチューニング） - 教師あり例からの学習
  • DPO（直接選好最適化） - 選好に基づく直接最適化
  • UPO（統一選好最適化） - Baidu独自の統一選好最適化技術

デプロイメントと統合

ERNIE-4.5モデルは、FastDeploy、Hugging Face Transformers、またはvLLMを使用してデプロイできます。さまざまな量子化レベルとサービングフレームワークにより、さまざまなハードウェア構成で効率的に実行できます：

  • フル精度モデル は多くのGPU（通常、各80GB以上のVRAMを搭載した16GPU）を必要とします。
  • 量子化モデル（WINT4、W4A8C8、WINT2など）はVRAM要件を大幅に削減します。例えば、WINT4またはW4A8C8は4～8×80GB GPUで実行可能で、WINT2は少なくとも141GBのVRAMがあれば単一GPUデプロイが可能です。
  • Transformers統合 により柔軟な使用が可能ですが、大規模モデルには依然としてかなりのVRAMが必要です。
  • vLLM は高スループット、マルチGPU推論に最適です。量子化モデルは利用可能なGPUメモリ内に収めるのに役立ちます。
  • 推奨サンプリング： Temperature=0.8、Top-P=0.8

Novita AIでERNIE 4.5-300B-A47Bにアクセスする方法

Novita AIでERNIE 4.5-300B-A47Bを使い始めるのは簡単でリスクもありません。新規ユーザーには $10の無料クレジット が提供され、初期費用なしでERNIE 4.5-300B-A47Bを試すことができます。

Playgroundを使用する（コーディング不要）

インスタントアクセス：サインアップして無料クレジットを取得し、ERNIE 4.5やその他のトップモデルを数秒で試し始めましょう。

インタラクティブUI：プロンプト、連鎖思考推論をテストし、結果をリアルタイムで可視化できます。

モデル比較：ERNIE 4.5、Qwen 3、Llama 4、DeepSeekなど、ニーズにぴったりのモデルを簡単に切り替えて見つけられます。

API経由で統合する（開発者向け）

Novita AIの統一REST APIを使用して、ERNIE 4.5をアプリケーション、ワークフロー、チャットボットにシームレスに接続できます。モデルウェイトの管理やインフラの心配は不要です。Novita AIは多言語SDK（Python、Node.js、cURL）と高度なパラメータ制御を提供します。

オプション1：直接API統合（Python例）

curl "https://api.novita.ai/v3/openai/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer " \
  -d @- << 'EOF'
{
    "model": "baidu/ernie-4.5-300b-a47b-paddle",
    "messages": [
        {
            "role": "system",
            "content": Be a helpful assistant
        },
        {
            "role": "user",
            "content": "Hi there!"
        }
from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "baidu/ernie-4.5-300b-a47b-paddle"
stream = True # or False
max_tokens = 6000
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
      "response_format": { "type": "text" },
    "max_tokens": 32768,
    "temperature": 1,
    "top_p": 1,
    "min_p": 0,
    "top_k": 50,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "repetition_penalty": 1
}
EOF

オプション2：OpenAI Agents SDKによるマルチエージェントワークフロー

Novita AIをOpenAI Agents SDKと統合して、高度なマルチエージェントシステムを構築します：

  • プラグアンドプレイ： 任意のOpenAI AgentsワークフローでNovita AIのERNIE 4.5を使用
  • ハンドオフ、ルーティング、ツール使用をサポート： ERNIE 4.5の機能を活用して、委任、トリアージ、関数実行が可能なエージェントを設計
  • Python統合： SDKをNovitaのエンドポイント（https://api.novita.ai/v3/openai）に向けてAPIキーを使用するだけ

サードパーティプラットフォームでERNIE 4.5 APIに接続する

  • Hugging Face：Novita AIのエンドポイントを介して、Spaces、パイプライン、またはTransformersライブラリでERNIE 4.5を使用。

  • エージェント＆オーケストレーションフレームワーク： Continue、AnythingLLM、LangChain、Dify、Langflowなどのパートナープラットフォームと、公式コネクタおよびステップバイステップの統合ガイドを通じて簡単に接続。

  • OpenAI互換API： ClineやCursorなどのOpenAI API標準向けに設計されたツールと、手間のかからない移行および統合を実現。

まとめ

ERNIE 4.5は、高度な混合エキスパートアーキテクチャと革新的なマルチモーダル学習を組み合わせた、多用途でオープンソースのAIモデルシリーズです。言語タスクと視覚タスクの両方で強力で効率的なパフォーマンスを実現し、次世代AIアプリケーションの強固な基盤となります。

AI推論の未来を体験する準備はできましたか？ Novita AIでERNIE 4.5を試してみてください。

Novita AIは、シンプルなAPIを使用してAIモデルを簡単にデプロイできる機能を開発者に提供するとともに、手頃な価格で信頼性の高いGPUクラウドを提供するAIクラウドプラットフォームです。

関連記事