English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

Gemma 3 27B にローカル、API、クラウド GPU でアクセスする方法

著者 / / LLM / 6 分で読めます
Gemma 3 27B にローカル、API、クラウド GPU でアクセスする方法
目次
  1. Gemma 3 27B とは？
  2. Gemma 3 27B にローカルでアクセスする方法
  3. Novita API 経由で Gemma 3 27B にアクセスする方法
  4. Chatbox 経由で Gemma 3 27B を使用する
  5. クラウド GPU 経由で Gemma 3 27B を使用する
  6. よくある質問
  7. シンプルな API とスケーラブルな GPU

主なハイライト

Gemma 3 27B は、Google が 2025 年 3 月 にリリースしたオープンソースのマルチモーダル LLM です。

新しいトークナイザーと **128K コンテキストウィンドウ ** で 140 以上の言語 をサポート。

テキストと画像 の両方の入力を処理し、テキストを出力。

14 兆トークン ** でトレーニングされ、 数学、コード、指示追従** に優れています。

ベンチマークスコア：1339 Elo、69.0 (MATH)、67.5 (MMLU-Pro)。

単一の NVIDIA H100 で実行可能。または Ollama (ローカル) や Novita AI API / Cloud GPU でデプロイ可能。

Gemma 3 27B は、Google が構築した強力で柔軟な LLM です。多言語対応、マルチモーダル入力、高いパフォーマンスを兼ね備えており、ローカルでもクラウドでも多様な AI ワークロードに最適です。

Gemma 3 27B とは？

注目すべき機能

  • 高度な多言語サポート: 新しいトークナイザーにより、Gemma 3 は 140 以上の言語で高い効果を発揮します。
  • マルチモーダル入力: 画像とテキストの両方を処理できるため、さまざまなアプリケーションで活用できる汎用性の高いツールです。
  • 拡張コンテキストウィンドウ: 128K トークンの容量により、広範で詳細な入力を処理できます。
  • オープンソースでコミュニティフレンドリー: オープンソースであるため、コミュニティによる実験と幅広い採用が促進されます。
カテゴリ 項目 詳細
基本情報 リリース日 2025 年 3 月 12 日
モデルサイズ 270 億パラメータ
オープンソース はい（Google によるリリース）
言語サポート 対応多言語 140 以上の言語
トレーニング トレーニングデータ 14 兆トークン
強み 数学、コーディング、指示追従
マルチモーダル マルチモーダル機能 あり（画像とテキストを処理し、テキストを出力）
コンテキスト コンテキストウィンドウ 128K トークン
精度別モデルサイズ bf16 (Raw) 重み: 54.0 GB；重み + KV キャッシュ: 72.7 GB
INT4 重み: 14.1 GB；重み + KV キャッシュ: 32.8 GB
INT4 (blocks=32) 重み: 15.3 GB；重み + KV キャッシュ: 34.0 GB
SFP8 重み: 27.4 GB；重み + KV キャッシュ: 46.1 GB

Gemma 3 27B ベンチマーク

ベンチマーク Gemma 3 27B DeepSeek R1 LLaMA 3.3 70B
LMSys Elo スコア 1339 ~1360 ~1260
MMLU-Pro 67.5 84.0 66.4
LiveCodeBench 29.7 65.9 ~29
GPQA Diamond 42.4 71.5 50.5
MATH 69.0 97.3 77.0

Gemma 3 27B にローカルでアクセスする方法

ハードウェア要件

Gemma 3 27B は、「単一の GPU で実行できる最も高性能なモデル」 と説明されています。

ELO SCORE Google より

**セットアップ ** **VRAM 要件 ** ** 注記**
クラウドデプロイメント 約 80GB VRAM（シングル/マルチ GPU） 最適なクラウドデプロイメントパフォーマンスには、A100 または H100 GPU 推奨。または RTX 4090 24GB（x3）
Apple Silicon mlx-vlm 経由で Gemma 3 4B サポート Gemma 3 4B は、mlx-vlm（Apple Silicon デバイス（Mac や iPhone を含む）でビジョン言語モデルを実行するためのオープンソースライブラリ）で初日からサポートされています。

Gemma 3 27B をローカルにインストールする手順

# Step 0: NVIDIA GPU の確認
nvidia-smi

# Step 1: Ubuntu パッケージソースの更新
apt update

# Step 2: GPU 検出のための Ollama 依存関係のインストール
apt install pciutils lshw

# Step 3: Ollama のインストール
curl -fsSL https://ollama.com/install.sh | sh

# Step 4: Ollama サーバーの起動（このターミナルで実行し、開いたままにしておく）
ollama serve

# Step 5: （新しいターミナルで）Ollama が動作しているか確認
ollama

# Step 6: Gemma-3 モデルのインストール（いずれかを選択）

# Gemma-3 1B の実行
# ollama run gemma3:1b

# Gemma-3 4B の実行
# ollama run gemma3:4b

# Gemma-3 12B の実行
# ollama run gemma3:12b

# ✅ 推奨: Gemma-3 27B の実行
ollama run gemma3:27b

# Step 7: コンソールでプロンプトを通じてモデルと直接対話
# 例:
# You are an AI-powered trading analyst specializing in cryptocurrency markets.
# Your task is to design an autonomous AI agent that can predict market trends,
# execute trades, and manage risks efficiently. Your response should include:
# - A strategy for analyzing on-chain + off-chain data
# - Model choice for price prediction and sentiment
# - A Python code snippet
# - Risk management methods
# - Ethical concerns

Novita API 経由で Gemma 3 27B にアクセスする方法

Step 1: ログインしてモデルライブラリにアクセス

アカウントにログインし、「Model Library」 ボタンをクリックします。

ログインしてモデルライブラリにアクセス

今すぐ Gemma 3 27B デモを試す！

Step 2: 無料トライアルを開始

無料トライアルを開始して、選択したモデルの機能を試します。

gemma 3 の無料トライアルを開始

Step 3: API キーを取得

API で認証するために、新しい API キーを提供します。「Settings」ページに移動し、画像の指示に従って API キーをコピーします。

API キーの取得

Step 4: API をインストール

プログラミング言語に応じたパッケージマネージャーを使用して API をインストールします。

gemma 3 への API インストール

インストール後、開発環境に必要なライブラリをインポートします。API キーを使用して API を初期化し、Novita AI LLM との対話を開始します。以下は Python ユーザー向けのチャット補完 API の使用例です。

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "google/gemma-3-27b-it"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

Chatbox 経由で Gemma 3 27B を使用する

Step 1: Chatbox をインストール

Chatbox 経由で Gemma 3 27B を使用

  1. 「Setting」 オプションを選択します。この設定により、Novita AI のような OpenAI API 標準に準拠した API との互換性が確保されます。
  2. 設定フィールドを入力します。
    • Base URL: https://api.novita.ai/v3/openai を入力します。
    • API Key: Novita AI API Key を貼り付けます。
    • Model Name: 先ほどコピーしたモデル名（例： google/gemma-3-27b-it）を貼り付けます。
  3. 設定が完了したら、「Done」 をクリックします。

クラウド GPU 経由で Gemma 3 27B を使用する

Step1：アカウント登録

Novita AI が初めての場合は、まず Web サイトでアカウントを作成します。登録後、「GPUs」タブに移動して利用可能なリソースを確認し、旅を始めましょう。

Novita AI ウェブサイトのスクリーンショット

Step2：テンプレートと GPU サーバーの探索

まず、プロジェクトのニーズに合ったテンプレート（PyTorch、TensorFlow、CUDA など）を選択します。必要なバージョン（例： PyTorch 2.2.1 または CUDA 11.8.0）を選択します。次に、A100 GPU サーバー構成を選択します。これは、十分な VRAM、RAM、ディスク容量で要求の厳しいワークロードを処理する強力なパフォーマンスを提供します。

クラウド GPU を使用した novita ai ウェブサイトのスクリーンショット

Novita AI の高性能 GPU を試す

Step3：デプロイメントを調整

テンプレートと GPU を選択したら、オペレーティングシステムのバージョン（例： CUDA 11.8）などのパラメータを調整してデプロイメント設定をカスタマイズします。その他の構成も調整して、プロジェクトの特定の要件に合わせて環境を調整できます。

クラウド GPU を使用した novita ai ウェブサイトのスクリーンショット

Step4：インスタンスを起動

テンプレートとデプロイメント設定が確定したら、「Launch Instance」をクリックして GPU インスタンスをセットアップします。これにより環境のセットアップが開始され、AI タスクに GPU リソースを使用できるようになります。

クラウド GPU を使用した novita ai ウェブサイトのスクリーンショット

強力なベンチマークと簡単なデプロイメントオプションにより、Gemma 3 27B は、オープンで高品質な AI ツールを求める開発者や研究者にとって最適な選択肢です。

よくある質問

Gemma 3 27B とは何ですか？

Gemma 3 27B は、Google が開発した 270 億パラメータのオープンソース大規模言語モデルです。マルチモーダル入力（テキスト + 画像）、140 以上の言語、128K トークンのコンテキストウィンドウをサポートします。

Gemma 3 27B をローカルで実行するためのハードウェア要件は？

約 80GB VRAM が必要です。単一の NVIDIA H100 で十分です。複数の RTX 4090（例： 3×24GB）でも実行できます。

Gemma 3 27B の API バージョンはありますか？

はい！Gemma 3 27B には、**OpenAI API 標準 ** と完全互換の Novita AI API を通じてアクセスできます。

Novita AI は、開発者がシンプルな API を使用して AI モデルを簡単にデプロイできるようにする一方、手頃な価格で信頼性の高い GPU クラウドを提供し、構築とスケーリングを支援する AI クラウドプラットフォームです。

おすすめの読み物

シンプルな API とスケーラブルな GPU

Novita AI は、開発者がシンプルな API を使用して AI モデルを簡単にデプロイできるようにする一方、手頃な価格で信頼性の高い GPU クラウドを提供し、構築とスケーリングを支援する AI クラウドプラットフォームです。

今すぐ Gemma 3 27B デモを試す

関連記事