セルフホストモデル

独自のAIインフラストラクチャをホストすることで、GitLab Duoの各種機能を任意のLLMで動作させることができます。セルフホストAIゲートウェイを使用すると、すべてのリクエストおよびレスポンスデータを自組織環境内に保持し、外部APIに対するコールを実行することなく、LLMバックエンドへのリクエストのライフサイクル全体を管理できます。

デプロイオプション

セルフホストモデルは、複数のデプロイオプションに対応しています。

GitLab Duo Agent Platform

オンプレミス型モデル、またはGitLab Duo Agent Platform内のプライベートクラウドでホストされるモデルには、GitLab Duo Agent Platform Self-Hostedを使用します。

オフラインライセンスをお持ちのお客様は、GitLab Duoのエンタープライズライセンス契約に基づいて請求が行われ、GitLab Duo Agent Platformセルフホスト型アドオンが必要です。

オンラインライセンスをお持ちのお客様の場合、請求は使用量課金です。ハイブリッドデプロイメントでは、GitLabが管理するモデルも使用できます。

GitLab Duo

GitLab Duo Self-Hostedは、GitLab Duo Enterpriseを利用し、GitLab Duo機能を使用している顧客向けです。使用できるモデルは次のとおりです:

• オンプレミスモデルまたはプライベートクラウドでホストされるモデル
• ハイブリッドデプロイメントのGitLab管理モデル

このオプションはシートベースの価格設定となっています。

機能のバージョンとステータス

下記の表に次の一覧を示します:

• 機能を使用するために必要なGitLabのバージョン。
• 機能のステータス。デプロイメントの機能ステータスは、機能にリストされているステータスと異なる場合があります。

GitLab Duo Self-HostedでGitLab Duo機能を使用するには、GitLab Duo Enterpriseアドオンが必要です。これは、GitLabがクラウドベースのAIゲートウェイを介してこれらのモデルをホストおよび接続し、GitLab Duo CoreまたはGitLab Duo Proでこれらの機能を使用できる場合でも適用されます。

Agent Platformのインターネット接続要件

インターネット接続の要件は、お使いのサブスクリプションがオンラインライセンスかオフラインライセンスかによって異なります。

お使いのサブスクリプションがオンラインライセンスの場合、使用量課金には送信インターネット接続が必要です。お使いのファイアウォールまたはネットワークポリシーが以下のコンポーネントのいずれかをブロックすると、使用量課金は失敗し、GitLab Duo Agent Platformの機能を使用できません。

お使いのサブスクリプションがオフラインライセンスの場合、お使いのインスタンスは以下のコンポーネントに接続しません。使用量課金ではなく、エンタープライズライセンス契約に基づいて請求が行われます。詳細については、オフラインデプロイを参照してください。

補足説明:

1. HTTP/2が必要です。

これらのコンポーネントには請求メタデータのみが送信されます。プロンプト、コード入力、およびモデルの応答は、お客様のネットワーク外には送信されません。送信されるデータの種類については、データ送信を参照してください。

データ転送

以下の請求メタデータが、使用量課金のためにJSONオブジェクトでGitLabに送信されます:

• インスタンスID
• ユーザーID
• 呼び出し回数
• タイムスタンプ

例:

{
  "InstanceId": "ccbb3949-9836-471c-b2nb-32a38e8cca99",
  "GlobalUserId": "KWDTe17sGSADiAzEGJ6IuL1D7RAzsXqa2wun3aX1YuA=",
  "Quantity": 1,
  "Timestamp": "2026-05-04 18:04:30.969000000"
}

コード入力、モデルプロンプト、モデル応答を含む推論データは、顧客のネットワーク外に送信されることはありません。

GitLabは、顧客がどのモデルまたはモデルプロバイダーを使用しているかを捕捉しません。

AIゲートウェイ構成

デプロイオプションを選択したら、次にAIゲートウェイのLLM接続を構成します:

• セルフホストAIゲートウェイとLLM: AIインフラストラクチャを完全に制御するために、独自のAIゲートウェイとモデルを使用します。
• ハイブリッドAIゲートウェイとモデル構成: 機能ごとに、独自のAIゲートウェイとセルフホストモデルを使用するか、GitLab.comのAIゲートウェイとGitLab管理のモデルを使用します。
• デフォルトのGitLab外部ベンダーLLMを使用したGitLab.com AIゲートウェイ: GitLabが管理するAIインフラストラクチャを使用します。

セルフホストAIゲートウェイとLLM

完全なセルフホスト設定では、独自のAIゲートウェイをデプロイし、GitLabインフラストラクチャやAIベンダーモデルを使用せずに、自社のインフラストラクチャでサポートされているLLMのみを使用します。これにより、データとセキュリティを完全に制御できます。

独自のAIゲートウェイをデプロイしている間も、AWS BedrockやAzure OpenAIのようなクラウドベースのLLMサービスをモデルバックエンドとして使用でき、セルフホストAIゲートウェイを介して接続し続けることができます。

インターネットアクセスを防止または制限する物理的な障壁やセキュリティポリシーがあるオフライン環境で、包括的なLLM制御が必要な場合は、この完全なセルフホスト設定を使用する必要があります。

詳細については、以下を参照してください:

• セルフホストAIゲートウェイ構成図。

ハイブリッドAIゲートウェイとモデル構成

このハイブリッド設定では、ほとんどの機能に独自のAIゲートウェイとセルフホストモデルをデプロイしますが、特定の機能ではGitLab管理モデルを使用するように設定します。ある機能がGitLab管理モデルを使用するように設定されている場合、その機能へのリクエストは、セルフホストAIゲートウェイではなく、GitLabホストのAIゲートウェイに送信されます。

このオプションは、以下を可能にすることで柔軟性を提供します:

• 完全な制御が必要な機能には独自のセルフホスティング型モデルを使用する。
• GitLabがキュレーションしたモデルを優先する特定の機能には、GitLab管理のベンダーモデルを使用する。

GitLab管理モデル

インフラストラクチャをセルフホストする必要なく、GitLabマネージドモデルを使用してAIモデルに接続します。これらのモデルは、GitLabによって完全に管理されます。

AIネイティブ機能で使用するデフォルトのGitLabモデルを選択できます。デフォルトモデルの場合、GitLabは可用性、品質、信頼性に基づいて最適なモデルを使用します。機能に使用されるモデルは、予告なく変更される場合があります。

特定のGitLabマネージドモデルを選択すると、その機能に対するすべてのリクエストがそのモデルのみを使用します。モデルが利用できなくなった場合、AIゲートウェイへのリクエストは失敗し、別のモデルが選択されるまで、ユーザーはその機能を使用できません。

デフォルトのGitLab外部ベンダーLLMを使用したGitLab.com AIゲートウェイ

GitLab Duo Self-Hostedのユースケース基準を満たしていない場合は、デフォルトのGitLab外部ベンダーLLMを備えたGitLab.com AIゲートウェイを使用できます。

GitLab.com AIゲートウェイはデフォルトのEnterprise提供であり、セルフホストではありません。この設定では、インスタンスをGitLabがホストするAIゲートウェイに接続し、以下を含む外部ベンダーLLMプロバイダーと統合します:

• Anthropic
• Fireworks AI
• Google Vertex

これらのLLMはGitLab Cloud Connectorを介して通信し、オンプレミスインフラストラクチャを必要とせずに、すぐに使用できるAIソリューションを提供します。

詳細については、GitLab.com AIゲートウェイ構成図を参照してください。

このインフラストラクチャをセットアップするには、GitLab Self-ManagedインスタンスでGitLab Duoを設定する方法を参照してください。

プライベートインフラストラクチャのセットアップ

オフラインライセンスをお持ちの場合は、完全にプライベートなインフラストラクチャをセットアップできます:

1. 大規模言語モデル（LLM）サービスインフラストラクチャをインストールします。

   • サポートされているLLMプラットフォームをレビューして、vLLM、AWS Bedrock、Azure OpenAIなどのサービングおよびホスティングプラットフォームを選択してください。
   • サポートされているモデルとハードウェア要件を確認して、モデルとハードウェアの選択を確定してください。

2. AIゲートウェイをインストールしてGitLab Duo機能にアクセスします。

3. セルフホストモデルを使用するようにGitLabインスタンスを設定します。

4. システムのパフォーマンスを追跡および管理するには、ロギングを有効にします。

関連トピック

• トラブルシューティング
• GitLab AIゲートウェイをインストールする
• サポート対象モデル
• サポートされているプラットフォーム
• チュートリアル: AWS Bedrock BYOMデプロイガイド