GitLabを構成してGitLab Duo Self-Hostedにアクセスする

前提要件:

• GitLabをバージョン17.9以降にアップグレード。

インフラストラクチャ内の利用可能なセルフホストモデルにアクセスするようにGitLabインスタンスを構成するには:

1. 完全にセルフホストの設定が、ユースケースに適していることを確認してください。
2. AIゲートウェイにアクセスするようにGitLabインスタンスを構成します。
3. GitLab 18.4以降では、GitLabインスタンスを構成してGitLab Duo Agent Platformサービスにアクセスします。
4. セルフホストモデルを構成します。
5. セルフホストモデルを使用するようにGitLab Duo機能を構成します。

AIゲートウェイにアクセスするようにGitLabインスタンスを構成する

1. 左側のサイドバーの下部で、管理者を選択します。
2. GitLab Duoを選択します。
3. 設定の変更を選択します。
4. ローカルAIゲートウェイURLに、AIゲートウェイURLを入力します。
5. 変更を保存を選択します。

GitLab Duo Agent Platformへのアクセスを構成する

GitLabインスタンスからAgent PlatformサービスにアクセスするためのURLを提供する必要があります。

• Agent PlatformサービスのURLのプレフィックスは、http://またはhttps://で始めることはできません。

• Agent PlatformサービスのURLがTLSでセットアップされていない場合は、GitLabインスタンスでDUO_AGENT_PLATFORM_SERVICE_SECURE環境変数を設定する必要があります:

  • Linuxパッケージインストールの場合、gitlab_rails['env']で'DUO_AGENT_PLATFORM_SERVICE_SECURE' => falseを設定します。
  • セルフコンパイルインストールの場合、/etc/default/gitlabでexport DUO_AGENT_PLATFORM_SERVICE_SECURE=falseを設定します。

1. 左側のサイドバーの下部で、管理者を選択します。
2. GitLab Duoを選択します。
3. 設定の変更を選択します。
4. GitLab Duo Agent PlatformサービスのローカルURLに、ローカルAgent PlatformサービスのURLを入力します。
5. 変更を保存を選択します。

セルフホストモデルを構成する

前提要件:

• 管理者である必要があります。
• PremiumまたはUltimateのライセンスが必要です。
• GitLab Duo Enterpriseライセンスアドオンが必要です。

セルフホストモデルを構成するには:

1. 左側のサイドバーの下部で、管理者を選択します。

2. GitLab Duoを選択します。

3. GitLab Duo Self-Hostedの設定を選択します。

   • GitLab Duo Self-Hostedの設定ボタンが使用できない場合は、購入後にサブスクリプションを同期してください:
     1. 左側のサイドバーで、サブスクリプションを選択します。
     2. サブスクリプションの詳細の最後の同期の右側で、サブスクリプションの同期（ ）を選択します。

4. セルフホストモデルの追加を選択します。

5. フィールドに入力します:

   • デプロイ名: モデルデプロイを識別子で一意に識別するための名前を入力します。例：Mixtral-8x7B-it-v0.1 on GCP。

   • モデルファミリー: デプロイが属するモデルファミリーを選択します。次のいずれかを選択できます:

     • サポートされているモデルファミリー。
     • 一般を選択して、GitLabで明示的にサポートされていない独自のモデルを使用します。

   • エンドポイント: モデルがホストされているURLを入力します。

     • vLLMを介してデプロイされたモデルのエンドポイントの設定の詳細については、vLLMドキュメントを参照してください。

   • APIキー: オプション。モデルにアクセスするために必要な場合は、APIキーを追加します。

   • モデルの識別子: これは必須フィールドです。このフィールドの値は、デプロイ方法に基づいており、次の構造と一致する必要があります:

     デプロイ方法	形式	例
     vLLM	custom_openai/<name of the model served through vLLM>	custom_openai/Mixtral-8x7B-Instruct-v0.1
     Bedrock	bedrock/<model ID of the model>	bedrock/mistral.mixtral-8x7b-instruct-v0:1
     Azure OpenAI	azure/<model ID of the model>	azure/gpt-35-turbo

     • Amazon Bedrockモデルの場合:

       1. AWS_REGIONを設定し、AIゲートウェイDockerの設定で、そのリージョンのモデルにアクセスできることを確認してください。
       2. リージョン間推論のために、適切なリージョンのプレフィックスをモデルの推論プロファイルIDに追加します。
       3. リージョンのプレフィックスとモデル推論プロファイルIDをモデルの識別子フィールドに、bedrock/プレフィックスとともに入力します。

       たとえば、東京リージョンのAnthropic Claude 3.5 v2モデルの場合:

       • AWS_REGIONはap-northeast-1です。
       • リージョン間推論プレフィックスはapac.です。
       • モデル識別子はbedrock/apac.anthropic.claude-3-5-sonnet-20241022-v2:0です。

       一部のリージョンは、リージョン間推論ではサポートされていません。これらのリージョンでは、モデル識別子はリージョンのプレフィックスなしで指定する必要があります。次に例を示します:

       • AWS_REGIONはeu-west-2です。
       • モデル識別子はbedrock/anthropic.claude-3-7-sonnet-20250219-v1:0にする必要があります。

6. セルフホストモデルの作成を選択します。

詳細については、以下をご覧ください:

• vLLMを介してデプロイされたモデルのモデル識別子の設定については、vLLMドキュメントを参照してください。
• リージョン間推論を使用したAmazon Bedrockモデルの設定については、推論プロファイルのドキュメントでAmazonがサポートしているリージョンとモデルを参照してください

ベータのセルフホストモデルと機能を構成する

前提要件:

• 管理者である必要があります。
• PremiumまたはUltimateのライセンスが必要です。
• GitLab Duo Enterpriseライセンスアドオンが必要です。

ベータセルフホストモデルと機能を有効にするには:

1. 左側のサイドバーの下部で、管理者を選択します。
2. GitLab Duoを選択します。
3. 設定の変更を選択します。
4. ベータ版のセルフホスト型モデルと機能で、GitLab Duo Self-Hostedでベータ版のモデルおよび機能を使用するチェックボックスをオンにします。
5. 変更を保存を選択します。

セルフホストモデルを使用するようにGitLab Duo機能を構成する

前提要件:

• 管理者である必要があります。
• PremiumまたはUltimateのライセンスが必要です。
• GitLab Duo Enterpriseライセンスアドオンが必要です。

構成された機能を表示する

1. 左側のサイドバーの下部で、管理者を選択します。
2. GitLab Duoを選択します。
3. GitLab Duo Self-Hostedの設定を選択します。
   • GitLab Duo Self-Hostedの設定ボタンが使用できない場合は、購入後にサブスクリプションを同期してください:
     1. 左側のサイドバーで、サブスクリプションを選択します。
     2. サブスクリプションの詳細の最後の同期の右側で、サブスクリプションの同期（ ）を選択します。
4. AIネイティブ機能タブを選択します。

セルフホストモデルを使用するように機能を構成する

構成済みのセルフホストモデルにクエリを送信するように、GitLab Duo機能とサブ機能を構成します:

1. 左側のサイドバーの下部で、管理者を選択します。

2. GitLab Duoを選択します。

3. GitLab Duo Self-Hostedの設定を選択します。

4. AIネイティブ機能タブを選択します。

5. 設定する機能とサブ機能について、ドロップダウンリストから、使用するセルフホストモデルを選択します。

   たとえば、GitLab Duoコード提案のコード生成サブ機能の場合は、Claude-3 on Bedrock deployment (Claude 3)（BedrockデプロイのClaude-3 (Claude 3)）を選択できます。

   

GitLab AIベンダーモデルを使用するように機能を構成する

GitLab 18.3以降では、セルフホストのAIゲートウェイとモデルを使用している場合でも、特定のGitLab Duo機能を構成してGitLab AIベンダーモデルを使用できます。

1. 左側のサイドバーの下部で、管理者を選択します。

2. GitLab Duoを選択します。

3. GitLab Duo Self-Hostedの設定を選択します。

4. AIネイティブ機能タブを選択します。

5. 設定する機能とサブ機能について、ドロップダウンリストからGitLab AIベンダーモデルを選択します。

   たとえば、GitLab Duoコード提案のコード生成サブ機能の場合は、GitLab AIベンダーモデルを選択できます。

   

このハイブリッド設定の詳細については、GitLab Duo Self-Hostedの設定タイプに関するドキュメントを参照してください。

GitLab Duoチャットサブ機能のフォールバック設定

GitLab Duoチャットサブ機能を設定するときに、サブ機能に特定のモデルを選択しない場合、そのサブ機能は自動的にフォールバックして、General Chat（一般チャット）に設定されているモデルを使用します。これにより、各サブ機能を独自のモデルで明示的に設定していなくても、すべてのチャット機能が動作することが保証されます。

GitLabドキュメントをセルフホストする

GitLab Duo Self-Hostedのセットアップによってdocs.gitlab.comでGitLabドキュメントにアクセスできなくなった場合は、代わりにドキュメントをセルフホストできます。詳細については、GitLab製品ドキュメントをホストする方法を参照してください。

GitLab Duo機能を無効にする

機能を無効にするには、機能またはサブ機能を設定するときに、明示的に無効を選択する必要があります。

• サブ機能のモデルを選択しないだけでは不十分です。
• チャットサブ機能の場合、モデルを選択しないと、そのサブ機能はGeneral Chat（一般チャット）に設定されているモデルを使用するようにフォールバックします。

GitLab Duo機能またはサブ機能を無効にするには:

1. 左側のサイドバーの下部で、管理者を選択します。

2. GitLab Duoを選択します。

3. GitLab Duo Self-Hostedの設定を選択します。

4. AIネイティブ機能タブを選択します。

5. 無効にする機能またはサブ機能について、ドロップダウンリストから無効を選択します。

   たとえば、Write Test機能とRefactor Code機能を明確に無効にするには、無効を選択します: