GitLab Duoプロンプトガードレール

GitLab Duoには、基盤となるプロンプトガードレールが備わっています。これらのガードレールは、構造化されたプロンプト、厳格なコンテキスト制限、フィルタリングツールに依存しており、以下の点で役立ちます:

これらのセーフガードは、AI主導のワークフローに関連するリスクを最小限に抑えることで、GDPRなどの一般的な規制基準への準拠をサポートします。

これらのガードレールはリスクを軽減する可能性がありますが、すべての脆弱性を排除するわけではありません。すべての誤用や高度な攻撃に対して、完全な保護を保証できるシステムはありません。

一般的なガードレール

GitLab Duoで使用されるプロンプトの目的:

許可されていないコンテンツを回避する: モデルは、有益で丁寧な応答を行い、憎悪的または非難的な言語を控えるように指示されています。
ユーザーリクエストに厳密に従う: モデルは、プロンプトに忠実に従い、ロールプレイ、なりすまし、または無関係なコンテンツへの逸脱を避けるように指示されています。
タグを使用してコンテンツを分離する: タグは、モデルに提供されたスニペットに焦点を当てるように指示し、プロンプトインジェクションのリスクを軽減するのに役立ちます。
シークレットのフィルタリング: コード提案をスキャンして、機密情報が誤って送信されるのを防ぎます。例: 機密設定データを含む顧客のジョブログは<log>タグで囲まれ、モデルが無関係な推測をすることなく、提供されたコンテキストのみに焦点を当てることを保証します。

ロールによっては、GitLab Duoに設定されたガードレールについて異なる懸念がある場合があります。

コードの分離: <selected_code>、<git_diff>、および<log>などのタグは、モデルが提供するコードまたはコンテンツに厳密に焦点を当てるように促し、プロンプトインジェクションのリスクを軽減するのに役立ちます。
シークレットのフィルタリング: Gitleaksなどのツールがコード提案をスキャンして、APIキーやパスワードなどの機密情報が共有されないようにします。
焦点を絞った応答: GitLab Duoはトピックに焦点を当てて、役に立たない、または予期しない出力につながる可能性のある動作を回避します。
根本原因分析: トラブルシューティングを行う場合、GitLab Duoは提供された範囲を超えて推測することなく、ジョブログを分析することを目指します。

規制との整合性: システムは、データ漏洩などのリスクを軽減し、組織がGDPRなどの標準に準拠できるようにします。
透明性: プロンプトとコンテキストが構造化される方法により、GitLab Duoの動作が予測可能になり、監査に利用できるようになります。詳細については、機能別のガードレールを参照してください。
コンテンツ制御: ディスカッションの要約や脆弱性の解決などのタスクでは、GitLab Duoは提供された入力のみを使用し、エラーや意図しない出力の可能性を減らします。
悪意のある入力に対する保護: フィルターおよびタグ付けメカニズムは、有害または不適切な形式のユーザーコンテンツからシステムを保護します。

信頼の構築: セーフガードは、GitLab Duoが責任を持って動作することを保証するのに役立ち、これは新しいツールへの信頼を構築するのに非常に重要です。
情報に基づいた意思決定: セキュリティ機能の明確なドキュメントにより、組織にとってのGitLab Duoの適合性を評価するために必要な情報が提供されます。
リスクの軽減: 機密情報とモデルの動作に関する一般的な懸念事項に取り組むことで、GitLab DuoはAIをワークフローに統合するための安全で実用的なソリューションを提供します。

個々の機能には、露出を制限するための特定のプロンプト指示が含まれています。プロンプト指示は、次の原則に従います。

プロンプトインジェクションを防ぐために、信頼できないコンテンツを分離します。

AIゲートウェイ上で、プロンプトインジェクションの試行を検出し、ログに記録するか、ブロックします。

応答は、トピックから外れず、建設的で、非虐待的でなければなりません。人格の変化、ロールプレイ、または悪意のある指示は推奨されません。ユーザーが提供したコンテンツに焦点を当てることで、インジェクションのリスクを軽減できます。

コメントは要約され、潜在的に悪意のあるコンテンツとのやり取りは推奨されません。ユーザーには、疑わしいコメントを開示したりレプリケートしたりすることなく、警告する必要があります。

タグを使用してコードを含み、モデルの焦点を制限します。これにより、モデルが外部の未検証の指示またはコンテンツを考慮することを防ぐことができます。

タスクを自然言語からのGitコマンド生成として定義することで、スコープを限定し、有害な出力のリスクを軽減します。

コードを分離してプロンプトインジェクションを防止します。

コードを分離してプロンプトインジェクションを防止します。

タグを使用して、モデルが参照できるコンテンツを分離および制約します。

タグを使用して、提供されたジョブログに厳密に焦点を当て、与えられたデータを超えた推測を防ぎます。

意図した機能を変更せずに、セキュリティ問題に対処することを推奨します。モデルは、コードへの変更を防ぐために、提供されたコードの差分に焦点を当てるように指示されています。