最終更新日: 2024-11-26
利用上の注意
このポストは Microsoft 社の Azure 公式ドキュメント(CC BY 4.0 または MIT ライセンス) をもとに生成AIを用いて翻案・要約した派生作品です。 元の文書は MicrosoftDocs/azure-ai-docs にホストされています。
生成AIの性能には限界があり、誤訳や誤解釈が含まれる可能性があります。 本ポストはあくまで参考情報として用い、正確な情報は必ず元の文書を参照してください。
このポストで使用されている商標はそれぞれの所有者に帰属します。これらの商標は技術的な説明のために使用されており、商標権者からの公式な承認や推奨を示すものではありません。
# ハイライト
この差分の主な変更点は、Azure AI Studioのコンテンツフィルターに関するドキュメントの更新です。特に、「間接攻撃に対するプロンプトシールド」のデフォルト設定が変更され、「Groundedness*」に関連する情報が追加されています。
今回の差分は、Azure AI Studioのコンテンツフィルター機能に関連するドキュメントを改訂することにより、ユーザーの理解を助けることを目的としています。
「間接攻撃に対するプロンプトシールド」のデフォルト設定が「オン」から「オフ」に変更されたことで、ユーザーはデフォルトでどのようなセキュリティが提供されているかを再認識する必要があります。これにより、ユーザーが自身の環境に応じて適切なフィルター設定を選択するための意識を促します。
また、「Groundedness*」に関するドキュメントの埋め込みとフォーマットの必要性が明記されたことにより、データの信頼性と整合性を保証する重要性が強調されています。この更新は、AIモデルがどのようなデータソースを参照し、どのように情報を表示するべきかについて、ユーザーに明確なガイドラインを提供します。
ドキュメントのクリアさと適用性を高めることで、ユーザーがAzure AI Studioをより効果的に利用できるようになることが期待されます。改訂された内容は、ルールや設定についての理解を深め、より安全で信頼できるAI環境の構築をサポートします。
| Filename | Type | Title | Status | A | D | M |
|---|---|---|---|---|---|---|
| content-filters.md | minor update | コンテンツフィルターの設定の更新 | modified | 2 | 3 | 5 |
@@ -38,12 +38,11 @@ You can configure the following filter categories in addition to the default har
|Filter category |Status |Default setting |Applied to prompt or completion? |Description |
|---------|---------|---------|---------|---|
|Prompt Shields for direct attacks (jailbreak) |GA| On | User prompt | Filters / annotates user prompts that might present a Jailbreak Risk. For more information about annotations, visit [Azure OpenAI Service content filtering](/azure/ai-services/openai/concepts/content-filter?tabs=python#annotations-preview). |
-|Prompt Shields for indirect attacks | GA| On| User prompt | Filter / annotate Indirect Attacks, also referred to as Indirect Prompt Attacks or Cross-Domain Prompt Injection Attacks, a potential vulnerability where third parties place malicious instructions inside of documents that the generative AI system can access and process. Required: [Document ](/azure/ai-services/openai/concepts/content-filter?tabs=warning%2Cuser-prompt%2Cpython-new#embedding-documents-in-your-prompt)formatting. |
+|Prompt Shields for indirect attacks | GA| Off | User prompt | Filter / annotate Indirect Attacks, also referred to as Indirect Prompt Attacks or Cross-Domain Prompt Injection Attacks, a potential vulnerability where third parties place malicious instructions inside of documents that the generative AI system can access and process. Requires: [Document embedding and formatting](/azure/ai-services/openai/concepts/content-filter?tabs=warning%2Cuser-prompt%2Cpython-new#embedding-documents-in-your-prompt). |
| Protected material - code |GA| On | Completion | Filters protected code or gets the example citation and license information in annotations for code snippets that match any public code sources, powered by GitHub Copilot. For more information about consuming annotations, see the [content filtering concepts guide](/azure/ai-services/openai/concepts/content-filter#annotations-preview) |
| Protected material - text | GA| On | Completion | Identifies and blocks known text content from being displayed in the model output (for example, song lyrics, recipes, and selected web content). |
-| Groundedness* | Preview |Off | Completion |Detects whether the text responses of large language models (LLMs) are grounded in the source materials provided by the users. Ungroundedness refers to instances where the LLMs produce information that is non-factual or inaccurate from what was present in the source materials. |
+| Groundedness* | Preview |Off | Completion |Detects whether the text responses of large language models (LLMs) are grounded in the source materials provided by the users. Ungroundedness refers to instances where the LLMs produce information that is non-factual or inaccurate from what was present in the source materials. Requires: [Document embedding and formatting](/azure/ai-services/openai/concepts/content-filter?tabs=warning%2Cuser-prompt%2Cpython-new#embedding-documents-in-your-prompt).|
-*Requires embedding documents in your prompt. [Read more](/azure/ai-services/openai/concepts/content-filter?tabs=warning%2Cuser-prompt%2Cpython-new#embedding-documents-in-your-prompt).
## Configure content filters with Azure AI Studio{
"modification_type": "minor update",
"modification_title": "コンテンツフィルターの設定の更新"
}このコードの変更は、Azure AI Studioでのコンテンツフィルター機能に関するドキュメントの更新に関係しています。具体的には、「間接攻撃に対するプロンプトシールド」のデフォルト設定が「オン」から「オフ」に変更され、その説明が強化されています。また、Groundedness*のセクションにも、ドキュメントの埋め込みとフォーマットが必要であることが追加されました。これにより、ユーザーが間接的な脅威に対する設定や、データの信頼性を高めるための要件を理解しやすくなっています。全体として、わずかな削除と追加を通じて、情報が明確化されました。