論文の概要: Granite.Trust Policy Tools: Shareable, Actionable Policies for Generative AI Applications

• arxiv url: http://arxiv.org/abs/2608.23870v1
• Date: Mon, 24 Aug 2026 22:20:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.646656
• Title: Granite.Trust Policy Tools: Shareable, Actionable Policies for Generative AI Applications
• Title（参考訳）: Granite.Trust Policy Tools: 生成AIアプリケーションのための共有可能なアクション可能なポリシー
• Abstract要約: Actionable Policy スキーマは、YAML ベースのフォーマットで、モデル応答が保持可能でできないものを指定する。 合成データ生成パイプラインは、モデルアライメントとテストのためのポリシーに準拠したトレーニングデータを生成する。 スキーマの定義とポリシーの強制を支援するツールは、オープンソースとして利用可能だ。
• 参考スコア（独自算出の注目度）: 10.941104277511934
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When it comes to safety policies for generative AI, one size does not fit all. Each organization and use case needs to mitigate different risks depending on the application context, regulatory environment, organizational values, and user personas. Yet, existing policy specification approaches are designed for traditional access control and fail to capture the nuances of GenAI application: the enforcement of content-based constraints. We present two contributions to address this gap: (1) the Actionable Policy schema, a YAML-based format for specifying what model responses can and cannot contain. The schema enables exception-based policy governance, proposing exceptions to track policy violations; (2) synthetic data generation pipeline that produces policy-aligned training data for model alignment and testing, and a set of tools to help define the schema and enforce policy. Together, these enable organizations to specify policies once and enforce them throughout the GenAI application lifecycle: from model alignment to runtime monitoring. The Actionable Policy schema, example policies, and tools are available as open source: https://github.com/ibm-granite/granite.trust.policy-tools We welcome new ideas, contributions and feedback.
• Abstract（参考訳）: 生成AIの安全性ポリシーに関しては、ひとつのサイズがすべてに適合しない。 各組織とユースケースは、アプリケーションコンテキスト、規制環境、組織価値、ユーザペルソナに応じて、さまざまなリスクを軽減する必要があります。 しかし、既存のポリシー仕様アプローチは、従来のアクセス制御のために設計されており、GenAIアプリケーションのニュアンス(コンテンツベースの制約の実施)を捉えていない。 1)Actionable Policy Schema(YAMLベースのモデル応答を指定でき、保持できないものを指定するフォーマット)。 スキーマは例外ベースのポリシーガバナンスを可能にし、ポリシー違反を追跡するために例外を提案する。(2)モデルアライメントとテストのためのポリシー整合性トレーニングデータを生成する合成データ生成パイプライン、スキーマの定義とポリシーの実行を支援するツールセット。 これらは共に、モデルアライメントからランタイム監視に至るまで、GenAIアプリケーションライフサイクル全体を通じてポリシーを一度指定し、それらを強制することを可能にする。 https://github.com/ibm-granite/granite.trust.policy-tools 新しいアイデア、コントリビューション、フィードバックを歓迎します。

関連論文リスト

• PolicyMem: Geometric Policy Memory for LLM Governance [72.04962480384322]
  我々は、自然言語ポリシーを再利用可能な幾何学的メモリオブジェクトとして外部化する幾何学的ポリシーメモリであるPhysicalMemを紹介する。 メモリライターは、自然言語ポリシーをポリシーメモリスロットにコンパイルし、クエリ応答ペアはプロジェクションエネルギーを介してポリシーメモリを読み取る。 得られた政策証拠プロファイルは、安全判断を直接仲介し、政策帰属および事後検証のために再利用される。
  論文  参考訳（メタデータ） (2026-09-12T06:07:43Z)
• XPolicyLab: A Unified Standard and Open Ecosystem for Robot Policy Evaluation and Deployment [110.47421789797546]
  XPolicyLabは、ロボットポリシーの評価とデプロイのための統一された標準でオープンなエコシステムである。 XPolicyLabは42のロボットポリシーを統合し、インストール、デバッグ、サービス、アダプタ、評価を標準化する。 コントロールされた研究では、標準に従って、代表政策の統合の労力を5時間以上から2時間に短縮する。
  論文  参考訳（メタデータ） (2026-08-10T17:41:04Z)
• Deontic Policies for Runtime Governance of Agentic AI Systems [2.1095754823099657]
  本稿では,義務,免除,政策紛争解決,政策の理化といった重要なガバナンス要件を実現するエージェントReiを提案する。 私たちのアプローチは、A2ASのような業界標準のフレームワークと自然に結びついています。
  論文  参考訳（メタデータ） (2026-06-17T18:02:07Z)
• PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
  PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。 PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
  論文  参考訳（メタデータ） (2026-04-16T20:29:30Z)
• Runtime Governance for AI Agents: Policies on Paths [4.111929395230638]
  我々は、実行パスが効率的なランタイムガバナンスの中心的なオブジェクトであると主張している。 私たちの見解では、実行時評価は一般的なケースであり、パスに依存したポリシーには必要です。
  論文  参考訳（メタデータ） (2026-03-17T14:35:52Z)
• Customize Multi-modal RAI Guardrails with Precedent-based predictions [55.63757336900865]
  マルチモーダルガードレールは、ユーザ定義ポリシーに基づいて、画像コンテンツを効果的にフィルタリングする必要がある。 既存の微調整手法は、通常、事前に定義されたポリシーの条件予測を行う。 本稿では、入力に類似した先行データポイントの推論過程である「先行情報」に対する条件モデルの判断を提案する。
  論文  参考訳（メタデータ） (2025-07-28T03:45:34Z)
• Dense Policy: Bidirectional Autoregressive Learning of Actions [51.60428100831717]
  本稿では,行動予測における自己回帰的政策の新たなパラダイムを確立するために,Dense Policyと呼ばれる双方向拡張学習手法を提案する。 軽量なエンコーダのみのアーキテクチャを使用して、アクションシーケンスを初期単一フレームからターゲットシーケンスへ粗い方法で反復的に展開する。 実験により、我々の密集した政策は自己回帰学習能力に優れており、既存の全体的生成ポリシーを超越できることが示された。
  論文  参考訳（メタデータ） (2025-03-17T14:28:08Z)
• Fat-to-Thin Policy Optimization: Offline RL with Sparse Policies [5.5938591697033555]
  スパース連続ポリシー(sparse continuous policy)は、ランダムにいくつかのアクションを選択するが、他のアクションの確率を厳密にゼロにする分布である。 本稿では,Fat-to-Thin Policy Optimization (FtTPO) という,この問題に対処する最初のオフラインポリシ最適化アルゴリズムを提案する。 FtTPOを、ヘビーテールとスパースポリシーの両方を含む一般的な$q$-Gaussianファミリーでインスタンス化する。
  論文  参考訳（メタデータ） (2025-01-24T10:11:48Z)
• PolicyLR: A Logic Representation For Privacy Policies [34.73520882451813]
  我々は、プライバシポリシーの包括的な機械可読表現を提供する新しいパラダイムであるPolicyLRを提案する。 PolicyLRは、プライバシーポリシーを原子式の評価を用いて機械可読形式に変換する。 ポリシコンプライアンス,一貫性検出,プライバシ比較ショッピングという3つのプライバシタスクにおいて,ポリシLRを実証する。
  論文  参考訳（メタデータ） (2024-08-27T07:27:16Z)
• Towards Interpretable Foundation Models of Robot Behavior: A Task Specific Policy Generation Approach [1.7205106391379026]
  ファンデーションモデルは、汎用的でユーザフレンドリーなロボットへの、有望な道のりだ。 特に、タスク間のモジュラリティの欠如は、モデルの重みが更新されると、他の無関係なタスクの振る舞いが影響を受ける可能性があることを意味します。 本稿では,スタンドアロンのタスク固有のポリシーを生成するロボット基盤モデルの設計に対する代替的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-07-10T21:55:44Z)
• Offline RL With Realistic Datasets: Heteroskedasticity and Support Constraints [82.43359506154117]
  非均一な変数を持つデータから、典型的なオフライン強化学習手法が学習できないことを示す。 提案手法は,Atariゲーム,ナビゲーション,ピクセルベースの操作において,多種多様なオフラインRL問題にまたがる性能向上を図っている。
  論文  参考訳（メタデータ） (2022-11-02T11:36:06Z)
• Mutual Information Regularized Offline Reinforcement Learning [76.05299071490913]
  我々は、データセットにおける状態と行動間の相互情報の観点から、オフラインRLにアプローチする新しいMISAフレームワークを提案する。 この下位境界の最適化は、オフラインデータセット上での一段階改善されたポリシーの可能性の最大化と等価であることを示す。 MISAの3つの異なる変種を導入し、より厳密な相互情報によりオフラインのRL性能が向上することを示した。
  論文  参考訳（メタデータ） (2022-10-14T03:22:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。