論文の概要: From Alignment to Access Control: A Framework for GenAI Policy Enforcement

• arxiv url: http://arxiv.org/abs/2609.26682v1
• Date: Tue, 22 Sep 2026 16:40:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 01:05:39.748641
• Title: From Alignment to Access Control: A Framework for GenAI Policy Enforcement
• Title（参考訳）: アライメントからアクセスコントロールへ:GenAI政策強化のためのフレームワーク
• Abstract要約: 政策はシステムを安全かつコンプライアンスにするための基盤です。 本稿では、GenAIアプリケーションにおけるポリシー適用に関して、良い点、悪い点、悪い点について概観する。
• 参考スコア（独自算出の注目度）: 4.602325531539521
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative AI (GenAI) applications have flourished enabling users to chat with large language models, and to create agents to act on their behalf for a variety of tasks. The pace of development of capabilities in this field is incredibly fast with security and safety taking a back seat. Unfortunately, the slower pace at which security and safety mechanisms have evolved has led to real incidents. Policy enables the definition of desirable behavior of applications, and for that reason, it is a cornerstone of making systems secure and compliant. Policy however means different things to different practitioners creating confusion and siloed solutions that are not adequate for compliance. This paper takes a tour of the good, the bad and the ugly when it comes to policy enforcement in GenAI applications. We propose a methodology to systematically analyze and dissect existing approaches to define and enforce policy found in the wild. Based on this principled analysis, we provide recommendations and call for action for the community to address. This paper is a companion extension of USENIX Security 2026 Enigma talk titled "From Alignment to Access Control: A Unified View of GenAI Policy Enforcement" by the author Nathalie Baracaldo.
• Abstract（参考訳）: ジェネレーティブAI(GenAI)アプリケーションは、ユーザーが大きな言語モデルとチャットできるように繁栄し、さまざまなタスクを代行するエージェントを作成することができる。 この分野での能力開発のペースは驚くほど速く、セキュリティと安全性が後方に置かれている。 残念ながら、セキュリティと安全性のメカニズムが進化する遅いペースは、真のインシデントにつながった。 ポリシーは、アプリケーションの望ましい振る舞いの定義を可能にします。 しかし、ポリシーは、コンプライアンスに適さない混乱とサイロ化されたソリューションを生み出す異なる実践者に対して異なる意味を持つ。 本稿では、GenAIアプリケーションにおけるポリシー適用に関して、良い点、悪い点、悪い点について概観する。 本研究では,既存のアプローチを体系的に分析・分析し,野生に生息する政策を定義し,強制する手法を提案する。 この原則的分析に基づいて,コミュニティが対処すべき行動の勧告と呼びかけを行う。 筆者のNathalie Baracaldo氏による"From Alignment to Access Control: A Unified View of GenAI Policy Enforcement"と題された,USENIX Security 2026 Enigmaの講演の拡張版である。

関連論文リスト

• HazardAuditor: From Executable Threats to Safer Computer-Use Agents [50.06351661912873]
  既存のガードモデルは静的なプロンプトと応答をターゲットとしている。 既存の安全プラットフォームは、正規化された監督ではなく、ガードモデルで学ぶ必要がある評価判断を生成する。 両ギャップを埋める実行基盤フレームワークであるHazardAuditorを紹介します。
  論文  参考訳（メタデータ） (2026-09-14T07:09:33Z)
• PolicyMem: Geometric Policy Memory for LLM Governance [72.04962480384322]
  我々は、自然言語ポリシーを再利用可能な幾何学的メモリオブジェクトとして外部化する幾何学的ポリシーメモリであるPhysicalMemを紹介する。 メモリライターは、自然言語ポリシーをポリシーメモリスロットにコンパイルし、クエリ応答ペアはプロジェクションエネルギーを介してポリシーメモリを読み取る。 得られた政策証拠プロファイルは、安全判断を直接仲介し、政策帰属および事後検証のために再利用される。
  論文  参考訳（メタデータ） (2026-09-12T06:07:43Z)
• Deontic Policies for Runtime Governance of Agentic AI Systems [2.1095754823099657]
  本稿では,義務,免除,政策紛争解決,政策の理化といった重要なガバナンス要件を実現するエージェントReiを提案する。 私たちのアプローチは、A2ASのような業界標準のフレームワークと自然に結びついています。
  論文  参考訳（メタデータ） (2026-06-17T18:02:07Z)
• ClawLess: A Security Model of AI Agents [34.70695138834452]
  我々は、AIエージェントに対して正式に認証されたポリシーを実行するセキュリティフレームワークであるClawLessを紹介する。 ClawLessは、システムエンティティ、信頼範囲、パーミッションに関するきめ細かいセキュリティモデルを形式化する。 このアプローチは、エージェントの内部設計に関係なくセキュリティを確保するために、正式なセキュリティモデルを実践的にブリッジする。
  論文  参考訳（メタデータ） (2026-04-07T12:19:55Z)
• Policy-as-Prompt: Turning AI Governance Rules into Guardrails for AI Agents [0.19336815376402716]
  我々は、構造化されていない設計成果物(RD、TDD、コードなど)を検証可能なランタイムガードレールに変換する規制機械学習フレームワークを導入します。 Promptメソッドとしての私たちのポリシーは、これらのドキュメントを読み、ソースリンクされたポリシーツリーを構築するためのリスクコントロールです。 システムは最小限の特権とデータ最小化を強制するために構築される。
  論文  参考訳（メタデータ） (2025-09-28T17:36:52Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• Can an AI Agent Safely Run a Government? Existence of Probably Approximately Aligned Policies [23.27199615640474]
  既存のアライメント法はそのようなモデルの安全性を公式に保証するものではない。 社会的意思決定の文脈におけるアライメントの新しい定量的定義を提供する。 自律エージェントのブラックボックスポリシーを保護するための,単純かつ堅牢な手法を提案する。
  論文  参考訳（メタデータ） (2024-11-21T11:36:45Z)
• Securing the Future of GenAI: Policy and Technology [50.586585729683776]
  政府はGenAIを規制し、イノベーションと安全性のバランスをとるという課題に、世界中で不満を抱いている。 Google、ウィスコンシン大学、マディソン大学、スタンフォード大学が共同で行ったワークショップは、GenAIのポリシーとテクノロジーのギャップを埋めることを目的としていた。 本稿では,技術進歩を妨げることなく,どのように規制を設計できるか,といった問題に対処するワークショップの議論を要約する。
  論文  参考訳（メタデータ） (2024-05-21T20:30:01Z)
• When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
  我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。 我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。 コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
  論文  参考訳（メタデータ） (2023-06-09T14:33:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。