論文の概要: Same Operation, Different Permission: Evaluating Whether Guardrails Honor Authorization

• arxiv url: http://arxiv.org/abs/2610.16838v1
• Date: Mon, 12 Oct 2026 14:17:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.384198
• Title: Same Operation, Different Permission: Evaluating Whether Guardrails Honor Authorization
• Title（参考訳）: 同一の運用、異なる許可:ガードレールが合法化されるかどうかを評価する
• Abstract要約: ベンチは、その言語トラックで同じ操作の 認証証拠を対比するベンチマークです。 ブロックされた操作の多くは、正しい否定ではなく、レビューの失敗によるものであることを示す。 出力フォーマットの修復は使用可能な決定を復元するが、承認された要求に敬意を表し、第2のレビュアーを追加することでエラーを除去する。
• 参考スコア（独自算出の注目度）: 47.05539777659961
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: As language-model agents write code, move money and change records on behalf of users, deciding whether an action is authorized has become a central safety problem. Guardrails are often placed in front of these actions, yet few evaluations ask whether their decisions follow authorization: blocking unauthorized actions while still allowing the same actions under valid permission. We introduce \bench{}, a benchmark that contrasts authorization evidence for the same operation in its language track. It combines expert-annotated natural-language scenarios with executed and verified operations, plus externally sourced native-policy requests. \bench{} checks each decision for correctness, usability and resulting effect, and tracks each request across guardrail changes. Our experiments show that many blocked operations stem from failed reviews, not correct denials. Repairing the output format restores usable decisions but changes which authorized requests are honored, and adding a second reviewer removes some errors while rejecting valid authorization. Guardrails should therefore be evaluated on both the unauthorized actions they stop and the authorized actions they let through.
• Abstract（参考訳）: 言語モデルエージェントがコードを書き、お金を移動し、ユーザに代わって記録を変更するため、アクションが認可されたかどうかが中心的な安全問題となっている。 ガードレールは、しばしばこれらのアクションの前に置かれるが、その決定が承認に従うかどうかを問う評価はほとんどない。 言語トラックで同じ操作の認証証拠を対比するベンチマークである \bench{} を導入する。 専門家がアノテートした自然言語シナリオと実行および検証された操作、および外部ソースのネイティブポリシリクエストを組み合わせる。 \bench{}は、各決定の正確性、ユーザビリティ、結果の効果をチェックし、ガードレールの変更間で各要求を追跡する。 我々の実験は、多くのブロックされた操作は、正しい否定ではなく、レビューの失敗に由来することを示している。 出力フォーマットの修復は使用可能な決定を復元するが、承認された要求に敬意を表し、第2のレビュアーを追加すると、有効な承認を拒否しながらエラーを除去する。 したがって、ガードレールは停止する未許可の行動と通過する承認された行動の両方で評価されるべきである。

関連論文リスト

• AuthGateBench: Benchmarking LLMs as Authorization Gate [5.504238772822917]
  AuthGateBenchは、良心的な要求の下で認証ゲーティングを行うための最初のポリシーガイダンスベンチマークである。 モデルがより良い判断を下すのに補助的な環境信号が役立つかどうかを検討する。 評価では、モデルが内部の安全アライメントに過度に依存しているため、障害モード間で精度が不均一に低下する。
  論文  参考訳（メタデータ） (2026-10-12T08:55:01Z)
• KedgeFlow: A Programmable Control Plane for Enterprise AI Agents [2.124730017640531]
  KedgeFlowは、状態変更操作を認可する信頼できるコントローラのための言語に依存しない契約を指定する。 OpenFlowにインスパイアされたOpenFlowは、エビデンスによってサポートされているポリシーチェックと、正確なアクションの署名された許可を接続する。 参照実装は、モデルコンテキストプロトコルを介してエージェントシステムにこの実行パスを公開する。
  論文  参考訳（メタデータ） (2026-10-10T11:01:36Z)
• From Evidence to Action: How Tool-Using Agents Fail [44.361207294180424]
  このエビデンス・ツー・アクション・チェーンは、エージェントが単一アクションの実行に行動するかどうかを決定するため、どこで壊れるかを調査する。 10のモデルハーネスで、強力な静的アクションアセスメントは、より弱いインタラクティブ実行と共存することができる。
  論文  参考訳（メタデータ） (2026-10-06T04:50:29Z)
• Let the Agent Do It? How Software Practitioners Understand and Make Permission Decisions in Agentic AI Assistants [43.6631255471383]
  エージェントAIアシスタントは、ファイルの変更、コマンドの実行、外部リソースへのアクセスによって、開発者の代理として機能するようになっている。 これらのアクションは、しばしばパーミッションを必要とするが、エージェントの自律性から恩恵を受けながら、実践者がパーミッションの決定を行う方法については、ほとんど知られていない。 実践者は直接観察したり、レビューしたりすることでエージェントの振る舞いをよく理解するが、意思決定やデータの使用、その他の活動は明らかになっていない。 以上の結果から,パーミッションシステムは,逐次的行動のレビューを容易にし,エージェントが意図したこととを区別し,可逆性を明確化し,単一行動の拒否を拒否することの区別を行なわなければならないことが示唆された。
  論文  参考訳（メタデータ） (2026-10-05T09:43:54Z)
• Ask, Relax, or Act? Evaluating Actionable Indeterminacy in LLM Preference Reasoning [51.810946382216436]
  我々は、行動可能な不確定性(actable indeterminacy)を形式化する。 オブジェクト割り当て、ミーティングスケジューリング、アパートの選択、安定したマッチングにまたがるソルバグラウンドベンチマークを構築した。
  論文  参考訳（メタデータ） (2026-10-02T10:22:42Z)
• Beyond Approved Actions: Runtime Validation of Persistent Outcomes in Agent Workflows [15.945601536502535]
  実行は、要求された変更を超えて永続的な効果をもたらす可能性がある。 現在のセーフガードは、アクションを承認したり、その余波を記録したりすることができるが、継続前に永続的な結果をチェックすることなく、未承認の結果を成功として受け入れ、後続のステップに伝播することができる。 制御された実行バウンダリ内で永続的な変更を収集するランタイムであるEffectMatchを、アプリケーションが現在の状態と実行に対して承認したものと比較する。
  論文  参考訳（メタデータ） (2026-09-25T14:11:14Z)
• AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents [8.882970037100966]
  本稿では,エージェントハーネス境界における認証およびデータ保護ゲートであるAGATEについて述べる。 本評価では,153個のアタックチェーンレコードと,デプロイ,ユーティリティ,再構築実験を組み合わせた評価を行った。 11の良質なファイル処理シナリオのうち6つは否定的なイベントを含んでおり、コンテンツベースのプロビデンスポリシーの実用コストを明らかにしている。
  論文  参考訳（メタデータ） (2026-09-25T05:18:02Z)
• Beyond Single-Use Tokens: Durable Authorization State for Replay-Resistant LLM Agent Actions [6.029029648872896]
  この失敗セマンティックリプレイは、トークン非依存の認証インスタンスの実行予算を超えたものです。 単調な耐久性を保たない限り,識別子ローカルトークンの使用は新鮮な再発行を防げないことを示す。 この結果から, トークン表現のみではなく, リプレイ耐性エージェント実行のためのシステム要件として, 耐久性の高い認証状態が同定された。
  論文  参考訳（メタデータ） (2026-08-03T05:16:02Z)
• Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
  被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。 我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
  論文  参考訳（メタデータ） (2026-07-24T06:43:09Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。