論文の概要: TrustJev: Separating Policy Authority from Untrusted Evidence in LLM-Based Decisions

• arxiv url: http://arxiv.org/abs/2610.34826v1
• Date: Mon, 26 Oct 2026 04:17:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.742
• Title: TrustJev: Separating Policy Authority from Untrusted Evidence in LLM-Based Decisions
• Title（参考訳）: トラストジェフ氏:LLMに基づく決定で信頼できない証拠から政策当局を分離
• Abstract要約: TrustJevは、保護されたポリシースコアと有界な証拠修正を組み合わせたフレームワークである。 TrustJevはメモリと中央値のレイテンシを維持している。
• 参考スコア（独自算出の注目度）: 31.93757300120195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Decision models enable software to select from predefined actions using natural language inputs. However, the external evidence that supplies facts for these decisions may also contain instructions that attempt to override the application's policy. We propose TrustJev, a framework combining protected policy scoring with bounded evidence corrections. A single Transformer backbone computes policy scores and a correction budget from trusted policy and candidates, then bounds evidence corrections by that budget. Paired supervision encourages stable predictions under instruction insertions that preserve task facts and changed preferences when edits change the correct answer. Authority supervision accommodates evidence when the policy alone cannot determine the decision. We evaluate a 0.6B implementation against 14 baselines on three datasets covering authentication, instruction hierarchy, and executable authorization rules. TrustJev achieves the highest mean Balance, the harmonic mean of accuracy on non-attack and attack inputs, exceeding the strongest baseline on each by 0.57-1.05 percentage points. In the authorization benchmark, it correctly answers all 32 attacks per source in a fixed pool for 95.77% of sources, compared with 80.98% for the strongest comparator. TrustJev maintains comparable inference memory and median latency, with additional overhead primarily during training.
• Abstract（参考訳）: 決定モデルにより、ソフトウェアは自然言語入力を使用して事前に定義されたアクションから選択できる。 しかし、これらの決定の事実を提供する外部証拠には、アプリケーションのポリシーを覆そうとする指示も含まれているかもしれない。 我々は,保護政策スコアリングと有界証拠修正を組み合わせたフレームワークであるTrustJevを提案する。 単一のトランスフォーマーバックボーンは、信頼された政策と候補者からのポリシースコアと修正予算を計算し、それからその予算による証拠の修正を束縛する。 ペア化された監督は、タスクの事実を保存し、編集が正しい回答を変更するときに好みを変更する命令挿入の下で安定した予測を奨励する。 当局の監督は、政策だけで決定が下せない場合に証拠を収容する。 我々は、認証、命令階層、実行可能認証ルールをカバーする3つのデータセットに対して、14のベースラインに対して0.6Bの実装を評価する。 TrustJevは最高平均バランス、非攻撃および攻撃入力の精度のハーモニック平均を達成し、それぞれ0.57-1.05ポイントで最強のベースラインを超える。 認証ベンチマークでは、固定プール内のソース当たり32件の攻撃を95.77%のソースで正しく答えるが、最も強いコンパレータでは80.98%である。 TrustJevは、ほぼ同等の推論メモリと中央値のレイテンシを維持しており、主にトレーニング中にオーバーヘッドが追加されている。

関連論文リスト

• From Association to Decision Value: Testing Paired Instruction Dependence for VLA Corpus Selection [3.383341806828598]
  本研究は,目標のみを変更すると,実証者が最初の決定を変更できる確率であるペア命令依存度について検討する。 56コーパスで発生した予測は, それぞれ独立に開花した4次航法コーパス136回にわたって, 80個の保留コーパスで前向きに評価した。 監査は信頼性が高く、下流対の正当性と関連付けられ、正当性を認識したベースラインに追加した場合の平均絶対予測誤差を低くする。
  論文  参考訳（メタデータ） (2026-10-21T12:27:55Z)
• Self-Evolving Coding Agents via Harness-Policy Optimization [59.77935668723671]
  Self-HPOは、ハーネスとポリシー最適化を代替するコーディングエージェントのための自己改善フレームワークである。 3つのコーディングベンチマークで、Self-HPOはハーネスのみとポリシーのみのベースラインを一貫して上回っている。 Self-HPOはまた、信頼性(Pass@1)を改善し、ベースエージェント上の機能フロンティア(Pass@k)を拡張する。
  論文  参考訳（メタデータ） (2026-10-16T01:07:52Z)
• Credit Without Ground Truth: Auditing Step-Level Credit Assignment in LLM Agents Against Executed Replay [0.6768558752130311]
  単一エージェント環境において,実行されたリプレイからポリシー条件の真偽を検査する。 段階的な信用シグナルは、限界整合シャッフル制御以上の信頼度の高いインクリメンタル忠実度を示すものではない。 信頼のみのルータは、チャンスレベルにおいて重要なステップを回復するが、1ターンあたりの審査コストを13.1%削減する。
  論文  参考訳（メタデータ） (2026-08-20T08:04:00Z)
• SVR: Self-Verifying Refinement via Joint Verdict-Confidence Reinforcement Learning for Adaptive Test-Time Compute [62.3458279176813]
  自己検証リファインメント(Self-Verifying Refinement)は、オラクルフリーのマルチターン強化学習フレームワークである。 自己検証を計算制御ポリシとして使用することを学ぶ。 マクロ平均精度は0.563で、平均で2.99回しか推測できない。
  論文  参考訳（メタデータ） (2026-07-30T16:20:58Z)
• ContainmentBench: Trace-Based Evaluation of Post-Injection Containment in Tool-Using LLM Agents [4.018837636907658]
  我々は、ベンチマーク定義のエンドポイントポリシーコンプライアンスを測定するサンドボックスベースのトレースベースのベンチマークを導入する。 集計されたスレッドのランキングは、エビデンスステージの構成と分母の選択によって変化する。 これらの結果から, 終端政策ラベルは, 被曝後の封じ込めに十分な統計量ではないことが示唆された。
  論文  参考訳（メタデータ） (2026-07-27T04:51:20Z)
• ConsisGuard: Aligning Safety Deliberation with Policy Enforcement in LLM Guardrails [57.25411733152009]
  推論に基づくガードレールは、最終的な決定を下す前に明確な合理性を生成することによって安全性のモデレーションを改善する。 モデルは、その推論において有害な意図を認識することができるが、それでも安全なラベルを予測したり、政策を根拠とした正当化なしに安全でない決定を下す。 推論に基づくガードレールのための一貫性を考慮したフレームワークであるConsisGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-29T09:42:08Z)
• Beyond Accuracy: Policy Invariance as a Reliability Test for LLM Safety Judges [26.595399077062638]
  LLM-as-a-Judgeパイプラインは、エージェント安全性のデファクト評価器となっている。 既存のベンチマークでは、評定がエージェントの行動に依存するか、それとも単に評価方針がどう語られるかをチェックすることなく、その評定を根底からのプロキシとして扱う。 我々は、証明された等価な書き換えの下でのルーブリック・セマンティック不変性、意図的な厳密なシフトの下でのルーブリック・スレッショルド不変性、曖昧さを意識したキャリブレーションの3つの検証可能な原則として運用する。
  論文  参考訳（メタデータ） (2026-05-07T12:49:09Z)
• TRUST: A Framework for Decentralized AI Service v.0.1 [47.384270414446604]
  大規模推論モデル (LRM) とマルチエージェントシステム (MAS) は, 信頼性の高い検証を必要とする。 TRUST(Transparent, Robust, and Unified Services for Trustworthy AI)は,3つのイノベーションを備えた分散フレームワークである。 我々は、悪質な俳優が損失を被っている間、正直な監査人の利益を確実に確保する安全利益理論を証明する。
  論文  参考訳（メタデータ） (2026-04-29T19:32:58Z)
• Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
  ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。 決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。 NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
  論文  参考訳（メタデータ） (2026-03-29T18:52:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。