論文の概要: Goal-Autopilot: A Verifiable Anti-Fabrication Firewall for Unattended Long-Horizon Agents

• arxiv url: http://arxiv.org/abs/2606.11688v1
• Date: Wed, 10 Jun 2026 06:01:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.318617
• Title: Goal-Autopilot: A Verifiable Anti-Fabrication Firewall for Unattended Long-Horizon Agents
• Title（参考訳）: Goal-Autopilot: 意図しないロングホライゾンエージェントのための検証可能な耐火ファイアウォール
• Abstract要約: Autopilotは、サイレントな製造された成功を構造的に不可能にする実行モデルである。 ハードフロアは、偽造可能なゲートが実際に実行され通過しなかった「完了」の主張を禁止した。 SWE-ベンチライトでは、ファイアウォールは製造を33.7%(StateFlow)から0.67%に減らし、対差は-33.07$ pp.である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-horizon LLM agents are not trusted to run unattended: with no human watching, they confidently report success they never verified. We treat honesty -- bounding what an agent may claim at termination -- as a first-class metric for unattended autonomy, distinct from capability. We present Autopilot, an execution model that makes silent fabricated success structurally impossible rather than merely rarer. Autopilot externalizes all working state into a durable, gated finite-state machine that a scheduler advances one stateless tick at a time; a hard floor forbids any terminal "done" claim whose falsifiable gate did not actually execute and pass. We prove a No-False-Success theorem -- under gate soundness, floor enforcement, and plan coverage, termination implies the goal holds -- whose only trust points are empirically measurable, and show the worst case degrades to an honest stall, never a fabricated success. Because each tick rehydrates only the state machine, per-step context cost is constant in the horizon. Across a 3,150-cell paired corpus (70 tasks $\times$ 3 systems $\times$ 3 models $\times$ 5 seeds, including 50 SWE-bench Lite tasks across 11 OSS repos), Autopilot fabricates on 0.95% of cells [95% CI 0.38--1.62] while Reflexion and StateFlow baselines fabricate on 8.10% [6.48--9.81] and 25.05% [22.48--27.62] respectively. The headline contrast lives in the hard regime: on SWE-bench Lite, the firewall reduces fabrication from 33.7% (StateFlow) to 0.67%, a paired difference of $-33.07$ pp [95% CI $-36.53, -29.73$]. The mechanism is the gate, not the model: all ten Autopilot fabrications come from the strongest model, while two weaker mid-tier models never fabricate across 700 paired cells. The firewall trades coverage for honesty by design -- an honest stall is recoverable; a confident wrong output shipped downstream is not.
• Abstract（参考訳）: ロングホライゾンのLSMエージェントは、人間の監視がなければ、確認されていない成功を確実に報告する。 我々は、エージェントが終了時に主張するべき誠実さを、能力とは別の、意図しない自律性のための第一級の指標として扱います。 サイレントな成功を単に稀ではなく構造的に不可能にする実行モデルであるAutopilotを提案する。 オートパイロットは、全ての動作状態を、スケジューラが一度に1つのステートレスティッチを前進させる、耐久性のあるゲート付き有限状態マシンに外部化する。 No-False-Successの定理 – ゲートの音性,フロアの執行,計画のカバレッジ – を証明した上で,終了は,信頼ポイントのみを経験的に測定可能な – を目標として示します。 それぞれが状態マシンのみをリハイドするので、ステップごとのコンテキストコストは地平線内で一定である。 3150セルのペアコーパス(70タスク$\times$3システム$\times$3モデル$\times$5シード、うち50SWE-bench Liteタスクが11OSSリポジトリにまたがる50SWE-bench Liteタスクを含む)、Autopilotは0.95%のセル(95% CI 0.38--1.62)、ReflexionとStateFlowベースラインは8.10%(6.48-9.81)、25.05%(22.48-27.62)である。 SWEベンチライトでは、ファイアウォールは製造を33.7%(ステートフロー)から0.67%に減らし、対差は-33.07$ pp [95% CI $-36.53, -29.73$]である。 10基のオートパイロット製造は最強のモデルから来ているが、より弱い中間層モデル2基は700対のセルで製造されることはない。 ファイアウォールは、デザインによって誠実さをカバーしている -- 正直なストールは回復可能であり、下流に出荷される確実なアウトプットはそうではない。

関連論文リスト

• ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
  大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。 SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。 モデル自身の失敗から両方を得るReDraftを紹介します。
  論文  参考訳（メタデータ） (2026-09-15T04:59:03Z)
• From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
  200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。 我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。 このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
  論文  参考訳（メタデータ） (2026-09-01T17:39:26Z)
• DreamLedger: Where to Refuse World-Model Imagination Using Execution-Settled Credit [3.081254027365109]
  DreamLedgerは、信頼性を永続的なデプロイオブジェクトとして扱う。 モデルが間違っているというよりも、ゲートが拒否する場所の永続的なクレジットが変わります。 我々は,DreamerV3,TD-MPC2,V-JEPA 2-ACマウントの3つの模擬ドメインと実フランカについて検討した。
  論文  参考訳（メタデータ） (2026-08-24T22:12:10Z)
• Real-Time Detection and Repair of LLM Agent Failures [0.0]
  LLMエージェントは、エポゾドループの途中で失敗し、カスケードツールエラー、ゴールのドリフトオフ、結果の生成、あるいは静かに劣化したコンテンツを吸収する。 1ステップあたりのマイクロ秒のモニターを使用して、正常な実行のみをトレーニングすることで、観測可能なステップ単独で、どの程度の検出が達成できるのかを問う。 システムは1歩あたり200マイクロ秒で、審査員の呼び出しより3桁低い。
  論文  参考訳（メタデータ） (2026-08-03T16:34:46Z)
• Reason Less, Verify More: Deterministic Gates Recover a Silent Policy-Violation Failure Mode in Tool-Using LLM Agents [1.6567880228735357]
  ポリシーを許容する環境では、対応する状態遷移がドメインポリシーによって禁じられている場合であっても、ツールはよくできた呼び出しを実行できる。 我々は、この障害モードを2ドルの航空会社ドメインで研究する。 我々は、決定論的かつリードオンリーの事前実行ゲートという、軽量な介入を評価する。
  論文  参考訳（メタデータ） (2026-07-08T13:38:54Z)
• Security--Fidelity Tradeoffs: The Hidden Cost of Prompt Injection Defense [24.794318726705118]
  アタック・サクセス・メトリクスは、注入を無視したモデルを見ることができず、データを同じスコアとして忠実に処理します。 SecFidは、インジェクションを実行し、データとして処理し、区別可能な出力を無視するベンチマークです。
  論文  参考訳（メタデータ） (2026-06-29T18:11:17Z)
• From Confident Closing to Silent Failure: Characterizing False Success in LLM Agents [0.0]
  単一制御のtau2-benchドメインでは45～48%、二重制御の通信では3%、AppWorldの自己評価のコーディングエージェントトラジェクトリでは75.8%、明確なステータスクレームでは75.8%である。 TF-IDF検出器は、tau2-benchでタスク非結合のAUROC 0.83、AppWorldで0.95を達成する。
  論文  参考訳（メタデータ） (2026-06-01T00:13:23Z)
• Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
  エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。 Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。 すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
  論文  参考訳（メタデータ） (2026-04-07T17:43:18Z)
• Empirical Validation of the Classification-Verification Dichotomy for AI Safety Gates [0.0]
  オラクルベースの安全ゲートは、AIシステムが数百回以上のイテレーションを改善するため、信頼できる監視を維持することはできない。 自己改善自体の安全性ではなく、分類に特有であることを示す。
  論文  参考訳（メタデータ） (2026-03-31T13:54:36Z)
• LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
  評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。 このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。 チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
  論文  参考訳（メタデータ） (2026-03-28T18:03:32Z)
• Capable but Unreliable: Canonical Path Deviation as a Causal Mechanism of Agent Failure in Long-Horizon Tasks [0.38991526486631006]
  信頼性障害の多くは、タスクの潜在解構造からのドリフトに起因するものであり、能力障害ではない、と我々は主張する。 我々は、モデル能力と作業難易度を維持できる自然実験を用いて、これを因果的に確立する。
  論文  参考訳（メタデータ） (2026-02-22T02:37:57Z)
• AI Agent Smart Contract Exploit Generation [8.69235891205913]
  A1は、いかなる大規模言語モデルもエンドツーエンドのエクスプロイトジェネレータに変換するエージェントシステムである。 A1は、自律的な脆弱性発見のための6つのドメイン固有のツールを提供する。 我々は、A1がエクスプロイト当たり最大8.59億ドル、合計9.33億ドルを抽出していることを示す。
  論文  参考訳（メタデータ） (2025-07-08T00:45:26Z)
• DyePack: Provably Flagging Test Set Contamination in LLMs Using Backdoors [52.85182605005619]
  トレーニング中にベンチマークテストセットを使用したモデルを識別するためにバックドアアタックを利用するフレームワークであるDiePackを紹介します。 銀行が染料パックにお金を混ぜて強盗をマークするのと同じように、DiePackはバックドアのサンプルとテストデータとを混ぜて、その上で訓練されたモデルのフラグを立てる。 我々はDiePackを3つのデータセットにわたる5つのモデルで評価し、複数の選択とオープンな生成タスクの両方をカバーした。
  論文  参考訳（メタデータ） (2025-05-29T02:22:14Z)
• Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [71.7892165868749]
  LLM(Commercial Large Language Model) APIは基本的な信頼の問題を生み出します。 ユーザーは特定のモデルに課金するが、プロバイダが忠実に提供できることを保証することはない。 我々は,このモデル置換問題を定式化し,現実的な逆条件下での検出方法を評価する。 我々は,信頼された実行環境(TEE)を実用的で堅牢なソリューションとして使用し,評価する。
  論文  参考訳（メタデータ） (2025-04-07T03:57:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。