論文の概要: Falsifiable Release Gates for Self-Improving Systems
- arxiv url: http://arxiv.org/abs/2607.13070v1
- Date: Sat, 11 Jul 2026 06:06:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.518233
- Title: Falsifiable Release Gates for Self-Improving Systems
- Title（参考訳）: 自己改善システムのためのFalsibility Release Gates
- Abstract要約: 本稿では,フェール可能なリリースゲートと,そのようなシステムの構築と検証方法について述べる。
すべての新機能は、出荷前に、指定されたマシン検証可能な受け入れスイートをパスしなければならない。
コントロールリングによってマイニングされる安全クリティカルなプロパティ機能トークンのないエフェクターには、アクションは発生しない。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Safety claims on self-improving agent runtimes are almost always self-graded: a policy file, a guardrail, or a README commitment. We describe falsifiable release gates, and a methodology to build and validate such systems, such that every new capability must pass a pre-specified, machine-verifiable acceptance suite before it ships, and a fixed set of standing invariants is preserved at each gate. I think we applied the method in the Antahkarana, an open runtime, via seven gates from basic observability into a self governing loop that suggests changes to its own policy. no action goes to an effector without a safety-critical property capability token minted by a control ring is exhaustively machine-checked over the one million recorded reachable state space of a bounded model and re-checked against execution traces. A purposely broken model gives the shortest counterexample, so the checker has teeth, is apparent. The self-enhancement loop is positively Constrained: the entire write surface is policy rules, tightening changes. may auto-apply loosening changes always require a human merge and a proposal autoclosed is one that mispredicts its own effect; We publish the acceptance measured results for all the seven gates, define precisely the scope of each claim (a bounded of the coordination skeleton (not the learned components) and free the runtime, either command line tools and the gate suite, so the results reproduce, and gates can run against other agent frameworks. Reviewers may repeat the single command central non-bypass in seconds.
- Abstract（参考訳）: 自己改善エージェントランタイムに対する安全性の主張は、ポリシーファイル、ガードレール、READMEコミットメントなど、ほぼ常に自己評価される。
本稿では,フェール可能なリリースゲートと,これらのシステムの構築と検証方法について述べる。すべての新機能は,出荷前に事前に指定されたマシン検証可能な受け入れスイートをパスし,各ゲートに固定されたスタンディング不変量のセットを保存しなければならない。
オープンランタイムであるAntahkaranaでは,基本的な可観測性から7つのゲートを通じて,独自のポリシの変更を示唆する自己管理ループに,この手法を適用したと思います。
制御リングによってマイニングされた安全クリティカルなプロパティ機能トークンが、境界モデルの100万の到達可能な状態空間上で徹底的にマシンチェックされ、実行トレースに対して再チェックされるエフェクタには、アクションは発生しない。
目的的に壊れたモデルは最も短い反例を与えるので、チェッカーには歯がある。
書き込みサーフェス全体がポリシールールであり、変更の締め付けです。
私たちは7つのゲートすべてに対して受け入れ測定結果を公開し、各クレームのスコープ(学習されたコンポーネントではなく)を正確に定義し、ランタイムを解放します。
レビュアーは1つのコマンドの非バイパスを数秒で繰り返すことができる。
関連論文リスト
- $Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN [43.15181031994434]
本稿では,ゼロ知識監査制御とゼロ信頼検証エージェントインテントアーキテクチャを提案する。
実大規模言語モデルは、オペレータの意図をIntent Contractsに変換するために、非リアルタイムパスで使用される。
その結果、動作フィルタリングと攻撃レジリエンスを適度なレイテンシとシグナリングコストで改善したことが示唆された。
論文 参考訳（メタデータ） (2026-08-21T12:44:03Z) - Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。
報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。
本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
論文 参考訳（メタデータ） (2026-08-09T22:59:13Z) - What Can Be Enforced? A Theory of Certified Runtime Safety for Tool-Using Agents [0.0]
ガードレールは不可逆のツールコールの前に動作しますが、その保証は、どのポリシー状態が表現可能であるかによって異なります。
ピアソン表現攻撃はマージンを増すので、良性校正だけでは移動しない。
実験は静的診断、制御モデル列挙、表現書き直し、ペア化された閉ループ再実行を通じてこれらの区別を目標とする。
論文 参考訳（メタデータ） (2026-07-24T19:14:26Z) - Claim Plane: Enforceable Change Intents and Dynamic Scope for Parallel Coding Agents [1.4721615285883427]
本稿では,同時ソフトウェア変更をプリライト入力問題として扱うモデルに依存しない協調アーキテクチャであるClim Planeを提案する。
決定論的制御プレーンは、互換性のある意図をアトミックに認め、宣言された領域に同ファイルの並列性を制約し、未解決の重複をシリアライズし、依存性の無効性を追跡し、曖昧な権限で閉じる。
最初に試みられた突然変異は、現在のアクティブセットに対するアトミックスコープの促進と再許可を引き起こす。
論文 参考訳（メタデータ） (2026-07-24T02:30:50Z) - Can We Break LLMs Out of Self-Loops? Fine-Grained Reasoning Control with Activation Steering [44.273459587532535]
大規模言語モデルからの推論トレースにおける潜時遷移のダイナミクスを解析し,発見する。
フェールトラジェクトリが自己ループで立ち往生していることを示し、最終回答に向けて前進することなくトークン予算を浪費する。
隠れ状態干渉・活性化による推論過程のステアリングについて提案する。
論文 参考訳（メタデータ） (2026-07-20T16:01:57Z) - Governed Caste Reassignment in Heterogeneous Swarms: An Asymmetric-Trust Protocol with Audited Operator Countersignature [7.392721604463545]
規制された実施のためには、キャスターの変更によってロボットの特権エンベロープが上昇することは、監査可能で外部から認可されたガバナンスイベントである、と我々は主張する。
非対称トラストプロトコルを提案する: 自動密着型再割り当ては自動的に許可されるが、有界緩和には演算子対応が必要である。
我々は,最大100台のロボットに対して,実際のEd25519シグネチャによる参照実装を評価する。
論文 参考訳（メタデータ） (2026-07-06T03:34:07Z) - Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority [7.392721604463545]
制限はエージェントの実行アーキテクチャの不変として保証できることを示す。
学習量やスキル獲得量、自己引き起こされるガバナンスの抽象化がエージェントの許可された権限を広げることはできないことを証明します。
論文 参考訳（メタデータ） (2026-07-06T02:42:06Z) - Lingering Authority: Revocable Resource-and-Effect Capabilities for Coding Agents [0.0]
PortICOは、プランナーに露出する機能のリファレンスモニターである。
明示的なタスクコントラクトを初期機能にコンパイルし、ルールを付与し、信頼できるクロージャ述語、グローバルな否定ルールを付与する。
論文 参考訳（メタデータ） (2026-06-21T13:52:37Z) - CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。
CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
論文 参考訳（メタデータ） (2026-06-09T16:24:16Z) - Survive or Collapse: The Asymmetric Roles of Data Gating and Reward Grounding in Self-Play RL [76.45061154544568]
セルフプレイ強化学習は、言語モデルを独自の生成タスクで訓練し、人間ラベルなしでプロジェクタとソルバを共進化させる。
最近のシステムでは強い推理効果が報告されているが、崩壊と不安定性は広く観察され、理解されていない。
代わりに、自己プレイの安定性は、提案者生成タスクがトレーニングプールに入るかを判断するデータレベルゲートと、すでに認められたタスクに関するポリシーを更新する報酬信号の2つの異なるレバーによって管理されていると論じる。
論文 参考訳（メタデータ） (2026-05-21T09:19:23Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳（メタデータ） (2026-04-14T06:48:33Z) - To Throw a Stone with Six Birds: On Agents and Agenthood [0.0]
Six Birds Theory (SBT)は、マクロな物体を原始体ではなく誘導的閉包として扱う。
SBT内では,タイプ正当性評価を行う。
我々はこの契約を4つのチェック可能なコンポーネントを用いて有限制御システムで運用する。
論文 参考訳（メタデータ） (2026-02-03T10:46:23Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳（メタデータ） (2025-12-22T16:34:21Z) - Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。
我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
論文 参考訳（メタデータ） (2025-10-10T15:12:44Z) - Software mitigation of coherent two-qubit gate errors [55.878249096379804]
2量子ゲートは量子コンピューティングの重要な構成要素である。
しかし、量子ビット間の不要な相互作用(いわゆる寄生ゲート)は、量子アプリケーションの性能を低下させる。
寄生性2ビットゲート誤差を軽減するための2つのソフトウェア手法を提案する。
論文 参考訳（メタデータ） (2021-11-08T17:37:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。