論文の概要: The Harness as the Only Mutable Surface: Compliance-Bounded Self-Evolution of LLM Agents in Credit Pipelines, with a Measured Admission Gate
- arxiv url: http://arxiv.org/abs/2610.10629v1
- Date: Wed, 07 Oct 2026 12:33:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.584171
- Title: The Harness as the Only Mutable Surface: Compliance-Bounded Self-Evolution of LLM Agents in Credit Pipelines, with a Measured Admission Gate
- Title(参考訳): 唯一の可変面としてのハーネス:クレジットパイプライン内におけるLCMエージェントのコンプライアンス境界による自己進化
- Abstract要約: 自己改善型LLMエージェントは、クレジットパイプラインを変更ルールに適合させることができるが、書き換えるエージェントは、管理者レビューの成果物を破壊する。
自己進化は、ハーネスに限られている場合のみ、レビュー可能であると我々は主張する。
このバウンダリ上に構築されたデュアルループエンジンに,デプロイメント前にハッシュチェーンレコードを記述した入力ゲートをひとつ用意しています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-improving LLM agents can adapt a credit pipeline to a changed rule, but an agent that rewrites itself destroys the artefact a supervisor reviews: a named change, a recorded test, an approval. We argue that self-evolution is reviewable only if it is confined to the runtime harness (instruction text, tool-call logic and primitive composition) while model weights stay fixed, so that every adaptation is a diff with a cause and a test attached. We give a dual-loop engine built on that bound, with one admission gate that writes a hash-chained record before deployment, and we measure the gate in simulation, with a simulated agent and a seeded-search proposer rather than language models. Across three families of supervisory re-interpretation at three severities, 10 seeds each, the gated loop admitted 144 of 7,449 candidate changes, none of which worsened error on held-out history, and restored the false-positive rate to the oracle level without raising missed flags in every low- and mid-severity cell. With the gate replaced by the check an unbounded system applies (fewer errors visible in recent traces), the same loops admitted 309 harmful changes and left missed flags above 10% in 49 of 90 runs: false positives fell because the screen was loosened. Evaluated on pre-shift labels, the gate rejected every candidate, so a re-interpretation must be encoded as a rule that relabels history. Parametric and scope shifts were repaired locally, a structural one only by primitive replacement; at the highest structural severity the gate's fixed tolerance blocked the correct replacement in half the seeds. We map the mechanisms to the EU AI Act's provisions for high-risk credit scoring and note that the April 2026 US model-risk guidance excludes agentic AI from its scope.
- Abstract(参考訳): 自己改善型LLMエージェントは、クレジットパイプラインを変更ルールに適合させることができるが、書き換えるエージェントは、管理者がレビューするアーティファクト(名前の変更、記録されたテスト、承認)を破壊する。
自己進化は、実行時ハーネス(インストラクションテキスト、ツールコールロジック、プリミティブコンポジション)に限定されている場合のみレビュー可能であるが、モデルウェイトは固定されているため、すべての適応が原因とアタッチされたテストとの差である、と我々は主張する。
我々は、その境界の上に二重ループエンジンを1つの入出力ゲートで構築し、配置前にハッシュチェーンレコードを記述し、シミュレーションにおいて、シミュレーションエージェントと言語モデルではなくシード検索プロポーサを用いてゲートを計測する。
3つの重症度(種子10種)における監督的再解釈の3家系にわたって、ゲートループは7,449件の候補変更のうち144件を認め、いずれも保持履歴の誤りを悪化させ、低重度細胞と中重度細胞で欠落旗を掲げることなく、虚偽陽性率をオラクルレベルに回復した。
ゲートをチェックに置き換えると、非バウンドシステム(最近のトレースで見られるエラーが少ない)が適用され、同じループは309の有害な変更を認め、90ラン中49ランで10%以上のフラグを残した。
事前シフトラベルに基づいて評価され、ゲートはすべての候補者を拒絶したので、再解釈は歴史をリラベルする規則としてエンコードされなければならない。
パラメトリックとスコープシフトは、プリミティブな置き換えによってのみ、局所的に修復された。
我々は、このメカニズムをEU AI Actのハイリスククレジットスコアリング規定にマッピングし、2026年4月の米国モデルリスクガイダンスがエージェントAIをその範囲から除外している点に注意する。
関連論文リスト
- Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。
標準的な最終精度評価は、これらの反対のメカニズムを詳述する。
複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
論文 参考訳(メタデータ) (2026-09-28T14:31:19Z) - RRSI: Regularized Recursive Self-Improvement of Agent Harnesses [76.77275934611428]
正規化再帰的自己改善型エージェント・ハーネス(RRSI)
本稿では、正規化の原則を取り入れたRRSIを紹介し、進化候補の提案と選択を制約することで自己改善を活用する。
RRSIは5つのアウト・オブ・ディストリビューション・ベンチマークで14.1ポイント、最大4.7ポイントを獲得し、非正規化進化よりも30%少ないポリシートークンで動作するハーネスを生産している。
論文 参考訳(メタデータ) (2026-09-21T17:54:49Z) - Self-Healing Harness for Runtime Oversight of Agent Self-Modification [5.222675089489031]
LLMエージェントは将来の行動を変えることができ、自己生成した変更が持続することを許容する基本的な制御問題を提起する。
我々はこれを自己修正の受付制御として定式化し、エージェントは操作命令の変更を提案し、外部ランタイムゲートは永続性を制御する。
論文 参考訳(メタデータ) (2026-09-21T05:36:56Z) - AI-Assisted Design of a Post-Quantum Cryptographic Accelerator: A Deployed-Silicon Case Study [0.4251773265892765]
我々は、標準の受け入れゲートを、事実上のゴールデンレファレンスオラクルに置き換える。
エージェント型大規模言語モデルがML-KEM-768とML-DSA-65アクセラレータを駆動する実験を232回報告した。
論文 参考訳(メタデータ) (2026-09-03T16:34:50Z) - One Recipe, Many Harnesses: What Self-Evolution Encodes Across Languages and Models [46.83445434865936]
自己進化型ハーネスは、エージェントが自身のロールアウトを検査し、プロンプト、ツール、メモリを編集するクローズドループシステムである。
ベンチマーク固有の適応、言語固有のエンジニアリング知識、あるいは基礎となるモデルの制限に対する補償をエンコードしているかどうかは不明だ。
論文 参考訳(メタデータ) (2026-08-10T19:45:45Z) - The LLM Proposes, the Executive Disposes: A Self-Verifying Agent Instrument that Dissociates Commitment Drift from Binding Drift in Long-Horizon Agents [0.0]
本稿では,ポストホックではなく構造的検証を行うためのエージェント機器を提案する。
組織ごとの書き込みエラー、レンダリングサイズ、あるいは塩漬けのカナリアエチョフロアが破られた場合、実行はすべて無効になる。
長期のエージェントが苦しむたびに、クリーンでシングル変数の結果が報告される。
論文 参考訳(メタデータ) (2026-08-04T15:10:37Z) - Auditable Release Control for Pedagogical Leakage in LLM Tutors [0.0]
大規模な言語モデルチューターは、その開示が承認される前に答えや決定的な推論を明らかにするのに役立ちます。
我々は、この状態および行動依存的障害を、教育的漏洩認識認可として定式化し、完全修復境界を導入する。
グローバルA1は0の多数と54のユーティリティフラグを獲得し、自動安全と実用性において適合Qを上回っている。
論文 参考訳(メタデータ) (2026-08-01T08:24:30Z) - Falsifiable Release Gates for Self-Improving Systems [0.0]
本稿では,フェール可能なリリースゲートと,そのようなシステムの構築と検証方法について述べる。
すべての新機能は、出荷前に、指定されたマシン検証可能な受け入れスイートをパスしなければならない。
コントロールリングによってマイニングされる安全クリティカルなプロパティ機能トークンのないエフェクターには、アクションは発生しない。
論文 参考訳(メタデータ) (2026-07-11T06:06:34Z) - Converted, Not Equivalent: Benchmarking Codebase Conversion via Observational Equivalence [56.25095230687242]
コーディングエージェントは、しばしば自身のローカル検証ルーチンを過度に信頼し、表面チェックを満たすアーティファクトの成功を宣言する。
この問題は、事前評価が結果駆動である変換において特に深刻である。
ブラインド・コンバージョンは26.7-28.9%に達し、スペック・パスレートは91.1%まで上昇した。
このことは、失敗は限られた予算やバックボーンの強さよりも、契約ミスによる自己検証に起因していることを示唆している。
論文 参考訳(メタデータ) (2026-05-27T19:57:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。