論文の概要: Beneath the Diff: Diagnosing and Mitigating Algorithmic Mode Collapse in Code-Level Autonomous Research Loops
- arxiv url: http://arxiv.org/abs/2609.00077v1
- Date: Mon, 31 Aug 2026 08:11:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.838394
- Title: Beneath the Diff: Diagnosing and Mitigating Algorithmic Mode Collapse in Code-Level Autonomous Research Loops
- Title（参考訳）: ディフの下のベネグス:コードレベル自律研究ループにおけるアルゴリズムモードの崩壊の診断と緩和
- Abstract要約: 我々は、反復的なメトリック駆動のコード編集が、ループを超えて一般化する真の改善をもたらすことを示す。
本稿では,カテゴリ被覆再重み付け,永続的な編集メモリ,検証ゲートを組み合わせた軽量化を提案する。
- 参考スコア（独自算出の注目度）: 11.99667127177886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code-level autonomous research loops (ARLs) have recently emerged as a concrete object of study in automated machine learning research. In such loops, an LLM agent proposes modifications to an experimental training pipeline, executes the modified pipeline, and retains edits that improve a verifiable in-loop metric. Although executable metrics may appear to provide a reliable signal of progress, it remains unclear whether repeated metric-driven code editing leads to genuine improvements that generalize beyond the loop. We provide a systematic diagnosis of this question. Across various experiment settings, we identify a robust failure mode that we call \textbf{algorithmic mode collapse}. In this regime, surface-level edit diversity remains stable, but semantic and mechanism-level diversity collapse: the agent continues to edit different lines of code while repeatedly proposing the same kinds of algorithmic changes. This collapse is accompanied by a widening gap between in-loop metric gains and gains measured on independent held-out evaluations. We then propose Diversity-Aware Proposal Sampling (\textsc{DAPS}), a lightweight mitigation that combines category-coverage reweighting, persistent edit memory, and a validation gate. Under a three-tier protocol separating the in-loop metric, the audit metric read by the gate, and a blind metric no loop component ever accesses, \textsc{DAPS} reduces semantic-cluster decay of edits by $69.1\%$ and improves relative faithfulness by $83.7\%$ blind and $81.6\%$ audited, while preserving in-loop optimization speed. We provide the code in Github \href{https://github.com/BokwaiHo/arl-mode-collapse}{repository}.
- Abstract（参考訳）: コードレベルの自律的な研究ループ(ARL)は、機械学習の自動研究における具体的な研究対象として最近登場した。
このようなループでは、LLMエージェントが実験的なトレーニングパイプラインの変更を提案し、修正されたパイプラインを実行し、検証可能なインループメトリックを改善する編集を保持する。
実行可能なメトリクスは、進捗の信頼できるシグナルを提供するように見えるが、反復的なメトリック駆動のコード編集が、ループを超えて真の改善をもたらすかどうかは不明だ。
我々はこの問題を体系的に診断する。
様々な実験環境の中で、我々は「textbf{algorithmic mode collapse}」と呼ぶ堅牢な障害モードを特定します。
この体制では、表面レベルの編集の多様性は安定しているが、セマンティックとメカニズムレベルの多様性は崩壊している。
この崩壊は、ループ内メートル法ゲインと独立したホールトアウト評価で測定されたゲインとのギャップの拡大を伴う。
次に、カテゴリ被覆再重み付け、永続的な編集メモリ、検証ゲートを組み合わせた軽量化であるDiversity-Aware Proposal Sampling (\textsc{DAPS})を提案する。
ループ内メトリック、ゲートによって読み取られた監査メトリック、ブラインドメトリックなしループコンポーネントを分離した3層プロトコルの下で、 \textsc{DAPS} は編集のセマンティッククラスタ崩壊を 69.1 %$ に減らし、ループ内最適化速度を保ちながら、相対忠実度を 83.7 % と 81.6 % に改善する。
Github \href{https://github.com/BokwaiHo/arl-mode-collapse}{repository} のコードを提供しています。
関連論文リスト
- Overfitting Mitigation via Singular Value Decomposition in Minimum Bayes Risk Decoding [53.9009465845701]
本稿では,一対のユーティリティ行列をノイズ情報信号としてフレーム化するSVD-MBRを提案する。
実験により、SVD-MBRは復号化に成功し、一般化されたメトリクスの範囲でかなりの利得が得られることが示された。
論文 参考訳（メタデータ） (2026-09-01T12:11:29Z) - The Laws of Context Allocation: Causal Measurement and Closed-Loop Orchestration in Generative Search [19.846305722187328]
Retrieval-Augmented Generation (RAG)は、多様なポートフォリオ生成にシフトする。
これは2つの重要なボトルネック、すなわち証拠利用率の欠陥測定と、最適条件下予算配分によって悪影響を受けている。
本稿では,遺伝子依存を正確に分離する因果排除プローブを提案する。
モノリシック・コンテキスト・ワイドニング(モノリシック・コンテキスト・ワイドニング)の一般的な戦略は、関連性の崩壊によって罰せられるアーキテクチャ・トラップであることを示す。
論文 参考訳（メタデータ） (2026-08-24T13:44:11Z) - The Illusion of Control: Why Bare Classifier Inversion Silently Fails in Concept-Bottleneck Text Generation [0.30693357740321775]
コンセプション・ブートネック制御可能生成路は低次元概念コードを介してマルチ属性制御を行う。
我々はこの問題を多軸合成一般化の下で概念ボトルネックテキスト生成において研究する。
論文 参考訳（メタデータ） (2026-08-24T08:21:10Z) - IACM-RL: Intent-Aware Context Management and Reinforcement Learning for Complex Tool Invocation under Dynamic Intent Fluctuations [86.93902234336393]
IACM-RLは、堅牢なツール呼び出しのための包括的なフレームワークである。
我々は、13のきめ細かいゆらぎシナリオにまたがる軌道を合成するDynamicIntentパイプラインを導入する。
第2に、IACM-RLはBeliefStateベースのセルフ生成コンテキストマネージャをデプロイする。
論文 参考訳（メタデータ） (2026-08-03T12:09:50Z) - AuditWeave: A Tamper-Evident, Auditor-Navigable Evidence Layer for AI-Assisted and Data-Transformation Workflows [0.0]
AuditWeaveは、AIアシストとデータ変換のステップを1つのハッシュチェーンの台帳に記録する軽量Pythonライブラリである。
本稿では,参照実装におけるオーバヘッド,拡張性,タンパー検出の正確さを設計し,評価する。
論文 参考訳（メタデータ） (2026-06-14T21:46:04Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳（メタデータ） (2026-06-05T14:00:47Z) - Context Pruning for Coding Agents via Multi-Rubric Latent Reasoning [14.508049757681862]
LLMベースのコーディングエージェントは、トークンの予算の大部分をリポジトリファイルを読むのに費やしている。
この定式化がモデリングのボトルネックを生み出すことを示す。
コード関連性を2つの解釈可能な品質次元に分解する構造化プルーニングフレームワークであるLaMRを提案する。
論文 参考訳（メタデータ） (2026-05-14T18:30:10Z) - Efficient Test-Time Inference via Deterministic Exploration of Truncated Decoding Trees [68.04613115686509]
自己整合性は、複数の推論トレースを並列にサンプリングし、投票することで、推論時間のパフォーマンスを向上させる。
そこで本研究では,切り落された標本を伐採木として扱う決定論的復号法であるDLE(Distinct Leafion)を提案する。
DLEは高品質な推論トレースを調査し、数学、コーディング、一般的な推論タスクのパフォーマンスを向上させる。
論文 参考訳（メタデータ） (2026-04-22T12:42:03Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - zkCraft: Prompt-Guided LLM as a Zero-Shot Mutation Pattern Oracle for TCCT-Powered ZK Fuzzing [7.274627641804014]
zkCraftは決定論的、R1CS対応のローカライゼーションと証明付き検索を組み合わせて意味的不整合を検出するフレームワークである。
証明付きローカライゼーションは, 偽陽性が低い多彩な下限および過制約の断層を検出し, コストのかかるソルバ相互作用を低減できることを示す。
論文 参考訳（メタデータ） (2026-01-31T11:31:00Z) - Memory in Large Language Models: Mechanisms, Evaluation and Evolution [8.158439933515131]
我々は,4つの分類法(パラメトリック,文脈,外部,手続き/エピソード)とメモリ四倍法(ロケーション,永続性,書き込み/アクセスパス,制御性)を提案する。
DMM Gov: DAPT/TAPT, PEFT, モデル編集(ROME, MEND, MEMIT, SERAC)、RAGをコーディネートして監査可能なループを形成する。
これにより、再現可能で、同等で、統制可能な、研究と展開のための座標系が得られる。
論文 参考訳（メタデータ） (2025-09-23T10:06:58Z) - Don't Get Lost in the Trees: Streamlining LLM Reasoning by Overcoming Tree Search Exploration Pitfalls [83.89771461061903]
検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。
検証者による木探索アルゴリズムの最近の進歩は、大規模言語モデル(LLM)の推論能力を大幅に向上させた。
意味論的に等価なコンテンツを持つ冗長な状態による$textitover-Exploration$と、検証器のスコアリングにおける高いばらつきに起因する$textitunder-Exploration$である。
各種木探索アルゴリズムに適合するフレキシブルなプラグアンドプレイシステムであるFETCHを提案する。
論文 参考訳（メタデータ） (2025-02-16T16:12:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。