論文の概要: ConflictGuide: AutoResearch Improves When Competing Behaviors Are Made Visible
- arxiv url: http://arxiv.org/abs/2609.39933v1
- Date: Wed, 30 Sep 2026 15:17:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 04:51:24.456158
- Title: ConflictGuide: AutoResearch Improves When Competing Behaviors Are Made Visible
- Title（参考訳）: ConflictGuide: 競合する動作が可視になるとき、AutoResearchが改善
- Abstract要約: LLMベースのAutoResearchシステムは、モデルコードを反復的に編集し、スカラーなタスクパフォーマンスフィードバックに基づいて編集を保持する。
スカラーフィードバックは検索の初期段階で広い探索を支援するが、編集が競合する動作にどのように影響するかは明らかになっていない。
一致した予算実験では、タスクゲインが減少するにつれて競合行動フィードバックを導入することで、両方の行動を改善する提案の共有が増加する。
- 参考スコア（独自算出の注目度）: 25.026452789882587
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When designing machine learning models, desirable properties are often in tension: improving one behavior can impair another, so task progress can depend on alleviating the conflict. LLM-based AutoResearch systems, which iteratively edit model code and retain edits based on scalar task-performance feedback, have largely ignored this trade-off. We find that scalar feedback supports broad exploration early in search, but it does not reveal how edits affect competing behaviors. In matched-budget experiments, introducing competing-behavior feedback as task gains diminish increases the share of proposals that improve both behaviors and sustains progress beyond scalar-only plateaus. Obtaining this feedback for a given model requires identifying its competing behaviors and designing probes to measure them. To make competing-behavior feedback actionable, we introduce ConflictGuide. Its reusable ConflictGuide-Skill combines a literature-grounded taxonomy with model-specific evidence to identify competing behaviors and specify probes for a code agent to implement as metrics. Evolution proceeds in two stages: Stage I explores with task feedback; Stage II uses probe feedback to steer proposals toward conflict alleviation and retains marginal-gain edits only when probes indicate sufficient alleviation. Across five diverse model families, ConflictGuide reduces task and conflict-related errors by up to 28% and 14%, respectively, relative to scalar-only AutoResearch, with gains extending to other code agents.
- Abstract（参考訳）: 機械学習モデルを設計する場合、望ましい性質は緊張関係にあることが多い。
LLMベースのAutoResearchシステムは、モデルコードを反復的に編集し、スカラーなタスクパフォーマンスフィードバックに基づいて編集を保持するが、このトレードオフは無視されている。
スカラーフィードバックは検索の初期段階で広い探索を支援するが、編集が競合する動作にどのように影響するかは明らかになっていない。
整合予算実験では、タスクゲインが減少するにつれて競合行動フィードバックを導入することで、振る舞いを改善し、スカラーのみの台地を超えて進歩を維持する提案の共有が増加する。
与えられたモデルに対するこのフィードバックを取得するには、競合する振る舞いを特定し、それらを測定するためのプローブを設計する必要があります。
競合行動フィードバックを実用的なものにするために、ConflictGuideを紹介します。
その再利用可能なConflictGuide-Skillは、文献に基づく分類とモデル固有のエビデンスを組み合わせて、競合する振る舞いを特定し、コードエージェントがメトリクスとして実装するためのプローブを指定する。
ステージ1はタスクフィードバックで探索し、ステージ2はプローブフィードバックを使用して競合緩和に向けて提案を操り、プローブが十分な緩和を示す場合にのみ限界利得編集を保持する。
5つの多様なモデルファミリの中で、ConflictGuideは、スカラーのみのAutoResearchと比較して、タスクとコンフリクト関連エラーを最大28%、コンフリクト関連エラーを最大14%削減する。
関連論文リスト
- ConflictVLA-Bench: Benchmarking Behavioral Responses of Vision-Language-Action Models to Premise Conflicts [16.995082216096787]
ConflictVLA-Benchは、コンフリクトロールアウトと前提整合参照ロールアウトをペアリングする。
ベンチマークには、4つのコンフリクトファミリーにまたがる2,826のプロンプト条件のコンフリクトタスク、4つの構造構成、2つのプロンプト条件が含まれている。
無効な前提は、最初のゴール完了を少なくとも17.3ポイント削減し、OpenVLAでは56.2ポイントまで削減した。
論文 参考訳（メタデータ） (2026-09-25T02:43:01Z) - ExComm: Exploration-Stage Communication for Error-Resilient Agentic Test-Time Scaling [57.42714978834704]
ExCommは、探索段階のエージェントテストタイムスケーリングのための通信プロトコルである。
ExCommは、強いテスト時間スケーリングベースラインを一貫して上回ります。
論文 参考訳（メタデータ） (2026-05-21T07:38:44Z) - AI Alignment via Incentives and Correction [14.986111703734222]
我々は、抑止と執行の法・経済モデルのレンズを通してAIアライメントを研究する。
解決者は、説得力があるが誤った答えを出し、不確実性を隠蔽したり、急激なショートカットを悪用する恩恵を受けることができる。
この相互作用を、主成分が共同補正結果よりも報酬を選択する2エージェントモデルで定式化する。
論文 参考訳（メタデータ） (2026-05-02T23:28:02Z) - Building Better Deception Probes Using Targeted Instruction Pairs [1.610762469264735]
線形プローブは、騙し行動のためのAIシステムを監視するための有望なアプローチである。
本稿では,トレーニング中に使用する命令ペアの重要性を明らかにする。
本研究は,人為的に解釈可能な擬人化分類による特定の擬人化行動のターゲティングが,評価データセットの改善につながることを示す。
論文 参考訳（メタデータ） (2026-02-01T20:18:11Z) - On the Paradoxical Interference between Instruction-Following and Task Solving [50.75960598434753]
次の命令は、大規模言語モデル(LLM)を、タスクの実行方法に関する明示的な制約を指定することで、人間の意図と整合させることを目的としている。
我々は,LLMのタスク解決能力にパラドックス的に干渉する命令に従うという,直感に反する現象を明らかにした。
本稿では,タスク解決に追従する命令の干渉を定量化する指標として,SUSTAINSCOREを提案する。
論文 参考訳（メタデータ） (2026-01-29T17:48:56Z) - PSDiff: Diffusion Model for Person Search with Iterative and Collaborative Refinement [59.6260680005195]
本稿では,拡散モデルであるPSDiffに基づく新しいPerson Searchフレームワークを提案する。
PSDiffは、ノイズの多いボックスとReID埋め込みから地上の真実へのデュアルデノケーションプロセスとして検索する人を定式化する。
新しいパラダイムに従って、我々は、反復的かつ協調的な方法で検出とReIDサブタスクを最適化する新しいコラボレーティブ・デノナイジング・レイヤ(CDL)を設計する。
論文 参考訳（メタデータ） (2023-09-20T08:16:39Z) - Hybrid Relation Guided Set Matching for Few-shot Action Recognition [51.3308583226322]
本稿では,2つの鍵成分を組み込んだHybrid Relation Guided Set Matching (HyRSM) 手法を提案する。
ハイブリッドリレーションモジュールの目的は、エピソード内の関連関係とクロスビデオの完全活用により、タスク固有の埋め込みを学習することである。
我々は,HyRSMを6つの挑戦的ベンチマークで評価した。
論文 参考訳（メタデータ） (2022-04-28T11:43:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。