論文の概要: DEI: Diversity in Evolutionary Inference for Quality-Diversity Search
- arxiv url: http://arxiv.org/abs/2605.27130v1
- Date: Tue, 26 May 2026 15:00:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-27 17:51:42.285256
- Title: DEI: Diversity in Evolutionary Inference for Quality-Diversity Search
- Title（参考訳）: DEI: 品質多様性探索のための進化的推論の多様性
- Authors: John Donaghy, Shikhar Rastogi,
- Abstract要約: 本稿では,分散品質多様性(QD)検索フレームワークである進化推論における多様性について述べる。
均質な並列探索とは異なり、DEI はそれぞれの LLM の独特な創造性を、行動の新規性の相補的な源として扱う。
ノードは各ラウンドの最後に 最適な解決策を共有します 次のラウンドの人口を シードするために
- 参考スコア（独自算出の注目度）: 0.14323566945483496
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present DEI: Diversity in Evolutionary Inference, a distributed Quality-Diversity (QD) search framework that assigns heterogeneous large language models (LLMs) as mutation operators across peer nodes communicating with non-blocking collective operations. Unlike homogeneous parallel search, which replicates a single model's inductive biases across all workers, DEI treats each LLM's distinct creative prior as a complementary source of behavioral novelty. Extending the Digital Red Queen framework with DEI, nodes share local optimal solutions at the end of each round to seed the next round's population. This creates cross-model adversarial pressure that drives robustness beyond intra-model self-play. Evaluated on the Core War domain, a competitive programming benchmark in which Redcode warrior programs battle inside a simulated machine, a four-node heterogeneous ensemble (GPT-5.4-mini, Claude Sonnet 4.6, GPT-5.2, and Claude Haiku 4.5) achieves 124 percent higher merged-archive QD-Score (45.90 vs. 20.46) and 28 percent higher coverage (80.6 percent vs. 63.0 percent of cells) than a single-node baseline at equal total LLM-call budget. The heterogeneous ensemble also outperforms an equally-budgeted homogeneous ensemble on QD-Score, coverage, and held-out solution generality across all four model families. These results provide the first empirical evidence that model diversity, not merely parallelism, is the key driver of gain in distributed LLM-based QD search.
- Abstract（参考訳）: DeI: Diversity in Evolutionary Inference, a Distributed Quality-Diversity (QD) search framework that assigns heterogeneous large language model (LLMs) as mutation operator across peer node communication with non-blocking collective operations。
単一モデルの帰納バイアスを全ての労働者に再現する同質な並列探索とは異なり、DEIはそれぞれのLCMの独特な創造性を、行動のノベルティの相補的な源として扱う。
DEIでDigital Red Queenフレームワークを拡張したノードは、各ラウンドの終了時にローカル最適ソリューションを共有して、次のラウンドの人口をシードする。
これにより、モデル内の自己プレーを超えた堅牢性を駆動するクロスモデル逆圧が生成される。
Core Warドメインでの評価では、Redcodeの戦士プログラムがシミュレートされたマシン内で戦う競合プログラミングのベンチマークとして、4ノードの異種アンサンブル(GPT-5.4-mini、Claude Sonnet 4.6、GPT-5.2、Claude Haiku 4.5)が124%、統合アーキテクチャのQDスコア(45.90対20.46)が28%、LLMコールの予算が同じである単一ノードのベースライン(80.6%対63.0%)よりも高いカバレッジ(80.6%対63.0%)を達成した。
ヘテロジニアスアンサンブルは、QDスコア(英語版)、カバレッジ(英語版)、および4つのモデル族全体にわたるホールドアウト解一般性(英語版)において等予算の均質アンサンブルよりも優れる。
これらの結果は、モデル多様性が単なる並列性ではなく、分散LLMベースのQD探索において得られる重要な要因であることを示す最初の実証的証拠となる。
関連論文リスト
- Beyond Mode Collapse: Distribution Matching for Diverse Reasoning [69.88237286885065]
GRPOのようなオンライン強化学習手法はモード崩壊に悩まされる。
このことは、逆KL最小化のモード探索行動に由来することを示す。
KL最小化の原理的近似によりモード崩壊を防止するDMPOを提案する。
論文 参考訳（メタデータ） (2026-05-19T07:13:00Z) - A Communication-Theoretic Framework for LLM Agents: Cost-Aware Adaptive Reliability [0.20625936401496228]
大規模言語モデル(LLM)に基づく大規模言語モデルの信頼性技術について検討する。
これらの信頼性手法は6つの古典的信頼性演算子の特別な場合であることを示す。
本稿では,1つのラグランジアンノブが高品質なフロンティアを横断するコストアレスト近傍ルータを提案する。
論文 参考訳（メタデータ） (2026-05-09T19:14:33Z) - Preserving Disagreement: Architectural Heterogeneity and Coherence Validation in Multi-Agent Policy Simulation [0.0]
政策シミュレーションにおいて,大規模言語モデル(LLM)を用いたマルチエージェント検討システムの提案が進んでいる。
評価エージェントは、割り当てられた値の観点に関わらず、同じ選択肢に収束する。
我々は、三段階の審議フレームワークであるAI Councilを提示し、2つの介入をテストするための2つの政策シナリオにわたる120の審議を行う。
論文 参考訳（メタデータ） (2026-04-29T11:47:28Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳（メタデータ） (2026-04-20T16:43:28Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z) - Fortytwo: Swarm Inference with Peer-Ranked Consensus [36.94429692322632]
我々は、AI推論において優れたパフォーマンスを達成するために、Swarmの知能原則と分散ペアのランキングコンセンサスを活用する新しいプロトコルFortytwoを提案する。
独自のBradley-Terry-styleアグリゲーションモデルを用いて、Swarm推論が多数決をかなり上回ることを示す。
論文 参考訳（メタデータ） (2025-10-27T23:19:48Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z) - A Confidence-Diversity Framework for Calibrating AI Judgement in Accessible Qualitative Coding Tasks [0.0]
信頼性の多様性の校正は、アクセス可能なコーディングタスクの品質評価フレームワークである。
8つの最先端のLCMから5,680のコーディング決定を分析すると、自信はモデル間の合意を密接に追跡する。
論文 参考訳（メタデータ） (2025-08-04T03:47:10Z) - Diversity Drives Fairness: Ensemble of Higher Order Mutants for Intersectional Fairness of Machine Learning Software [22.887573151964464]
本稿では,機械学習ソフトウェアの交差公正性を高めるための新しいアンサンブル手法であるFairHOMEを紹介する。
多様性の利点を強調する社会科学理論に触発されて、FairHOMEは入力インスタンスごとに多様なサブグループを表すミュータントを生成する。
我々はFairHOMEを、24の意思決定タスクにまたがる7つの最先端の公正性改善手法に対して広範囲に評価する。
平均して交差点の公正度は47.5%向上し、現在最高のパフォーマンスの手法を9.6ポイント上回っている。
論文 参考訳（メタデータ） (2024-12-11T07:44:35Z) - Hybrid Spectrogram and Waveform Source Separation [91.3755431537592]
エンド・ツー・エンドのハイブリッド・ソース分離を行う方法を示し、各ソースに適したドメインをモデルで決定する。
提案されたDemucsアーキテクチャのハイブリッドバージョンは、ソニーが主催したMusic Demixing Challenge 2021で優勝した。
論文 参考訳（メタデータ） (2021-11-05T16:37:45Z) - AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。
最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。
第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。
3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
論文 参考訳（メタデータ） (2020-01-15T18:32:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。