論文の概要: Heterogeneous LLM Debate Under Adversarial Peers: Honest Gains, Replacement Costs, and Resilience

• arxiv url: http://arxiv.org/abs/2606.19826v1
• Date: Thu, 18 Jun 2026 06:06:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.677879
• Title: Heterogeneous LLM Debate Under Adversarial Peers: Honest Gains, Replacement Costs, and Resilience
• Title（参考訳）: 不均質なLLM論:正直な利得、置き換えコスト、レジリエンス
• Authors: Prashanti Nilayam, Kiran Kumar Ramanna, Prashil Tumbade, Sankalp Nayak,
• Abstract要約: 不均一なピアが正直なエージェントのリビジョン行動をどのように変えるかを測定する。 誠実なピアは有害なリビジョンを著しく低くし、敵のピアはそれを逆転させる。 また,対立する同族同族者が存在する場合の効果も測定した。
• 参考スコア（独自算出の注目度）: 1.3299507495084417
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Heterogeneous LLM debate is motivated by the promise that diverse peers correct one another, but the same exchange that carries correction also carries adversarial influence. We measure which dominates by tracking how a heterogeneous peer changes the honest agents' revision behavior: how often they change their answer, and whether the change is corrective or harmful. We compare matched panels (homogeneous baseline, honest-mixed, and adversarial-mixed) and contaminated panels in which a malicious same-family peer is already present, spanning four model families and three reasoning benchmarks. An honest heterogeneous peer sharply lowers harmful revision, and an adversarial one reverses it. For Llama-3.1-70B defenders on MATH-hard, the honest-slot harmful-revision rate falls from 89% in the homogeneous panel to 35% with an honest peer, and an adversarial peer returns it to 90%. The conditional rate hides this damage on weak defenders, but the end-of-debate flip rate exposes it. The pattern keeps its sign across families and benchmarks while its magnitude varies with the defender-benchmark regime. We also measure the effects when an adversarial same-family peer is already present: an honest heterogeneous peer lowers both harmful revision and the rate at which initially-correct answers are lost. On the same Llama-3.1-70B setting, the added honest peer cuts the flip rate on initially-correct items from 31% under a same-family adversary to 6%. Heterogeneity is therefore not only an attack surface but, when an adversary is already present, also a defense.
• Abstract（参考訳）: 不均質なLLM論争は、多様なピアが互いに正し合うという約束によって動機づけられるが、修正を行うのと同じ交換もまた敵の影響をもたらす。 我々は、不均一なピアが正直なエージェントのリビジョンの振る舞いをどのように変えるかを追跡することで、どれが支配的であるかを計測する。 我々は、一致したパネル(均一なベースライン、正直な混合、逆混合)と、悪意のある同一家族の仲間がすでにいる汚染されたパネルを比較し、4つのモデルファミリーと3つの推論ベンチマークにまたがる。 正直な異質なピアは有害なリビジョンを著しく低下させ、敵のピアはそれを逆転させる。 MATH-hardのLlama-3.1-70Bディフェンダーにとって、正直なスロットの有害リビジョン率は、同質パネルの89%から、正直なピアで35%に減少し、敵のピアが90%に低下する。 条件付きフリップレートは、弱いディフェンダーにこのダメージを隠蔽するが、終端のフリップレートはそれを露呈する。 このパターンは、ディフェンダー・ベンチマーク体制によって大きさが変わる一方、家族やベンチマーク間でサインを保っている。 また, 正反対の同族同族がすでに存在する場合, 正反対の異族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同族同 同じLlama-3.1-70B設定では、初期修正項目のフリップ率を31%から6%に下げる。 したがって、不均一性は攻撃面であるだけでなく、敵が既に存在する場合、防御でもある。

関連論文リスト

• Not All Flips Are Conformity: Decomposing Stance Convergence in Multi-Agent LLM Debate [5.650336594658653]
  従来の解答フリップは, 自発的不安定性, 姿勢による適合性, 推論による説得の3つのメカニズムを混同している。 我々の3ソース分解フレームワークは、制御された対策条件によってそれぞれを分離する。
  論文  参考訳（メタデータ） (2026-05-30T17:41:11Z)
• Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges [65.92623263645139]
  LLM審査員を誤解させるためにセマンティクスを保存する編集を学習するブラックボックスの敵対的フレームワークであるBITEを紹介する。 BITEは65%を超える攻撃成功率を獲得し、9ポイントのスケールでスコアを1-2ポイント上げる。 LLM-as-a-judgeパラダイムの根本的な弱点を明らかにし,ロバストでアタック・アウェアな評価を動機づけた。
  論文  参考訳（メタデータ） (2026-05-24T05:24:09Z)
• GRASP: Deterministic argument ranking in interaction graphs [65.66879897437157]
  全体的判断はモデル間不一致に悩まされていることを示す。 この不安定性は、議論の複雑な相互作用構造を1つの不透明なスコアに崩壊させることから生じる。 安定な局所的相互作用判断をグローバルなランキングに集約する決定論的なフレームワークであるGRASPを提案する。
  論文  参考訳（メタデータ） (2026-05-18T21:49:02Z)
• Not Just RLHF: Why Alignment Alone Won't Fix Multi-Agent Sycophancy [0.7212939068975618]
  事前訓練されたベースモデルは、インストラクトの変種と同じ置換パターンを示し、インストラクトよりも高い収率を平均化する。 このウィンドウの上のパッチは、クリーンにプレッシャーされたP(正しい)ギャップの96%を復元する。 2つの凝縮活性化空間介入は、新しいサイコファンシー回路を活性化するのではなく、圧力がクリーンな推論特性を抑制することを示している。
  論文  参考訳（メタデータ） (2026-05-13T04:45:08Z)
• The Cost of Consensus: Isolated Self-Correction Prevails Over Unguided Homogeneous Multi-Agent Debate [5.51170856062205]
  2つの高拡散度ベンチマークにおいて、R=3$の討論ラウンドで均質なエージェントのチームについて検討する。 我々は、議論の失敗を3つのモデル依存の経路に分解する: サイコファン的整合性、ピア論理、コンセンサス崩壊。 その結果,7-8B パラメータクラスでは,構造的役割を持たない同種チームが非誘導的ピア交換の恩恵を受けないことが示唆された。
  論文  参考訳（メタデータ） (2026-04-29T14:33:57Z)
• A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
  既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。 我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
  論文  参考訳（メタデータ） (2026-02-04T15:13:35Z)
• DeFrame: Debiasing Large Language Models Against Framing Effects [12.839436067299188]
  大規模言語モデル(LLM)は、現実のアプリケーションにますますデプロイされ、人口統計学的に公正な応答が重要になっていることを保証します。 LLMは標準的な評価では公平に見えるが、評価設定の外でバイアスのある応答を生成することができる。 セマンティックに等価なプロンプトの表現方法の違いであるフレーミングを、このギャップの未発見のコントリビュータとして認識しています。
  論文  参考訳（メタデータ） (2026-02-04T08:15:51Z)
• Scaling Patterns in Adversarial Alignment: Evidence from Multi-LLM Jailbreak Experiments [4.547649832854566]
  大規模言語モデル(LLM)は、マルチエージェントと安全クリティカルな設定でますます運用され、モデルが逆向きに相互作用する際の脆弱性のスケールに関するオープンな疑問が提起される。 本研究は,アライメント保護にもかかわらず有害な拘束行動を引き起こす,より大規模なモデルで,より小さなモデルを体系的に緩和できるかどうかを検討する。
  論文  参考訳（メタデータ） (2025-11-16T15:16:33Z)
• Rethinking Textual Adversarial Defense for Pre-trained Language Models [79.18455635071817]
  文献レビューでは、事前訓練された言語モデル(PrLM)が敵の攻撃に弱いことが示されている。 本稿では、現在の敵攻撃アプローチにより、より自然で知覚不能な敵の例を生成するための新しい指標(異常の度合い)を提案する。 我々は,我々のユニバーサル・ディフェンス・フレームワークが,他の特定のディフェンスと同等あるいはそれ以上のアフターアタック・ディフェンスの精度を達成することを示す。
  論文  参考訳（メタデータ） (2022-07-21T07:51:45Z)
• Adversarial Contrastive Learning via Asymmetric InfoNCE [64.42740292752069]
  非対称なInfoNCEの目的と対比した場合,非対称なサンプルを不等に扱うことを提案する。 非対称的な方法では、CLと対向学習の相反する目的の悪影響を効果的に軽減することができる。 実験の結果,提案手法は既存CL法より一貫して優れていることがわかった。
  論文  参考訳（メタデータ） (2022-07-18T04:14:36Z)
• PCL: Peer-Contrastive Learning with Diverse Augmentations for Unsupervised Sentence Embeddings [69.87899694963251]
  本稿では,多彩な拡張を伴う新しいピアコントラスト学習(PCL)を提案する。 PCLは、教師なし文の埋め込みのために、グループレベルで様々な対照的な正と負を構成する。 PCLはピア陽性のコントラストとピアネットワークの協調が可能である。
  論文  参考訳（メタデータ） (2022-01-28T13:02:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。