論文の概要: Behavioral Probes for Information Flow in LLM Swarms
- arxiv url: http://arxiv.org/abs/2610.25966v1
- Date: Mon, 19 Oct 2026 07:59:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 03:19:30.300517
- Title: Behavioral Probes for Information Flow in LLM Swarms
- Title(参考訳): LLMスワーミングにおける情報流の挙動プローブ
- Abstract要約: 情報フローに基づくLLMSwarmインタラクションについて検討する。
本稿では,情報フローパターンの定量化のための行動プローブを提案する。
この結果から, LLMスワムの内部情報の流れを観測可能であることが示唆された。
- 参考スコア(独自算出の注目度): 16.312917804205664
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Most existing approaches to LLM swarm optimization are utility-driven, focusing on final task utility while leaving the processing, integration, and reliance of information within individual interactions largely implicit. To address this, we study LLM swarm interactions from an information-flow-based view and introduce behavioral probes to quantify information flow patterns. Specifically, we repurpose External Context Score (ECS) and Parametric Knowledge Score (PKS)---originally designed for hallucination analysis---to measure a node's external-context dependence and parametric-knowledge dependence, respectively. Across controlled and realistic swarm settings, we observe consistent patterns: ECS increases with input relevance and distinguishes useful multi-source contributions, while PKS decreases as informative context accumulates. Building on this heuristic interpretation, we demonstrate how these probes can complement utility-driven structure optimization in two controlled applications. Probe-guided node pruning reduces redundant communication and token consumption, and probe-guided reasoning-path search accelerates convergence compared to utility-only baselines. Our empirical results suggest that behavioral probes can make the internal information flow of LLM swarms observable and serve as effective auxiliary signals for structure optimization.
- Abstract(参考訳): LLMのSwarm最適化に対する既存のアプローチはユーティリティ駆動であり、最終的なタスクユーティリティに重点を置いている一方で、個々のインタラクションにおける情報処理、統合、信頼性をほとんど暗黙的に残している。
そこで本稿では,LLM Swarmの相互作用を情報フローに基づく視点から検討し,情報フローパターンの定量化のための行動プローブを導入する。
具体的には,外部文脈スコア (ECS) とパラメトリック知識スコア (PKS) を,ノードの外部コンテキスト依存度とパラメトリック知識依存度をそれぞれ測定するために,幻覚解析用に設計した。
入力関連性によってECSは増加し、有用なマルチソースコントリビューションを区別する一方、PKSは情報的コンテキストが蓄積されるにつれて減少する。
このヒューリスティックな解釈に基づいて、2つの制御されたアプリケーションにおいて、これらのプローブがユーティリティ駆動型構造最適化を補完する方法を実証する。
プローブ誘導ノードプルーニングは冗長な通信とトークン消費を低減し、プローブ誘導推論パス探索はユーティリティのみのベースラインに比べて収束を加速する。
実験結果から, LLMスワムの内部情報の流れを観測可能とし, 構造最適化に有効な補助信号として機能することが示唆された。
関連論文リスト
- ADKO: Agentic Decentralized Knowledge Optimization [21.537388090124196]
Agentic Decentralized Knowledge Optimization (ADKO)は、自律エージェント間の協調的なブラックボックス最適化のためのフレームワークである。
各エージェントは、ローカルデータに基づいて訓練されたプライベートガウスプロセス(GP)を保持し、知識トークンを通してのみ通信する。
トークン圧縮は相互情報に基づく忠実度によって定量化され、LM近似はバイアスとノイズに分解される。
論文 参考訳(メタデータ) (2026-05-08T15:23:53Z) - Toward Effective Tool-Integrated Reasoning via Self-Evolved Preference Learning [68.89572566071575]
Tool-Integrated Reasoning (TIR)により、大きな言語モデル(LLM)は、外部ツールを統合することで、内部推論能力を改善することができる。
提案するTool-Lightは,LDMがTIRを効率的にかつ正確に実行できるようにするためのフレームワークである。
10個のデータセットの実験結果は、ツールライトの有効性を示している。
論文 参考訳(メタデータ) (2025-09-27T12:53:37Z) - TopoSizing: An LLM-aided Framework of Topology-based Understanding and Sizing for AMS Circuits [7.615431299673158]
従来のブラックボックス最適化はサンプリング効率を実現するが、回路理解に欠ける。
提案するTopoSizeは、生のネットリストから直接、堅牢な回路理解を行うエンドツーエンドフレームワークである。
論文 参考訳(メタデータ) (2025-09-17T16:52:46Z) - Uncovering Bias Paths with LLM-guided Causal Discovery: An Active Learning and Dynamic Scoring Approach [1.5498930424110338]
大規模言語モデル(LLM)は、統計的因果発見(CD)アプローチを有望に補完する。
機械学習における公平性を保証するには、センシティブな属性が結果に因果的にどのように影響するかを理解する必要がある。
本稿では,BFS(Broadth-first Search)戦略を拡張し,アクティブラーニングと動的スコアリングを併用したCD用LLMベースのハイブリッドフレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-13T21:04:03Z) - LLM Enhancers for GNNs: An Analysis from the Perspective of Causal Mechanism Identification [19.389891710579022]
グラフニューラルネットワーク(GNN)の入力として使用されるノード表現を最適化する機能拡張器として,大規模言語モデル(LLM)を用いて検討する。
解析結果に基づいて,LLMエンハンサーとGNN間の情報伝達を改善するためのプラグアンドプレイ最適化モジュールを設計する。
論文 参考訳(メタデータ) (2025-05-13T06:29:25Z) - Aligning Large Language Models to Follow Instructions and Hallucinate Less via Effective Data Filtering [66.5524727179286]
NOVAは、幻覚を減らすための学習知識とよく一致した高品質なデータを特定するために設計されたフレームワークである。
内部整合性探索(ICP)とセマンティック等価同定(SEI)が含まれており、LLMが命令データとどれだけ親しみやすいかを測定する。
選択したサンプルの品質を確保するため,親しみ以上の特性を考慮した専門家による報酬モデルを導入する。
論文 参考訳(メタデータ) (2025-02-11T08:05:56Z) - Provably Efficient Causal Reinforcement Learning with Confounded
Observational Data [135.64775986546505]
オフラインで収集されたデータセット(観測データ)を組み込んで、オンライン環境でのサンプル効率を改善する方法について検討する。
提案手法は,観測データを効率よく組み込んだ,分解された楽観的値反復 (DOVI) アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-22T14:49:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。