論文の概要: Entropic Efficiency of Bayesian Inference Protocols

• arxiv url: http://arxiv.org/abs/2601.17282v1
• Date: Sat, 24 Jan 2026 03:43:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-27 15:23:07.500304
• Title: Entropic Efficiency of Bayesian Inference Protocols
• Title（参考訳）: ベイズ推論プロトコルのエントロピー効率
• Authors: Nathan Shettell, Alexia Auffèves,
• Abstract要約: 推論は、科学的発見、機械学習、日々の意思決定の基盤となる汎用的なツールである。 我々は、情報ゲインと累積メモリ消去コストの比率として、推論効率を定義する。 我々は、同じメモリを反復的に活用するシーケンシャルと、多くのメモリを同時に活用する並列という、2つの制限測定パラダイムをベンチマークする。
• 参考スコア（独自算出の注目度）: 0.8594140167290097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inference is a versatile tool that underlies scientific discovery, machine learning, and everyday decision-making: it describes how an agent updates a probability distribution as partial information is acquired from multiple measurements, reducing ignorance about a system's latent state. We define an inferential efficiency as the ratio of information gain to cumulative memory erasure cost, with inefficiency arising from unexploited correlations between the measured system and memories, and/or between memories and environment (noise). Using this efficiency, we benchmark two limiting measurement paradigms: sequential, in which the same memory is exploited iteratively, and parallel, in which many memories are exploited simultaneously. In both cases, the minimal erasure cost reflects correlations across memories: temporal in sequential, spatial in parallel. Remarkably, when all system-memory correlations are exploited for inference, both paradigms attain the same minimal erasure cost, even in the presence of noise. Conversely, the parallel paradigm performs better in the presence of unexploited correlations, stemming from hidden memories' degrees of freedom. This approach provides a quantitative, physically grounded criterion to compare inference strategies, determine their efficiency, and link target information gains to their minimal entropic cost.
• Abstract（参考訳）: 推論は科学的発見、機械学習、日常的な意思決定の基盤となる汎用的なツールであり、エージェントが複数の測定値から部分的な情報を取得することによって確率分布を更新する方法を記述し、システムの潜伏状態に関する無知を減らす。 我々は,情報ゲインと累積メモリ消去コストの比率として,測定したシステムと記憶,および/または記憶と環境(ノイズ)との非明示的相関から生じる非効率性を定義した。 この効率を利用して、同じメモリを反復的に活用するシーケンシャルと、多くのメモリを同時に活用する並列の2つの制限測定パラダイムをベンチマークする。 どちらの場合も、最小の消去コストは、時間的、時間的、空間的、並列的なメモリ間の相関を反映する。 注目すべきは、すべてのシステムメモリ相関が推論に利用されるとき、両方のパラダイムは同じ最小の消去コストが得られることだ。 逆に、並列パラダイムは、隠された記憶の自由度から生じる未発見の相関の存在下で、より良い性能を発揮する。 このアプローチは、推論戦略を比較し、その効率を判断し、ターゲット情報のゲインを最小のエントロピーコストにリンクするための量的、物理的に基礎付けられた基準を提供する。

関連論文リスト

• MemRec: Collaborative Memory-Augmented Agentic Recommender System [57.548438733740504]
  我々はメモリ管理から推論をアーキテクチャ的に分離するフレームワークであるMemRecを提案する。 MemRecは動的コラボレーティブメモリグラフを管理する専用のLM_Memを導入した。 4つのベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-01-13T18:51:16Z)
• FlashMem: Distilling Intrinsic Latent Memory via Computation Reuse [4.210760734549566]
  FlashMemは、計算再利用を通じて、過渡的推論状態から直接固有のメモリを蒸留するフレームワークである。 実験によると、FlashMemは5倍の推論遅延を減らしながら、重いベースラインのパフォーマンスと一致している。
  論文  参考訳（メタデータ） (2026-01-09T03:27:43Z)
• SimpleMem: Efficient Lifelong Memory for LLM Agents [73.74399447715052]
  セマンティックロスレス圧縮に基づく効率的なメモリフレームワークSimpleMemを紹介する。 本稿では,情報密度とトークン利用量の最大化を目的とした3段階パイプラインを提案する。 ベンチマークデータセットを用いた実験により,提案手法は精度,検索効率,推論コストにおいて,ベースラインアプローチを一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2026-01-05T21:02:49Z)
• Provable Separations between Memorization and Generalization in Diffusion Models [31.32606216124959]
  我々は,統計的推定とネットワーク近似による二分割結果を開発した。 本研究は, 基礎構造スコア関数が経験的復調損失を最小限に抑えられず, 暗記を駆動する分離を生じさせることを示す。
  論文  参考訳（メタデータ） (2025-11-05T05:37:57Z)
• PBFT-Backed Semantic Voting for Multi-Agent Memory Pruning [0.0]
  本稿では,マルチエージェントシステム(MAS)における同期メモリプルーニングを可能にするCo-Forgetting Protocolを提案する。 1) エージェントが軽量な DistilBERT モデルを用いて、その内容と現在の運用状況に基づいて、メモリアイテムの関連性を評価すること、2) 時間的地平線をまたいで、その年齢とアクセス頻度に基づいて、メモリに重要性を割り当てるマルチスケールの時間的減衰関数、(3) 実践的ビザンチンフォールトトレランス(PBFT)に基づくコンセンサス機構により、メモリアイテムの保持または破棄の決定が、適格でフォールトトレラントなエージェントによって合意されることを保証すること、である。
  論文  参考訳（メタデータ） (2025-06-19T08:28:29Z)
• Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation for Time Series [45.76310830281876]
  量子回帰に基づくタスクネットワークのアンサンブルを用いて不確実性を推定する新しい手法であるQuantile Sub-Ensemblesを提案する。 提案手法は,高い損失率に頑健な高精度な計算法を生成するだけでなく,非生成モデルの高速な学習により,計算効率も向上する。
  論文  参考訳（メタデータ） (2023-12-03T05:52:30Z)
• Efficient Global-Local Memory for Real-time Instrument Segmentation of Robotic Surgical Video [53.14186293442669]
  手術器具の知覚における重要な手がかりとして,隣接するフレームからの局所的時間依存性と,長距離における大域的意味的相関があげられる。 本稿では,グローバルとローカルの両方の時間的知識を関連付ける新しいデュアルメモリネットワーク(DMNet)を提案する。 本手法は,実時間速度を維持しながらセグメント化精度を向上する手法である。
  論文  参考訳（メタデータ） (2021-09-28T10:10:14Z)
• Towards Certified Robustness of Distance Metric Learning [53.96113074344632]
  我々は,距離学習アルゴリズムの一般化とロバスト性を改善するために,入力空間に逆のマージンを付与することを提唱する。 アルゴリズム的ロバスト性の理論手法を用いることにより,拡張マージンは一般化能力に有益であることを示す。
  論文  参考訳（メタデータ） (2020-06-10T16:51:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。