Fugu-MT 論文翻訳(概要): Bayesian Intelligence from the Outside

論文の概要: Bayesian Intelligence from the Outside

arxiv url: http://arxiv.org/abs/2609.14724v1
Date: Sun, 13 Sep 2026 18:35:46 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 07:15:05.907984
Title: Bayesian Intelligence from the Outside
Title（参考訳）: ベイジアン・インテリジェンス
Abstract要約: 我々は、言語モデルのようなエージェントに対するベイズ的知性の理論を開発する。エージェントの行動が、その報告が完全に矛盾していない場合に限り、この説明を認めることを示す。
参考スコア（独自算出の注目度）: 15.920644659904903
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Inferring intelligence from observable behavior is a foundational challenge in artificial intelligence. We develop a theory of Bayesian intelligence for agents such as language models. Each prompt induces a possibly imperfect internal experiment; the agent updates a full-support prior by Bayes' rule and faithfully reports its posterior over the possible answers to the question. Repetitions draw fresh, independent outcomes from the same unobserved experiment at one fixed state. We show that the agent's behavior admits this explanation if and only if its reports are not fully contradictory, i.e., some state remains possible under every report across all prompts. Report frequencies and the sizes of positive probabilities impose no further restrictions. We further propose and characterize the behavioral implications of an intelligence order that makes the behavior of two agents consistent with one agent having access to a more informative experiment: there should exist a coupling of report distributions such that the more informative agent's report excludes every answer excluded by its counterpart. Finally, we show the difficulty of aggregating coarse reports from intelligent agents: unless the agent reports a belief about the complete state of the world, the optimal aggregation can assign arbitrary weights to states that have not been excluded. These results provide a basis for understanding when agents' behavior is intelligent and highlight the difficulty of rejecting Bayesian rationality.
Abstract（参考訳）: 観測可能な行動から知性を推定することは、人工知能の基本的な課題である。我々は、言語モデルのようなエージェントに対するベイズ的知性の理論を開発する。各プロンプトは、おそらく不完全な内部実験を誘導し、エージェントはベイズの規則に先立って完全なサポートを更新し、質問に対する答えについて後方を忠実に報告する。繰り返しは、ある一定の状態において同じ観測されていない実験から、新しく独立した結果を引き出す。エージェントの行動が、その報告が完全に矛盾していない場合、すなわち、すべてのプロンプトの全てのレポートにおいて、ある状態が可能である場合に限り、この説明を認めることを示す。報告頻度と正の確率の大きさは、それ以上の制限を課さない。さらに,2つのエージェントの行動が,より情報的な実験にアクセスできる1つのエージェントと整合するインテリジェンス命令の行動含意を,より情報的なエージェントの報告が,そのエージェントによって除外されるすべての回答を除外するように,レポート分布の結合が存在するべきである。エージェントが世界の完全な状態についての信念を報告しない限り、最適なアグリゲーションは除外されていない状態に任意の重みを割り当てることができる。これらの結果は、エージェントの振る舞いがインテリジェントであるときの理解の基盤となり、ベイズ的合理性を否定することの難しさを強調している。

関連論文リスト

Position: Correct Answer, Wrong Mechanism -- When AI Scientists Defend General Claims Their Own Data Contradicts [0.0]
コーディングエージェントは信頼できるツールを証明しているが、オープンエンドのクレーム作成のための信頼性の低い科学的共著者である。一段階の体制シフトチェックは、エージェントのクレームのみを必要とし、過度に一般化されたケースにフラグを付ける。コンパニオン再計算は、正しいオブザーバブルがわかっている場合の残りのケースをフラグする。
論文参考訳（メタデータ） (2026-06-22T11:14:07Z)
HypoAgent: An Agentic Framework for Interactive Abductive Hypothesis Generation over Knowledge Graphs [52.91976391891331]
知識グラフに対する帰納的推論は、観察された実体や事実を説明する論理的仮説を生成することを目的としている。既存の制御可能な仮説生成手法により、ユーザーは明示的な条件でこのプロセスをガイドすることができる。本稿では,知識グラフ上での対話的帰納的仮説生成のためのエージェントフレームワークであるHypoAgentを提案する。
論文参考訳（メタデータ） (2026-05-29T14:40:37Z)
Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty [70.43119366710778]
本稿では,Agens-BRACE: Agent Belief state Representation by Abstraction and Confidence Estimationを紹介する。 LLMエージェントを信頼状態モデルと政策モデルに分離し、強化学習を通じて協調的に最適化する手法である。長期にわたる部分的に観察可能な言語環境において、平均して+14.5%の絶対的な改善を実現している。
論文参考訳（メタデータ） (2026-05-12T02:37:04Z)
Superminds Test: Actively Evaluating Collective Intelligence of Agent Society via Probing Agents [44.28040661008415]
大規模言語モデルエージェントが数百万の人口に拡大するにつれ、重要な疑問が浮かび上がってくる。大規模自律エージェント社会において,この問題に対する最初の経験的評価を提示する。社会は複雑な推論タスクにおいて、個々のフロンティアモデルを上回り、分散情報を滅多に合成せず、さらに簡単な調整タスクを失敗することが多い。
論文参考訳（メタデータ） (2026-04-24T11:11:36Z)
Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文参考訳（メタデータ） (2026-04-21T15:05:58Z)
AEGIS: From Clues to Verdicts -- Graph-Guided Deep Vulnerability Reasoning via Dialectics and Meta-Auditing [9.271196825503417]
大きな言語モデル(LLM)は、脆弱性検出にますます採用されているが、その推論は基本的には正しくない。 AEGISは、未解決の投機から、クローズドな事実ベース上の法医学的検証へ、検出をシフトする新しいマルチエージェントフレームワークである。これは、主要なベースラインと比較して偽陽性率を最大54.40%削減し、1サンプルあたりの平均コストはタスク固有のトレーニングなしで0.09ドルである。
論文参考訳（メタデータ） (2026-03-21T04:12:04Z)
Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文参考訳（メタデータ） (2026-02-23T16:28:48Z)
Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。 TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。 We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
論文参考訳（メタデータ） (2025-10-06T05:03:57Z)
The Limits of Predicting Agents from Behaviour [16.80911584745046]
我々は,エージェントの行動が世界モデルによって導かれるという仮定の下で,正確な回答を提供する。我々の貢献は、新しい(目に見えない)デプロイメント環境におけるエージェントの振る舞いに関する新しい境界の導出である。公平性や安全性など,いくつかの研究領域において,これらの結果がもたらす意味について論じる。
論文参考訳（メタデータ） (2025-06-03T14:24:58Z)
Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
論文参考訳（メタデータ） (2023-02-15T01:57:57Z)
Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
観測と実験の任意の組み合わせからネスト反事実の同定について検討した。具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
論文参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。