論文の概要: Rational Alignments of Superintelligences via Debates
- arxiv url: http://arxiv.org/abs/2611.16455v1
- Date: Thu, 12 Nov 2026 08:07:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.395885
- Title: Rational Alignments of Superintelligences via Debates
- Title(参考訳): 討論による超知能の合理的アライメント
- Abstract要約: 我々は,AISエージェントが正しい答えを知っているが,人間は答えないという,AIS支援質問応答の枠組みについて検討する。
エージェントがさらに推論し、サブゲーム完全均衡のやり方で振る舞うことができる議論の枠組みが、より予測可能な結果をもたらすことを具体的に示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial superintelligences (ASI) is artificial intelligences with greater capability. However, as human principal has to use it, we have to ensure that the agent will perform in the interest of the human. We investigate the framework of ASI-assisted question answering where ASI agents know the correct answer but the human does not. We provide some example of mechanism for rational alignment, where the agent utility is unchanged, but the interaction between the agent and the human principal is controlled to be in a certain fashion. We show specifically that a debate framework where the agents can further reason and behave in a subgame perfect equilibrium manner will lead to a more predictable result, and in some case will be favorable.
- Abstract(参考訳): 人工超知能(Artificial Superintelligences, ASI)は、人工知能の一種。
しかし、人間のプリンシパルがそれを使わなければならないため、エージェントが人間の利益のために確実に行動しなくてはならない。
我々は,AISエージェントが正しい答えを知っているが,人間は答えないという,AIS支援質問応答の枠組みについて検討する。
エージェントユーティリティは変化しないが、エージェントと人間のプリンシパルの相互作用は、一定の方法で制御される。
具体的には、エージェントがさらに推論し、サブゲーム完全均衡のやり方で振る舞うことができる議論の枠組みが、より予測可能な結果をもたらすことを示し、場合によっては好意的になる。
関連論文リスト
- Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。
本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。
この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
論文 参考訳(メタデータ) (2025-06-01T07:52:16Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳(メタデータ) (2024-02-28T16:09:56Z) - (Ir)rationality in AI: State of the Art, Research Challenges and Open Questions [5.734448042909701]
合理性の概念は人工知能(AI)の分野の中心である
AIにおける概念の中心性にもかかわらず、合理的なエージェントを構成するものの統一された定義は存在しない。
特定のシナリオにおいて最適であることを示す不合理な振る舞いについて検討する。
論文 参考訳(メタデータ) (2023-11-28T19:01:09Z) - The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる
まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。
単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
論文 参考訳(メタデータ) (2023-09-14T17:12:03Z) - Extended Intelligence [10.758382402269982]
我々は、タスクを成功させるために配置されたインテリジェンスは、エージェントとそのコンテキストで構成されるシステムの特性であると主張している。
インテリジェンスの拡張という理論により、エージェント間でのインテリジェンスは文脈に縛られ、特にタスクに縛られ、不可避である、と我々は主張する。
論文 参考訳(メタデータ) (2022-09-15T16:53:49Z) - On Avoiding Power-Seeking by Artificial Intelligence [93.9264437334683]
私たちは、非常にインテリジェントなAIエージェントの振る舞いと人間の関心を協調する方法を知りません。
私は、世界に限られた影響を与え、自律的に力を求めないスマートAIエージェントを構築できるかどうか調査する。
論文 参考訳(メタデータ) (2022-06-23T16:56:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。