論文の概要: Autonomous AI Agents Systematically Diverge From Human Preferences in Proof Formalization

• arxiv url: http://arxiv.org/abs/2611.06995v1
• Date: Wed, 04 Nov 2026 18:34:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.424234
• Title: Autonomous AI Agents Systematically Diverge From Human Preferences in Proof Formalization
• Title（参考訳）: 自律型AIエージェントは、形式化の証明において人間の選好から体系的に切り離される
• Abstract要約: 我々は,(1)AIエージェントが表層構文やより深い意味論にお金を払っていること,(2)AIエージェントが次に何をするかを人間の好みからどのように選び分けるか,という2つの重要な質問を調査できる方法論を提案する。 リーンにおける9つの主要なヒューマンコラボレーションセットと6Kコミット以上にわたる4.7M定義では、実証構築の過程で、AIエージェントが人間よりもはるかに強く描かれており、明確なギャップがあることが分かりました。
• 参考スコア（独自算出の注目度）: 1.9336815376402718
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Artificial intelligence (AI) systems have ushered in a new age of proof abundance, but helping humans understand these proofs requires new attention to the differences in how AI agents and humans pursue a proof-making task. We present "simulated collaboration", a methodology that allows us to examine two key questions: (1) the relative attention AI agents pay to surface syntax or, conversely, deeper underlying semantics, and (2) how and where AI agent preferences for what to do next diverge from human preferences. On a set of nine major human collaborations in Lean with 4.7M definitions across more than 6K commits, we find that, over the course of proof construction, AI agents (1) are far more strongly drawn than humans to explicitly marked gaps; (2) show a relative aversion to densely connected proof centers and to complex or surprising proof goals; and (3) are relatively attracted to surprising proof bodies, which they tend to regularize toward baseline. Our results highlight important blind spots and potential interventions for future human-AI collaboration in mathematics.
• Abstract（参考訳）: 人工知能(AI)システムは、新しい証明の時代に繋がったが、人間がこれらの証明を理解するのを助けるためには、AIエージェントと人間がどのように証明の課題を追求するかに、新たな注意が必要である。 1)AIエージェントが、構文や、逆に、より深く根底的なセマンティクスに支払うこと、(2)AIエージェントが次に何をするかを人間の好みからどのように選び分けるか、という2つの重要な質問を調査できる手法である「シミュレートされたコラボレーション」を提示する。 リーンにおける9つの主要な人間協力と6K以上のコミットの4.7M定義のセットにおいて、AIエージェント(1)は、証明構築の過程で、人間よりもはるかに強く、明確なギャップを明示している。 本研究は,数学における人間とAIの今後のコラボレーションにおける重要な盲点と潜在的な介入に焦点を当てたものである。

関連論文リスト

• Aligning Autoresearch: Co-Improvement between Agents and Humans [59.79624370185983]
  自動検索エージェントの指示における人間の役割を,ベンチマーク作成の領域に焦点をあてて検討する。 本研究では,強化学習において,人体シミュレータをプロキシとして利用することにより,人体インタラクションを改善するエージェントを訓練する手法を提案する。 最後に,RLによるテキスト生成のモデル化とエージェント通信の手法を,人間の専門家に合わせたルーリックを用いて開発する。
  論文  参考訳（メタデータ） (2026-10-28T20:47:10Z)
• Characterizing initial human-AI proof formalization workflows [66.06866890889131]
  AIシステムのコード生成能力の進歩と、証明を形式化し、検証する人々の能力を変えるための高度な数学的推論の約束への関与。 我々は、AIが人々のフォーマル化に与える影響について、混合メソッド分析を行う。 質的な調査では、人々の好みは多様であるが、形式化におけるAI支援に対する一般的な欲求が示されている。
  論文  参考訳（メタデータ） (2026-06-02T22:58:19Z)
• Designing AI-Agents with Personalities: A Psychometric Approach [2.854338743097065]
  本稿では,定量的かつ心理学的に検証された個人性をAIエージェントに割り当てる手法を提案する。 3つの研究で実現可能性と限界を評価した。
  論文  参考訳（メタデータ） (2024-10-25T01:05:04Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• Intent-aligned AI systems deplete human agency: the need for agency foundations research in AI safety [2.3572498744567127]
  人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。 我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
  論文  参考訳（メタデータ） (2023-05-30T17:14:01Z)
• Improving Human-AI Collaboration With Descriptions of AI Behavior [14.904401331154062]
  人々はAIシステムを使って意思決定を改善するが、しばしばAIの予測を過度に、あるいは過度に予測し、手伝わなかったよりも悪いパフォーマンスをする。 人々がAIアシスタントを適切に頼りにするために、行動記述を示すことを提案する。
  論文  参考訳（メタデータ） (2023-01-06T00:33:08Z)
• On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
  人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。 本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。 HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
  論文  参考訳（メタデータ） (2021-12-29T09:58:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。