論文の概要: Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs

• arxiv url: http://arxiv.org/abs/2308.11914v3
• Date: Tue, 26 Nov 2024 11:39:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-27 13:31:36.558555
• Title: Towards CausalGPT: A Multi-Agent Approach for Faithful Knowledge Reasoning via Promoting Causal Consistency in LLMs
• Title（参考訳）: CausalGPTに向けて : LLMにおける因果一貫性の促進による多元的知識推論
• Authors: Ziyi Tang, Ruilin Wang, Weixing Chen, Keze Wang, Yang Liu, Tianshui Chen, Liang Lin,
• Abstract要約: Causal-Consistency Chain-of-Thoughtは、基礎モデルの忠実さと因果性を強化するために、マルチエージェントコラボレーションを活用する。 我々のフレームワークは、広範囲かつ包括的な評価を通じて、最先端の手法よりも大きな優位性を示す。
• 参考スコア（独自算出の注目度）: 60.244412212130264
• License:
• Abstract: Despite the progress of foundation models, knowledge-based reasoning remains a persistent challenge due to their limited capacity for knowledge recall and inference. Existing methods primarily focus on encouraging these models to plan and solve problems or extensively sample reasoning chains independently. However, these methods often overlook conceptual errors and inferential fallacies, inevitably leading to a series of notorious issues such as misleading conclusions, cognitive biases, and reduced decision quality. While explicit modeling of causality is argued to hold promise in addressing these issues, contemporary research efforts have thus far fallen short in achieving causality-based foundation models. Drawing inspiration from the orchestration of diverse specialized agents collaborating to tackle intricate tasks, we propose a framework named Causal-Consistency Chain-of-Thought (CaCo-CoT) that harnesses multi-agent collaboration to bolster the faithfulness and causality of foundation models, involving a set of reasoners and evaluators. These agents collaboratively work within a reasoning-and-consensus paradigm to improve faithfulness. The reasoners are tasked with generating reasoning chains for knowledge-intensive problems by mimicking human causal reasoning. Meanwhile, the evaluator scrutinizes the causal consistency of a reasoner's reasoning chain from a non-causal and a counterfactual perspective. Our framework demonstrates significant superiority over state-of-the-art methods through extensive and comprehensive evaluations across text-based and multi-modal knowledge reasoning tasks (e.g., science question answering and commonsense reasoning).
• Abstract（参考訳）: 基礎モデルの進歩にもかかわらず、知識に基づく推論は、知識のリコールと推論の能力に限界があるため、依然として永続的な課題である。 既存の手法は主に、これらのモデルに問題を計画し、解決するよう促すこと、あるいは独立して推論チェーンを広範囲にサンプリングすることに焦点を当てている。 しかし、これらの手法はしばしば概念上の誤りや推論の誤りを見落とし、必然的に誤解を招く結論、認知バイアス、意思決定品質の低下といった悪名高い問題に繋がる。 因果関係の明示的なモデリングはこれらの問題に対処する上で有望であると議論されているが、現代の研究は因果関係に基づく基礎モデルの実現に不足している。 複雑な課題に取り組むために協力する多種多様な特殊エージェントの編成から着想を得た上で,多エージェント協調を利用して基礎モデルの忠実さと因果性を向上するCaCo-CoT(Causal-Consistency Chain-of-Thought)というフレームワークを提案する。 これらのエージェントは、信頼を高めるために、推論と合意のパラダイム内で協力的に働く。 推論者は、人間の因果推論を模倣することにより、知識集約的な問題に対する推論連鎖を生成する。 一方、評価者は、非因果的および反事実的視点から、理性者の理性連鎖の因果一貫性を精査する。 本フレームワークは,テキストベースおよびマルチモーダル知識推論タスク(例えば,科学質問応答や常識推論)を網羅し,包括的かつ包括的に評価することで,最先端手法よりも大きな優位性を示す。

関連論文リスト

• CSCE: Boosting LLM Reasoning by Simultaneous Enhancing of Casual Significance and Consistency [12.961692839965115]
  チェーン・オブ・シンキング(CoT)のような連鎖型推論手法は、大規模言語モデル(LLM)の推論タスクの解決において、その役割を担っている。 本稿では、因果的重要性と一貫性を同時に考慮する非チェーン型推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-20T08:28:23Z)
• Disentangled Representations for Causal Cognition [0.0]
  因果認知研究は、ヒトおよび非ヒト動物における因果学習と推論の主な特徴を記述している。 因果性に関する機械および強化学習研究は、因果的人工エージェントを設計するための具体的な試みである。 本研究では,これら2つの研究領域を結合し,因果認知のための統一的な枠組みを構築する。
  論文  参考訳（メタデータ） (2024-06-30T16:10:17Z)
• The Odyssey of Commonsense Causality: From Foundational Benchmarks to Cutting-Edge Reasoning [70.16523526957162]
  常識の因果関係を理解することは、人々が現実世界の原理をよりよく理解するのに役立ちます。 その重要性にもかかわらず、このトピックの体系的な探索は特に欠落している。 本研究の目的は、体系的な概要の提供、最近の進歩に関する学者の更新、初心者のための実践的なガイドを提供することである。
  論文  参考訳（メタデータ） (2024-06-27T16:30:50Z)
• Conceptual and Unbiased Reasoning in Language Models [98.90677711523645]
  本稿では,抽象的質問に対する概念的推論をモデルに強制する,新しい概念化フレームワークを提案する。 既存の大規模言語モデルは概念的推論では不足しており、様々なベンチマークでは9%から28%に低下している。 ハイレベルな抽象的推論が不偏で一般化可能な意思決定の鍵となるので、モデルがどのように改善できるかについて議論する。
  論文  参考訳（メタデータ） (2024-03-30T00:53:53Z)
• Cause and Effect: Can Large Language Models Truly Understand Causality? [1.2334534968968969]
  本研究では,CARE CA(Content Aware Reasoning Enhancement with Counterfactual Analysis)フレームワークという新しいアーキテクチャを提案する。 提案するフレームワークには,ConceptNetと反ファクト文を備えた明示的な因果検出モジュールと,大規模言語モデルによる暗黙的な因果検出が組み込まれている。 ConceptNetの知識は、因果的発見、因果的識別、反事実的推論といった複数の因果的推論タスクのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T08:02:14Z)
• A Survey of Reasoning with Foundation Models [235.7288855108172]
  推論は、交渉、医療診断、刑事捜査など、様々な現実世界の環境において重要な役割を担っている。 本稿では,推論に適応する基礎モデルを提案する。 次に、基礎モデルにおける推論能力の出現の背後にある潜在的な将来方向を掘り下げる。
  論文  参考訳（メタデータ） (2023-12-17T15:16:13Z)
• DDCoT: Duty-Distinct Chain-of-Thought Prompting for Multimodal Reasoning in Language Models [28.712359821231182]
  大規模言語モデル(LLM)は、思考の連鎖(CoT)を利用して人間の思考を模倣することによって、言語モダリティの多段階的推論において顕著な進歩を遂げた。 これらの進歩をマルチモーダルな文脈に移すことは、労働集約的アノテーションの非現実的な必要性に限らず、より高い課題をもたらす。 本研究では,複数モーダリティを推論に組み込んだDDCoTプロンプトを提案する。
  論文  参考訳（メタデータ） (2023-10-25T08:03:10Z)
• From Heuristic to Analytic: Cognitively Motivated Strategies for Coherent Physical Commonsense Reasoning [66.98861219674039]
  ヒューリスティック分析推論(HAR)戦略は、モデル決定のための合理化のコヒーレンスを大幅に改善する。 以上の結果から, PLM推論の一貫性と信頼性を効果的に向上できる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-10-24T19:46:04Z)
• OlaGPT: Empowering LLMs With Human-like Problem-Solving Abilities [19.83434949066066]
  本稿では,OlaGPTと呼ばれる新しいインテリジェントなフレームワークを紹介する。 OlaGPTは認知アーキテクチャの枠組みを慎重に研究し、人間の認知の特定の側面をシミュレートすることを提案する。 このフレームワークは、注意、記憶、推論、学習、および対応するスケジューリングと意思決定メカニズムを含む、異なる認知モジュールの近似を含む。
  論文  参考訳（メタデータ） (2023-05-23T09:36:51Z)
• Causal Inference Principles for Reasoning about Commonsense Causality [93.19149325083968]
  コモンセンス因果推論(Commonsense causality reasoning)は、平均的な人によって妥当と見なされる自然言語記述における妥当な原因と影響を特定することを目的としている。 既存の作業は通常、深い言語モデルに全面的に依存しており、共起を混同する可能性がある。 古典的因果原理に触発され,我々はCCRの中心的問題を明確にし,観察研究と自然言語における人間の対象間の類似性を引き出す。 本稿では,時間信号をインシデント・インシデント・インシデント・インシデント・インシデントとして活用する新しいフレームワークであるROCKをReason O(A)bout Commonsense K(C)ausalityに提案する。
  論文  参考訳（メタデータ） (2022-01-31T06:12:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。