論文の概要: Rationale-Augmented Ensembles in Language Models

• arxiv url: http://arxiv.org/abs/2207.00747v1
• Date: Sat, 2 Jul 2022 06:20:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-09 11:02:48.094210
• Title: Rationale-Augmented Ensembles in Language Models
• Title（参考訳）: 言語モデルにおける合理性に基づくアンサンブル
• Authors: Xuezhi Wang, Jason Wei, Dale Schuurmans, Quoc Le, Ed Chi, Denny Zhou
• Abstract要約: 我々は、数発のテキスト内学習のための合理化促進策を再考する。 我々は、出力空間における合理的サンプリングを、性能を確実に向上させるキーコンポーネントとして特定する。 有理拡張アンサンブルは既存のプロンプト手法よりも正確で解釈可能な結果が得られることを示す。
• 参考スコア（独自算出の注目度）: 53.45015291520658
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent research has shown that rationales, or step-by-step chains of thought, can be used to improve performance in multi-step reasoning tasks. We reconsider rationale-augmented prompting for few-shot in-context learning, where (input -> output) prompts are expanded to (input, rationale -> output) prompts. For rationale-augmented prompting we demonstrate how existing approaches, which rely on manual prompt engineering, are subject to sub-optimal rationales that may harm performance. To mitigate this brittleness, we propose a unified framework of rationale-augmented ensembles, where we identify rationale sampling in the output space as the key component to robustly improve performance. This framework is general and can easily be extended to common natural language processing tasks, even those that do not traditionally leverage intermediate steps, such as question answering, word sense disambiguation, and sentiment analysis. We demonstrate that rationale-augmented ensembles achieve more accurate and interpretable results than existing prompting approaches--including standard prompting without rationales and rationale-based chain-of-thought prompting--while simultaneously improving interpretability of model predictions through the associated rationales.
• Abstract（参考訳）: 近年の研究では、多段階推論タスクのパフォーマンス向上に理性、つまりステップバイステップの思考連鎖を用いることが示されている。 我々は、(インプット ->出力)プロンプトを(インプット、合理 ->出力)プロンプトに拡張する、数発のインコンテキスト学習のための有理数拡張プロンプトを再検討する。 手動のプロンプトエンジニアリングに依存する既存のアプローチが、パフォーマンスを損なう可能性のある準最適理性の対象となっていることを示す。 そこで本研究では,この脆さを緩和するために,出力空間における合理化サンプリングを主成分とし,ロバストな性能向上を実現する,合理化型アンサンブルの統一フレームワークを提案する。 このフレームワークは一般的であり、質問応答、単語感覚の曖昧さ、感情分析などの中間段階を伝統的に活用していないものでも、自然言語処理タスクに容易に拡張できる。 本稿では,既存のプロンプト手法よりも,合理性のない標準プロンプトや,関連する合理性によるモデル予測の解釈可能性の向上と同時に,合理性に基づくチェーン・オブ・マインド・プロンシングを含む,合理性提示型アンサンブルが,より正確かつ解釈可能な結果が得られることを示す。

関連論文リスト

• Proof of Thought : Neurosymbolic Program Synthesis allows Robust and Interpretable Reasoning [1.3003982724617653]
  大規模言語モデル(LLM)は自然言語処理に革命をもたらしたが、一貫性のない推論に苦戦している。 本研究では,LLM出力の信頼性と透明性を高めるフレームワークであるProof of Thoughtを紹介する。 主な貢献は、論理的整合性を高めるためのソート管理を備えた堅牢な型システム、事実的知識と推論的知識を明確に区別するための規則の明示である。
  論文  参考訳（メタデータ） (2024-09-25T18:35:45Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• LaRS: Latent Reasoning Skills for Chain-of-Thought Reasoning [61.7853049843921]
  Chain-of-Thoughting(CoT)プロンプトは、大規模言語モデル(LLM)のための一般的なコンテキスト内学習手法である。 本稿では、教師なし学習を用いて有理数の潜在空間表現を生成するLaRS(Lalatnt Reasoning Skills)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-12-07T20:36:10Z)
• Towards Trustworthy Explanation: On Causal Rationalization [9.48539398357156]
  本研究では,2つの因果デシラタに基づく合理化モデルを提案する。 提案した因果合理化の優れた性能は,実世界のレビューや医療データセットで実証されている。
  論文  参考訳（メタデータ） (2023-06-25T03:34:06Z)
• HOP, UNION, GENERATE: Explainable Multi-hop Reasoning without Rationale Supervision [118.0818807474809]
  本研究は、合理的な監督なしに説明可能なマルチホップQAシステムを訓練するための原則的確率論的アプローチを提案する。 提案手法は,集合としての有理を明示的にモデル化し,文書と文間の相互作用を文書内で捉えることによって,マルチホップ推論を行う。
  論文  参考訳（メタデータ） (2023-05-23T16:53:49Z)
• Interlock-Free Multi-Aspect Rationalization for Text Classification [33.33452117387646]
  マルチアスペクト設定におけるインターロック問題に対処することを示す。 自己監督型コントラスト損失を付加した多段階学習手法を提案する。 ビールレビューデータセットにおける実験結果から,本手法は合理化性能を大幅に向上させることが示された。
  論文  参考訳（メタデータ） (2022-05-13T16:38:38Z)
• Can Rationalization Improve Robustness? [39.741059642044874]
  ニューラルNLPモデルが、その解釈可能な性質に加えて、敵攻撃に対して堅牢性をもたらすかどうかを検討する。 トークンと文レベルの合理化タスクの両方に対して,さまざまなタイプのAddText攻撃を生成する。 実験の結果、合理的モデルでは、特定のシナリオで苦労しながら、堅牢性を改善するという約束が示されることがわかった。
  論文  参考訳（メタデータ） (2022-04-25T17:02:42Z)
• Probing as Quantifying the Inductive Bias of Pre-trained Representations [99.93552997506438]
  本稿では,特定のタスクに対する表現の帰納的バイアスを評価することを目的とした,探索のための新しいフレームワークを提案する。 トークン、アーク、文レベルの一連のタスクに我々のフレームワークを適用します。
  論文  参考訳（メタデータ） (2021-10-15T22:01:16Z)
• SPECTRA: Sparse Structured Text Rationalization [0.0]
  本稿では,因子グラフ上の制約付き推論による構造的説明を決定論的に抽出するための統一的な枠組みを提案する。 我々のアプローチは、トレーニングと合理的な正規化を非常に容易にし、概して、可視性抽出の説明に関する以前の研究よりも優れています。
  論文  参考訳（メタデータ） (2021-09-09T20:39:56Z)
• Measuring Association Between Labels and Free-Text Rationales [60.58672852655487]
  解釈可能なNLPでは、説明された例に対するモデルの意思決定プロセスを反映した忠実な理性が必要です。 情報抽出型タスクに対する忠実な抽出合理化のための既存のモデルであるパイプラインは、自由テキスト合理化を必要とするタスクに確実に拡張されないことを示す。 我々は、信頼が確立されていない自由文合理化のための、広く使われている高性能モデルのクラスである、共同予測と合理化のモデルに目を向ける。
  論文  参考訳（メタデータ） (2020-10-24T03:40:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。