論文の概要: The Role of Explanatory Value in Natural Language Processing
- arxiv url: http://arxiv.org/abs/2209.06169v1
- Date: Tue, 13 Sep 2022 17:19:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-14 12:46:16.126382
- Title: The Role of Explanatory Value in Natural Language Processing
- Title(参考訳): 自然言語処理における説明的価値の役割
- Authors: Kees van Deemter
- Abstract要約: 言語行動の説明はNLPの主な目的であるべきだと私は主張する。
我々は,NLP研究と制度政策にどのような意味があるのかを,我々のコミュニティが説明的価値を真剣に捉えているかどうかを問うことで結論づける。
- 参考スコア(独自算出の注目度): 0.6091702876917281
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A key aim of science is explanation, yet the idea of explaining language
phenomena has taken a backseat in mainstream Natural Language Processing (NLP)
and many other areas of Artificial Intelligence. I argue that explanation of
linguistic behaviour should be a main goal of NLP, and that this is not the
same as making NLP models explainable. To illustrate these ideas, some recent
models of human language production are compared with each other. I conclude by
asking what it would mean for NLP research and institutional policies if our
community took explanatory value seriously, while heeding some possible
pitfalls.
- Abstract(参考訳): 科学の重要な目的は説明であるが、言語現象を説明するというアイデアは、主流の自然言語処理(nlp)や他の人工知能の多くの分野のバックシートとなった。
言語行動の説明がNLPの主な目的であるべきであり、NLPモデルを説明可能にすることとは同じではない、と私は論じる。
これらの概念を説明するために、最近の人間の言語生産モデルのいくつかは互いに比較される。
我々は,NLP研究と制度政策にどのような意味があるのかを問うとともに,いくつかの落とし穴を埋めながら,我々のコミュニティが説明的価値を真剣に捉えているかどうかを問うた。
関連論文リスト
- Natural Language Processing for Dialects of a Language: A Survey [59.78833854847185]
最先端自然言語処理(NLP)モデルは、大規模なトレーニングコーパスでトレーニングされ、評価データセットで最上位のパフォーマンスを報告します。
この調査は、これらのデータセットの重要な属性である言語の方言を掘り下げる。
方言データセットに対するNLPモデルの性能劣化と言語技術のエクイティへのその影響を動機として,我々はデータセットやアプローチの観点から,方言に対するNLPの過去の研究を調査した。
論文 参考訳(メタデータ) (2024-01-11T03:04:38Z) - The Neuro-Symbolic Inverse Planning Engine (NIPE): Modeling
Probabilistic Social Inferences from Linguistic Inputs [50.32802502923367]
確率的目標推論領域における言語駆動の過程と社会的推論への影響について検討する。
本稿では,エージェントシナリオの言語入力から目標推定を行うニューロシンボリックモデルを提案する。
我々のモデルは人間の反応パターンと密に一致し、LLM単独の使用よりも人間の判断をより良く予測する。
論文 参考訳(メタデータ) (2023-06-25T19:38:01Z) - Large Language Models are In-Context Semantic Reasoners rather than
Symbolic Reasoners [75.85554779782048]
大規模言語モデル(LLM)は、近年、自然言語と機械学習コミュニティを興奮させています。
多くの成功を収めたアプリケーションにもかかわらず、そのようなコンテキスト内機能の基盤となるメカニズムはまだ不明である。
本研究では,学習した言語トークンのテクストセマンティクスが推論過程において最も重い処理を行うと仮定する。
論文 参考訳(メタデータ) (2023-05-24T07:33:34Z) - Natural Language Reasoning, A Survey [16.80326702160048]
概念的には、NLPにおける自然言語推論の明確な定義を提供する。
我々はNLPにおける自然言語推論に関する総合的な文献レビューを行う。
論文はまた、多段階推論の強力なパラダイムである後方推論を特定し、考察する。
論文 参考訳(メタデータ) (2023-03-26T13:44:18Z) - Rationalization for Explainable NLP: A Survey [6.843420921654749]
ブラックボックスモデルは、システムの内部と出力に到達するために必要なプロセスを理解するのを難しくする。
数値 (LIME, Shapley) と可視化 (Saliency Heatmap) の説明可能性技術は有用であるが, 専門知識を必要とするため不十分である。
合理化は、自然言語の説明(合理化)を提供することで、モデルの出力を正当化する
論文 参考訳(メタデータ) (2023-01-21T07:58:03Z) - Language Models as Inductive Reasoners [125.99461874008703]
本稿では,帰納的推論のための新しいパラダイム(タスク)を提案し,自然言語の事実から自然言語規則を誘導する。
タスクのための1.2kルールファクトペアを含むデータセットDEERを作成し,ルールと事実を自然言語で記述する。
我々は、事前訓練された言語モデルが自然言語の事実から自然言語規則をいかに誘導できるかを、初めてかつ包括的な分析を行う。
論文 参考訳(メタデータ) (2022-12-21T11:12:14Z) - Deanthropomorphising NLP: Can a Language Model Be Conscious? [19.390107818044736]
我々は、そのような大きな言語モデルは、センシティブでもなく、意識的にもなく、特にLaMDAは、その資格を持つ他の類似したモデルよりも進歩していないという立場を取る。
感性の主張は,NLP報告における人為的言語の使用傾向の広範化の一環と考えられる。
論文 参考訳(メタデータ) (2022-11-21T14:18:25Z) - The Goldilocks of Pragmatic Understanding: Fine-Tuning Strategy Matters
for Implicature Resolution by LLMs [26.118193748582197]
我々は、広く使われている最先端モデルの4つのカテゴリを評価する。
2進推論を必要とする発話のみを評価するにもかかわらず、3つのカテゴリのモデルはランダムに近い性能を示す。
これらの結果は、特定の微調整戦略がモデルにおける実用的理解を誘導する上ではるかに優れていることを示唆している。
論文 参考訳(メタデータ) (2022-10-26T19:04:23Z) - Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。
自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
論文 参考訳(メタデータ) (2022-10-14T02:35:19Z) - Mediators: Conversational Agents Explaining NLP Model Behavior [2.7878644615660457]
人間中心の説明可能な人工知能(HCXAI)コミュニティは、人間と機械の会話として説明プロセスをフレーミングする必要性を高めた。
我々は、自然言語を用いて対話的に神経モデルの振る舞いを説明することができるテキストベースの会話エージェントである、メディエーターのためのデシラタを確立する。
論文 参考訳(メタデータ) (2022-06-13T10:31:18Z) - Testing the Ability of Language Models to Interpret Figurative Language [69.59943454934799]
比喩的・比喩的な言語は言論において一般的である。
現代の言語モデルが非リテラルなフレーズをどの程度解釈できるかについては、未解決の疑問が残る。
ウィノグラードスタイルの非文字言語理解タスクであるFig-QAを紹介する。
論文 参考訳(メタデータ) (2022-04-26T23:42:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。