論文の概要: PInKS: Preconditioned Commonsense Inference with Minimal Supervision
- arxiv url: http://arxiv.org/abs/2206.07920v1
- Date: Thu, 16 Jun 2022 04:50:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-18 12:07:35.421314
- Title: PInKS: Preconditioned Commonsense Inference with Minimal Supervision
- Title(参考訳): PInKS:ミニマルスーパービジョンによるプレコンディション付きコモンセンス推論
- Authors: Ehsan Qasemi, Piyush Khanna, Qiang Ning, Muhao Chen
- Abstract要約: 最小限の監督によって事前条件付き推論モデルであるPInKSを提案する。
我々は、PInKSがコモンセンス知識の前提条件による推論に焦点を当てたベンチマークの結果を改善することを実証的および理論的に示す。
- 参考スコア(独自算出の注目度): 28.211353699898787
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning with preconditions such as "glass can be used for drinking water
unless the glass is shattered" remains an open problem for language models. The
main challenge lies in the scarcity of preconditions data and the model's lack
of support for such reasoning. We present PInKS, Preconditioned Commonsense
Inference with WeaK Supervision, an improved model for reasoning with
preconditions through minimum supervision. We show, both empirically and
theoretically, that PInKS improves the results on benchmarks focused on
reasoning with the preconditions of commonsense knowledge (up to 40% Macro-F1
scores). We further investigate PInKS through PAC-Bayesian informativeness
analysis, precision measures, and ablation study.
- Abstract(参考訳): ガラスが粉々にされない限り、水を飲むのにガラスが使える」といった前提条件による推論は、言語モデルには未解決の問題である。
主な課題は、前提条件データの不足と、そのような推論に対するモデルのサポートの欠如である。
我々は, ピンク, 弱い監督を伴う事前条件付きコモンセンス推論, 最小監督による前提条件推論のための改良モデルを提案する。
経験的および理論的に、ピンクスは常識知識の前提条件(最大40%マクロf1スコア)による推論に焦点を当てたベンチマークの結果を改善していることを示している。
PAC-Bayesian informationativeness analysis, precision measures, ablation studyによりPInKSをさらに検討した。
関連論文リスト
- Correct after Answer: Enhancing Multi-Span Question Answering with Post-Processing Method [11.794628063040108]
マルチスパン質問回答(Multi-Span Question Answering、MSQA)は、ある質問に答えるために、与えられたコンテキストから1つまたは複数の回答スパンを抽出するモデルを必要とする。
本稿では,不正確な予測処理に後処理戦略を用いるAnswering-Classifying-Correcting(ACC)フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-22T08:04:32Z) - Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳(メタデータ) (2024-02-12T16:15:25Z) - Causal Representation Learning Made Identifiable by Grouping of Observational Variables [8.157856010838382]
因果表現学習(Causal Representation Learning)は、データ駆動型で隠れた機能の因果モデルを学ぶことを目的としている。
ここでは、新規で弱い制約に基づく識別可能性を示す。
また,モデルに整合した新たな自己教師付き推定フレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-24T10:38:02Z) - Counterfactual Explanations for Time Series Forecasting [14.03870816983583]
本稿では,時系列予測における対実生成の新たな問題を定式化し,ForecastCFと呼ばれるアルゴリズムを提案する。
ForecastCFは、勾配に基づく摂動を元の時系列に適用することで、この問題を解決する。
以上の結果から,ForecastCFは,逆ファクト的妥当性とデータ多様体の近接性の観点から,ベースラインよりも優れていた。
論文 参考訳(メタデータ) (2023-10-12T08:51:59Z) - Preconditioned Visual Language Inference with Weak Supervision [15.699168631274551]
人間は、シナリオごとに関連する文脈的前提条件を抽出することで、オブジェクトの余裕を推測することができる。
SOTA視覚言語モデル(VLM)がそのような前提条件を抽出し、それを用いてオブジェクトの可利用性を推定できるかどうかは不明である。
論文 参考訳(メタデータ) (2023-05-22T16:57:52Z) - VisFIS: Visual Feature Importance Supervision with
Right-for-the-Right-Reason Objectives [84.48039784446166]
モデルFI監督は、VQAモデルの精度と、Right-to-the-Right-Reasonメトリクスの性能を有意義に向上させることができることを示す。
我々の最高のパフォーマンス手法であるVisual Feature Importance Supervision (VisFIS)は、ベンチマークVQAデータセットで強いベースラインを上回ります。
説明が妥当で忠実な場合には予測がより正確になる。
論文 参考訳(メタデータ) (2022-06-22T17:02:01Z) - Exhaustivity and anti-exhaustivity in the RSA framework: Testing the
effect of prior beliefs [68.8204255655161]
我々は,先行に対する感受性が合理的音声法(RSA)フレームワークの直感的予測に繋がる事例に着目した。
本研究では, ベースラインRSAモデルにおいて, 一定の条件下では, 反排他的読解が予測されることを示す。
RSAフレームワーク全体で予測されるように、メッセージ選択は事前に敏感である。
論文 参考訳(メタデータ) (2022-02-14T20:35:03Z) - Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。
本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。
自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文 参考訳(メタデータ) (2021-06-07T17:47:16Z) - PaCo: Preconditions Attributed to Commonsense Knowledge [34.446885798648985]
人間はコモンセンス知識の状況条件でシームレスに推論することができる。
最先端のSOTA(State-of-the-art language model)は,コモンセンス知識の推測における印象的な性能を示すが,状況条件を理解するかどうかは不明である。
論文 参考訳(メタデータ) (2021-04-18T04:37:54Z) - Causal Collaborative Filtering [50.22155187512759]
Causal Collaborative Filteringは、協調フィルタリングとレコメンデーションにおける因果関係をモデル化するためのフレームワークである。
従来のCFアルゴリズムの多くは、単純化された因果グラフの下で、実際にCCFの特殊なケースであることを示す。
そこで我々は,$do$-operationに対する条件付き介入手法を提案する。
論文 参考訳(メタデータ) (2021-02-03T04:16:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。