論文の概要: Information Value: Measuring Utterance Predictability as Distance from
Plausible Alternatives
- arxiv url: http://arxiv.org/abs/2310.13676v1
- Date: Fri, 20 Oct 2023 17:25:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-23 21:31:27.530091
- Title: Information Value: Measuring Utterance Predictability as Distance from
Plausible Alternatives
- Title(参考訳): 情報値:可塑性代替物からの距離による発話予測可能性の測定
- Authors: Mario Giulianelli, Sarenne Wallbridge, Raquel Fern\'andez
- Abstract要約: 本稿では,発話の予測可能性の定量化を図った情報値について述べる。
我々は、その心理測定予測力を利用して、人間の理解行動を引き起こす予測可能性の次元を調査する。
- 参考スコア(独自算出の注目度): 4.446323294830542
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present information value, a measure which quantifies the predictability
of an utterance relative to a set of plausible alternatives. We introduce a
method to obtain interpretable estimates of information value using neural text
generators, and exploit their psychometric predictive power to investigate the
dimensions of predictability that drive human comprehension behaviour.
Information value is a stronger predictor of utterance acceptability in written
and spoken dialogue than aggregates of token-level surprisal and it is
complementary to surprisal for predicting eye-tracked reading times.
- Abstract(参考訳): 本稿では,発話の予測可能性を評価する尺度である情報値を提案する。
本稿では,ニューラルテキスト生成器を用いて情報値の解釈可能な推定値を得る手法を提案し,その心理計測予測能力を用いて,人間の理解行動を促進する予測可能性の次元について検討する。
情報価値は、文字・音声対話における発話受容性の予測因子として、トークンレベルのサープリサールの集合よりも強く、視線追跡読解時間予測のためのサープリサールと相補的である。
関連論文リスト
- Quantifying the Plausibility of Context Reliance in Neural Machine
Translation [25.29330352252055]
我々は、PECoRe(Context Reliance)の可塑性評価を導入する。
PECoReは、言語モデル世代におけるコンテキスト使用量の定量化を目的として設計されたエンドツーエンドの解釈可能性フレームワークである。
我々は、文脈対応機械翻訳モデルの妥当性を定量化するために、pecoreを使用します。
論文 参考訳(メタデータ) (2023-10-02T13:26:43Z) - Faithful to Whom? Questioning Interpretability Measures in NLP [5.759254425843609]
入力トークンの繰り返しマスキングに基づくメトリクスは、異なるニューラルテキスト分類器の解釈可能性を比較するには適していないことを示す。
本研究は,敵対的攻撃と敵対的訓練が忠実度スコアに及ぼす影響について検討し,テキスト敵対的攻撃における特徴的サリエンスの分析における忠実度尺度の妥当性を実証する。
論文 参考訳(メタデータ) (2023-08-13T15:44:39Z) - Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。
この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
論文 参考訳(メタデータ) (2023-08-03T12:43:21Z) - Probabilistic Prompt Learning for Dense Prediction [45.577125507777474]
本稿では,高密度予測タスクにおける視覚言語知識を完全に活用するための,確率論的素早い学習法を提案する。
学習可能なクラスに依存しない属性プロンプトを導入し、オブジェクトクラス全体にわたって普遍的な属性を記述する。
属性は、クラス固有のテキスト分布を定義するために、クラス情報と視覚的コンテキスト知識と組み合わせられる。
論文 参考訳(メタデータ) (2023-04-03T08:01:27Z) - Prediction-Powered Inference [68.97619568620709]
予測を用いた推論は、実験データセットに機械学習システムからの予測を補足した場合に有効な統計的推論を行うためのフレームワークである。
このフレームワークは、手段、量子、線形およびロジスティック回帰係数などの量に対して証明可能な信頼区間を計算するための単純なアルゴリズムを生成する。
予測による推論により、研究者は機械学習を使用して、より有効な、よりデータ効率の高い結論を導き出すことができる。
論文 参考訳(メタデータ) (2023-01-23T18:59:28Z) - What Should I Know? Using Meta-gradient Descent for Predictive Feature
Discovery in a Single Stream of Experience [63.75363908696257]
計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。
この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。
本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
論文 参考訳(メタデータ) (2022-06-13T21:31:06Z) - Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。
この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
論文 参考訳(メタデータ) (2022-03-16T15:00:33Z) - A Latent-Variable Model for Intrinsic Probing [94.61336186402615]
固有プローブ構築のための新しい潜在変数定式化を提案する。
我々は、事前訓練された表現が言語間交互に絡み合ったモルフォシンタクスの概念を発達させる経験的証拠を見出した。
論文 参考訳(メタデータ) (2022-01-20T15:01:12Z) - Beyond the Tip of the Iceberg: Assessing Coherence of Text Classifiers [0.05857406612420462]
大規模で事前訓練された言語モデルは、既存の言語理解タスクにおいて人間のレベルと超人的精度を達成する。
予測コヒーレンスの新しい尺度による評価システムを提案する。
論文 参考訳(メタデータ) (2021-09-10T15:04:23Z) - Representation Learning for Sequence Data with Deep Autoencoding
Predictive Components [96.42805872177067]
本稿では,シーケンスデータの有用な表現が潜在空間における単純な構造を示すべきという直感に基づく,シーケンスデータの自己教師型表現学習法を提案する。
我々は,過去と将来のウィンドウ間の相互情報である潜在特徴系列の予測情報を最大化することにより,この潜時構造を奨励する。
提案手法は,ノイズの多い動的システムの潜時空間を復元し,タスク予測のための予測特徴を抽出し,エンコーダを大量の未ラベルデータで事前訓練する場合に音声認識を改善する。
論文 参考訳(メタデータ) (2020-10-07T03:34:01Z) - Towards a Measure of Individual Fairness for Deep Learning [2.4366811507669124]
本稿では,現代のディープラーニングフレームワークに存在する標準的な自動微分機能を用いて,予測感度の計算方法を示す。
予備実験の結果、予測感度は個々の予測におけるバイアスを測定するのに有効である可能性が示唆された。
論文 参考訳(メタデータ) (2020-09-28T21:53:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。