Fugu-MT 論文翻訳(概要): On the Information Content of Predictions in Word Analogy Tests

論文の概要: On the Information Content of Predictions in Word Analogy Tests

arxiv url: http://arxiv.org/abs/2210.09972v1
Date: Tue, 18 Oct 2022 16:32:25 GMT
ステータス: 処理完了
システム内更新日: 2022-10-19 14:05:27.813263
Title: On the Information Content of Predictions in Word Analogy Tests
Title（参考訳）: 単語アナロジーテストにおける予測情報の内容について
Authors: Jugurta Montalv\~ao
Abstract要約: アナログテストにおけるアナログの実際の関連性を、情報のビットで定量化する手法が提案されている。このアプローチの主な構成要素は、補償バイアスを伴うエントロピー推定も得るソフト精度推定器である。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: An approach is proposed to quantify, in bits of information, the actual relevance of analogies in analogy tests. The main component of this approach is a softaccuracy estimator that also yields entropy estimates with compensated biases. Experimental results obtained with pre-trained GloVe 300-D vectors and two public analogy test sets show that proximity hints are much more relevant than analogies in analogy tests, from an information content perspective. Accordingly, a simple word embedding model is used to predict that analogies carry about one bit of information, which is experimentally corroborated.
Abstract（参考訳）: アナログテストにおけるアナログの実際の関連性を定量化する手法が提案されている。このアプローチの主な構成要素は、補償バイアスを伴うエントロピー推定も得るソフト精度推定器である。事前学習したGloVe 300-Dベクターと2つの公開アナログテストセットで得られた実験結果から、情報内容の観点から、類似性テストにおける類似性よりも近接ヒントの方がずっと関連があることが示されている。したがって、簡単な単語埋め込みモデルを用いて、アナログが1ビット程度の情報を持ち、実験的に相関していると予測する。

関連論文リスト

Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文参考訳（メタデータ） (2024-04-11T09:23:36Z)
StoryAnalogy: Deriving Story-level Analogies from Large Language Models to Unlock Analogical Understanding [72.38872974837462]
大規模ストーリーレベルの類似語コーパスを構築することにより,類似語を識別・生成する能力を評価する。 textscStory Analogyには、さまざまなドメインから24Kストーリーペアが含まれており、拡張された構造マッピング理論の2つの類似点に人間のアノテーションがある。我々は、textscStory Analogyのデータは、大言語モデルにおけるアナログ生成の品質を向上させることができることを観察した。
論文参考訳（メタデータ） (2023-10-19T16:29:23Z)
Can language models learn analogical reasoning? Investigating training objectives and comparisons to human performance [0.0]
我々は、基本的なアナロジー推論を学習するいくつかの方法を試し、特に人間のアナロジー推論を評価するために使われるものよりも典型的なアナロジーに焦点をあてる。実験の結果,少量のデータであっても,モデルが類似推論を学習できることが判明した。
論文参考訳（メタデータ） (2023-10-09T10:34:38Z)
ANALOGYKB: Unlocking Analogical Reasoning of Language Models with A Million-scale Knowledge Base [51.777618249271725]
ANALOGYKBは、既存の知識グラフ(KGs)から派生した100万スケールのアナロジー知識ベースである 1)KGから直接抽出できる同一関係のアナロジー、2)大きな言語モデル(LLM)によって実現される選択とフィルタリングパイプラインと識別される類似関係のアナロジーである。
論文参考訳（メタデータ） (2023-05-10T09:03:01Z)
Scientific and Creative Analogies in Pretrained Language Models [24.86477727507679]
本稿では,BERT や GPT-2 などの大規模事前学習言語モデルにおけるアナログの符号化について検討する。我々は,複数の属性の体系的マッピングと異種ドメイン間の関係構造を含む新しいアナロジーデータセットであるScientific and Creative Analogy dataset(SCAN)を紹介する。現状のLMはこれらの複雑なアナロジータスクにおいて低性能を実現し、アナロジー理解によってもたらされる課題を浮き彫りにしている。
論文参考訳（メタデータ） (2022-11-28T12:49:44Z)
Analogies and Feature Attributions for Model Agnostic Explanation of Similarity Learners [29.63747822793279]
ブラックボックスの類似性学習者によって決定される入力のペア間の類似性を説明するための特徴属性を提供する手法を提案する。ここでのゴールは、入力対と同じレベルの類似性を共有する様々な類似の例のペアを特定することである。我々の類似目的関数は部分モジュラーであることを証明し、良質な類似関係の探索を効率化する。
論文参考訳（メタデータ） (2022-02-02T17:28:56Z)
Probability distributions for analog-to-target distances [0.12314765641075436]
優れたアナログを見つけるのに必要なカタログのサイズに寸法が果たす役割を示す。我々は、良好なアナログを見つけるのに必要なカタログのサイズ、および$K$-bestアナログの相対的な手段と分散に次元性が重要な役割を果たしていることを示す。
論文参考訳（メタデータ） (2021-01-26T09:10:12Z)
Toward Scalable and Unified Example-based Explanation and Outlier Detection [128.23117182137418]
我々は,試行錯誤の予測に例ベースの説明を与えることのできる,プロトタイプベースの学生ネットワークのより広範な採用を論じる。類似カーネル以外のプロトタイプベースのネットワークは,分類精度を損なうことなく,有意義な説明と有望な外乱検出結果が得られることを示す。
論文参考訳（メタデータ） (2020-11-11T05:58:17Z)
Few-shot Visual Reasoning with Meta-analogical Contrastive Learning [141.2562447971]
本稿では,類似推論に頼って,数ショット(または低ショット)の視覚推論問題を解くことを提案する。両領域の要素間の構造的関係を抽出し、類似学習と可能な限り類似するように強制する。 RAVENデータセット上での本手法の有効性を検証し, トレーニングデータが少ない場合, 最先端の手法より優れることを示す。
論文参考訳（メタデータ） (2020-07-23T14:00:34Z)
Using local dynamics to explain analog forecasting of chaotic systems [0.0]
本研究では,システムのダイナミクスを局所的に近似することで,様々なアナログ予測手法の特性について検討する。アナログ予測性能はフローマップの局所ヤコビ行列と強く関連していることがわかった。提案手法は、アナログ予測誤差を推定し、異なるアナログ手法の比較を可能にする。
論文参考訳（メタデータ） (2020-07-22T08:43:11Z)
Balance-Subsampled Stable Prediction [55.13512328954456]
本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
論文参考訳（メタデータ） (2020-06-08T07:01:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。