論文の概要: High Quality Embeddings for Horn Logic Reasoning
- arxiv url: http://arxiv.org/abs/2605.20467v1
- Date: Tue, 19 May 2026 20:30:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.364078
- Title: High Quality Embeddings for Horn Logic Reasoning
- Title(参考訳): ホーン論理推論のための高品質な埋め込み
- Authors: Yifan Zhang, Yasir White, Dean Clark, Joseph Sanchez, Jevon Lipsey, Ashely Hirst, Jeff Heflin,
- Abstract要約: 本稿では、下流結果のより良い埋め込みを実現するためのいくつかのアプローチを紹介し、評価する。
我々は、アンカー、正の例、負の例からなる例を必要とする三重項損失を用いて埋め込みを訓練する。
我々は、異なる知識ベース間で異なる埋め込みの比較を含む、このアプローチを評価するためにいくつかの実験を行う。
- 参考スコア(独自算出の注目度): 10.298819187775662
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks can be trained to rank the choices made by logical reasoners, resulting in more efficient searches for answers. A key step in this process is creating useful embeddings, i.e., numeric representations of logical statements. This paper introduces and evaluates several approaches to creating embeddings that result in better downstream results. We train embeddings using triplet loss, which requires examples consisting of an anchor, a positive example, and a negative example. We introduce three ideas: generating anchors that are more likely to have repeated terms, generating positive and negative examples in a way that ensures a good balance between easy, medium, and hard examples, and periodically emphasizing the hardest examples during training. We conduct several experiments to evaluate this approach, including a comparison of different embeddings across different knowledge bases, in an attempt to identify what characteristics make an embedding well-suited to a particular reasoning task.
- Abstract(参考訳): ニューラルネットワークは、論理的推論者による選択をランク付けするように訓練され、その結果、より効率的な回答探索が実現される。
この過程における重要なステップは、有用な埋め込み、すなわち論理文の数値表現を作ることである。
本稿では、下流結果のより良い埋め込みを実現するためのいくつかのアプローチを紹介し、評価する。
我々は、アンカー、正の例、負の例からなる例を必要とする三重項損失を用いて埋め込みを訓練する。
3つのアイデアを紹介します: 繰り返し用語を持つ可能性が高いアンカーを生成すること、簡単、中、硬い例のバランスが良い方法でポジティブな例とネガティブな例を生成すること、トレーニング中の最も難しい例を定期的に強調すること。
本研究は,特定の推論タスクに適した埋め込みの特徴を特定するために,異なる知識ベース間で異なる埋め込みを比較することを含む,このアプローチを評価するためにいくつかの実験を行った。
関連論文リスト
- Finding Support Examples for In-Context Learning [73.90376920653507]
本稿では,この課題を2段階に解決するためのfilter-thEN-Search法であるLENSを提案する。
まず、データセットをフィルタリングして、個別に情報的インコンテキストの例を得る。
そこで本研究では,反復的に改良し,選択したサンプル順列を評価可能な多様性誘導型サンプル探索を提案する。
論文 参考訳(メタデータ) (2023-02-27T06:32:45Z) - Explanation Selection Using Unlabeled Data for Chain-of-Thought
Prompting [80.9896041501715]
非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。
本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
論文 参考訳(メタデータ) (2023-02-09T18:02:34Z) - The Dynamic of Consensus in Deep Networks and the Identification of
Noisy Labels [5.28539620288341]
ノイズラベルは トレーニングの終わりまでに きれいな例とは区別できない
最近の研究では、ディープネットワークがノイズの多い例よりもずっと早くサンプルを記憶しているように見えるという事実を活用して、この問題に対処している。
我々は,この観測結果を用いて,ノイズラベル濾過の新しい手法を開発した。
論文 参考訳(メタデータ) (2022-10-02T17:47:23Z) - Well-classified Examples are Underestimated in Classification with Deep
Neural Networks [23.25956600645678]
深層分類モデルの学習の背景にある従来の知恵は、悪い分類例に焦点を当てることである。
この一般的な実践は、表現学習、エネルギー最適化、マージンの成長を妨げることが示される。
そこで本研究では,学習への貢献を復活させるために,付加的なボーナスを付与した固有例を報酬として提案する。
論文 参考訳(メタデータ) (2021-10-13T07:19:47Z) - Learning by Examples Based on Multi-level Optimization [12.317568257671427]
我々はLBE(Learning By Examples)と呼ばれる新しい学習手法を提案する。
提案手法では,クエリサンプルに類似したトレーニングサンプルの集合を自動的に検索し,検索したサンプルのクラスラベルを用いてクエリサンプルのラベルを予測する。
様々なベンチマークにおいて,教師付き学習と少数ショット学習の両方において,本手法の有効性を実証する実験を行った。
論文 参考訳(メタデータ) (2021-09-22T16:33:06Z) - Investigating the Role of Negatives in Contrastive Representation
Learning [59.30700308648194]
ノイズコントラスト学習は教師なし表現学習の一般的な手法である。
我々は、これらのパラメータの1つの役割の曖昧さ、すなわち負の例の数に焦点をあてる。
結果が我々の理論と広く一致しているのに対して、我々の視覚実験はより悪質であり、性能は時々負の数に敏感である。
論文 参考訳(メタデータ) (2021-06-18T06:44:16Z) - An Empirical Comparison of Instance Attribution Methods for NLP [62.63504976810927]
本研究は,トレーニングサンプルの重要性に関して,異なるインスタンス属性が一致した度合いを評価する。
単純な検索メソッドは、グラデーションベースの方法によって識別されたものと異なるトレーニングインスタンスを生成する。
論文 参考訳(メタデータ) (2021-04-09T01:03:17Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2020-04-20T02:47:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。