論文の概要: Consistency in Language Models: Current Landscape, Challenges, and Future Directions

• arxiv url: http://arxiv.org/abs/2505.00268v1
• Date: Thu, 01 May 2025 03:25:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:55.210587
• Title: Consistency in Language Models: Current Landscape, Challenges, and Future Directions
• Title（参考訳）: 言語モデルにおける一貫性:現在の景観,課題,今後の方向性
• Authors: Jekaterina Novikova, Carol Anderson, Borhane Blili-Hamelin, Subhabrata Majumdar,
• Abstract要約: 最先端の言語モデルは、さまざまなシナリオにわたる信頼性のある一貫性を維持するのに苦労する。 本稿では,AI言語システムにおける一貫性研究の展望について考察する。
• 参考スコア（独自算出の注目度）: 8.342499446600268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The hallmark of effective language use lies in consistency -- expressing similar meanings in similar contexts and avoiding contradictions. While human communication naturally demonstrates this principle, state-of-the-art language models struggle to maintain reliable consistency across different scenarios. This paper examines the landscape of consistency research in AI language systems, exploring both formal consistency (including logical rule adherence) and informal consistency (such as moral and factual coherence). We analyze current approaches to measure aspects of consistency, identify critical research gaps in standardization of definitions, multilingual assessment, and methods to improve consistency. Our findings point to an urgent need for robust benchmarks to measure and interdisciplinary approaches to ensure consistency in the application of language models on domain-specific tasks while preserving the utility and adaptability.
• Abstract（参考訳）: 効果的な言語の使用の目印は一貫性にある -- 同様のコンテキストで同様の意味を表現し、矛盾を避けることだ。 人間のコミュニケーションはこの原則を自然に示していますが、最先端の言語モデルは異なるシナリオ間で信頼性のある一貫性を維持するのに苦労しています。 本稿では,AI言語システムにおける一貫性研究の展望を考察し,形式的一貫性(論理規則の遵守を含む)と非公式一貫性(道徳的・事実的一貫性など)の両方を探求する。 我々は、一貫性の側面を測定するための現在のアプローチを分析し、定義の標準化、多言語評価、一貫性を改善する方法における重要な研究ギャップを特定します。 本研究は,言語モデルのドメイン固有のタスクへの適用において,実用性と適応性を維持しつつ整合性を確保するための,堅牢なベンチマークと学際的なアプローチの必要性を指摘する。

関連論文リスト

• Enhancing Coreference Resolution with Pretrained Language Models: Bridging the Gap Between Syntax and Semantics [0.9752323911408618]
  そこで本研究では,事前学習型言語モデルを用いて,コア参照解決の強化を目的とした,革新的なフレームワークを提案する。 本手法では,構文解析と意味的役割ラベリングを組み合わせることで,参照関係におけるより微細な特徴を正確に把握する。
  論文  参考訳（メタデータ） (2025-04-08T09:33:09Z)
• Large Language Models Often Say One Thing and Do Another [49.22262396351797]
  我々はWords and Deeds Consistency Test (WDCT)と呼ばれる新しい評価ベンチマークを開発した。 このベンチマークは、異なるドメインにわたる単語ベースの質問とdeedベースの質問の厳密な対応を確立する。 評価結果から,異なるLLMとドメイン間で単語と行為の矛盾が広範囲にあることが明らかとなった。
  論文  参考訳（メタデータ） (2025-03-10T07:34:54Z)
• Cross-linguistic disagreement as a conflict of semantic alignment norms in multilingual AI~Linguistic Diversity as a Problem for Philosophy, Cognitive Science, and AI~ [0.2443066828522608]
  言語間の整合性(CL整合性)は言語間の普遍的な概念を求める。 言語固有の意味規範を尊重する民族一貫性。 普遍表現と言語間移動能力が本質的に望ましいという仮定を見つける。
  論文  参考訳（メタデータ） (2025-03-01T03:31:40Z)
• Improving Large Language Model (LLM) fidelity through context-aware grounding: A systematic approach to reliability and veracity [0.0]
  大規模言語モデル(LLM)は、自然言語処理(NLP)アプリケーションにおいて、ますます高度でユビキタスなものになりつつある。 本稿では,テクストモデルにおける文脈的接地のための新しい枠組みについて述べる。 本研究は, 医療, 法制度, 社会サービスなどのセンシティブな分野におけるLCMの展開に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-08-07T18:12:02Z)
• Evaluating Knowledge-based Cross-lingual Inconsistency in Large Language Models [16.942897938964638]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて例外的な性能を示している。 彼らの成功にもかかわらず、これらのモデルはしばしば異なる言語で同じ概念を処理する際に大きな矛盾を示す。 本研究は,LLMにおける言語間不整合の存在,これらの不整合が現れる特定の側面,LLMの言語間整合性と多言語機能との相関の3つの主要な疑問に焦点をあてる。
  論文  参考訳（メタデータ） (2024-07-01T15:11:37Z)
• Regularized Conventions: Equilibrium Computation as a Model of Pragmatic Reasoning [72.21876989058858]
  本稿では,信号ゲームの正規化平衡を探索することにより,発話を生成・理解する実用的な言語理解のモデルを提案する。 このモデルでは、話者とリスナーは文脈的に適切な発話を探索し、ゲーム理論の最適規則に近づき、共有された'デフォルト'セマンティクスに近い意味のマッピングを意味づける。
  論文  参考訳（メタデータ） (2023-11-16T09:42:36Z)
• BabySLM: language-acquisition-friendly benchmark of self-supervised spoken language models [56.93604813379634]
  音声表現を学習するための自己指導技術は、人間のラベルを必要とせずに、音声への露出から言語能力を高めることが示されている。 語彙および構文レベルで音声言語モデルを探索するために,言語習得に親しみやすいベンチマークを提案する。 テキストと音声のギャップを埋めることと、クリーンな音声とその内話のギャップを埋めることである。
  論文  参考訳（メタデータ） (2023-06-02T12:54:38Z)
• Natural Language Decompositions of Implicit Content Enable Better Text Representations [52.992875653864076]
  本稿では,暗黙的に伝達されたコンテンツを明示的に考慮したテキスト分析手法を提案する。 我々は大きな言語モデルを用いて、観察されたテキストと推論的に関係する命題の集合を生成する。 本研究は,NLPにおいて,文字のみではなく,観察された言語の背景にある意味をモデル化することが重要であることを示唆する。
  論文  参考訳（メタデータ） (2023-05-23T23:45:20Z)
• An Inclusive Notion of Text [69.36678873492373]
  テキストの概念の明確さは再現可能で一般化可能なNLPにとって不可欠である,と我々は主張する。 言語的および非言語的要素の2層分類を導入し,NLPモデリングに使用することができる。
  論文  参考訳（メタデータ） (2022-11-10T14:26:43Z)
• On the Faithfulness Measurements for Model Interpretations [100.2730234575114]
  ポストホックな解釈は、自然言語処理(NLP)モデルがどのように予測を行うかを明らかにすることを目的とする。 これらの問題に取り組むために,我々は,削除基準,解釈の感度,解釈の安定性という3つの基準から始める。 これらの忠実性概念のデシデラタムに動機づけられ、敵対的領域からのテクニックを採用する新しい解釈方法のクラスを導入する。
  論文  参考訳（メタデータ） (2021-04-18T09:19:44Z)
• Measuring and Improving Consistency in Pretrained Language Models [40.46184998481918]
  予測言語モデル(PLM)は、事実的知識に関して一貫性があるか? ParaRel を用いて、我々が実験したすべての PLM の整合性は貧弱であるが、関係のばらつきは高い。
  論文  参考訳（メタデータ） (2021-02-01T17:48:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。