論文の概要: SHALA-LLM: Smartly Handling Ambiguous Labels in Aligning LLMs

• arxiv url: http://arxiv.org/abs/2606.05376v1
• Date: Wed, 03 Jun 2026 19:25:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.361537
• Title: SHALA-LLM: Smartly Handling Ambiguous Labels in Aligning LLMs
• Title（参考訳）: SHALA-LLM:LLMのアラインメントにおける曖昧なラベルの処理
• Authors: Jingyao Wu, Ashley Wang, Keane Ong, Paul Pu Liang, Rosalind Picard,
• Abstract要約: 新しいアルゴリズム「SmARTLY HANDING AMBIGUOUS LABELS in ALIGNING LLMS (SHALA-LLM) 」によってモデル行動を改善する情報としてあいまいさをどう扱うかを示す。 ChaosNLI、GoEmotions、MSP-Podcastなど、曖昧性に敏感なNLIとERベンチマークの実験は、SHALA-LLMがアノテータラベルの分布との一致を改善することを実証している。 同時に、SHALA-LLMはF1を最大16.7%改善し、モデリングアノテータの不一致により分類性能が向上することを示した。
• 参考スコア（独自算出の注目度）: 22.53104474041071
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many human-centered tasks, including natural language inference (NLI) and emotion recognition (ER), have multiple plausible interpretations, leading to label ambiguity and challenging disagreements across human annotators. As LLMs are increasingly deployed in real-world settings, faithfully modeling such ambiguity is essential to identify contested inputs, preserve variability in ambiguous cases, and capture the full distribution of human judgments. Yet, existing LLM alignment approaches have predominantly assumed a single correct label, excluding annotator disagreement during optimization. Instead of treating this ambiguity as noise, we show how to treat it as information that improves model behavior through a new algorithm called SMARTLY HANDLING AMBIGUOUS LABELS IN ALIGNING LLMS (SHALA-LLM). This reinforcement learning framework provides a new way for LLMs to learn directly from annotator distributions while dynamically prioritizing highly ambiguous samples during optimization. Experiments on ambiguity-sensitive NLI and ER benchmarks, including ChaosNLI, GoEmotions, and MSP-Podcast, demonstrate that SHALA-LLM improves agreement with annotator label distributions, e.g. on ChaosNLI, it reduces Jensen-Shannon Distance by up to 62.1%. At the same time, SHALA-LLM improves F1 by up to 16.7%, showing that modeling annotator disagreement can also strengthen classification performance.
• Abstract（参考訳）: 自然言語推論(NLI)や感情認識(ER)を含む多くの人間中心のタスクは、複数のもっともらしい解釈を持ち、曖昧さと人間のアノテーション間の不一致をラベル付けする。 LLMは現実世界の環境にますます展開されているため、競合する入力を識別し、曖昧なケースにおける可変性を保ち、人間の判断の完全な分布を捉えるために、そのようなあいまいさを忠実にモデル化することが不可欠である。 しかし、既存のLLMアライメントアプローチは、最適化中のアノテータの不一致を除いて、主に単一の正しいラベルを仮定している。 この曖昧さをノイズとして扱う代わりに、新たなアルゴリズムであるSMARTLY HANDING AMBIGNING LABELS IN ALIGNING LLMS (SHALA-LLM) を用いてモデル動作を改善する情報として扱う方法を示す。 この強化学習フレームワークは、最適化中に高度にあいまいなサンプルを動的に優先順位付けしながら、LLMがアノテータ分布から直接学習する新しい方法を提供する。 ChaosNLI、GoEmotions、MSP-Podcastなど、曖昧性に敏感なNLIとERベンチマークの実験では、SHALA-LLMがアノテーションラベルの分布との一致を改善し、例えばChaosNLIでは、Jensen-Shannon Distanceを最大62.1%削減することを示した。 同時に、SHALA-LLMはF1を最大16.7%改善し、モデリングアノテータの不一致により分類性能が向上することを示した。

関連論文リスト

• Same Meaning, Different Scores: Lexical and Syntactic Sensitivity in LLM Evaluation [40.210132040677]
  本稿では,23の現代大言語モデル(LLM)の絶対的性能と相対的ランク付けが,制御的,真に等価な語彙的および構文的摂動に与える影響について検討する。 その結果、語彙的摂動は、ほぼすべてのモデルやタスクに対して、実質的、統計的に有意な性能劣化を誘導する一方、構文的摂動はより異質な効果を持ち、時には結果を改善することが示されている。
  論文  参考訳（メタデータ） (2026-02-19T12:24:42Z)
• LIME-LLM: Probing Models with Fluent Counterfactuals, Not Broken Text [7.194073942393882]
  LIME-LLMは、ランダムノイズを仮説駆動の制御摂動に置き換えるフレームワークである。 実験の結果、LIME-LLMはブラックボックスの説明可能性のための新しいベンチマークを確立している。
  論文  参考訳（メタデータ） (2026-01-16T19:55:06Z)
• Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
  データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。 本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
  論文  参考訳（メタデータ） (2025-11-09T03:38:29Z)
• GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
  GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。 推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。 微調整と既存のステアリングベースラインの両方を一貫して上回る。
  論文  参考訳（メタデータ） (2025-07-24T02:34:13Z)
• Refining Sentence Embedding Model through Ranking Sentences Generation with Large Language Models [60.00178316095646]
  多くのNLPタスクには文の埋め込みが不可欠であり、NLIのようなデータセットを使用して強いパフォーマンスを達成する対照的な学習方法がある。 近年の研究では、大きな言語モデル(LLM)を利用して文ペアを生成し、アノテーション依存を減らしている。 本稿では,潜在空間におけるLLMの生成方向を制御する手法を提案する。 複数のベンチマークによる実験により,本手法は文合成に要するコストを最小限に抑えつつ,新たなSOTA性能を実現することを示した。
  論文  参考訳（メタデータ） (2025-02-19T12:07:53Z)
• Navigating Label Ambiguity for Facial Expression Recognition in the Wild [13.242490592706805]
  本研究では,NLA(Navigating Label Ambiguity)と呼ばれる,現実世界の環境下で堅牢な新しいフレームワークを提案する。 NLAの背景にある動機は、各イテレーションであいまいなサンプルを動的に推定し強調することは、ノイズとクラス不均衡を軽減することである。 大規模な実験は、NLAが既存の手法を総合的および平均的精度で上回ることを示した。
  論文  参考訳（メタデータ） (2025-02-14T08:24:38Z)
• LF-Steering: Latent Feature Activation Steering for Enhancing Semantic Consistency in Large Language Models [16.37602070339033]
  LLM(Large Language Models)は、意味的に等価なパラフレーズ入力によって、しばしば一貫性のない応答を生成する。 セマンティック不整合の原因となる潜在特徴表現を正確に識別する新しいアクティベーションステアリング手法LF-ステアリングを提案する。 本手法は, 関連トランス層の隠蔽状態をスパースオートエンコーダに基づいて, 疎活性化された高次元特徴空間にマッピングする。
  論文  参考訳（メタデータ） (2025-01-19T13:06:51Z)
• Uncertainty Aware Learning for Language Model Alignment [97.36361196793929]
  異なるタスクシナリオのモデルアライメントを改善するために,不確実性認識学習(UAL)を提案する。 トレーニングのラベルの平滑化値を個々のサンプルの不確実性に応じて適応的に設定する。 広く使われているベンチマーク実験では、我々のUALは標準教師あり微調整よりも著しく優れています。
  論文  参考訳（メタデータ） (2024-06-07T11:37:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。