論文の概要: The Hidden States Cookbook: A Large-Scale Ablation Study for Noise-Robust Conversational Intent Classification in Industry

• arxiv url: http://arxiv.org/abs/2610.05394v1
• Date: Sun, 04 Oct 2026 17:28:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 14:06:33.726431
• Title: The Hidden States Cookbook: A Large-Scale Ablation Study for Noise-Robust Conversational Intent Classification in Industry
• Title（参考訳）: The Hidden States Cookbook: A Large-Scale Ablation Study for Noise-Robust Conversational Intent Classification in Industry
• Abstract要約: 本研究は,生産言語モデルにおける現実的な会話雑音下で,プーリング戦略が意図的分類精度を最大化する問題に対処する。 BANKING77およびCLINC150データセット上のLlama-3.2-1B-インストラクトを用いて,4つのプール構成(平均,最大,最終トーケン,注意,FFT拡張型)にまたがる360度実験を行った。 鍵となる発見は、アテンションプーリングがノイズの多い条件下での代替戦略を一貫して上回り、平均プールリングは最大5F1ポイントまで性能を低下させることである。
• 参考スコア（独自算出の注目度）: 2.0671616716160575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conversational database interfaces face a critical challenge: users naturally embed queries in conversational noise (greetings, politeness, off-topic remarks), which degrades intent classification accuracy and wastes computational resources. Despite advances in orchestration and retrieval strategies, a fundamental question remains unanswered: which pooling strategy maximizes intent classification accuracy under realistic conversational noise in production language models? This work addresses this gap through 360 controlled experiments spanning four pooling configurations (mean, max, last-token, attention, and FFT-augmented variants) using Llama-3.2-1B-Instruct on BANKING77 and CLINC150 datasets under clean/noisy conditions with ten random seeds. Key findings reveal that attention pooling consistently outperforms alternative strategies under noisy conditions (~+2.6-2.8 F1 over the default), while mean pooling degrades performance by up to ~5 F1 points. Frequency-domain filtering does not produce consistent accuracy improvements and functions primarily as a structural variation rather than an accuracy-enhancing component. These results provide concrete, evidence-based guidance for building noise-robust conversational classifiers: attention pooling is recommended for noisy interfaces, mean pooling should be avoided, and last-token pooling is appropriate for clean-query scenarios.
• Abstract（参考訳）: 会話型データベースインターフェースは重要な課題に直面している。ユーザーは自然に会話型ノイズ(認識、丁寧さ、話題外発言)にクエリを埋め込むことで、意図的な分類精度を低下させ、計算資源を浪費する。 オーケストレーションと検索戦略の進歩にもかかわらず、基本的な問題は未解決のままである。どのプール戦略が本番言語モデルにおける現実的な会話ノイズの下で意図的分類精度を最大化するのか? この研究は、Llama-3.2-1B-Instruct on BANKING77とCLINC150データセットを10個のランダムシードで清潔でノイズの多い条件下で使用する4つのプール構成(平均、最大、最終トーケン、注意、FFT拡張版)にまたがる360度制御実験を通して、このギャップに対処する。 重要な発見は、アテンションプーリングがノイズの多い条件下での代替戦略(デフォルトでは+2.6-2.8 F1)を一貫して上回り、平均プールは最大5F1ポイントまで性能を低下させることである。 周波数領域フィルタリングは、一貫した精度向上や、主に精度向上コンポーネントではなく構造変化として機能するわけではない。 これらの結果から,ノイズ・ロバストな対話型分類器を構築するための具体的,エビデンスに基づくガイダンスが得られた。

関連論文リスト

• Semantics-Aware Denoising: A PLM-Guided Sample Reweighting Strategy for Robust Recommendation [4.631922211808715]
  ユーザクリックのような暗黙のフィードバックは、現代のレコメンデータシステムの主要なデータソースとして機能する。 本稿では,ユーザの関心事とアイテムコンテンツ間のセマンティックな一貫性を活用して,潜在的ノイズのあるインタラクションを識別し,ダウンウェイトするSAID(Semantics-Aware Implicit Denoising)を提案する。 2つの実世界のデータセットの実験は、SAIDが強いベースラインよりもAUCの2.2%の相対的な改善を達成し、リコメンデーションパフォーマンスを継続的に改善することを示した。
  論文  参考訳（メタデータ） (2026-02-17T04:58:21Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• VocSim: A Training-free Benchmark for Zero-shot Content Identity in Single-source Audio [1.0791267046450075]
  VocSimは、凍結埋め込みの固有の幾何学的アライメントを探索するトレーニング不要のベンチマークである。 VocSimは、人間のスピーチ、動物の発声、環境音にまたがる19のコーパスから125万のソースクリップを集約する。
  論文  参考訳（メタデータ） (2025-12-10T22:13:12Z)
• PAUL: Uncertainty-Guided Partition and Augmentation for Robust Cross-View Geo-Localization under Noisy Correspondence [16.322806051944227]
  クロスビュージオローカライゼーションは、UAVナビゲーション、イベント検出、および航空測量にとって重要な課題である。 既存のほとんどのアプローチは、ペア画像の類似性を最大化するために、マルチモーダルデータをジョイントな特徴空間に埋め込む。 これらの手法は通常、トレーニング中にイメージペアの完全なアライメントを前提とします。
  論文  参考訳（メタデータ） (2025-08-27T17:21:22Z)
• From Entity Reliability to Clean Feedback: An Entity-Aware Denoising Framework Beyond Interaction-Level Signals [20.323837731778358]
  暗黙のフィードバックはレコメンデーションシステムの中心であるが、本質的にノイズがあり、しばしばモデルのトレーニングやユーザエクスペリエンスの劣化を損なう。 textbfEARD(textbfEntity-textbfAware textbfReliability-textbfDriven Denoising)は,インタラクションレベルの信号からエンティティレベルの信頼性に移行する軽量フレームワークである。
  論文  参考訳（メタデータ） (2025-08-14T17:20:12Z)
• Effective Noise-aware Data Simulation for Domain-adaptive Speech Enhancement Leveraging Dynamic Stochastic Perturbation [25.410770364140856]
  クロスドメイン音声強調(SE)は、目に見えない対象領域におけるノイズや背景情報の不足により、しばしば深刻な課題に直面している。 本研究では,ノイズ抽出技術とGANを利用した新しいデータシミュレーション手法を提案する。 本研究では,動的摂動の概念を導入し,制御された摂動を推論中の雑音埋め込みに注入する。
  論文  参考訳（メタデータ） (2024-09-03T02:29:01Z)
• Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
  本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。 雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
  論文  参考訳（メタデータ） (2024-03-11T16:22:41Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• Partial Identification with Noisy Covariates: A Robust Optimization Approach [94.10051154390237]
  観測データセットからの因果推論は、しばしば共変量の測定と調整に依存する。 このロバストな最適化手法により、広範囲な因果調整法を拡張し、部分的同定を行うことができることを示す。 合成および実データセット全体で、このアプローチは既存の手法よりも高いカバレッジ確率でATEバウンダリを提供する。
  論文  参考訳（メタデータ） (2022-02-22T04:24:26Z)
• Bridging the Gap Between Clean Data Training and Real-World Inference for Spoken Language Understanding [76.89426311082927]
  既存のモデルはクリーンデータに基づいてトレーニングされ、クリーンデータトレーニングと現実世界の推論の間にtextitgapが発生する。 本稿では,良質なサンプルと低品質のサンプルの両方が類似ベクトル空間に埋め込まれた領域適応法を提案する。 広く使用されているデータセット、スニップス、および大規模な社内データセット(1000万のトレーニング例)に関する実験では、この方法は実世界の(騒々しい)コーパスのベースラインモデルを上回るだけでなく、堅牢性、すなわち、騒々しい環境下で高品質の結果を生み出すことを実証しています。
  論文  参考訳（メタデータ） (2021-04-13T17:54:33Z)
• Learning with Group Noise [106.56780716961732]
  グループノイズを用いた学習のための新しいマックスマッチング手法を提案する。 いくつかの学習パラダイムの領域における実世界のデータセットのレンジのパフォーマンスは、Max-Matchingの有効性を示している。
  論文  参考訳（メタデータ） (2021-03-17T06:57:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。