論文の概要: HiCoLoRA: Addressing Context-Prompt Misalignment via Hierarchical Collaborative LoRA for Zero-Shot DST
- arxiv url: http://arxiv.org/abs/2509.19742v1
- Date: Wed, 24 Sep 2025 03:44:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-25 20:53:19.681727
- Title: HiCoLoRA: Addressing Context-Prompt Misalignment via Hierarchical Collaborative LoRA for Zero-Shot DST
- Title(参考訳): HiCoLoRA: ゼロショットDSTのための階層的協調ロラによるコンテキストプロンプトミスサライメントへの対処
- Authors: Shuyu Zhang, Yifan Wei, Xinru Wang, Yanmin Zhu, Yangfan He, Yixuan Weng, Bin Li,
- Abstract要約: Zero-shot Dialog State Tracking (zs-DST)は、タスク指向のダイアログシステム(TOD)がコストのかかるデータアノテーションなしで新しいドメインに一般化できるようにするために必須である。
HiCoLoRAは、堅牢なプロンプトアライメントを通じてゼロショットスロット推論を強化するフレームワークである。
- 参考スコア(独自算出の注目度): 20.85554182367308
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zero-shot Dialog State Tracking (zs-DST) is essential for enabling Task-Oriented Dialog Systems (TODs) to generalize to new domains without costly data annotation. A central challenge lies in the semantic misalignment between dynamic dialog contexts and static prompts, leading to inflexible cross-layer coordination, domain interference, and catastrophic forgetting. To tackle this, we propose Hierarchical Collaborative Low-Rank Adaptation (HiCoLoRA), a framework that enhances zero-shot slot inference through robust prompt alignment. It features a hierarchical LoRA architecture for dynamic layer-specific processing (combining lower-layer heuristic grouping and higher-layer full interaction), integrates Spectral Joint Domain-Slot Clustering to identify transferable associations (feeding an Adaptive Linear Fusion Mechanism), and employs Semantic-Enhanced SVD Initialization (SemSVD-Init) to preserve pre-trained knowledge. Experiments on multi-domain datasets MultiWOZ and SGD show that HiCoLoRA outperforms baselines, achieving SOTA in zs-DST. Code is available at https://github.com/carsonz/HiCoLoRA.
- Abstract(参考訳): ゼロショットダイアログ状態追跡(zs-DST)は、タスク指向ダイアログシステム(TOD)がコストのかかるデータアノテーションなしで新しいドメインに一般化できるようにするために必須である。
ダイナミックなダイアログのコンテキストと静的なプロンプトのセマンティックなミスアライメントは、非フレキシブルな層間調整、ドメイン干渉、破滅的な忘れにつながります。
これを解決するために,ゼロショットスロット推論を堅牢なプロンプトアライメントにより強化するフレームワークHiCoLoRA(Hierarchical Collaborative Low-Rank Adaptation)を提案する。
動的層特異的処理のための階層的なLoRAアーキテクチャ(低層ヒューリスティックグループと高層フルインタラクションを組み合わせた)、スペクトル結合ドメインスロットクラスタリングを統合して(適応線形核融合機構を備えた)伝達可能な関連を識別し、事前訓練された知識を保存するためにセマンティック拡張SVD初期化(SemSVD-Init)を用いる。
MultiWOZとSGDによるマルチドメインデータセットの実験では、HiCoLoRAはベースラインを上回り、zs-DSTでSOTAを達成する。
コードはhttps://github.com/carsonz/HiCoLoRA.comで入手できる。
関連論文リスト
- ToolACE-MT: Non-Autoregressive Generation for Agentic Multi-Turn Interaction [84.90394416593624]
大規模言語モデル(LLM)によるエージェント的タスク解決には,多ターン・マルチステップインタラクションが必要である。
既存のシミュレーションベースのデータ生成手法は、複数のエージェント間のコストのかかる自己回帰的相互作用に大きく依存している。
本稿では,高品質なマルチターンエージェント対話を構築するための非自己回帰反復生成フレームワークであるToolACE-MTを提案する。
論文 参考訳(メタデータ) (2025-08-18T07:38:23Z) - Tensorized Clustered LoRA Merging for Multi-Task Interference [29.488565631016332]
マルチタスク設定では、ヘテロジニアスソースでトレーニングされたLoRAアダプタをマージすると、しばしばtextittaskの干渉が発生し、下流のパフォーマンスが低下する。
本稿では,タスクの干渉に対処するために,テンソル化されたクラスタ化LoRAライブラリを提案する。
TC-LoRAはPhi-3で+1.4%、Mistral-7Bで+2.3%の精度を達成し、LCM適応におけるTC-LoRAの有効性を示した。
論文 参考訳(メタデータ) (2025-08-06T01:26:43Z) - Enhancing Transferability and Consistency in Cross-Domain Recommendations via Supervised Disentanglement [13.553355329509243]
クロスドメインレコメンデーションは、ドメイン間で知識を伝達することで、データの疎さを軽減することを目的としている。
分散表現学習は、複雑なユーザの好みをモデル化するための効果的なソリューションを提供する。
本稿では,GNN を拡張したエンコーダデコーダフレームワーク DGCDR を提案する。
論文 参考訳(メタデータ) (2025-07-23T01:29:45Z) - Zero-Shot Cross-Domain Dialogue State Tracking via Dual Low-Rank Adaptation [7.765092134290888]
ゼロショット対話状態追跡(Zero-shot dialogue state tracking, DST)は、対話システムが手動のアノテーションや広範囲なリトレーニングなしに、馴染みの無いドメインに移行できるようにすることを目的としている。
一般的な手法としては、入力層にプロンプトを統合することや、各トランス層に学習可能な変数を導入することが挙げられる。
本稿では,DSTのためのDual Low-Rank Adaptation (DualLoRA)を提案する。
論文 参考訳(メタデータ) (2024-07-31T14:26:41Z) - Exploring User Retrieval Integration towards Large Language Models for Cross-Domain Sequential Recommendation [66.72195610471624]
Cross-Domain Sequential Recommendationは、異なるドメイン間でユーザのシーケンシャルな好みをマイニングし、転送することを目的としている。
本稿では,ユーザ検索手法を探索し,CDSRの性能向上を目的とした URLLM という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-05T09:19:54Z) - Spatial Semantic Recurrent Mining for Referring Image Segmentation [63.34997546393106]
高品質なクロスモーダリティ融合を実現するために,Stextsuperscript2RMを提案する。
これは、言語特徴の分散、空間的意味的再帰的分離、パーセマンティック・セマンティック・バランシングという三部作の作業戦略に従う。
提案手法は他の最先端アルゴリズムに対して好適に機能する。
論文 参考訳(メタデータ) (2024-05-15T00:17:48Z) - Decomposition-based Unsupervised Domain Adaptation for Remote Sensing Image Semantic Segmentation [30.606689882397223]
非教師なし領域適応(UDA)技術は、地球科学のセマンティックセグメンテーションに不可欠である。
高レベルの特徴空間におけるドメインアライメントに焦点を当てた既存のUDA手法の多くは、局所的な空間的詳細とグローバルな文脈的意味論を同時に維持するのに苦労している。
ドメイン不変表現学習を導くための新しい分解手法を提案する。
論文 参考訳(メタデータ) (2024-04-06T07:13:49Z) - Progressively Guide to Attend: An Iterative Alignment Framework for
Temporal Sentence Grounding [53.377028000325424]
時間的文接地作業のための反復アライメントネットワーク(IA-Net)を提案する。
学習可能なパラメータを持つマルチモーダル特徴をパットすることで、非整合フレームワードペアの非整合問題を軽減する。
また、アライメントの知識を洗練させるために、各アライメントモジュールに従ってキャリブレーションモジュールを考案する。
論文 参考訳(メタデータ) (2021-09-14T02:08:23Z) - Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State
Tracking [50.04597636485369]
ゼロショットクロスドメイン状態追跡(DST)により、ドメイン内のデータを収集することなく、未確認領域でのタスク指向対話を処理できる。
ゼロショットクロスドメインDSTのためのスロット記述拡張生成手法を提案する。
論文 参考訳(メタデータ) (2021-05-10T09:34:01Z) - ePointDA: An End-to-End Simulation-to-Real Domain Adaptation Framework
for LiDAR Point Cloud Segmentation [111.56730703473411]
LiDARデータ上でディープニューラルネットワーク(DNN)をトレーニングするには、大規模なポイントワイドアノテーションが必要である。
シミュレーション・トゥ・リアル・ドメイン適応(SRDA)は、DNNを無制限の合成データと自動生成されたラベルで訓練する。
ePointDAは、自己教師付きドロップアウトノイズレンダリング、統計不変および空間適応型特徴アライメント、転送可能なセグメンテーション学習の3つのモジュールで構成されている。
論文 参考訳(メタデータ) (2020-09-07T23:46:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。