論文の概要: Reason Analogically via Cross-domain Prior Knowledge: An Empirical Study of Cross-domain Knowledge Transfer for In-Context Learning
- arxiv url: http://arxiv.org/abs/2604.05396v1
- Date: Tue, 07 Apr 2026 03:48:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.610752
- Title: Reason Analogically via Cross-domain Prior Knowledge: An Empirical Study of Cross-domain Knowledge Transfer for In-Context Learning
- Title(参考訳): クロスドメイン事前知識による推論分析:インコンテキスト学習のためのクロスドメイン知識伝達に関する実証的研究
- Authors: Le Liu, Zhiming Li, Jianzhi Yan, Zike Yuan, Shiwei Chen, Youcheng Pan, Buzhou Tang, Qingcai Chen, Yang Xiang, Danny Dongning Sun,
- Abstract要約: 既存のコンテキスト内学習(ICL)はドメイン内の専門家によるデモンストレーションに依存しており、専門家のアノテーションが不足している場合に適用性を制限する。
提案手法では、異なるドメインが基本となる推論構造を共有し、ソースドメインのデモンストレーションがターゲットドメインの推論を改善することができる。
本研究は,クロスドメインICLにおける条件正の移動を示すものである。
さらに分析したところ、これらの利得は意味的な手がかりではなく、検索されたクロスドメインの例による推論構造修復に由来することが示唆された。
- 参考スコア(独自算出の注目度): 31.112042678524432
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite its success, existing in-context learning (ICL) relies on in-domain expert demonstrations, limiting its applicability when expert annotations are scarce. We posit that different domains may share underlying reasoning structures, enabling source-domain demonstrations to improve target-domain inference despite semantic mismatch. To test this hypothesis, we conduct a comprehensive empirical study of different retrieval methods to validate the feasibility of achieving cross-domain knowledge transfer under the in-context learning setting. Our results demonstrate conditional positive transfer in cross-domain ICL. We identify a clear example absorption threshold: beyond it, positive transfer becomes more likely, and additional demonstrations yield larger gains. Further analysis suggests that these gains stem from reasoning structure repair by retrieved cross-domain examples, rather than semantic cues. Overall, our study validates the feasibility of leveraging cross-domain knowledge transfer to improve cross-domain ICL performance, motivating the community to explore designing more effective retrieval approaches for this novel direction.\footnote{Our implementation is available at https://github.com/littlelaska/ICL-TF4LR}
- Abstract(参考訳): その成功にもかかわらず、既存のコンテキスト内学習(ICL)はドメイン内の専門家によるデモンストレーションに依存しており、専門家のアノテーションが不足している場合に適用性を制限する。
我々は、異なるドメインが基本となる推論構造を共有し、ソースドメインのデモがセマンティックミスマッチにもかかわらず、ターゲットドメインの推論を改善することができると仮定する。
この仮説を検証するために,テキスト内学習環境下でのドメイン間知識伝達の実現可能性を検証するために,異なる検索手法の総合的研究を行った。
本研究は,クロスドメインICLにおける条件正の移動を示すものである。
我々は、明確な吸収しきい値を見出す:それを超えると、正の移動がより起こり、追加のデモンストレーションによりより大きな利得が得られる。
さらに分析したところ、これらの利得は意味的な手がかりではなく、検索されたクロスドメインの例による推論構造修復に由来することが示唆された。
本研究は,ドメイン間の知識伝達を活用して,ドメイン間ICL性能を向上させることの実現可能性を検証する。
https://github.com/littlelaska/ICL-TF4LR} で実装されている。
関連論文リスト
- Towards Effective In-context Cross-domain Knowledge Transfer via Domain-invariant-neurons-based Retrieval [24.25232100266527]
大規模言語モデル(LLM)は論理的推論において顕著な進歩を遂げているが、それでも人間レベルの性能に欠けている。
ドメイン不変ニューロンを用いた検索法(textbfDIN-Retrieval)を提案する。
本手法は最先端手法よりも平均1.8の精度向上を実現している。
論文 参考訳(メタデータ) (2026-04-07T03:30:52Z) - Importance inversion transfer identifies shared principles for cross-domain learning [0.0]
本研究では、ネットワーク科学と説明可能な人工知能を統一する枠組みを定式化する。
生物学的、言語学的、分子的、社会的ネットワークにまたがって一般化する構造的不変性を優先する。
論文 参考訳(メタデータ) (2026-02-09T19:06:52Z) - Connecting Domains and Contrasting Samples: A Ladder for Domain Generalization [52.52838658375592]
本稿では,ドメイン間の概念的接続性を高めるために,ドメイン接続型コントラスト学習(DCCL)を提案する。
データ側では、クラス内の接続性を改善するために、よりアグレッシブなデータ拡張とクロスドメインの陽性サンプルが導入されている。
その結果、DCCLはドメインの監督なしに最先端のベースラインを上回ることが確認された。
論文 参考訳(メタデータ) (2025-10-19T04:13:29Z) - Distribution-aware Knowledge Unification and Association for Non-exemplar Lifelong Person Re-identification [18.55747156390559]
生涯人物再識別(LReID)は、古い知識の保存と新しい情報への適応のバランスをとるという重要な課題に遭遇する。
本稿では,これらの制約を克服するために,分散認識型知識統合・アソシエーション(DKUA)フレームワークを提案する。
実験の結果,DKUAは従来の手法よりも7.6%/5.3%,平均mAP/R@1の改善率および一般化能力に優れていた。
論文 参考訳(メタデータ) (2025-08-05T14:44:29Z) - DIGIC: Domain Generalizable Imitation Learning by Causal Discovery [69.13526582209165]
因果性は機械学習と組み合わせて、ドメインの一般化のための堅牢な表現を生成する。
我々は、実証データ分布を活用して、ドメインの一般化可能なポリシーの因果的特徴を発見するために、異なる試みを行っている。
DIGICと呼ばれる新しいフレームワークを設計し、実演データ分布から専門家行動の直接的な原因を見出すことにより因果的特徴を識別する。
論文 参考訳(メタデータ) (2024-02-29T07:09:01Z) - Domain Generalization via Causal Adjustment for Cross-Domain Sentiment
Analysis [59.73582306457387]
クロスドメイン感情分析における領域一般化の問題に焦点をあてる。
本稿では,ドメイン固有表現とドメイン不変表現をアンタングル化するバックドア調整に基づく因果モデルを提案する。
一連の実験は、我々のモデルの優れたパフォーマンスと堅牢性を示しています。
論文 参考訳(メタデータ) (2024-02-22T13:26:56Z) - Adapt in Contexts: Retrieval-Augmented Domain Adaptation via In-Context
Learning [48.22913073217633]
大規模言語モデル(LLM)は、インコンテキスト学習(in-context learning)として知られる少数の推論でその能力を示した。
本稿では,UDA問題を文脈内学習環境下で研究し,ソースドメインからターゲットドメインへの言語モデルの適用を,ターゲットラベルを使わずに行う。
我々は、異なるLMアーキテクチャを考慮し、異なるプロンプトとトレーニング戦略を考案し、言語モデリングを通してターゲット分布を学習する。
論文 参考訳(メタデータ) (2023-11-20T06:06:20Z) - Learn what matters: cross-domain imitation learning with task-relevant
embeddings [77.34726150561087]
自律エージェントが、異なる環境や異なるエージェントなど、異なる領域のデモンストレーションからタスクを実行することを学習する方法について検討する。
我々は、追加のデモンストレーションやさらなるドメイン知識にアクセスすることなく、クロスドメインの模倣学習を可能にするスケーラブルなフレームワークを提案する。
論文 参考訳(メタデータ) (2022-09-24T21:56:58Z) - Mere Contrastive Learning for Cross-Domain Sentiment Analysis [23.350121129347556]
クロスドメイン感情分析は、ソースドメインでトレーニングされたモデルを使用して、ターゲットドメイン内のテキストの感情を予測することを目的としている。
従来の研究はほとんどがクロスエントロピーに基づく手法であり、不安定性や一般化の低さに悩まされていた。
我々は,同じクラスからの文表現を閉じるように,バッチ内の負のサンプルを付加した改良されたコントラスト目的を提案する。
論文 参考訳(メタデータ) (2022-08-18T07:25:55Z) - Towards Domain-Agnostic Contrastive Learning [103.40783553846751]
そこで本研究では,DACLという対照的学習に対するドメインに依存しない新しいアプローチを提案する。
このアプローチの鍵となるのは、Mixupノイズを使用して、入力レベルと隠された状態レベルの両方で異なるデータサンプルを混合することで、類似した、異種なサンプルを作成することです。
以上の結果から,DACLはガウスノイズなどの他のドメインに依存しないノイズ発生手法よりも優れるだけでなく,SimCLRのようなドメイン固有の手法とうまく結合していることがわかった。
論文 参考訳(メタデータ) (2020-11-09T13:41:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。