論文の概要: Navigating Shortcuts, Spurious Correlations, and Confounders: From Origins via Detection to Mitigation
- arxiv url: http://arxiv.org/abs/2412.05152v1
- Date: Fri, 06 Dec 2024 16:10:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-09 15:57:16.389665
- Title: Navigating Shortcuts, Spurious Correlations, and Confounders: From Origins via Detection to Mitigation
- Title(参考訳): ショートカットのナビゲーション,スプリアス相関,共同設立者:検出から緩和へ
- Authors: David Steinmann, Felix Divo, Maurice Kraus, Antonia Wüst, Lukas Struppek, Felix Friedrich, Kristian Kersting,
- Abstract要約: Clever Hans氏の行動、刺激的な相関、あるいは共同設立者は、機械学習とAIにおいて重要な課題を提示している。
この領域の研究は、様々な用語で断片化され、分野全体の進歩を妨げている。
我々は,ショートカットを形式的に定義し,文献で用いられる多種多様な用語をブリッジすることによって,統一された分類を導入する。
- 参考スコア(独自算出の注目度): 21.21130450731374
- License:
- Abstract: Shortcuts, also described as Clever Hans behavior, spurious correlations, or confounders, present a significant challenge in machine learning and AI, critically affecting model generalization and robustness. Research in this area, however, remains fragmented across various terminologies, hindering the progress of the field as a whole. Consequently, we introduce a unifying taxonomy of shortcut learning by providing a formal definition of shortcuts and bridging the diverse terms used in the literature. In doing so, we further establish important connections between shortcuts and related fields, including bias, causality, and security, where parallels exist but are rarely discussed. Our taxonomy organizes existing approaches for shortcut detection and mitigation, providing a comprehensive overview of the current state of the field and revealing underexplored areas and open challenges. Moreover, we compile and classify datasets tailored to study shortcut learning. Altogether, this work provides a holistic perspective to deepen understanding and drive the development of more effective strategies for addressing shortcuts in machine learning.
- Abstract(参考訳): ショートカットは、Clever Hansの行動、刺激的な相関、あるいは共同創設者としても知られており、機械学習とAIにおいて重要な課題を示し、モデルの一般化と堅牢性に重大な影響を与えている。
しかし、この分野の研究は様々な用語で断片化され、この分野全体の進歩を妨げている。
その結果,ショートカットの形式的定義を提供し,文献における多様な用語をブリッジすることで,ショートカット学習の統一的な分類を導入した。
その際, 近道と関連する分野(バイアス, 因果性, セキュリティなど)の間には, 並列性は存在せず, ほとんど議論されない重要な関係性を確立する。
我々の分類学は、既存のショートカット検出と緩和のアプローチを整理し、この分野の現状を包括的に概観し、未調査領域とオープン課題を明らかにする。
さらに,ショートカット学習に適したデータセットをコンパイルし,分類する。
さらに、この研究は理解を深め、機械学習のショートカットに対処するためのより効果的な戦略の開発を促進するための総合的な視点を提供する。
関連論文リスト
- Shortcut Learning in In-Context Learning: A Survey [16.324397674149626]
ショートカット学習(英: Shortcut learning)とは、モデルが実践的なタスクにおいて、単純で非破壊的な決定ルールを採用する現象を指す。
In-Context Learning(ICL)におけるショートカット学習に関する関連研究をレビューするための新しい視点を提供する。
論文 参考訳(メタデータ) (2024-11-04T12:13:04Z) - Unsupervised Object Discovery: A Comprehensive Survey and Unified Taxonomy [6.346947904159397]
教師なしのオブジェクト発見は、一般に、ラベル付き例を必要とせず、視覚データ中のオブジェクトのローカライズおよび/または分類のタスクとして解釈される。
本調査では,既存のアプローチの詳細な調査を行い,課題と採用手法のファミリーに基づいて,この課題を体系的に分類する。
本稿では,共通データセットとメトリクスの概要を述べるとともに,評価プロトコルの違いによる手法の比較の課題について述べる。
論文 参考訳(メタデータ) (2024-10-30T21:22:48Z) - Navigating the Shortcut Maze: A Comprehensive Analysis of Shortcut
Learning in Text Classification by Language Models [20.70050968223901]
この研究は、過度に単純化されたショートカットを超えてモデルの信頼性を損なう微妙で複雑なショートカットの影響を克服する。
ショートカットを発生、スタイル、概念に分類する包括的なベンチマークを導入する。
本研究は,洗練されたショートカットに対するモデルの弾力性と感受性を系統的に検討する。
論文 参考訳(メタデータ) (2024-09-26T01:17:42Z) - The Imperative of Conversation Analysis in the Era of LLMs: A Survey of Tasks, Techniques, and Trends [64.99423243200296]
会話分析(CA)は、会話データから重要な情報を発見し分析する。
本稿では,CAタスクの徹底的なレビューとシステム化を行い,既存の業務を要約する。
会話シーンの再構築,奥行きの属性分析,ターゲットトレーニングの実行,会話の生成から,CAの4つの重要なステップを導出した。
論文 参考訳(メタデータ) (2024-09-21T16:52:43Z) - Coding for Intelligence from the Perspective of Category [66.14012258680992]
符号化の対象はデータの圧縮と再構成、インテリジェンスである。
最近の傾向は、これらの2つの分野の潜在的均一性を示している。
本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
論文 参考訳(メタデータ) (2024-07-01T07:05:44Z) - Investigating Multi-Hop Factual Shortcuts in Knowledge Editing of Large Language Models [18.005770232698566]
我々はまず,知識ニューロンによる事実的ショートカットの存在を探求する。
我々は,マルチホップ知識編集の観点から,事実的ショートカットによって引き起こされるリスクを分析する。
論文 参考訳(メタデータ) (2024-02-19T07:34:10Z) - Re-mine, Learn and Reason: Exploring the Cross-modal Semantic
Correlations for Language-guided HOI detection [57.13665112065285]
ヒューマンオブジェクトインタラクション(HOI)検出は、コンピュータビジョンの課題である。
本稿では,構造化テキスト知識を組み込んだHOI検出フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-25T14:20:52Z) - A Comprehensive Survey of Forgetting in Deep Learning Beyond Continual Learning [58.107474025048866]
蓄積とは、以前に獲得した知識の喪失または劣化を指す。
フォッテッティングは、深層学習における様々な研究領域でよく見られる現象である。
論文 参考訳(メタデータ) (2023-07-16T16:27:58Z) - Knowledge-Enhanced Hierarchical Information Correlation Learning for
Multi-Modal Rumor Detection [82.94413676131545]
マルチモーダルなうわさ検出のための知識強化型階層型情報相関学習手法(KhiCL)を提案する。
KhiCLは異質な一様性特徴を共通特徴空間に伝達するために、クロスモーダルな関節辞書を利用する。
画像やテキストから視覚的およびテキスト的実体を抽出し、知識関連推論戦略を設計する。
論文 参考訳(メタデータ) (2023-06-28T06:08:20Z) - Parsing Objects at a Finer Granularity: A Survey [54.72819146263311]
微細な視覚解析は、農業、リモートセンシング、宇宙技術など、多くの現実世界の応用において重要である。
卓越した研究努力は、異なるパラダイムに従って、これらのきめ細かいサブタスクに取り組む。
我々は,パート関係を学習する新たな視点から,先進的な研究を深く研究する。
論文 参考訳(メタデータ) (2022-12-28T04:20:10Z) - A Survey on Measuring and Mitigating Reasoning Shortcuts in Machine
Reading Comprehension [34.400234717524306]
我々は,ハイレベルな言語理解を示す重要な課題である,機械読解(MRC)の分野に焦点をあてる。
MRCにおけるショートカット緩和の懸念点として,(1)公共チャレンジセットの欠如,2)有効かつ再利用可能な評価に必要な要素,(2)他の領域で顕著な特定の緩和手法の欠如,の2点を挙げる。
論文 参考訳(メタデータ) (2022-09-05T08:19:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。