論文の概要: Getting aligned on representational alignment

• arxiv url: http://arxiv.org/abs/2310.13018v2
• Date: Thu, 2 Nov 2023 17:49:18 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-03 16:34:26.198139
• Title: Getting aligned on representational alignment
• Title（参考訳）: 表現的アライメントに整列すること
• Authors: Ilia Sucholutsky, Lukas Muttenthaler, Adrian Weller, Andi Peng, Andreea Bobu, Been Kim, Bradley C. Love, Erin Grant, Iris Groen, Jascha Achterberg, Joshua B. Tenenbaum, Katherine M. Collins, Katherine L. Hermann, Kerem Oktar, Klaus Greff, Martin N. Hebart, Nori Jacoby, Qiuyi Zhang, Raja Marjieh, Robert Geirhos, Sherol Chen, Simon Kornblith, Sunayana Rane, Talia Konkle, Thomas P. O'Connell, Thomas Unterthiner, Andrew K. Lampinen, Klaus-Robert M\"uller, Mariya Toneva, Thomas L. Griffiths
• Abstract要約: 本研究では,認知科学,神経科学,機械学習における表現的アライメントの研究を行う。 表現的アライメントに関心のある研究コミュニティ間での知識伝達は限られている。 本稿では,表現的アライメントを研究する研究者の間で共通言語として機能する統一フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 89.81370730647467
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Biological and artificial information processing systems form representations that they can use to categorize, reason, plan, navigate, and make decisions. How can we measure the extent to which the representations formed by these diverse systems agree? Do similarities in representations then translate into similar behavior? How can a system's representations be modified to better match those of another system? These questions pertaining to the study of representational alignment are at the heart of some of the most active research areas in cognitive science, neuroscience, and machine learning. For example, cognitive scientists measure the representational alignment of multiple individuals to identify shared cognitive priors, neuroscientists align fMRI responses from multiple individuals into a shared representational space for group-level analyses, and ML researchers distill knowledge from teacher models into student models by increasing their alignment. Unfortunately, there is limited knowledge transfer between research communities interested in representational alignment, so progress in one field often ends up being rediscovered independently in another. Thus, greater cross-field communication would be advantageous. To improve communication between these fields, we propose a unifying framework that can serve as a common language between researchers studying representational alignment. We survey the literature from all three fields and demonstrate how prior work fits into this framework. Finally, we lay out open problems in representational alignment where progress can benefit all three of these fields. We hope that our work can catalyze cross-disciplinary collaboration and accelerate progress for all communities studying and developing information processing systems. We note that this is a working paper and encourage readers to reach out with their suggestions for future revisions.
• Abstract（参考訳）: 生物学的および人工的な情報処理システムは、分類、推論、計画、ナビゲート、意思決定に使用できる表現を形成する。 これらの多様なシステムによって形成される表現がどの程度一致しているか、どのように測定できるのか? 表現の類似性は、類似した振る舞いに翻訳されるのか? システムの表現をどのように変更して他のシステムの表現にマッチさせるのか? 表象的アライメントの研究に関するこれらの質問は、認知科学、神経科学、機械学習における最も活発な研究領域の核心にある。 例えば、認知科学者は、複数の個人の表象的アライメントを測定し、共有認知的優先順位を識別し、神経科学者は、複数の個人からのfmri応答をグループレベルの分析のための共有表現空間にアライメントする。 残念なことに、表象的アライメントに関心のある研究コミュニティ間の知識伝達は限られているため、ある分野における進歩は、しばしば別の分野において独立して再発見される。 したがって、より大きなクロスフィールド通信は有利である。 これらの分野間のコミュニケーションを改善するために,表現アライメントを研究する研究者の間で共通言語として機能する統一フレームワークを提案する。 文献を3分野すべてから調査し、先行作業がこのフレームワークにどのように適合するかを示す。 最後に、これらの3つの分野すべてに進歩が利益をもたらすような、表現的アライメントによるオープンな問題を提示します。 我々は,情報処理システムの研究・開発を行うすべてのコミュニティにおいて,学際的なコラボレーションの促進と進展を期待する。 この記事は作業論文であり、読者に今後の改訂を提案するよう促すものであることに留意する。

関連論文リスト

• Fairness and Bias Mitigation in Computer Vision: A Survey [61.01658257223365]
  コンピュータビジョンシステムは、高精細な現実世界のアプリケーションにますますデプロイされている。 歴史的または人為的なデータにおいて差別的な傾向を伝播または増幅しないことを確実にする必要がある。 本稿では,コンピュータビジョンの文脈における現在進行中の傾向と成功をまとめた,公平性に関する総合的な調査を行う。
  論文  参考訳（メタデータ） (2024-08-05T13:44:22Z)
• Information Systems and Software Engineering: The Case for Convergence [1.14219428942199]
  情報システム(IS)とソフトウェア工学(SE)の分野は、その歴史的進化において、非常に多くの類似点を共有しています。 両分野の主刊誌における10年間 (2001-2010) の出版物の分析から, 研究課題の重複が顕著である。 この記事では、そのような相互作用を奨励し、これがデザインの領域でどのように役立つかを説明します。
  論文  参考訳（メタデータ） (2024-02-06T17:55:42Z)
• Empathy Detection from Text, Audiovisual, Audio or Physiological Signals: Task Formulations and Machine Learning Methods [5.7306786636466995]
  共感の検出は、社会、医療、教育に潜在的な応用がある。 広範かつ重複するトピックであるにもかかわらず、機械学習を利用した共感検出の道はいまだに探索されていない。 我々は、Affective Computingベースの共感領域における課題、研究ギャップ、潜在的な応用について論じる。
  論文  参考訳（メタデータ） (2023-10-30T08:34:12Z)
• Fairness meets Cross-Domain Learning: a new perspective on Models and Metrics [80.07271410743806]
  クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。 いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。 本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
  論文  参考訳（メタデータ） (2023-03-25T09:34:05Z)
• Vision+X: A Survey on Multimodal Learning in the Light of Data [64.03266872103835]
  様々なソースからのデータを組み込んだマルチモーダル機械学習が,ますます普及している研究分野となっている。 我々は、視覚、音声、テキスト、動きなど、各データフォーマットの共通点と特異点を分析する。 本稿では,表現学習と下流アプリケーションレベルの両方から,マルチモーダル学習に関する既存の文献を考察する。
  論文  参考訳（メタデータ） (2022-10-05T13:14:57Z)
• Empathetic Conversational Systems: A Review of Current Advances, Gaps, and Opportunities [2.741266294612776]
  多くの研究が共感の利点を認識し、共感を会話システムに取り入れ始めた。 本稿では,5つのレビュー次元を用いて,急速に成長するこの分野について検討する。
  論文  参考訳（メタデータ） (2022-05-09T05:19:48Z)
• Neural Fields in Visual Computing and Beyond [54.950885364735804]
  機械学習の最近の進歩は、座標ベースニューラルネットワークを用いた視覚コンピューティング問題の解決への関心が高まっている。 ニューラルネットワークは、3D形状と画像の合成、人体のアニメーション、3D再構成、ポーズ推定に成功している。 本報告は、文脈、数学的基礎、および、ニューラルネットワークに関する文献の広範なレビューを提供する。
  論文  参考訳（メタデータ） (2021-11-22T18:57:51Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• Contrastive Representation Learning: A Framework and Review [2.7393821783237184]
  コントラスト学習の起源は1990年代まで遡り、その発展は多くの分野に及んでいる。 本稿では,多くの異なるコントラスト学習手法を単純化し,統一する一般的なコントラスト表現学習フレームワークを提案する。 コンピュータビジョンや自然言語処理,音声処理など,強化学習においても,コントラスト学習が適用された例も紹介されている。
  論文  参考訳（メタデータ） (2020-10-10T22:46:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。