論文の概要: Getting aligned on representational alignment
- arxiv url: http://arxiv.org/abs/2310.13018v2
- Date: Thu, 2 Nov 2023 17:49:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-03 16:34:26.198139
- Title: Getting aligned on representational alignment
- Title(参考訳): 表現的アライメントに整列すること
- Authors: Ilia Sucholutsky, Lukas Muttenthaler, Adrian Weller, Andi Peng,
Andreea Bobu, Been Kim, Bradley C. Love, Erin Grant, Iris Groen, Jascha
Achterberg, Joshua B. Tenenbaum, Katherine M. Collins, Katherine L. Hermann,
Kerem Oktar, Klaus Greff, Martin N. Hebart, Nori Jacoby, Qiuyi Zhang, Raja
Marjieh, Robert Geirhos, Sherol Chen, Simon Kornblith, Sunayana Rane, Talia
Konkle, Thomas P. O'Connell, Thomas Unterthiner, Andrew K. Lampinen,
Klaus-Robert M\"uller, Mariya Toneva, Thomas L. Griffiths
- Abstract要約: 本研究では,認知科学,神経科学,機械学習における表現的アライメントの研究を行う。
表現的アライメントに関心のある研究コミュニティ間での知識伝達は限られている。
本稿では,表現的アライメントを研究する研究者の間で共通言語として機能する統一フレームワークを提案する。
- 参考スコア(独自算出の注目度): 89.81370730647467
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Biological and artificial information processing systems form representations
that they can use to categorize, reason, plan, navigate, and make decisions.
How can we measure the extent to which the representations formed by these
diverse systems agree? Do similarities in representations then translate into
similar behavior? How can a system's representations be modified to better
match those of another system? These questions pertaining to the study of
representational alignment are at the heart of some of the most active research
areas in cognitive science, neuroscience, and machine learning. For example,
cognitive scientists measure the representational alignment of multiple
individuals to identify shared cognitive priors, neuroscientists align fMRI
responses from multiple individuals into a shared representational space for
group-level analyses, and ML researchers distill knowledge from teacher models
into student models by increasing their alignment. Unfortunately, there is
limited knowledge transfer between research communities interested in
representational alignment, so progress in one field often ends up being
rediscovered independently in another. Thus, greater cross-field communication
would be advantageous. To improve communication between these fields, we
propose a unifying framework that can serve as a common language between
researchers studying representational alignment. We survey the literature from
all three fields and demonstrate how prior work fits into this framework.
Finally, we lay out open problems in representational alignment where progress
can benefit all three of these fields. We hope that our work can catalyze
cross-disciplinary collaboration and accelerate progress for all communities
studying and developing information processing systems. We note that this is a
working paper and encourage readers to reach out with their suggestions for
future revisions.
- Abstract(参考訳): 生物学的および人工的な情報処理システムは、分類、推論、計画、ナビゲート、意思決定に使用できる表現を形成する。
これらの多様なシステムによって形成される表現がどの程度一致しているか、どのように測定できるのか?
表現の類似性は、類似した振る舞いに翻訳されるのか?
システムの表現をどのように変更して他のシステムの表現にマッチさせるのか?
表象的アライメントの研究に関するこれらの質問は、認知科学、神経科学、機械学習における最も活発な研究領域の核心にある。
例えば、認知科学者は、複数の個人の表象的アライメントを測定し、共有認知的優先順位を識別し、神経科学者は、複数の個人からのfmri応答をグループレベルの分析のための共有表現空間にアライメントする。
残念なことに、表象的アライメントに関心のある研究コミュニティ間の知識伝達は限られているため、ある分野における進歩は、しばしば別の分野において独立して再発見される。
したがって、より大きなクロスフィールド通信は有利である。
これらの分野間のコミュニケーションを改善するために,表現アライメントを研究する研究者の間で共通言語として機能する統一フレームワークを提案する。
文献を3分野すべてから調査し、先行作業がこのフレームワークにどのように適合するかを示す。
最後に、これらの3つの分野すべてに進歩が利益をもたらすような、表現的アライメントによるオープンな問題を提示します。
我々は,情報処理システムの研究・開発を行うすべてのコミュニティにおいて,学際的なコラボレーションの促進と進展を期待する。
この記事は作業論文であり、読者に今後の改訂を提案するよう促すものであることに留意する。
関連論文リスト
- Empathy Detection Using Machine Learning on Text, Audiovisual, Audio or
Physiological Signals [6.148135418618006]
10の有名なデータベースから801の論文を体系的に収集・スクリーニングし、選択した54の論文を分析した。
本論文は,共感検出システムの入力モダリティ,すなわちテキスト,オーディオ視覚,オーディオ,生理的信号に基づいてグループ化する。
我々は、Affective Computingベースの共感ドメインにおける潜在的なアプリケーション、デプロイメント課題、研究ギャップについて論じる。
論文 参考訳(メタデータ) (2023-10-30T08:34:12Z) - Fairness meets Cross-Domain Learning: a new perspective on Models and
Metrics [80.07271410743806]
クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。
いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。
本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
論文 参考訳(メタデータ) (2023-03-25T09:34:05Z) - Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。
我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。
我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
論文 参考訳(メタデータ) (2023-03-20T19:32:49Z) - Co-Located Human-Human Interaction Analysis using Nonverbal Cues: A
Survey [71.43956423427397]
本研究の目的は,非言語的キューと計算手法を同定し,効果的な性能を実現することである。
この調査は、最も広い範囲の社会現象と相互作用設定を巻き込むことによって、相手と異なる。
もっともよく使われる非言語キュー、計算方法、相互作用環境、センシングアプローチは、それぞれマイクとカメラを備えた3,4人で構成される会話活動、ベクターマシンのサポート、ミーティングである。
論文 参考訳(メタデータ) (2022-07-20T13:37:57Z) - Empathetic Conversational Systems: A Review of Current Advances, Gaps,
and Opportunities [2.741266294612776]
多くの研究が共感の利点を認識し、共感を会話システムに取り入れ始めた。
本稿では,5つのレビュー次元を用いて,急速に成長するこの分野について検討する。
論文 参考訳(メタデータ) (2022-05-09T05:19:48Z) - Learning to Improve Representations by Communicating About Perspectives [0.0]
本稿では,多数のオートエンコーダからなるミニマルアーキテクチャを提案する。
提案したアーキテクチャは整列表現の出現を許容することを示す。
その結果、主観的パースペクティブからのコミュニケーションが、マルチエージェントシステムにおけるより抽象的な表現の獲得につながることを示す。
論文 参考訳(メタデータ) (2021-09-20T09:30:13Z) - Evaluating the state-of-the-art in mapping research spaces: a Brazilian
case study [0.0]
最近の2つの研究は、科学者の出版記録から研究地図を作成する方法を提案している。
与えられたエンティティが新しいフィールドに入るかどうかを予測するモデルの能力を評価します。
これらのモデルがどのようにブラジルの文脈で科学のダイナミクスを特徴づけることができるかを示すケーススタディを実施します。
論文 参考訳(メタデータ) (2021-04-07T18:14:41Z) - Affect Analysis in-the-wild: Valence-Arousal, Expressions, Action Units
and a Unified Framework [83.21732533130846]
Aff-Wild と Aff-Wild2 の2つである。
これは、これらのデータベースで訓練された深層ニューラルネットワークの2つのクラスの設計を示す。
インパクト認識を共同で学び、効果的に一般化し、実行することができる新しいマルチタスクおよび全体主義のフレームワークが提示されます。
論文 参考訳(メタデータ) (2021-03-29T17:36:20Z) - Heterogeneous Representation Learning: A Review [66.12816399765296]
不均一表現学習(HRL)には、いくつかの独特な課題がある。
異種入力を用いて既存の学習環境をモデル化可能な統合学習フレームワークを提案する。
HRLでは触れられていない課題と今後の研究方向性を強調します。
論文 参考訳(メタデータ) (2020-04-28T05:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。