論文の概要: Understanding Clustering in Slot Attention via Particle Dynamics

• arxiv url: http://arxiv.org/abs/2610.04493v1
• Date: Sat, 03 Oct 2026 12:49:44 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 21:42:35.329696
• Title: Understanding Clustering in Slot Attention via Particle Dynamics
• Title（参考訳）: 粒子動力学によるスロット注意におけるクラスタリングの理解
• Abstract要約: ソフトな$k$-meansクラスタリングに動的に接続されるパラメータフリーな変種であるSSAを導入する。 Pascal VOCデータセットでは、スロットアテンションに匹敵するパフォーマンスを達成する。
• 参考スコア（独自算出の注目度）: 11.267390448857787
• License:
• Abstract: Studying attention through the lens of interacting particle dynamics has shown how token clustering can emerge from the underlying dynamics. We extend this perspective to slot attention, a method for object-centric image segmentation and representation learning in which learned components obscure how much of the clustering behaviour is intrinsic to the attention dynamics. We therefore introduce simplified slot attention (SSA), a parameter-free variant whose dynamics are connected to soft $k$-means clustering and which provides a straightforward mechanistic explanation for the emergence of object-centric representations. On the Pascal VOC dataset, SSA achieves performance comparable to that of slot attention, demonstrating that competitive object-centric segmentation can be achieved without learned neural-network components.
• Abstract（参考訳）: 相互作用する粒子力学のレンズを通して注意を向ける研究は、基盤となる力学からトークンクラスタリングがどのように出現するかを示している。 この視点を、対象中心の画像セグメンテーションと表現学習の手法であるスロットアテンション(スロットアテンション)に拡張する。 そこで,SSAはソフトな$k$-meansクラスタリングに動的に接続されたパラメータフリーな変種であり,オブジェクト中心表現の出現を機械論的に説明できる。 Pascal VOCデータセットでは、SSAはスロットアテンションに匹敵するパフォーマンスを実現し、ニューラルネットワークコンポーネントを学ぶことなく、競合するオブジェクト中心のセグメンテーションを実現できることを示した。

関連論文リスト

• Hyperbolic Hierarchical Clustering for Visual Representation Learning [62.38996677789715]
  効果的なトークンミキサーは、Transformerのようなモダンなビジョンバックボーンの基本コンポーネントである。 本稿では,クラスタリングパラダイムに基づいて設計により解釈可能な透明なトークンミキサーであるClusterMixerを紹介する。 本稿では,ClusterMixerと,厳密に設計されたクラスタリング戦略を統合した,新しいバックボーンアーキテクチャであるHCFormerを紹介する。
  論文  参考訳（メタデータ） (2026-08-24T00:01:09Z)
• Clustered Attractor Manifolds and Dynamical Condensation in Self-Attention [2.4792581096761404]
  トランスフォーマー層は状態依存の相互作用ネットワークを生成する。 トークン表現はアテンション行列を決定し、それが表現を更新する。 我々は、このフィードバックを最小限の正規化された自己注意力学で研究する。
  論文  参考訳（メタデータ） (2026-08-09T21:28:01Z)
• Target Refocusing via Attention Redistribution for Open-Vocabulary Semantic Segmentation: An Explainability Perspective [47.99651635870674]
  本研究では,人間の注意を標的領域へ向けて注意を向けるために,注意喚起行動のエミュレートを行うトレーニングフリーアプローチを提案する。 提案手法は,高い推論効率を維持しつつ,8つのベンチマーク上でのSOTA性能を実現する。
  論文  参考訳（メタデータ） (2025-11-20T09:16:33Z)
• Point Cloud Understanding via Attention-Driven Contrastive Learning [64.65145700121442]
  トランスフォーマーベースのモデルは、自己認識機構を活用することにより、先進的なポイントクラウド理解を持つ。 PointACLは、これらの制限に対処するために設計された、注意駆動のコントラスト学習フレームワークである。 本手法では, 注意駆動型動的マスキング手法を用いて, モデルが非集中領域に集中するように誘導する。
  論文  参考訳（メタデータ） (2024-11-22T05:41:00Z)
• Language-Driven Visual Consensus for Zero-Shot Semantic Segmentation [114.72734384299476]
  本稿では,言語駆動型ビジュアルコンセンサス(LDVC)アプローチを提案する。 クラス埋め込みを、その離散的で抽象的な性質からアンカーとして活用し、クラス埋め込みに向けて視覚的特徴を操る。 我々の手法は、目に見えないクラスに対するセグメンテーションモデルの能力を大幅に向上させる。
  論文  参考訳（メタデータ） (2024-03-13T11:23:55Z)
• Binding Dynamics in Rotating Features [72.80071820194273]
  本稿では,特徴間のアライメントを明示的に計算し,それに応じて重みを調整する「コサイン結合」機構を提案する。 これにより、自己注意と生物学的神経プロセスに直接接続し、回転する特徴に現れるオブジェクト中心の表現の基本的なダイナミクスに光を当てることができます。
  論文  参考訳（メタデータ） (2024-02-08T12:31:08Z)
• Robust and Controllable Object-Centric Learning through Energy-based Models [95.68748828339059]
  我々の研究は概念的にシンプルで一般的なアプローチであり、エネルギーベースモデルを通してオブジェクト中心の表現を学習する。 既存のアーキテクチャに容易に統合でき、高品質なオブジェクト中心表現を効果的に抽出できることを示す。
  論文  参考訳（メタデータ） (2022-10-11T15:11:15Z)
• Variational Structured Attention Networks for Deep Visual Representation Learning [49.80498066480928]
  空間的注意マップとチャネル的注意の両方を原則的に共同学習するための統合的深層フレームワークを提案する。 具体的には,確率的表現学習フレームワークに注目度の推定と相互作用を統合する。 ニューラルネットワーク内で推論ルールを実装し,確率パラメータとcnnフロントエンドパラメータのエンドツーエンド学習を可能にする。
  論文  参考訳（メタデータ） (2021-03-05T07:37:24Z)
• Attention-Based Clustering: Learning a Kernel from Context [0.0]
  本稿では,アテンション・ベース・クラスタリング(ABC)を提案する。 ABCは、入力セット内のコンテキストに適応する潜在表現を学ぶように設計されている。 我々は,Omniglot文字のクラスタリングにおける競合的な結果を示し,クラスタリングにおける注目に基づくアプローチの有効性に関する分析的証拠を含む。
  論文  参考訳（メタデータ） (2020-10-02T15:06:06Z)
• Object-Centric Learning with Slot Attention [43.684193749891506]
  我々は、知覚表現と相互作用するアーキテクチャコンポーネントであるSlot Attentionモジュールを提示する。 Slot Attentionは、スロットと呼ばれるタスク依存の抽象表現を生成します。 Slot Attentionがオブジェクト中心の表現を抽出し、未知の合成を一般化できることを実証的に実証する。
  論文  参考訳（メタデータ） (2020-06-26T15:31:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。