論文の概要: On the (Non) Injectivity of Piecewise Linear Janossy Pooling

• arxiv url: http://arxiv.org/abs/2505.20150v1
• Date: Mon, 26 May 2025 15:53:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.585755
• Title: On the (Non) Injectivity of Piecewise Linear Janossy Pooling
• Title（参考訳）: ピスワイズリニアジャノッシープールの(ノン)注入性について
• Authors: Ilai Reshef, Nadav Dym,
• Abstract要約: 我々は、最も人気のある多重集合モデルの多くを含む k-ary Janossy pooling の族を考え、一意的に線形な Janossy pooling 関数が射出できないことを証明している。 正の面では、多重度のない多重集合に制限された場合、単純な深部集合モデルでさえ射影率と双リプシッツ性に十分であることを示す。
• 参考スコア（独自算出の注目度）: 3.396731589928944
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Multiset functions, which are functions that map multisets to vectors, are a fundamental tool in the construction of neural networks for multisets and graphs. To guarantee that the vector representation of the multiset is faithful, it is often desirable to have multiset mappings that are both injective and bi-Lipschitz. Currently, there are several constructions of multiset functions achieving both these guarantees, leading to improved performance in some tasks but often also to higher compute time than standard constructions. Accordingly, it is natural to inquire whether simpler multiset functions achieving the same guarantees are available. In this paper, we make a large step towards giving a negative answer to this question. We consider the family of k-ary Janossy pooling, which includes many of the most popular multiset models, and prove that no piecewise linear Janossy pooling function can be injective. On the positive side, we show that when restricted to multisets without multiplicities, even simple deep-sets models suffice for injectivity and bi-Lipschitzness.
• Abstract（参考訳）: マルチセット関数は、マルチセットをベクトルにマッピングする関数であり、マルチセットとグラフのためのニューラルネットワーク構築の基本的なツールである。 多重集合のベクトル表現が忠実であることを保証するため、射影写像と双Lipschitzの両方を持つ多重集合写像を持つことが望ましい。 現在、これらの保証を両立させるマルチセット関数の構成がいくつかあり、いくつかのタスクのパフォーマンスが向上する一方で、標準的な構成よりも計算時間も向上している。 したがって、より単純なマルチセット関数が同じ保証を達成するかどうかを問うことは自然である。 本稿では,この問題に対して否定的な回答をすることに向けて大きな一歩を踏み出した。 我々は、最も人気のある多重集合モデルの多くを含む k-ary Janossy pooling の族を考え、一意的に線形な Janossy pooling 関数が射出できないことを証明している。 正の面では、多重度のない多重集合に制限された場合、単純な深部集合モデルでさえ射影率と双リプシッツ性に十分であることを示す。

関連論文リスト

• MambaPro: Multi-Modal Object Re-Identification with Mamba Aggregation and Synergistic Prompt [60.10555128510744]
  ReID(Multi-modal object Re-IDentification)は、異なるモダリティから補完的な画像情報を活用することで、特定のオブジェクトを検索することを目的としている。 近年、CLIPのような大規模事前学習モデルでは、従来のシングルモーダルオブジェクトReIDタスクで顕著なパフォーマンスを示している。 マルチモーダルオブジェクトReIDのための新しいフレームワークであるMambaProを紹介する。
  論文  参考訳（メタデータ） (2024-12-14T06:33:53Z)
• UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [75.11267478778295]
  マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。 重みベクトル w でパラメータ化される線型効用関数の場合に焦点を当てる。 学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
  論文  参考訳（メタデータ） (2024-05-01T09:34:42Z)
• Multilinear Operator Networks [60.7432588386185]
  ポリノミアルネットワーク(Polynomial Networks)は、アクティベーション関数を必要としないモデルのクラスである。 マルチリニア演算子のみに依存するMONetを提案する。
  論文  参考訳（メタデータ） (2024-01-31T16:52:19Z)
• Universal Representation of Permutation-Invariant Functions on Vectors and Tensors [11.345796608258434]
  我々の研究の主な対象は、様々な大きさの入力に対する多元関数、すなわち置換不変関数である。 citezaheer 2017deepによって提案されたDeep Setsは、和分解可能なモデルを通じてスカラー上の連続的多重集合関数の指数表現を提供する。 普遍表現は連続かつ不連続な多重集合函数に対して保証されるが、潜在空間次元は$O(ND)$である。
  論文  参考訳（メタデータ） (2023-10-20T22:00:59Z)
• Neural Injective Functions for Multisets, Measures and Graphs via a Finite Witness Theorem [4.416503115535553]
  インジェクティブ・マルチセット関数は、乗算やグラフにおける機械学習の理論において重要な役割を果たす。 しかし、理論上考慮される証明可能な射影的多重集合函数と実際に考慮されるものの間にはギャップが残っている。 インジェクティブ・マルチセット関数のモーメントをニューラル・マルチ関数とみなすことはできない。
  論文  参考訳（メタデータ） (2023-06-10T21:55:28Z)
• Multi-Objective GFlowNets [59.16787189214784]
  本稿では,多目的最適化の文脈において,多様な候補を生成する問題について検討する。 薬物発見やマテリアルデザインといった機械学習の多くの応用において、目標は、競合する可能性のある目標のセットを同時に最適化する候補を生成することである。 GFlowNetsをベースとした多目的GFlowNets(MOGFNs)を提案する。
  論文  参考訳（メタデータ） (2022-10-23T16:15:36Z)
• From Sets to Multisets: Provable Variational Inference for Probabilistic Integer Submodular Models [82.95892656532696]
  サブモジュール関数は機械学習やデータマイニングにおいて広く研究されている。 本研究では,整数部分モジュラ函数に対する連続DR-部分モジュラ拡張を提案する。 整数部分モジュラー関数によって定義される新しい確率モデルを定式化する。
  論文  参考訳（メタデータ） (2020-06-01T22:20:45Z)
• Deep Multi-Modal Sets [29.983311598563542]
  ディープ・マルチモーダル・セット(Deep Multi-Modal Sets)は、1つの長く成長する固定サイズのベクトルではなく、非順序集合として特徴の集合を表現する技法である。 さまざまなタイプのタスクを学習するために,さまざまなモダリティを理由として,スケーラブルでマルチモーダルなフレームワークを実証する。
  論文  参考訳（メタデータ） (2020-03-03T15:48:44Z)
• Representing Unordered Data Using Complex-Weighted Multiset Automata [23.68657135308002]
  我々は、既存のニューラルネットワークアーキテクチャのマルチセット表現を、我々の特別なケースとみなすことができることを示す。 すなわち、正弦波関数を用いたトランスフォーマーモデルの位置表現に対して、新しい理論的、直感的な正当性を与える。 私たちはDeepSetsモデルを複雑な数に拡張し、既存のモデルをそのタスクの1つの拡張で上回るようにします。
  論文  参考訳（メタデータ） (2020-01-02T20:04:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。