論文の概要: Which Similarity-Sensitive Entropy?

• arxiv url: http://arxiv.org/abs/2511.03849v1
• Date: Wed, 05 Nov 2025 20:39:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-07 20:17:53.213742
• Title: Which Similarity-Sensitive Entropy?
• Title（参考訳）: どの類似性感性エントロピーか?
• Authors: Phuc Nguyen, Josiah Couch, Rahul Bansal, Alexandra Morgan, Chris Tam, Miao Li, Rima Arnaout, Ramy Arnaout,
• Abstract要約: 我々はLCRとVSが桁違いに異なる可能性を示し、システムに関する補完的な情報をキャプチャできることを示した。 より基本的な ur-elements'' の線形結合として要素を解釈する場合や,システムやデータセットが量子力学特性を持つ場合のみ,VS が望ましいと結論づける。
• 参考スコア（独自算出の注目度）: 39.154447089247114
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: A canonical step in quantifying a system is to measure its entropy. Shannon entropy and other traditional entropy measures capture only the information encoded in the frequencies of a system's elements. Recently, Leinster, Cobbold, and Reeve (LCR) introduced a method that also captures the rich information encoded in the similarities and differences among elements, yielding similarity-sensitive entropy. More recently, the Vendi score (VS) was introduced as an alternative, raising the question of how LCR and VS compare, and which is preferable. Here we address these questions conceptually, analytically, and experimentally, using 53 machine-learning datasets. We show that LCR and VS can differ by orders of magnitude and can capture complementary information about a system, except in limiting cases. We demonstrate that both LCR and VS depend on how similarities are scaled and introduce the concept of ``half distance'' to parameterize this dependence. We prove that VS provides an upper bound on LCR for several values of the R\'enyi-Hill order parameter and conjecture that this bound holds for all values. We conclude that VS is preferable only when interpreting elements as linear combinations of a more fundamental set of ``ur-elements'' or when the system or dataset possesses a quantum-mechanical character. In the broader circumstance where one seeks simply to capture the rich information encoded by similarity, LCR is favored; nevertheless, for certain half-distances the two methods can complement each other.
• Abstract（参考訳）: システムの定量化における標準的なステップは、エントロピーを測定することである。 シャノンエントロピーやその他の伝統的なエントロピー尺度は、システムの要素の周波数に符号化された情報のみをキャプチャする。 最近、Leinster, Cobbold, and Reeve (LCR) は、要素間の類似性や相違点に符号化されたリッチな情報をキャプチャし、類似性に敏感なエントロピーをもたらす手法を導入した。 最近では、Vendiスコア(VS)が代替として導入され、LCRとVSを比較し、どちらが好ましいかという疑問が持ち上がった。 ここでは、53の機械学習データセットを用いて、概念的、分析的、実験的にこれらの疑問に対処する。 LCR と VS は桁違いに異なる可能性を示し,システムに関する補完的な情報を取得することができる。 我々は,LCRとVSの両者が類似性の大きさに依存していることを示し,この依存をパラメータ化するために `half distance' の概念を導入する。 我々は、VS が R'enyi-Hill の順序パラメータのいくつかの値に対して LCR 上の上限を提供し、この境界がすべての値に対して成り立つことを証明した。 より基本的な 'ur-elements'' の線形結合として要素を解釈する場合や、システムやデータセットが量子力学特性を持つ場合のみ、VSが望ましいと結論づける。 類似性によって符号化されたリッチな情報を単純に取得しようとするより広い状況において、LCRは好まれる。

関連論文リスト

• GSSF: Generalized Structural Sparse Function for Deep Cross-modal Metric Learning [51.677086019209554]
  ペアワイド類似性学習のためのモダリティ間の強力な関係を捕捉する汎用構造スパースを提案する。 距離メートル法は、対角線とブロック対角線の2つの形式を微妙にカプセル化する。 クロスモーダルと2つの余分なユニモーダル検索タスクの実験は、その優位性と柔軟性を検証した。
  論文  参考訳（メタデータ） (2024-10-20T03:45:50Z)
• Rethinking Distance Metrics for Counterfactual Explainability [53.436414009687]
  本研究では, 反事実を参照領域から独立して引き出すのではなく, 基礎となるデータ分布からの参照と共同してサンプリングする, 反事実生成手法のフレーミングについて検討する。 我々は、幅広い設定に適用可能な、反ファクト的な類似性のために調整された距離メートル法を導出する。
  論文  参考訳（メタデータ） (2024-10-18T15:06:50Z)
• Mutual information chain rules for security proofs robust against device imperfections [0.0]
  我々は、敵に追加情報を漏らす不完全なデバイスを用いて量子暗号を解析する。 これらの結果は、デバイスに依存しない様々なプロトコルやデバイスに依存しないプロトコルにおいて、デバイス不完全性を扱うために使用できることを示す。
  論文  参考訳（メタデータ） (2024-07-29T19:47:47Z)
• Optimizing entanglement in two-qubit systems [0.0]
  基本パラメータの最小値に基づく幾何表現を用いた2量子系の絡み合いについて検討する。 2つの量子ビットの最適化状態はX字型であり、同じ集団のホスト対である。 絡み合いの幾何学的L-測度は、絡み合い状態を表すSの点と分離状態を定義する最も近い点の間の距離として導入される。
  論文  参考訳（メタデータ） (2024-07-26T02:56:04Z)
• Differentiable Optimization of Similarity Scores Between Models and Brains [1.5391321019692434]
  線形回帰、CKA(Centered Kernel Alignment)、正規化バーレス類似度(NBS)、角状プロクリスト距離といった類似度は、この類似度を定量化するためにしばしば用いられる。 本稿では、類似度の高いスコアと「良い」スコアを構成するスコアについて調査する新しいツールについて紹介する。 驚くべきことに、高い類似度スコアは、ニューラルデータと整合した方法でタスク関連情報を符号化することを保証していない。
  論文  参考訳（メタデータ） (2024-07-09T17:31:47Z)
• Unifying (Quantum) Statistical and Parametrized (Quantum) Algorithms [65.268245109828]
  我々はカーンズのSQオラクルとヴァリアントの弱い評価オラクルからインスピレーションを得ます。 評価クエリから学習するための非条件の下限を出力する,広範かつ直感的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-26T18:23:21Z)
• Dataset Condensation with Latent Space Knowledge Factorization and Sharing [73.31614936678571]
  与えられたデータセットの規則性を利用してデータセットの凝縮問題を解決する新しい手法を提案する。 データセットを元の入力空間に直接凝縮するのではなく、学習可能な一連のコードでデータセットの生成プロセスを仮定する。 提案手法は,様々なベンチマークデータセットに対して,有意なマージンで新しい最先端記録を達成できることを実験的に示す。
  論文  参考訳（メタデータ） (2022-08-21T18:14:08Z)
• Disentangled Representation Learning for Text-Video Retrieval [51.861423831566626]
  テキスト・ビデオ検索(TVR)における相互モダリティの相互作用 我々は相互作用のパラダイムを深く研究し、その計算を2つの項に分けることができることを示した。 本稿では,逐次的かつ階層的な表現を捉えるための非絡み合いフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-14T13:55:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。