論文の概要: Pruning as a Game: Equilibrium-Driven Sparsification of Neural Networks

• arxiv url: http://arxiv.org/abs/2512.22106v1
• Date: Fri, 26 Dec 2025 18:25:38 GMT
• ステータス: 情報取得中
• システム内更新日: 2025-12-29 12:01:35.728413
• Title: Pruning as a Game: Equilibrium-Driven Sparsification of Neural Networks
• Title（参考訳）: ゲームとしてのプルーニング: 平衡駆動型ニューラルネットワークのスパーシフィケーション
• Authors: Zubair Shah, Noaman Khan,
• Abstract要約: 我々は、継続参加が均衡において支配的な戦略となると、スパシティが自然に現れることを示す。 ネットワークパラメータと参加変数を明示的な重要度スコアに頼らずに共同で更新する,単純な平衡駆動型プルーニングアルゴリズムを導出する。
• 参考スコア（独自算出の注目度）: 1.1458853556386799
• License:
• Abstract: Neural network pruning is widely used to reduce model size and computational cost. Yet, most existing methods treat sparsity as an externally imposed constraint, enforced through heuristic importance scores or training-time regularization. In this work, we propose a fundamentally different perspective: pruning as an equilibrium outcome of strategic interaction among model components. We model parameter groups such as weights, neurons, or filters as players in a continuous non-cooperative game, where each player selects its level of participation in the network to balance contribution against redundancy and competition. Within this formulation, sparsity emerges naturally when continued participation becomes a dominated strategy at equilibrium. We analyze the resulting game and show that dominated players collapse to zero participation under mild conditions, providing a principled explanation for pruning behavior. Building on this insight, we derive a simple equilibrium-driven pruning algorithm that jointly updates network parameters and participation variables without relying on explicit importance scores. This work focuses on establishing a principled formulation and empirical validation of pruning as an equilibrium phenomenon, rather than exhaustive architectural or large-scale benchmarking. Experiments on standard benchmarks demonstrate that the proposed approach achieves competitive sparsity-accuracy trade-offs while offering an interpretable, theory-grounded alternative to existing pruning methods.
• Abstract（参考訳）: ニューラルネットワークのプルーニングは、モデルのサイズと計算コストを減らすために広く使われている。 しかし、既存のほとんどの方法は、過度を外部に課された制約として扱い、ヒューリスティックな重要度スコアやトレーニング時間正規化によって強制される。 本研究では,モデルコンポーネント間の戦略的相互作用の均衡結果としてのプルーニングという,根本的に異なる視点を提案する。 我々は,連続的な非協調ゲームにおいて,重みやニューロン,フィルタなどのパラメータ群をプレイヤーとしてモデル化し,各プレイヤーがネットワークへの参加レベルを選択し,冗長性と競争に対するコントリビューションのバランスをとる。 この定式化の中では、継続的な参加が均衡において支配的な戦略となると、空間性が自然に現れる。 得られたゲームを分析し,軽度の条件下で支配的なプレイヤーがゼロに崩壊することを示し,プルーニング動作の原理的説明を提供する。 この知見に基づいて、ネットワークパラメータと参加変数を明示的な重要度スコアに依存せずに共同で更新する、単純な平衡駆動型プルーニングアルゴリズムを導出する。 この研究は、徹底的なアーキテクチャや大規模ベンチマークではなく、平衡現象としてプルーニングの原則的な定式化と実証的な検証を確立することに重点を置いている。 標準ベンチマーク実験により,提案手法は既存のプルーニング法に代わる解釈可能な理論的な代替手段を提供しながら,競合するスパシティ・精度のトレードオフを実現することを示した。

関連論文リスト

• Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
  本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。 フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。 算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
  論文  参考訳（メタデータ） (2025-11-13T07:26:01Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• On Tractable $Φ$-Equilibria in Non-Concave Games [53.212133025684224]
  非コンケーブゲームにおいて、抽出可能な$Phi$-equilibriaについて検討する。 Phi$が有限であるとき、対応する$Phi$-equilibriaに収束する効率的な非結合学習アルゴリズムが存在することを示す。
  論文  参考訳（メタデータ） (2024-03-13T01:51:30Z)
• Finding mixed-strategy equilibria of continuous-action games without gradients using randomized policy networks [83.28949556413717]
  グラデーションへのアクセスを伴わない連続アクションゲームのナッシュ平衡を近似的に計算する問題について検討する。 ニューラルネットワークを用いてプレイヤーの戦略をモデル化する。 本論文は、制約のない混合戦略と勾配情報のない一般的な連続アクションゲームを解決する最初の方法である。
  論文  参考訳（メタデータ） (2022-11-29T05:16:41Z)
• An Exponentially Converging Particle Method for the Mixed Nash Equilibrium of Continuous Games [16.95910326345246]
  我々は,2プレイヤーゼロサムゲームの混合ナッシュ平衡と,純戦略の連続的なセットと,ペイオフ関数への一次アクセスとの問題を考察する。 この問題は例えば、分散ロバスト学習のようなゲームにインスパイアされた機械学習アプリケーションで発生する。 本稿では,この問題に対する局所収束性を保証する粒子法の導入と解析を行う。
  論文  参考訳（メタデータ） (2022-11-02T17:03:40Z)
• Explicit Tradeoffs between Adversarial and Natural Distributional Robustness [48.44639585732391]
  実際、モデルは信頼性を確保するために両方のタイプの堅牢さを享受する必要があります。 本研究では, 対角線と自然分布の強靭性の間には, 明らかなトレードオフが存在することを示す。
  論文  参考訳（メタデータ） (2022-09-15T19:58:01Z)
• Bounded rationality for relaxing best response and mutual consistency: An information-theoretic model of partial self-reference [0.0]
  この研究は、相互整合性やベストレスポンスなど、合理的性の前提となるいくつかの仮定に焦点を当てている。 我々は、レベル-$k$推論と量子応答平衡(QRE)の概念を用いて、これらの仮定を緩和する方法を検討する。
  論文  参考訳（メタデータ） (2021-06-30T06:56:56Z)
• Counterfactual Representation Learning with Balancing Weights [74.67296491574318]
  観察データによる因果推論の鍵は、それぞれの治療タイプに関連する予測的特徴のバランスを達成することである。 近年の文献では、この目標を達成するために表現学習を探求している。 因果効果を柔軟かつスケーラブルかつ正確に推定するアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-10-23T19:06:03Z)
• Calibration of Shared Equilibria in General Sum Partially Observable Markov Games [15.572157454411533]
  我々は、異なるタイプのエージェントが単一のポリシーネットワークを共有する、一般的な可観測マルコフゲームを考える。 本稿は,そのようなエージェントが到達した平衡を形式的に理解すること,および,そのような平衡の創発的な現象を現実のターゲットに合わせることを目的としている。
  論文  参考訳（メタデータ） (2020-06-23T15:14:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。