論文の概要: Interpreting Neural Combinatorial Optimization via Evolving Programmatic Bottlenecks

• arxiv url: http://arxiv.org/abs/2606.19741v1
• Date: Thu, 18 Jun 2026 03:14:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.62731
• Title: Interpreting Neural Combinatorial Optimization via Evolving Programmatic Bottlenecks
• Title（参考訳）: プログラムボツネックの進化によるニューラルコンビネーション最適化の解釈
• Authors: Haocheng Duan, Yuxin Guo, Jieyi Bi, Anqi Xie, Sirui Li, Yining Ma, Cathy Wu,
• Abstract要約: Evolving Programmatic Bottlenecks (EPB)は、Neural Combinatorial Optimization Policyを解釈する最初のフレームワークである。 EPBはブラックボックスのNCOモデルを人間の読みやすいプログラムポートフォリオに蒸留する。 我々の研究は、NCOを解釈し、シーケンシャルな意思決定モデルを解釈するための有望なツールとしてEDBを確立する。
• 参考スコア（独自算出の注目度）: 18.33811243240544
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural Combinatorial Optimization (NCO) achieves strong performance, yet its black-box nature remains a key roadblock to deployment and scientific diagnosis. Standard interpretability tools, such as Concept Bottleneck Models (CBMs), are ill-equipped for NCO, whose decisions are dynamic, state-dependent, and lack proper concept vocabulary definition. To close this gap, we introduce Evolving Programmatic Bottlenecks (EPB), to our knowledge, the first framework for interpreting NCO policies by distilling black-box NCO models into human-readable program portfolios. EPB employs an LLM to autonomously evolve a bank of programs, where each program's per-step action distribution serves as the bottleneck. EPB works through an iterative framework: Block I fixes program bank capacity and introduces a hybrid textual-numerical gradient descent scheme that couples numerical gradients for student router updates and textual gradients for LLM-based program revision; Block II dynamically adapts bank capacity via fault-targeted expansion and redundancy pruning. Extensive experiments demonstrate EPB's effectiveness and broad applicability, where the distilled program portfolios largely match original performance. EPB also reveals that NCO behavior shifts across optimization stages and can be approximated as a composition of classic heuristic variants. Our work advances interpretable NCO and establishes EPB as a promising tool for interpreting sequential decision-making models.
• Abstract（参考訳）: Neural Combinatorial Optimization(NCO)は、強力なパフォーマンスを実現するが、ブラックボックスの性質は、デプロイメントと科学的診断にとって重要な障害である。 Concept Bottleneck Models (CBM)のような標準的な解釈可能性ツールは、動的で状態に依存し、適切な概念語彙定義が欠如しているNCOには不備である。 このギャップを埋めるために、我々は、ブラックボックスのNCOモデルを人間の読みやすいプログラムポートフォリオに蒸留することで、NCOポリシーを解釈する最初のフレームワークであるEvolving Programmatic Bottlenecks (EPB)を紹介します。 EPBはLLMを使用してプログラムのバンクを自律的に進化させ、各プログラムのステップごとのアクション分布がボトルネックとなる。 ブロックIはプログラムバンク容量を修正し、学生ルータ更新の数値勾配とLLMベースのプログラム修正のテキスト勾配を結合するハイブリッドテキスト-数値勾配勾配スキームを導入する。 広範囲にわたる実験は、EDBの有効性と幅広い適用性を示しており、蒸留プログラムのポートフォリオはオリジナルの性能と大きく一致している。 EPBはまた、NCOの挙動が最適化段階にわたって変化し、古典的ヒューリスティックな変種の構成として近似できることを示した。 我々の研究は、NCOを解釈し、シーケンシャルな意思決定モデルを解釈するための有望なツールとしてEDBを確立する。

関連論文リスト

• Adaptive Targeted Dynamic Chunking for Tokenization-Free Hierarchical Model [1.283285810929198]
  トークン化のない階層モデルは、従来の大規模言語モデルに代わる有望な選択肢として浮上しています。 本稿では,新しいバイト圧縮制御機構であるAdaptive Targeted Dynamic Chunking (ATDC)を提案する。
  論文  参考訳（メタデータ） (2026-05-28T15:26:34Z)
• VBO-MI: A Fully Gradient-Based Bayesian Optimization Framework Using Variational Mutual Information Estimation [1.0829694003408499]
  VBO-MIは多変量相互情報推定の最近の進歩を生かした,完全な勾配に基づくBOフレームワークである。 提案手法は,高次元合成関数や複雑な実世界のタスクを含む,多種多様なベンチマークを用いて評価する。
  論文  参考訳（メタデータ） (2026-01-13T03:07:52Z)
• Machine Learning Algorithms for Improving Black Box Optimization Solvers [4.994218549120224]
  Black-box Optimization (BBO) は、コストのかかるクエリによってのみ目的がアクセス可能な問題に対処する。 近年の進歩は機械学習(ML)と強化学習(RL)を用いてBBOを強化している。
  論文  参考訳（メタデータ） (2025-09-29T23:28:42Z)
• Semi-supervised Semantic Segmentation with Multi-Constraint Consistency Learning [81.02648336552421]
  本稿では,エンコーダとデコーダの段階的拡張を容易にするためのマルチ制約一貫性学習手法を提案する。 自己適応型特徴マスキングとノイズ注入は、デコーダの堅牢な学習のための特徴を摂動させるために、インスタンス固有の方法で設計されている。 Pascal VOC2012およびCityscapesデータセットの実験結果から,提案したMCCLが新たな最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2025-03-23T03:21:33Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。