論文の概要: J-Miner: Recovering Executable Decision Knowledge from Language-Model Classifiers

• arxiv url: http://arxiv.org/abs/2608.17063v1
• Date: Mon, 17 Aug 2026 19:09:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.112437
• Title: J-Miner: Recovering Executable Decision Knowledge from Language-Model Classifiers
• Title（参考訳）: J-Miner: 言語モデル分類器から実行可能な決定知識を復元する
• Abstract要約: J-Minerは、層とトークン位置をまたいで語彙に整合した内部信号を集約することで、テキストレベルの概念をマイニングする。 J-Minerルールは、ソース分類決定の98.3%を再現し、6.0-29.5パーセントの行動忠実度を達成する。
• 参考スコア（独自算出の注目度）: 23.71240275765297
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models can be fine-tuned into specialized classifiers that perform well across diverse text tasks and make complex judgments, but they typically expose only final labels, leaving the decision knowledge acquired through fine-tuning implicit within the model. We study how to mine this internal decision knowledge from a fine-tuned classifier and encode it in an executable representation that can be inspected, validated, and reused beyond the source classifier. We introduce J-Miner, which mines text-level named concepts by aggregating vocabulary-aligned internal signals across layers and token positions, and uses the classifier's own predictions to learn executable decision rules over them. This process distills local internal readouts into an explicit classifier-level knowledge representation. Across multiple classification tasks, J-Miner rules reproduce up to 98.3\% of source-classifier decisions and achieve 6.0--29.5 percentage points higher behavioral fidelity than equally compact rules learned from input words. Further analysis shows that the named concepts reflect internal semantic evidence associated with task decisions, while the learned rules consolidate these distributed signals into inspectable decision structures. The resulting decision knowledge also transfers to lightweight standalone students: using about 1/24 as many parameters as the source classifiers, they reconstruct and execute the representation from raw text while retaining 99.8\% of the source classifiers' mean task accuracy. These findings show that task-specific decision knowledge can be faithfully represented in an explicit, executable form and reused beyond the classifier in which it was learned.
• Abstract（参考訳）: 大規模言語モデルは、様々なテキストタスクにまたがってうまく機能し、複雑な判断を行う特殊な分類器に微調整することができるが、通常は最終ラベルのみを公開し、モデル内で微調整によって得られる決定知識を暗黙的に残す。 我々は、この内部決定知識を微調整の分類器からマイニングし、ソース分類器を超えて検査、検証、再利用できる実行可能な表現にエンコードする方法を研究する。 J-Minerは、階層やトークン位置をまたいで語彙に整合した内部信号を集約することで、テキストレベルの概念をマイニングし、分類器自身の予測を用いて、それらの上で実行可能な決定ルールを学習する。 このプロセスは、ローカルな内部読み出しを明示的な分類器レベルの知識表現に蒸留する。 複数の分類タスクの中で、J-Minerのルールは最大98.3\%のソース分類決定を再現し、6.0-29.5のパーセンテージは入力語から学んだようなコンパクトなルールよりも行動の忠実度が高い。 さらに分析した結果,これらの概念はタスク決定に関連する内部意味的エビデンスを反映し,学習ルールはこれらの分散信号を検査可能な決定構造に集約することがわかった。 ソース分類器として約1/24のパラメータを使って、ソース分類器の平均タスク精度の99.8倍の99.8%を維持しながら、原文から表現を再構築し実行します。 これらの結果は,タスク固有の決定知識を明示的かつ実行可能な形式で忠実に表現し,学習対象の分類器を超えて再利用できることを示唆している。

関連論文リスト

• GUIDED: Granular Understanding via Identification, Detection, and Discrimination for Fine-Grained Open-Vocabulary Object Detection [54.19989440021701]
  細粒度オープン語彙オブジェクト検出(FG-OVD)は属性リッチテキストで記述された新しいオブジェクトカテゴリを検出することを目的としている。 FG-OVDは、非絡み合いモデリングとモジュラー最適化の利点を実証し、新しい最先端の結果を達成する。
  論文  参考訳（メタデータ） (2026-03-27T22:08:11Z)
• Should Decision-Makers Reveal Classifiers in Online Strategic Classification? [13.126208719681346]
  エージェントの現在の分類器へのアクセス制限が意思決定者のパフォーマンスに与える影響について検討する。 この設定では、意思決定者は、完全な知識設定よりも多くの間違いを発生させる。 以上の結果から,分類器へのアクセスを控えることによって,意思決定者のパフォーマンスを低下させる可能性が示唆された。
  論文  参考訳（メタデータ） (2025-06-02T17:53:49Z)
• Probing Network Decisions: Capturing Uncertainties and Unveiling Vulnerabilities Without Label Information [19.50321703079894]
  本稿では, 対実例を用いて分類器の弱点を明らかにするための新しい枠組みを提案する。 本研究では, 画像分類ベンチマークを用いて, 誤分類検出の性能を検証し, その妥当性を検証した。
  論文  参考訳（メタデータ） (2025-03-12T05:05:58Z)
• Now you see me! Attribution Distributions Reveal What is Truly Important for a Prediction [40.04908502564302]
  ニューラルネットワークが特定の予測に使用する入力特徴を理解するために属性法が開発されている。 ここでは、孤立ロジットの帰属計算として属性の特異性の欠如の原因を1つ同定する。 画像中の各空間的位置のクラスに対する属性の確率を計算することにより、既存の属性手法の真の能力を解き放つ。
  論文  参考訳（メタデータ） (2025-03-10T13:59:57Z)
• Verbalized Representation Learning for Interpretable Few-Shot Generalization [162.2636511438425]
  Verbalized Representation Learning (VRL)は、オブジェクト認識のための人間の解釈可能な特徴を自動的に抽出する新しいアプローチである。 本手法は,クラス間の差異とクラス内共通点を自然言語形式で把握する。 VRLは従来の最先端手法よりも24%の絶対的な改善を実現している。
  論文  参考訳（メタデータ） (2024-11-27T01:55:08Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• Early Exiting with Ensemble Internal Classifiers [57.80488632985445]
  早期退社はNLPコミュニティで注目を集めている。 本稿では,過去の全ての内部分類器の予測から正しいラベルを推測する投票方式を提案する。 様々なNLPタスクに対する実験結果から,提案した目的関数と投票に基づく戦略により,より精度の高いトレードオフが達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-05-28T12:54:11Z)
• Self-supervised Detransformation Autoencoder for Representation Learning in Open Set Recognition [0.0]
  オープンセット認識問題に対する自己超越手法であるDetransformation Autoencoder (DTAE)を提案する。 提案手法は,未知のクラスを検出し,未知のクラスを分類する上で,大きな利益をもたらす。
  論文  参考訳（メタデータ） (2021-05-28T02:45:57Z)
• Learning and Evaluating Representations for Deep One-class Classification [59.095144932794646]
  ディープワンクラス分類のための2段階フレームワークを提案する。 まず,一級データから自己教師付き表現を学習し,学習した表現に基づいて一級分類器を構築する。 実験では、視覚領域の1クラス分類ベンチマークで最先端の性能を示す。
  論文  参考訳（メタデータ） (2020-11-04T23:33:41Z)
• Interpretability Analysis for Named Entity Recognition to Understand System Predictions and How They Can Improve [49.878051587667244]
  名前付きエンティティ認識のためのLSTM-CRFアーキテクチャの性能について検討する。 文脈表現はシステムの性能に寄与するが、ハイパフォーマンスを駆動する主な要因は、名前トークン自体を学習することにある。 我々は、コンテキストのみからエンティティタイプを推測する可能性を評価するために、人間アノテーションを登録し、コンテキストのみのシステムによるエラーの大部分に対してエンティティタイプを推論することはできないが、改善の余地はいくつかある。
  論文  参考訳（メタデータ） (2020-04-09T14:37:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。