論文の概要: Mechanistic Circuit Identification for Controllable Data Generation
- arxiv url: http://arxiv.org/abs/2608.24065v1
- Date: Tue, 25 Aug 2026 04:53:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.814596
- Title: Mechanistic Circuit Identification for Controllable Data Generation
- Title（参考訳）: 制御可能なデータ生成のための機械回路同定
- Abstract要約: トレーニング力学に基づくデータバリュエーションと機械的解釈可能性とを結合する回路基底フレームワークを提案する。
具体的には,データ品質を3つの相補的ユーティリティ軸,学習可能性,課題,アライメントに沿って概念化する。
この能力に基づいてSAMS(Stage-Aware Mechanistic Scheduling)を導入する。
- 参考スコア（独自算出の注目度）: 8.346479730119436
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While recent advances in data synthesis aim to curate high-quality datasets, most generation pipelines still rely on heuristic prompt-based control. This black-box paradigm provides limited insight into how individual samples interact with a model's underlying learning dynamics. To bridge this gap, we propose a circuit-grounded framework that connects training-dynamics-based data valuation with mechanistic interpretability (MI). Specifically, we conceptualize data quality along three complementary utility axes, learnability, challenge, and alignment. First, we uncover specialized model-internal circuits that causally govern these utility signals. Then, moving beyond heuristic prompting toward mechanistic control, we leverage these circuits as controllable interfaces, actively steering generation to produce utility-targeted data. Building on this capability, we introduce SAMS (Stage-Aware Mechanistic Scheduling), which schedules circuit-steered data according to the model's evolving optimization needs. Experiments on multiple-choice QA tasks demonstrate that our approach yields precisely controlled data with greater diversity than prompt-based baselines, consistently improving downstream performance and calibration. Ultimately, this work establishes a principled white-box paradigm for interpretable data generation, pioneering the use of MI not just as an analytical tool, but as a practical, controllable interface.
- Abstract（参考訳）: データ合成の最近の進歩は、高品質なデータセットのキュレーションを目的としているが、ほとんどの世代のパイプラインは、まだヒューリスティックなプロンプトベースの制御に依存している。
このブラックボックスパラダイムは、個々のサンプルがモデルの基礎となる学習力学とどのように相互作用するかについての限られた洞察を提供する。
このギャップを埋めるために、トレーニング力学に基づくデータ評価と機械的解釈可能性(MI)を結合する回路基底フレームワークを提案する。
具体的には,データ品質を3つの相補的ユーティリティ軸,学習可能性,課題,アライメントに沿って概念化する。
まず、これらのユーティリティ信号を因果的に制御する特殊なモデル内部回路を明らかにする。
そして、ヒューリスティックな制御からメカニスティックな制御へと進むことで、これらの回路を制御可能なインタフェースとして利用し、アクティブなステアリング生成を行い、実用目的のデータを生成する。
この能力に基づいてSAMS(Stage-Aware Mechanistic Scheduling)を導入する。
複数選択QAタスクの実験により、我々の手法は、プロンプトベースベースラインよりも高精度に制御されたデータを出力し、ダウンストリーム性能とキャリブレーションを一貫して改善することを示した。
最終的に、この研究は、解析ツールとしてだけでなく、実用的な制御可能なインターフェースとして、MIの使用を先駆けて、解釈可能なデータ生成のための原則化されたホワイトボックスパラダイムを確立する。
関連論文リスト
- Modular Foundation Models for Time-Series Perception in Digital Twins [0.8983000676504388]
エンジニアリング デジタルツインとPHM(Prognostics and Health Management)システムは、時系列データから実行可能な情報を抽出するために、堅牢な知覚モジュールに依存している。
本稿では,事前学習した表現エンコーダの集合に基づく時系列知覚のためのモジュラー基礎モデルを提案する。
このフレームワークは異種データセットの自己教師付き学習を活用して、複数のPHMタスク間で再利用可能な、転送可能およびタスクに依存しない表現を学習する。
論文 参考訳（メタデータ） (2026-07-03T20:02:28Z) - Learning Multi-Modal Trajectory Policies for Data-Efficient Robotic Manipulation [21.99077052779724]
MATE (Multi-Modal MoE) は、MoE上に構築された新しい軌道予測フレームワークである。
細粒度サブモーダルコサインを実現するためのマルチモーダルMOEアーキテクチャを導入し、安定かつスケール不変なエキスパートアサインのためのクロスモーダルルータを設計する。
ロボットピンポンの実験では、私たちのMATEはデータ不足下での作業よりもずっと優れています。
論文 参考訳（メタデータ） (2026-05-31T06:35:10Z) - GO-GenZip: Goal-Oriented Generative Sampling and Hybrid Compression [50.76941829813458]
現在のネットワークデータテレメトリパイプラインは、複数の分散ソースから中央アグリゲータへの、きめ細かいキーパフォーマンス指標(KPI)の巨大なストリームで構成されている。
本研究は、目標指向の観点からネットワークテレメトリを再設計する、ジェネレーティブAI(GenAI)駆動サンプリングとハイブリッド圧縮フレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-20T16:33:15Z) - Data-Driven Control of a Magnetically Actuated Fish-Like Robot [2.5782420501870296]
磁力で動く魚のようなロボットは、小型化と機敏さのために水中探査に有望なソリューションを提供する。
本稿では、解析モデルに頼ることなく、これらの複雑さに対処するデータ駆動制御フレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-05T04:08:08Z) - Multi-Task Equation Discovery [0.0]
複数のデータセットにまたがる同時パラメータ識別にはマルチタスク学習フレームワークを用いる。
MTL-RVMはタスク間での情報を組み合わせて、弱い、中程度の興奮したデータセットのパラメータリカバリを改善した。
これらの結果は,マルチタスクベイズ推論が過剰適合を緩和し,方程式発見の一般化を促進することを示唆している。
論文 参考訳（メタデータ） (2025-09-29T18:56:40Z) - Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。
本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。
残る技術的課題や倫理的考察も分析する。
論文 参考訳（メタデータ） (2025-06-05T05:42:27Z) - Generative QoE Modeling: A Lightweight Approach for Telecom Networks [6.473372512447993]
本研究では,計算効率,解釈可能性,予測精度のバランスをとる軽量な生成モデリングフレームワークを提案する。
ベクトル量子化(VQ)を前処理技術として用いることにより、連続的なネットワーク機能は事実上離散的な分類記号に変換される。
このVQ-HMMパイプラインは、新しい未知のデータに対する確率的推論をサポートしながら、動的QoEパターンをキャプチャするモデルの能力を高める。
論文 参考訳（メタデータ） (2025-04-30T06:19:37Z) - Data Scaling Laws for End-to-End Autonomous Driving [83.85463296830743]
16時間から8192時間に及ぶ内部駆動データセット上での簡易エンド・ツー・エンド駆動アーキテクチャの性能評価を行った。
具体的には、目標の性能向上を達成するために、どの程度のトレーニングデータが必要かを調査する。
論文 参考訳（メタデータ） (2025-04-06T03:23:48Z) - Meta-Statistical Learning: Supervised Learning of Statistical Inference [59.463430294611626]
この研究は、大きな言語モデル(LLM)の成功を駆動するツールと原則が、分散レベルのタスクに取り組むために再利用可能であることを実証している。
本稿では,統計的推論タスクを教師付き学習問題として再構成するマルチインスタンス学習に触発されたメタ統計学習を提案する。
論文 参考訳（メタデータ） (2025-02-17T18:04:39Z) - OS-Genesis: Automating GUI Agent Trajectory Construction via Reverse Task Synthesis [55.390060529534644]
グラフィカルユーザインタフェース(GUI)エージェントのための新しいデータ合成パイプラインであるOS-Genesisを提案する。
事前に定義されたタスクに頼る代わりに、OS-Genesisはエージェントがまず環境を認識し、ステップワイドなインタラクションを実行することを可能にする。
我々は,OS-Genesisを用いたGUIエージェントのトレーニングにより,高度に挑戦するオンラインベンチマークの性能が大幅に向上することが実証された。
論文 参考訳（メタデータ） (2024-12-27T16:21:58Z) - End-to-End Meta-Bayesian Optimisation with Transformer Neural Processes [52.818579746354665]
本稿では,ニューラルネットワークを一般化し,トランスフォーマーアーキテクチャを用いて獲得関数を学習する,エンド・ツー・エンドの差別化可能な最初のメタBOフレームワークを提案する。
我々は、この強化学習(RL)によるエンドツーエンドのフレームワークを、ラベル付き取得データの欠如に対処できるようにします。
論文 参考訳（メタデータ） (2023-05-25T10:58:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。