論文の概要: Elicitation without Backpropagation: Steering Model Behavior by Optimizing the Latent Posterior
- arxiv url: http://arxiv.org/abs/2607.18804v1
- Date: Tue, 21 Jul 2026 07:34:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.34943
- Title: Elicitation without Backpropagation: Steering Model Behavior by Optimizing the Latent Posterior
- Title（参考訳）: バックプロパゲーションを伴わない励振:潜在後部を最適化したステアリングモデル挙動
- Abstract要約: textbfPosterior Prefix Tuning (PPT)を導入する。
BFTの場合、潜伏した後部を通る誘導目標因子と、この目的の勾配は、前者単独のサンプルから推定できる。
- 参考スコア（独自算出の注目度）: 4.347699959341557
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the \emph{latent posterior model} of transformer behavior, the next-token distribution arises from a posterior over latent predictive models conditioned on the context, mixed to generate continuations. We exploit this model in settings where it is exact, namely Bayes-filtered transformers (BFTs) meta-learned on sequences from a hierarchical prior, to introduce \textbf{Posterior Prefix Tuning (PPT)}, a new method for \emph{eliciting} behavior from a transformer: given a utility function on continuations, find a prompt under which the transformer generates continuations of high expected utility. For a BFT, the elicitation objective factors through the latent posterior, and the gradient of this objective can be estimated from samples of the prior alone. PPT optimizes the parameters of a distribution over hard prompts: it draws prior samples once from the BFT via predictive Monte Carlo (PMC), then estimates the gradient by importance sampling against them. The optimization performs no transformer forward passes and no backpropagation through the transformer, and the prior samples are utility-independent, so a single set of samples drives elicitation against any number of utilities at negligible marginal cost. We validate PPT on Beta--Bernoulli and reinforced urn BFTs across three utility families (reverse cross-entropy, frequency matching, Dyck validity).
- Abstract（参考訳）: 変圧器挙動の 'emph{latent rear model} において、次のトーケン分布は、文脈で条件付けられた潜在予測モデルの後部から発生し、連続を生成するために混合される。
我々は、このモデルを、正確にはBayes-filtered transformer (BFTs) と呼ばれる階層前のシーケンスに基づいてメタ学習し、変換器から \emph{eliciting} 振舞いを行う新しい方法である \textbf{Posterior Prefix Tuning (PPT)} を導入する。
BFTの場合、潜伏した後部を通る誘導目標因子と、この目的の勾配は、前者単独のサンプルから推定できる。
PPTはハードプロンプトよりも分布のパラメータを最適化し、予測モンテカルロ(PMC)を介してBFTから先行サンプルを抽出し、それらに対する重要サンプリングによって勾配を推定する。
最適化は変圧器の前方通過は行わず、変圧器による逆伝播も行わず、前のサンプルは実用に依存しないため、一組のサンプルは無視可能な限界コストで複数のユーティリティに対して適用を誘導する。
逆エントロピー,周波数整合,ダイク妥当性の3つのユーティリティーファミリにわたるBeta-BernoulliおよびReforceed urn BFTのPPTを検証した。
関連論文リスト
- PriFT: Prior-Support Guided Supervised Fine-Tuning [74.65198014829393]
Supervised Fine-tuning (SFT) は、下流タスク適応のための効率的なアプローチである。
SFTはトークン単位で固定されたデモトークンに適合する。
凍結した事前訓練参照からトークン重みを導出し、微調整の影響を受けない安定した再重み付け信号を得るPriFTを提案する。
論文 参考訳（メタデータ） (2026-06-08T12:14:06Z) - N-vium: Mixture-of-Exits Transformer for Accelerated Exact Generation [68.47358899451255]
N-vium (N-vium) は、標準ハードウェア上での計算を部分的に並列化する変圧器である。
N-Viumは複数の深さで予測ヘッドを付加し、次のトーケン分布をこれらの出口上の学習混合物として定義する。
論文 参考訳（メタデータ） (2026-05-13T08:46:17Z) - PFN-TS: Thompson Sampling for Contextual Bandits via Prior-Data Fitted Networks [7.188084723389871]
我々は,PFN後続予測を平均逆サンプルに変換するトンプソンサンプリングアルゴリズムであるPFN-TSを提案する。
PFN-TSは、非線形合成およびOpenML分類帯域間ベンチマークで最高の平均ランクを達成している。
論文 参考訳（メタデータ） (2026-05-11T07:46:10Z) - Improving DNS Exfiltration Detection via Transformer Pretraining [0.0]
変換器(BERT)モデルからの双方向表現のドメイン内事前学習は、偽陽性率の低いサブドメインレベルの抽出を改善する。
私たちは、検証の操作ポイントを凍結し、テストセットに転送する制御パイプラインを開発します。
論文 参考訳（メタデータ） (2026-04-09T15:58:34Z) - Matching Features, Not Tokens: Energy-Based Fine-Tuning of Language Models [102.20309135516186]
クロスエントロピー(CE)トレーニングは、言語モデルの密集したスケーラブルな監視を提供する。
言語モデル微調整のための特徴マッチング手法を提案する。
この目的を効率的に最適化するために,エネルギーベースファインチューニングを提案する。
論文 参考訳（メタデータ） (2026-03-12T17:57:50Z) - FBS: Modeling Native Parallel Reading inside a Transformer [0.0]
大規模言語モデル(LLM)は多くのタスクにまたがって優れているが、推論は依然として厳密にトークン・バイ・トークンの自己回帰によって支配されている。
我々は、Parafovea-Attention Window (PAW)、Chunk-Head (CH)、Skip-Gate (SG)を介して、因果学習可能なループをトランスフォーマーに注入するtextbfFovea-Block-Skip Transformer (FBS)を提案する。
論文 参考訳（メタデータ） (2026-01-29T13:39:55Z) - Adaptive Pruning of Pretrained Transformer via Differential Inclusions [48.47890215458465]
現在の圧縮アルゴリズムは一定の圧縮比でプルーーン変換器であり、各比に対して独自のプルーニングプロセスを必要とする。
本研究では,マスクパラメータの差分包摂性に基づいて,事前学習した変圧器を1つのプルーニング段階内において任意の所望の比率でプルーニングすることを提案する。
このダイナミクスは、ネットワーク構造を識別するサポートセットを持つマスクパラメータの全体正規化ソリューションパスを生成することができる。
論文 参考訳（メタデータ） (2025-01-06T06:34:52Z) - GBT: Two-stage transformer framework for non-stationary time series
forecasting [3.830797055092574]
GBTは、Good Startを備えた新しい2段階トランスフォーマーフレームワークである。
TSFTの予測プロセスを、Auto-RegressionステージとSelf-Regressionステージという2つのステージに分割する。
7つのベンチマークデータセットの実験では、GBTは標準的注意と畳み込みのみでSOTA TSFTよりも優れていた。
論文 参考訳（メタデータ） (2023-07-17T07:55:21Z) - Trained Transformers Learn Linear Models In-Context [39.56636898650966]
トランスフォーマーとしての注意に基づくニューラルネットワークは、意図的学習(ICL)を示す顕著な能力を示した
線形回帰問題のランダムな例に対する変圧器の訓練において、これらのモデルの予測は通常の正方形の非線形性を模倣することを示した。
論文 参考訳（メタデータ） (2023-06-16T15:50:03Z) - Transformers meet Stochastic Block Models: Attention with Data-Adaptive
Sparsity and Cost [53.746169882193456]
最近の研究は、自己注意の二次的コストを克服するために、様々なスパークアテンションモジュールを提案している。
本稿では,それぞれの注意を混合メンバーシップブロックモデルで表現することで,両方の問題を解決するモデルを提案する。
我々のモデルは、以前の効率的な変種とオリジナルのトランスフォーマーより優れており、十分に注目されています。
論文 参考訳（メタデータ） (2022-10-27T15:30:52Z) - Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。
トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。
1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
論文 参考訳（メタデータ） (2022-05-27T11:13:17Z) - Augmenting Sequential Recommendation with Pseudo-Prior Items via
Reversely Pre-training Transformer [61.818320703583126]
逐次レコメンデーションはアイテムシーケンスを時系列的にモデル化することで進化するパターンを特徴付ける。
最近のトランスフォーマの開発はコミュニティに効果的なシーケンスエンコーダの設計を促している。
textbfseudo-prior items(asrep)を用いたtextbfsequential textbfrecommendationのためのtextbfaugmentingの新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2021-05-02T18:06:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。