論文の概要: Harnessing the Latent Space: From Steering Vectors to Model Calibrators for Control and Trust

• arxiv url: http://arxiv.org/abs/2607.00083v1
• Date: Tue, 30 Jun 2026 19:21:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.607226
• Title: Harnessing the Latent Space: From Steering Vectors to Model Calibrators for Control and Trust
• Title（参考訳）: 潜在空間のハーネス化: ステアリングベクトルから制御と信頼のためのモデルキャリブレータへ
• Abstract要約: 言語モデルは、信頼できないテキストジェネレータから、数兆のパラメータを持つ高機能な大規模モデルへと変化した。 本稿では,信頼のための潜在空間モデルキャリブレータの制御と開発のためのステアリングベクトルを提案する。 共に、私たちのコントリビューションは、言語モデルの潜在する空間をデミスティフィケーションし、モデル内部をどのように活用してより信頼できる言語技術を構築するかについての新しい洞察を提供するのに役立ちます。
• 参考スコア（独自算出の注目度）: 2.8161643271535794
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models have changed from unreliable text generators to highly-capable large models with trillions of parameters. Capability increases come hand-in-hand with increases in scale, making understanding the internal representations of models more challenging. Since millions of users increasing rely on language models to interact with external tools or make decisions in medium or high-stakes scenarios, we need to establish control over model behavior and know when to trust model outputs. In this paper, we discuss our contributions on harnessing the latent spaces by proposing steering vectors for control and developing latent space-based model calibrators for trust. Together, our contributions help demystify the latent spaces of language models and offer new insights into how to harness model internals to build more trustworthy language technology.
• Abstract（参考訳）: 言語モデルは、信頼できないテキストジェネレータから、数兆のパラメータを持つ高機能な大規模モデルへと変化した。 能力の増大は、スケールの増大と相まって起こり、モデルの内部表現を理解することがより困難になる。 何百万人ものユーザが、外部ツールと対話したり、中あるいは高いシナリオで意思決定を行うために、言語モデルに依存しているため、モデル行動の制御を確立し、モデルアウトプットをいつ信頼するかを知る必要があります。 本稿では、制御のためのステアリングベクトルを提案し、信頼のための潜時空間モデルキャリブレータを開発することにより、潜時空間の活用への貢献について議論する。 共に、私たちのコントリビューションは、言語モデルの潜在する空間をデミスティフィケーションし、モデル内部をどのように活用してより信頼できる言語技術を構築するかについての新しい洞察を提供するのに役立ちます。

関連論文リスト

• Guava: An Effective and Universal Harness for Embodied Manipulation [74.34187069605844]
  実装された操作能力を4Bオープンソースモデルに蒸留するエンドツーエンドのトレーニングパイプラインを開発した。 結果は、よく設計されたハーネスが、エンボディド操作のためのスケーラブルでモデルに依存しないインターフェースとして機能することを示唆している。
  論文  参考訳（メタデータ） (2026-06-16T18:09:26Z)
• Does In-IDE Calibration of Large Language Models work at Scale? [4.707628898226459]
  内部モデル信頼性のポストホック校正は、確率を許容可能性尺度に合わせることを目的としている。 オープンソースのモデルのキャリブレーション重み付けに使用できる,スケーラブルで柔軟なキャリブレーションフレームワークを開発した。 2400万人以上の現実世界の開発者インタラクションを大規模に分析した結果、プラッツスケーリングに基づく一般的なポストホックキャリブレーションモデルでは、平均してモデル信頼性信号の信頼性が向上しないことがわかった。
  論文  参考訳（メタデータ） (2025-10-26T10:15:03Z)
• Activation Space Interventions Can Be Transferred Between Large Language Models [0.5541644538483947]
  モデル間での安全介入は、共有活性化空間の学習されたマッピングを通して伝達可能であることを示す。 このアプローチは、バックドアの除去と有害なプロンプトの拒絶という、確立された2つのAI安全タスクに対して実証する。 また、バックドアに関連付けられた知識を組み込むために、モデルに微調整を施した新しいタスク、textitcorrupted機能を提案する。
  論文  参考訳（メタデータ） (2025-03-06T13:38:44Z)
• Latent Thought Models with Variational Bayes Inference-Time Computation [52.63299874322121]
  ラテント思考モデル(LTM)は、ラテント空間における明示的な事前モデルに従う明示的なラテント思考ベクトルを包含する。 LTMは自己回帰モデルや離散拡散モデルよりも優れたサンプルおよびパラメータ効率を示す。
  論文  参考訳（メタデータ） (2025-02-03T17:50:34Z)
• Trustworthy Alignment of Retrieval-Augmented Large Language Models via Reinforcement Learning [84.94709351266557]
  検索強化に関して,言語モデルの信頼性に焦点をあてる。 検索強化言語モデルには,文脈的知識とパラメトリック的知識の両方に応じて応答を供給できる本質的な能力があると考えられる。 言語モデルと人間の嗜好の整合性に着想を得て,検索強化言語モデルを外部証拠にのみ依存する状況に整合させるための第一歩を踏み出した。
  論文  参考訳（メタデータ） (2024-10-22T09:25:21Z)
• Calibrating the Confidence of Large Language Models by Eliciting Fidelity [52.47397325111864]
  RLHFのようなテクニックで最適化された大規模な言語モデルは、有用で無害な点において優れた整合性を実現している。 調整後、これらの言語モデルはしばしば過剰な自信を示し、表現された自信は正確さの度合いで正確に校正しない。 本稿では,言語モデルの信頼度を推定するプラグイン・アンド・プレイ手法を提案する。
  論文  参考訳（メタデータ） (2024-04-03T11:36:12Z)
• Language-Guided World Models: A Model-Based Approach to AI Control [31.9089380929602]
  本稿では,LWM(Language-Guided World Models)の概念を紹介する。 LWMは、テキストを読むことで環境をシミュレートできる確率モデルである。 構成言語記述を一般化できる堅牢なLWMを開発するための最初のステップを採る。
  論文  参考訳（メタデータ） (2024-01-24T03:11:36Z)
• LlaMaVAE: Guiding Large Language Model Generation via Continuous Latent Sentence Spaces [1.529963465178546]
  本稿では,表現型エンコーダモデルとデコーダモデル(SentenceT5,LlaMA)とVAEアーキテクチャを組み合わせたLlaMaVAEを提案する。 実験の結果、LlaMaVAEは従来の最先端のVAE言語モデルであるOptimusよりも、様々なタスクで優れていることがわかった。
  論文  参考訳（メタデータ） (2023-12-20T17:25:23Z)
• Large Language Models with Controllable Working Memory [64.71038763708161]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。 これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。 モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
  論文  参考訳（メタデータ） (2022-11-09T18:58:29Z)
• Posterior Control of Blackbox Generation [126.33511630879713]
  我々は、構造化潜在変数アプローチにより学習した離散制御状態を持つニューラルジェネレーションモデルの拡張を検討する。 この手法は標準ベンチマークよりも改善され、きめ細かい制御も可能である。
  論文  参考訳（メタデータ） (2020-05-10T03:22:45Z)
• Improve Variational Autoencoder for Text Generationwith Discrete Latent Bottleneck [52.08901549360262]
  変分オートエンコーダ(VAE)は、エンドツーエンドの表現学習において必須のツールである。 VAEは強い自己回帰デコーダで潜伏変数を無視する傾向がある。 よりコンパクトな潜在空間において暗黙的な潜在特徴マッチングを強制する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2020-04-22T14:41:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。