論文の概要: Hidden APIs in Language Models: Discovering Reusable Causal Interfaces from Forked Futures
- arxiv url: http://arxiv.org/abs/2607.27617v1
- Date: Thu, 30 Jul 2026 03:10:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.380923
- Title: Hidden APIs in Language Models: Discovering Reusable Causal Interfaces from Forked Futures
- Title(参考訳): 言語モデルに隠されたAPI: 分岐した未来から再利用可能な因果インターフェースを発見する
- Abstract要約: 将来の操作はプレフィックス状態が形成された後にのみサンプリングされる。
これにより、研究者によって特定された潜伏ラベルを必要とせず、隠れた状態に対する経験的因果商が得られる。
結果は、試験された運転銀行内の経済的再利用可能な因果関係を支持する。
- 参考スコア(独自算出の注目度): 16.400856187081473
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Identical language-model answers can arise from hidden states that support different future computations, so current-answer probes do not establish a reusable internal interface. We introduce forked futures: future operations are sampled only after a prefix state has formed, and states are compared through the response distributions induced by those operations. This yields an empirical causal quotient over hidden states without requiring researcher-specified latent labels. Shared, Local, Mixture, and Distributed interfaces then compete under prequential causal description length subject to future-signature fidelity and matched capacity constraints. In the two detailed model evaluations, Shared has the lowest held-out description length, with gains of 0.216 nats on Qwen2.5-1.5B and 0.294 nats on Llama-3-8B, while maintaining tightly clustered mean future-signature distortion; a five-backbone sweep preserves the positive direction of Sharedness Gain. The figure-aligned transplantation analysis gives Shared the strongest joint target-correctness, locality, copy-preservation, and composite profile, and API-aligned paths mediate 0.749 of the target effect versus 0.150 for matched null paths. In the blind four-class model-organism test, 14/16 architectures are recovered, with one observed non-Shared to Shared error among 12 non-Shared organisms. These results support an economical reusable causal interface within the tested operation banks, while keeping the claim explicitly conditional on the candidate architectures, interventions, and held-out futures.
- Abstract(参考訳): 言語モデルによる解答は、異なる将来の計算をサポートする隠された状態から生じる可能性があるため、現在の回答プローブは再利用可能な内部インターフェースを確立しない。
将来の操作はプレフィックス状態が形成された後にのみサンプリングされ、それらの操作によって引き起こされる応答分布を通して状態を比較する。
これにより、研究者によって特定された潜伏ラベルを必要とせず、隠れた状態に対する経験的因果商が得られる。
共有インターフェース、ローカルインターフェース、混合インターフェース、分散インターフェースは、将来の署名の忠実さとキャパシティ制約にマッチした事前因果記述長で競合する。
2つの詳細なモデル評価において、Sharedは最低保持長を持ち、Qwen2.5-1.5Bでは0.216ナット、Llama-3-8Bでは0.294ナットであり、密集したクラスタリングされた平均将来の符号歪みを保ちながら、5バックボーンスイープはシェアネスゲインの正の方向を保存する。
図に沿った移植解析により、共有は最強の関節的目標精度、局所性、コピー保存、複合プロファイルを与え、APIに沿った経路は、一致したヌルパスに対して0.749の目標効果を媒介する。
ブラインド4クラスモデル有機体試験では、14/16のアーキテクチャが回収され、1つの観察された非共有と共有のエラーは12の非共有の有機体の間で発生した。
これらの結果は、試験された運用銀行内の経済的に再利用可能な因果関係をサポートし、そのクレームは、候補アーキテクチャ、介入、保留先を明示的に条件づけている。
関連論文リスト
- Portable Semantics, Private Dialects: Reuse and Negative Transfer in Latent Communication Between Language-Model Cells [0.0]
共有ゲノム言語モデル社会では、可視性に制限のあるエビデンスでは、再利用可能な値インデックス付き潜在パケットインタフェースが好まれる。
本研究では、独立に訓練された社会が、厳密なゼロショット転送が失敗する1つのパケット言語を共有しているかどうかを問う。
論文 参考訳(メタデータ) (2026-09-10T10:53:47Z) - Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳(メタデータ) (2026-08-17T09:53:27Z) - A Pre-Specified Construction-Confirmation Test of Operation-Level Causal Transfer Across Finite Isomorphic Symbolic Domains [0.0]
2つの操作間の隠れ状態の違いが、ソース入力毎に別々に推定されているかどうかを問う。
この設計は、入力固有の介入を、不正操作、ノルムマッチングランダム、ノーオップ制御と比較し、個別に分離された確認分割から候補構築を分離する。
論文 参考訳(メタデータ) (2026-08-16T15:37:26Z) - Why Does the Future Branch? Identifiable Closure Tests for Stochastic Physical World Models [0.0]
ClosurePairsは、繰り返し発生する障害を伴う互換性のあるマイクロステートを横断します。
ソースの属性は確実に回復する。
非線形相互作用ベンチマークにおける等予算分解誤差を低減する。
論文 参考訳(メタデータ) (2026-08-01T11:07:24Z) - Operational Proto-Introspection in Looped Language Models: Process-Quality Taps, Executable Branching, and the Readout-Control Boundary [0.0]
言語モデルは、進行中の計算の質を読み取ることができるか?
外部介入は、その読み出しをより良い結果に変えることができるか?
凍結した2.6Bループ変換器,Ouro-RLTTで両質問を検証した。
論文 参考訳(メタデータ) (2026-07-20T22:40:36Z) - Before the Action: Benchmarking LLMs on Prospective Hypothesis Discovery [95.44432473367836]
大規模言語モデル(LLM)は、事前に特定された質問に答える能力に優れるが、未解決の未解決段階をナビゲートする能力はほとんど測定されていない。
仮説探索(PHD)を導入し,不確定な証拠から,仮説空間を自律的に構築することをモデルに求める。
本稿では,6つの科学的・分析的領域にわたる988ケースのベンチマークであるHypoArenaと,オープンエンド仮説セットの評価フレームワークであるHypoEvalを紹介する。
論文 参考訳(メタデータ) (2026-07-17T08:56:43Z) - Graph Feedback Controls Consensus and Clique Formation in Open-Weight Language-Model Populations [0.0]
命名ゲームプロトコルを用いた1.1B-32BパラメータにまたがるオープンウェイトLM集団のコンベンション形成について検討した。
我々は、状態相似性グラフを構築し、サンプル-ラベル合意を潜在状態空間のコンセンサスから分離する。
論文 参考訳(メタデータ) (2026-07-13T18:55:03Z) - Nous: An Attempt to Extract and Inject the Cognition Behind Prediction-Market Behavior [0.0]
人間の認知の多様性が行動から回復し、LSMエージェントに移行できるかどうかを問う。
Nousは、実際のポリマーケット取引活動から構造化された8次元の行動プロファイルを抽出し、プロンプトを通じてエージェントに注入する。
我々は,Nousを認知的モノカルチャー問題と即時治療の限界を計測するものとして位置づける。
論文 参考訳(メタデータ) (2026-06-11T08:18:25Z) - Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs Distributional Metrics [49.443264461057645]
拡散および連続フローベースの言語モデルは、言語モデリングに対する非自己回帰的な主要な代替手段として現れている。
両方のパラダイムの進歩は、生成的複雑度(gen-PPL)によって圧倒的に追跡される。
我々は、この指標は正しくないと主張している。構築により、gen-PPLは、文法性やセマンティックコヒーレンスではなく、スコアARの下でのみ予測可能性を測定する。
論文 参考訳(メタデータ) (2026-06-07T02:35:56Z) - INTACT: Ego-Guided Typed Sparse Evidence Retrieval for Heterogeneous Collaborative Perception [50.64511548643398]
異種知覚のためのエゴ誘導型スパースエビデンス検索フレームワークを提案する。
IntACTは、エゴの車両に、疑わしい物やエビデンスに欠ける地域を表す型付きエビデンスクエリを発行する。
シミュレーションおよび実世界の異種知覚ベンチマークの実験は、INTACTの有効性とデプロイ性を検証する。
論文 参考訳(メタデータ) (2026-06-03T04:34:53Z) - Feature Rivalry in Sparse Autoencoder Representations: A Mechanistic Study of Uncertainty-Driven Feature Competition in LLMs [0.0]
負相関のSAE特徴ペアであるFeature Rivalryを導入し、競合がモデル不確実性の機械的シグネチャとして機能するかどうかを検討する。
その結果,高エントロピー質問は低エントロピー質問と比較して,0層と12層において非常に強い特徴競合をもたらすことがわかった。
次に、競合する軸に沿ってアクティベーションステアリングすることで、モデル出力の因果的に競合が上流にあるかどうかをテストする。
論文 参考訳(メタデータ) (2026-05-03T18:43:19Z) - Quantifying Prior Dominance in RAG Systems [1.9544213396776273]
我々は、文脈情報ゲインを定量化するために、正規化コンテキスト利用(NCU)メトリクスを導入する。
1.5Bから72Bまでのアーキテクチャを,プロプライエタリな商用APIとともに評価する。
厳密な抽出におけるSLMの構造的優位性と文脈的付着性について検討した。
論文 参考訳(メタデータ) (2026-04-29T15:38:24Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳(メタデータ) (2025-09-25T14:05:55Z) - BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。
本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
論文 参考訳(メタデータ) (2025-07-14T17:13:06Z) - BSN++: Complementary Boundary Regressor with Scale-Balanced Relation
Modeling for Temporal Action Proposal Generation [85.13713217986738]
我々は,時間的提案生成のための補完的境界回帰器と関係モデリングを利用する新しいフレームワークであるBSN++を提案する。
当然のことながら、提案されたBSN++は、時間的アクションローカライゼーションタスクに関するCVPR19 - ActivityNetのリーダーボードで1位にランクインした。
論文 参考訳(メタデータ) (2020-09-15T07:08:59Z) - Generalized Focal Loss: Learning Qualified and Distributed Bounding
Boxes for Dense Object Detection [85.53263670166304]
一段検出器は基本的に、物体検出を密度の高い分類と位置化として定式化する。
1段検出器の最近の傾向は、局所化の質を推定するために個別の予測分岐を導入することである。
本稿では, 上記の3つの基本要素, 品質推定, 分類, ローカライゼーションについて述べる。
論文 参考訳(メタデータ) (2020-06-08T07:24:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。