論文の概要: Test, then Route: How Language Models Execute In-Context Conditional Rules Across Models and Languages

• arxiv url: http://arxiv.org/abs/2608.04183v1
• Date: Tue, 04 Aug 2026 19:40:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.605311
• Title: Test, then Route: How Language Models Execute In-Context Conditional Rules Across Models and Languages
• Title（参考訳）: Test, then Route: 言語モデルがモデルと言語をまたいだ条件付きルールを実行する方法
• Abstract要約: 言語モデルは、"if P(x) then A else B" のようなコンテキスト内条件規則に従う。 述語をテストする1つのモジュールと、回答をルーティングするもう1つのモジュールで、ランタイム回路を組み立てますか? 本研究では,2つの交換ルルドナーが条件と解答語が一致しない4つのドナー設計の下で,アクティベーションパッチを用いてこれを探索する。
• 参考スコア（独自算出の注目度）: 0.17188280334580197
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a language model follows an in-context conditional rule such as "if P(x) then A else B," does it assemble a runtime circuit with one module that tests the predicate and another that routes the answer? We probe this with activation patching under a four-donor design whose two swapped-rule donors make the condition and the answer word disagree, so each layer reveals which of the two it carries. Across three open models from two families and six languages sharing one fixed item bank, a mid-stack residual band carries the predicate's truth value: patching it reroutes the answer with predicate-outcome flip near 1.0 and mapping flip near 0.0, meeting a strict pre-specified isolation criterion in 17 of 18 cells, and the same localization holds across five predicate families. The router shows the opposite profile. A learned subspace flips A and B near-perfectly within the trained pair yet transfers to a new pair at approximately 0 in every model, while in Gemma-3-4B (the only model probed cross-lingually) it transfers at approximately 0.98 to the same pair in other languages. Under every probe we ran, the router direction is token-bound and non-transferable (largely answer-readout in Gemma, pair-specific in Qwen) rather than an abstract routing module. Test is modular; under these probes, route is not.
• Abstract（参考訳）: 言語モデルが"if P(x) then A else B"のようなコンテキスト内条件規則に従うとき、述語をテストする1つのモジュールと、回答をルーティングする別のモジュールでランタイム回路を組み立てるのでしょうか? 本研究では,2つの交換ルルドナーが条件と解答語が一致しない4つのドナー設計の下で,アクティベーションパッチを用いてこれを探索する。 2つのファミリーと6つの言語が固定アイテムバンクを共有している3つのオープンモデルにまたがって、中間スタックの残余バンドは述語の真理値を持ち、その答えを1.0に近い述語出力フリップで再帰し、0.0に近いマッピングフリップでマッピングし、18のセルのうち17で厳密に特定された孤立基準を満たし、同じローカライゼーションが5つの述語ファミリーで保持される。 ルータは反対のプロファイルを表示する。 学習された部分空間は、訓練されたペアの中でほぼ完璧に A と B を反転させるが、全てのモデルにおいて、ほぼ 0 で新しいペアに遷移する一方、Gemma-3-4B では、他の言語では 0.98 で同じペアに転移する。 実行したすべてのプローブにおいて、ルータの向きは、抽象的なルーティングモジュールではなく、トークンバウンドで、転送不能(主にGemmaで、ペア固有のQwenで)です。 テストはモジュラーであり、これらのプローブの下では、ルートはそうではない。

関連論文リスト

• IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
  我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。 セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
  論文  参考訳（メタデータ） (2026-08-17T09:50:52Z)
• What, Where, and How: Disentangling the Roles of Task, Language, and Model in Code Model Representations [0.0]
  我々はコードに対して回答し、最近導入された概念回路抽出法を2x2の設計に拡張する。 全4細胞において、文法概念の完全な在庫を同一に測定する。 専用回路を稼ぐものはタスクによって設定されます。 層をまたいだ回路の成長もモデルによって設定される。
  論文  参考訳（メタデータ） (2026-07-23T16:34:14Z)
• Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering [0.0]
  Familiarity-probeスコアは、すべての家族で作られたエンティティとは分離される。 2つの家系でのペア実験では、ポーランドの質問ステムを英語に置き換えたとき、プローブは言語内AUROCの96-101%を保持している。 親しみのあるプローブは、前世代の棄権ゲートの間で競争している。
  論文  参考訳（メタデータ） (2026-07-15T08:06:59Z)
• The Bicameral Model: Bidirectional Hidden-State Coupling Between Parallel Language Models [5.75697425024974]
  Bicameral Modelは、中間の隠れ状態にあるトレーニング可能なニューラルネットワークを通じて、2つの凍結した言語モデルを結合する。 算術では、2つの0.5Bモデルと電卓を結合すると精度が36%から96%に向上する。 論理グリッドパズルでは、2つの0.6BモデルとZ3ソルバを結合すると、ZebraLogicの未発表のベースラインが$1.7timesとなる。
  論文  参考訳（メタデータ） (2026-05-11T19:25:39Z)
• The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
  大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。 これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
  論文  参考訳（メタデータ） (2026-05-09T22:27:31Z)
• Conflict-Free Policy Languages for Probabilistic ML Predicates: A Framework and Case Study with the Semantic Router DSL [11.868735376461446]
  ルーティングとアクセス制御システムのクラスは、確率的ML信号に基づいて決定を下す。 そのような2つのシグナルは、著者が分離することを意図したカテゴリで宣言され、同じクエリでしきい値をクリアし、それを静かに間違ったモデルにルーティングする。 本研究では, 実際に支配的な埋め込みの場合, 独立しきい値処理を温度スケールのソフトマックスに置き換えることで, 共ファイリングが不可能なヴォロノイ地域への埋め込み空間を分割することを示す。
  論文  参考訳（メタデータ） (2026-03-18T18:14:34Z)
• Pre-training Cross-lingual Open Domain Question Answering with Large-scale Synthetic Supervision [44.04243892727856]
  言語間のオープンドメイン質問応答は複雑な問題である。 CLQAは単一エンコーダデコーダモデルを用いて処理可能であることを示す。 ウィキペディア内の言語間リンク構造を利用した自己教師型手法を提案する。
  論文  参考訳（メタデータ） (2024-02-26T11:42:29Z)
• Hyperpolyglot LLMs: Cross-Lingual Interpretability in Token Embeddings [4.2243058640527575]
  言語間移動学習は多言語大言語モデル(LLM)の重要な特性である 1)事前学習とモデルアーキテクチャが言語表現に与える影響,2)言語モデルに埋め込まれた言語間表現の応用について検討する。
  論文  参考訳（メタデータ） (2023-11-29T19:20:14Z)
• N-Gram Nearest Neighbor Machine Translation [101.25243884801183]
  本稿では, 自己回帰翻訳(AT)モデルと非自己回帰翻訳(NAT)モデルの両方に適用可能な, モデルに依存しない新しいn$-gram近傍検索手法を提案する。 提案手法は,ATモデルおよびNATモデルおよび一般のドメイン適応翻訳タスクにおいて,トークンレベル法を一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2023-01-30T13:19:19Z)
• T5lephone: Bridging Speech and Text Self-supervised Models for Spoken Language Understanding via Phoneme level T5 [65.32642587901903]
  我々は、異なるトークン化戦略を持つPLMが音声言語理解タスクにどのように影響するかを広範囲に研究する。 我々は、音素化されたテキストを使って事前訓練されたT5の変種であるT5lephoneを作成するためのアイデアを拡張した。
  論文  参考訳（メタデータ） (2022-11-01T17:00:23Z)
• Don't Forget Cheap Training Signals Before Building Unsupervised Bilingual Word Embeddings [64.06041300946517]
  我々は、教師なしBWE手法を開発する際には、容易にアクセスできる言語間信号が常に考慮されるべきであると主張している。 このような安価な信号はうまく動作し、遠隔言語対においてより複雑な教師なし手法により性能が向上することを示す。 この結果から,BWEを構築する際には,遠隔言語であっても,これらの学習信号を無視すべきでないことが示された。
  論文  参考訳（メタデータ） (2022-05-31T12:00:55Z)
• Composable Sparse Fine-Tuning for Cross-Lingual Transfer [56.86192078426372]
  事前学習されたモデルのパラメータを微調整することが、伝達学習の主流のアプローチとなっている。 本稿では,これら2つの望ましい特性を持つファインチューニング手法を提案する。 これは、ゼロショットのクロスランガル転送において、大きなマージンでアダプタを上回ります。
  論文  参考訳（メタデータ） (2021-10-14T17:27:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。