論文の概要: Metaphor-Induced Algorithmic Steering: Cross-Domain Procedural Transfer in LLM Code Generation
- arxiv url: http://arxiv.org/abs/2607.28683v1
- Date: Thu, 30 Jul 2026 02:07:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.369102
- Title: Metaphor-Induced Algorithmic Steering: Cross-Domain Procedural Transfer in LLM Code Generation
- Title(参考訳): メタファー誘導型アルゴリズムステアリング:LLMコード生成におけるクロスドメイン手続き転送
- Abstract要約: 比喩的指示は手続き機構の類推的伝達を誘導できることを示す。
我々は、低効率なコードを引き出すために、良識を反復的にメタファ化し、洗練するフレームワークであるMASCを開発する。
- 参考スコア(独自算出の注目度): 11.514477267634225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models benefit from elements in natural language, such as metaphors and analogies in training data and inference input to achieve generalisability across different domains. However, these language elements may also lead to unwanted behaviors when metaphorical expressions implicitly transfer inappropriate procedural patterns into new tasks. In this paper, we show that metaphorical instructions can induce analogical transfer of procedural mechanisms, thus steering code-generation models towards less efficient algorithms. We refer to this metaphor-induced effect as metaphorical algorithmic steering: a skill that is benign and plausible within its source domain transfers an abstract procedural schema into a programming task, causing the model to favor exhaustive search, full scans, or repeated reconstruction without explicitly mentioning the target algorithm. More broadly, this suggests that code-generation models can carry procedures that are appropriate in a task's background domain into the task's programming problem, where they can lead to unwanted outcomes. To study this phenomenon, we develop MASC (Metaphorical Algorithmic Steering for Code Generation), a framework that iteratively metaphorizes and refines benign skills to elicit low-efficiency code while remaining benign and task-relevant. Beyond behavioral evaluation, we study whether this phenomenon is detectable and mechanistically reflected in model representations. Our method achieves high detection rates for metaphorical skills and less-efficient implementations. We also find that metaphorical skills induce a hidden-state shift towards lower-efficiency procedural behavior prototypes. These results suggest that metaphorical algorithmic steering operates through the transfer of procedural patterns associated with metaphorical source scenarios rather than surface level metaphorical language alone.
- Abstract(参考訳): 大規模言語モデルは、訓練データにおけるメタファーやアナロジーや推論入力といった自然言語の要素から恩恵を受け、異なる領域にわたる一般化性を実現する。
しかし、これらの言語要素は、比喩表現が不適切な手続きパターンを新しいタスクに暗黙的に転送するときに、望ましくない行動を引き起こす可能性がある。
本稿では,比喩的指示が手続き機構のアナログ的伝達を誘導し,より効率的なアルゴリズムに向けてコード生成モデルを操ることを示す。
このメタファーによって引き起こされる効果は、比喩的アルゴリズムのステアリングとして言及する: ソースドメイン内で良質で確実なスキルは、抽象的な手続きスキーマをプログラミングタスクに転送し、対象のアルゴリズムに明示的に言及することなく、網羅的な探索、全スキャン、または反復的な再構築を好む。
より広範に言えば、コード生成モデルはタスクのバックグラウンドドメインで適切な手順をタスクのプログラミング問題に持ち込み、不要な結果につながる可能性があることを示唆している。
この現象を解明するために,MASC(Metaphorical Algorithmic Steering for Code Generation)というフレームワークを開発した。
行動評価以外にも、モデル表現にこの現象が検出可能か、機械的に反映されているかを検討する。
本手法は,比喩的スキルと低効率な実装に対する高い検出率を実現する。
また,比喩的スキルは,低効率な手続き行動プロトタイプへの隠れ状態シフトを引き起こすことも見出した。
これらの結果は,メタファレベルのメタファ型言語のみではなく,メタファ型ソースシナリオに関連する手続き的パターンの転送を通じて,メタファ型アルゴリズムによるステアリングが動作することを示唆している。
関連論文リスト
- Transformer See, Transformer Do: Copying as an Intermediate Step in Learning Analogical Reasoning [2.1424510747711314]
メタラーニング(Meta-Learning for compositionality, MLC)を用いて, 類似推論タスクでトランスフォーマーを訓練する。
我々は,最も情報に富む問題要素にモデルを導く際に,文字文字列の類推が学習可能となることを発見した。
私たちの3層エンコーダデコーダモデルは、ほとんどのフロンティアモデルより優れています。
論文 参考訳(メタデータ) (2026-04-07T22:15:56Z) - Executable Ontologies in Game Development: From Algorithmic Control to Semantic World Modeling [51.56484100374058]
我々は,実行可能オントロジー(EO)が,アルゴリズム行動プログラミングからセマンティックワールドモデリングへ移行したことを論じる。
本稿では,EOが明示的なプリエンプションロジックではなく,データフロー条件によるタスク割り込みを優先的に行う方法を示す。
論文 参考訳(メタデータ) (2026-01-12T19:57:35Z) - Weights to Code: Extracting Interpretable Algorithms from the Discrete Transformer [65.38883376379812]
本稿では,連続表現と離散記号論理のギャップを埋めるアーキテクチャである離散変換器を提案する。
実証的には、Discrete TransformerはRNNベースのベースラインに匹敵するパフォーマンスを達成するだけでなく、連続的な変数ドメインへの解釈可能性を大幅に拡張する。
論文 参考訳(メタデータ) (2026-01-09T12:49:41Z) - Taming Imperfect Process Verifiers: A Sampling Perspective on Backtracking [54.43083499412643]
言語モデルの生成能力をプロセス検証器と組み合わせたテストタイムアルゴリズムは、新しい推論能力を引き出すための有望なレバーを提供する。
提案手法は, 理論的に根拠付きバックトラックを用いて, 検証誤差に対して, 確実な堅牢性を実現するための新しいプロセス誘導型テスト時間サンプリングアルゴリズムであるVGBを導入する。
論文 参考訳(メタデータ) (2025-10-03T16:21:14Z) - Tracr-Injection: Distilling Algorithms into Pre-trained Language Models [2.532202013576547]
本稿では, RASP で書かれたアルゴリズムを事前学習した言語モデルに直接蒸留する方法である tracr-injection を提案する。
提案手法はモデル残差ストリーム内の解釈可能な部分空間をどうやって生成するかを示し, RASP アルゴリズムに存在する変数に復号化することができる。
論文 参考訳(メタデータ) (2025-05-15T21:43:51Z) - Learning Task Representations from In-Context Learning [67.66042137487287]
大規模言語モデル(LLM)は、文脈内学習(ICL)において顕著な習熟性を示した。
ICLプロンプトにおけるタスク情報をアテンションヘッドの関数として符号化するための自動定式化を導入する。
提案手法は,テキスト中の実演からタスク固有の情報を抽出し,テキストと回帰タスクの両方で優れる。
論文 参考訳(メタデータ) (2025-02-08T00:16:44Z) - Unified Generative and Discriminative Training for Multi-modal Large Language Models [88.84491005030316]
生成的トレーニングにより、視覚言語モデル(VLM)は様々な複雑なタスクに取り組むことができる。
CLIPのようなモデルで実証された差別的トレーニングは、ゼロショットイメージテキストの分類と検索に優れています。
本稿では,両パラダイムの強みを統合する統一的アプローチを提案する。
論文 参考訳(メタデータ) (2024-11-01T01:51:31Z) - PSSAT: A Perturbed Semantic Structure Awareness Transferring Method for
Perturbation-Robust Slot Filling [27.602336774468]
既存のスロットフィリングモデルの多くは、トレーニングデータからエンティティとそれに対応するコンテキストの固有のパターンを記憶する傾向がある。
本稿では,摂動-ロバストスロット充填モデルの訓練のための意味認識構造伝達法を提案する。
論文 参考訳(メタデータ) (2022-08-24T13:01:00Z) - AutoProtoNet: Interpretability for Prototypical Networks [0.0]
プロトタイプネットワークに解釈可能性を構築するAutoProtoNetを導入する。
この埋め込み空間のポイントをどのように視覚化し、クラス表現を理解するために利用するかを示す。
また,ヒトが不適切な分類パラメータをデバッグできるプロトタイプの改良手法も考案した。
論文 参考訳(メタデータ) (2022-04-02T19:42:03Z) - Transductive Learning for Unsupervised Text Style Transfer [60.65782243927698]
教師なしスタイル転送モデルは、主に帰納的学習アプローチに基づいている。
本稿では,検索に基づく文脈認識スタイルの表現に基づく新しいトランスダクティブ学習手法を提案する。
論文 参考訳(メタデータ) (2021-09-16T08:57:20Z) - On Contrastive Representations of Stochastic Processes [53.21653429290478]
プロセスの表現を学習することは、機械学習の新たな問題である。
本手法は,周期関数,3次元オブジェクト,動的プロセスの表現の学習に有効であることを示す。
論文 参考訳(メタデータ) (2021-06-18T11:00:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。