論文の概要: Lost in the Latent Space: How Code Embeddings Represent Functional Intent and Implementation Fidelity
- arxiv url: http://arxiv.org/abs/2610.39519v1
- Date: Thu, 29 Oct 2026 07:17:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 23:32:51.399295
- Title: Lost in the Latent Space: How Code Embeddings Represent Functional Intent and Implementation Fidelity
- Title(参考訳): 遅延空間における損失: コード埋め込みは機能的インテントと実装の忠実さを表現する
- Abstract要約: そこで本研究では,14の最先端コード埋め込みモデルについて,大規模な実証的研究を行った。
我々は3つの相補的な分析を通してそれらの表現行動を評価する。
- 参考スコア(独自算出の注目度): 11.053704862146082
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Code embedding models have become a key building block for many software engineering applications, yet their internal representations remain poorly understood. Existing evaluations tend to focus on downstream task performance, offering limited insight into whether a single embedding can support both functional abstraction and implementation-sensitive analysis. To address this gap, we present a large-scale empirical study of 14 state-of-the-art code embedding models. We evaluate their representational behavior through three complementary analyses: supervised probing for functional abstraction and implementation fidelity, zero-shot retrieval experiments to assess geometric similarity, and controlled perturbation experiments that measure embedding responses to semantics-preserving code transformations. The results reveal a consistent abstraction-fidelity tension: models that better preserve stylistic and structural signals tend to do so at the expense of semantic generalization, while models with similar retrieval performance can nevertheless respond very differently to the same implementation changes. Overall, our findings suggest that a single universal code representation remains out of reach, motivating more representation-aware evaluation, selection, and deployment of code embedding models in software engineering.
- Abstract(参考訳): コード埋め込みモデルは、多くのソフトウェア工学アプリケーションにとって重要なビルディングブロックとなっているが、その内部表現はあまり理解されていない。
既存の評価はダウンストリームタスクのパフォーマンスに重点を置いており、単一の埋め込みが機能的抽象化と実装に敏感な分析の両方をサポートできるかどうかについての限られた洞察を提供する。
このギャップに対処するため、我々は14の最先端のコード埋め込みモデルに関する大規模な実証的研究を行った。
機能的抽象化と実装の忠実性に関する教師付き探索,幾何学的類似性を評価するゼロショット検索実験,セマンティックス保存符号変換に対する埋め込み応答を測定する制御摂動実験の3つの相補的解析により,それらの表現行動を評価する。
構造的信号と構造的信号をよりよく保存するモデルは、意味的な一般化を犠牲にしがちであるが、類似した検索性能を持つモデルは、同じ実装変更に対して非常に異なる応答をすることができる。
全体として、我々の研究結果は、単一の普遍的なコード表現がまだ手の届かないままであり、ソフトウェア工学におけるコード埋め込みモデルのより表現に意識した評価、選択、デプロイを動機付けていることを示唆している。
関連論文リスト
- SpatialClaw: Rethinking Action Interface for Agentic Spatial Reasoning [99.49739831030388]
このインタフェースの設計は,オープンエンド空間推論のためのエージェントのキャパシティをいかに形作るかを検討する。
本研究では,アクションインタフェースとしてコードを採用する空間推論のためのトレーニングフリーフレームワークであるSpatialClawを提案する。
論文 参考訳(メタデータ) (2026-06-11T17:59:36Z) - Decomposing and Steering Functional Metacognition in Large Language Models [7.62618887128252]
大規模言語モデルは機能的メタ認知状態の分解可能な空間を維持していることを示す。
これらの状態は、内部の活性化から線形に退避可能であり、異なる層回りのプロファイルを示す。
この結果から,ベンチマーク性能はタスク能力だけでなく,特定の機能的メタ認知状態の活性化を反映していることが示唆された。
論文 参考訳(メタデータ) (2026-05-09T13:22:47Z) - Fluid Representations in Reasoning Models [91.77876704697779]
本稿では,QwQ-32Bの抽象構造情報処理のメカニズム解析を行う。
その結果、QwQ-32Bは、推論中の行動や概念の内部表現を徐々に改善することがわかった。
論文 参考訳(メタデータ) (2026-02-04T18:34:50Z) - Hierarchical Evaluation of Software Design Capabilities of Large Language Models of Code [7.897548449569687]
大規模言語モデル(LLM)は、ソフトウェアエンジニアリング領域でますます採用されているが、コア設計概念に対する彼らの理解の堅牢性は、まだ不明である。
さまざまなレベルのガイダンスの下で、設計の不十分なソフトウェアフラグメントを生成します。
結合に関する推論は脆く、ノイズの多いオープンエンドのシナリオでパフォーマンスが崩壊する。
Reasoning-Trace分析はこれらの障害モードを確認し、結合のためのテキスト認識的ショートカットと結合のためのより徹底的な(まだ失敗している)分析を明らかにする。
論文 参考訳(メタデータ) (2025-11-25T23:50:00Z) - Understanding Software Engineering Agents: A Study of Thought-Action-Result Trajectories [17.975121612118752]
大規模言語モデル(LLM)ベースのエージェントは、複雑なソフトウェアエンジニアリングタスクを自動化するためにますます採用されている。
本研究は,3種類のLLM系エージェントの思考-反感-反感の軌跡について,大規模な実証的研究を行った。
我々は,数量やトークン消費,反復的な行動系列,思考,行動,結果のセマンティックコヒーレンスといった重要な軌道特性を同定する。
論文 参考訳(メタデータ) (2025-06-23T16:34:52Z) - FFHFlow: Diverse and Uncertainty-Aware Dexterous Grasp Generation via Flow Variational Inference [36.02645364048733]
本稿では,多種多様な頑健なマルチフィンガーグリップを生成するフローベース変分フレームワークFFHFlowを提案する。
流れの可逆性と正確な確率を利用して、FFHFlowは部分的な観測において不確実性を形成する。
また,不確実性を考慮したランキング戦略を定式化することにより,識別的把握評価器をフロー可能性と統合する。
論文 参考訳(メタデータ) (2024-07-21T13:33:08Z) - De-fine: Decomposing and Refining Visual Programs with Auto-Feedback [75.62712247421146]
De-fineは、複雑なタスクを単純なサブタスクに分解し、オートフィードバックを通じてプログラムを洗練する、トレーニング不要のフレームワークである。
様々な視覚的タスクに対する我々の実験は、De-fineがより堅牢なプログラムを生成することを示している。
論文 参考訳(メタデータ) (2023-11-21T06:24:09Z) - Human as Points: Explicit Point-based 3D Human Reconstruction from Single-view RGB Images [71.91424164693422]
我々はHaPと呼ばれる明示的なポイントベース人間再構築フレームワークを導入する。
提案手法は,3次元幾何学空間における完全明示的な点雲推定,操作,生成,洗練が特徴である。
我々の結果は、完全に明示的で幾何学中心のアルゴリズム設計へのパラダイムのロールバックを示すかもしれない。
論文 参考訳(メタデータ) (2023-11-06T05:52:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。