論文の概要: Adversarial Concept Search: Predicting Compositional Errors From Feature Geometry

• arxiv url: http://arxiv.org/abs/2606.13934v1
• Date: Thu, 11 Jun 2026 21:52:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.66259
• Title: Adversarial Concept Search: Predicting Compositional Errors From Feature Geometry
• Title（参考訳）: 敵対的概念探索:特徴幾何学による構成誤差の予測
• Authors: Jennifer Meng Lu, Ruochen Zhang, Isabelle Lee, David Alvarez-Melis, Ellie Pavlick, Naomi Saphra,
• Abstract要約: LLMの表現幾何学を用いて、どの概念の組み合わせが失敗するかを予測する。 この構成的失敗は、健全な特徴間の干渉によるものとみなす。 本手法は,特定の入力を評価せずに,異なる構成タスクの障害モードを確実に予測する。
• 参考スコア（独自算出の注目度）: 28.170533505954563
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Humans cannot always intuit what scenarios are most challenging to LLMs. Hoping to capture challenging edge cases, developers either design problems to be difficult for humans or curate extensive benchmarks. What if we could instead anticipate which scenarios a model will fail on? In this paper, we use an LLM's representational geometry to predict which concept combinations it will fail on. We attribute this compositional failure to interference between salient features. In tasks that require systematic composition - toy programmatic settings, multihop reasoning, multilingual factual recall - we find that when a pair of concepts is encoded near-orthogonally, the model reliably composes them. When their linear encodings are close, producing interference, the model fails to compose them. Our method reliably anticipates failure modes across different compositional tasks, without evaluating specific inputs. These results lay the groundwork to use representational geometry to identify high-risk examples, construct targeted stress tests, and provide a scalable foundation for active learning in real-world deployment.
• Abstract（参考訳）: 人間は LLM にとって最も困難なシナリオを常に調べることはできない。 難しいエッジケースをキャプチャするために、開発者は人間にとって難しい問題を設計するか、広範囲のベンチマークをキュレートする。 モデルが失敗するシナリオを予測できたらどうでしょう? 本稿では,LLMの表現幾何学を用いて,どの組み合わせがフェールするかを予測する。 この構成的失敗は、健全な特徴間の干渉によるものとみなす。 体系的な構成を必要とするタスク – おもちゃのプログラム的設定,マルチホップ推論,マルチリンガルな事実リコール – において,概念のペアがほぼ直交的にエンコードされている場合,モデルはそれらを確実に構成する。 線形符号化が近接して干渉が発生すると、モデルはそれらを構成するのに失敗する。 本手法は,特定の入力を評価せずに,異なる構成タスクの障害モードを確実に予測する。 これらの結果は、表現幾何学を用いてハイリスクな例を特定し、目標とするストレステストを構築し、実世界の展開において能動的学習のためのスケーラブルな基盤を提供するための基礎となる。

関連論文リスト

• Analysis of Optimality of Large Language Models on Planning Problems [12.31072556856411]
  共振強化型Large Language Model (LLM) プランナーは理論的最適性限界をほぼ完全精度で追跡する。 また、意味論的先行から真の位相的推論を分離するために、公式な等価タスクである一般化されたパススター(P*$)グラフについても検討する。
  論文  参考訳（メタデータ） (2026-04-03T09:27:16Z)
• TangramPuzzle: Evaluating Multimodal Large Language Models with Compositional Spatial Reasoning [104.66714520975837]
  古典的タングラムゲームのレンズを通して構成空間推論を評価するために,幾何グラウンドのベンチマークを導入する。 本稿では,タングラム集合を正確に機械で検証可能な座標仕様でグルーピングする記号幾何学的枠組みであるタングラム構成式(TCE)を提案する。 MLLMは、幾何学的制約を無視しながら、ターゲットのシルエットとのマッチングを優先する傾向がある。
  論文  参考訳（メタデータ） (2026-01-23T07:35:05Z)
• Frontier LLMs Still Struggle with Simple Reasoning Tasks [53.497499123166804]
  この研究は、フロンティア言語モデルの性能を、幅広い「容易」推論問題に対して研究する。 計算,一階述語論理,証明木,旅行計画など,手続き的に生成された単純な推論タスクのスイートを作成します。 最先端の思考モデルでさえ、このような問題や同様の理由で一貫して失敗することを示します。
  論文  参考訳（メタデータ） (2025-07-09T22:22:49Z)
• Promises and Pitfalls of Generative Masked Language Modeling: Theoretical Framework and Practical Guidelines [74.42485647685272]
  GMLM(Generative Masked Language Models)に焦点を当てる。 我々は,マルコフ連鎖の入力として使用されるマスキングにより,データ分布の条件付き確率に適合するモデルを訓練し,モデルからサンプルを抽出する。 我々は,T5モデルを並列デコーディングに適応させ,最小品質の犠牲を伴って機械翻訳における2～3倍の高速化を実現した。
  論文  参考訳（メタデータ） (2024-07-22T18:00:00Z)
• Visual SLAM with Graph-Cut Optimized Multi-Plane Reconstruction [11.215334675788952]
  本稿では,インスタンス平面セグメンテーションネットワークからのキューを用いたポーズ推定とマッピングを改善する意味平面SLAMシステムを提案する。 メインストリームのアプローチはRGB-Dセンサーを使用するが、そのようなシステムを備えた単眼カメラを使うことは、ロバストデータアソシエーションや正確な幾何モデルフィッティングといった課題に直面している。
  論文  参考訳（メタデータ） (2021-08-09T18:16:08Z)
• Simulated Adversarial Testing of Face Recognition Models [53.10078734154151]
  本稿では,シミュレータを用いて機械学習アルゴリズムの検証方法を学ぶためのフレームワークを提案する。 実データでトレーニングされたモデルの弱点が、シミュレーションサンプルを使って発見できることを示すのはこれが初めてである。
  論文  参考訳（メタデータ） (2021-06-08T17:58:10Z)
• Warp Consistency for Unsupervised Learning of Dense Correspondences [116.56251250853488]
  密接な対応を学習する上で重要な課題は、実画像対に対する地道整合の欠如である。 密な対応回帰のための教師なし学習目標であるWarp Consistencyを提案する。 私たちのアプローチは、MegaDepth、RobotCar、TSSなど、いくつかの挑戦的なベンチマークに新しい最先端を設定します。
  論文  参考訳（メタデータ） (2021-04-07T17:58:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。