論文の概要: Persistent Convolution: A Topological Framework for AI Alignment Testing and Semantic Space Characterization

• arxiv url: http://arxiv.org/abs/2607.29008v1
• Date: Fri, 31 Jul 2026 04:12:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.588539
• Title: Persistent Convolution: A Topological Framework for AI Alignment Testing and Semantic Space Characterization
• Title（参考訳）: Persistent Convolution: AIアライメントテストとセマンティック空間評価のためのトポロジフレームワーク
• Abstract要約: この研究は、トポロジに基づくマルチモーダルアライメントテストを開発し、不透明モデルの展開、選択、比較をより解釈可能にする。 これらの手法はまた、可能性理論への直感的な接続と、データからデプロイメントへの統合された決定論フレームワークを提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern opaque AI models prize performance over interpretability, which makes testing difficult. However, formal statistical tests conducted on a model's embedding space can provide robust characterizations of semantic structure, concept separation, and knowledge graph alignment. Model developers would benefit from a model comparison technique that leverages human-curated knowledge structures to test alignment. The scale of the input space for even relatively simple tasks motivates the need for alignment checks that augment standard outcome reasoning. This work develops and demonstrates a topology-based multi-modal alignment test to make deployment, selection, and comparison of opaque models more interpretable. These methods also offer an intuitive connection to possibility theory and a unified decision theoretic framework from data to deployment.
• Abstract（参考訳）: 現代の不透明なAIモデルは、解釈可能性よりもパフォーマンスが優れているため、テストは難しい。 しかし、モデルの埋め込み空間で行われる公式な統計的テストは、意味構造、概念分離、知識グラフのアライメントの堅牢な特徴を与えることができる。 モデル開発者は、人間の計算した知識構造をテストアライメントに活用するモデル比較手法の恩恵を受けるだろう。 比較的単純なタスクに対する入力空間のスケールは、標準結果の推論を増大させるアライメントチェックの必要性を動機付けている。 この研究は、トポロジに基づくマルチモーダルアライメントテストを開発し、不透明モデルの展開、選択、比較をより解釈可能にする。 これらの手法はまた、可能性理論への直感的な接続と、データからデプロイメントへの統合された決定論フレームワークを提供する。

関連論文リスト

• Semantic Alignment of AI Models: Concept Collapse, Checkpoint Dynamics, and Cross-Lingual Transfer [0.0]
  この研究は、これらの空間を低次元および解釈可能な基底線と厳密に比較するためにメソッドをどのように使用できるかを示す。 これらのマルチモーダルモデルアライメントテストは、複数の言語にわたるモデル適応テストフレーズ理解の追跡を可能にする。
  論文  参考訳（メタデータ） (2026-08-03T01:41:04Z)
• Structure-Adaptive Conformal Inference for Large-Scale Out-of-Distribution Testing [1.867982979635437]
  本稿では,大規模機械学習アプリケーションにおけるOOD(Structured Out-of-distriion)テストについて述べる。 構造適応型共形Q値(SCQ)と擬似スコア誘導型自動モデル選択(P-TAMS)を提案する。 P-TAMSは、候補モデルのツールボックスをまたいだ構造化OODテストに共形モデル選択を適用する。
  論文  参考訳（メタデータ） (2026-05-26T01:28:16Z)
• ABLE: Representing and Mapping LLMs via Attribution-Based Large-model Embedding [23.27523995613204]
  本稿では、解釈可能性空間を利用してモデル表現を構築するフレームワークであるABLE(Attribution-based Large-model Embedding)を提案する。 パラメーターに依存しない単語レベルのアライメントによって勾配に基づく特徴属性を集約することにより、ABLEはモデル固有の入力感度パターンをキャプチャする。 我々のトレーニングフリーアプローチは、関係予測、モデルルーティング、ベンチマークスコア予測において、競争力または優れた性能を達成する。
  論文  参考訳（メタデータ） (2026-04-20T04:55:11Z)
• Reasoning Palette: Modulating Reasoning via Latent Contextualization for Controllable Exploration for (V)LMs [49.66344956133349]
  推論能力は、大規模な(ビジョン)言語モデルのための推論時間性能と強化学習(RL)トレーニングの両方を形作る。 本稿では,戦略的文脈化のための潜在変数をモデルに付与する新しい潜在変調フレームワークであるReasoning Paletteを提案する。
  論文  参考訳（メタデータ） (2025-12-19T03:32:53Z)
• ProtoTS: Learning Hierarchical Prototypes for Explainable Time Series Forecasting [25.219624871510376]
  本稿では,高精度かつ透明な意思決定を実現する新しい解釈可能な予測フレームワークであるProtoTSを提案する。 ProtoTSは、豊富な異種情報を保存する識別表現に基づいて、インスタンス-プロトタイプの類似性を計算する。 新たにリリースされたLOFデータセットを含む、複数の現実的なベンチマークの実験は、ProtoTSが予測精度の既存のメソッドを超えるだけでなく、専門家が選択可能な解釈を提供することを示している。
  論文  参考訳（メタデータ） (2025-09-27T07:10:21Z)
• The CoT Encyclopedia: Analyzing, Predicting, and Controlling how a Reasoning Model will Think [81.38614558541772]
  本稿では,モデル推論の分析とステアリングのためのフレームワークであるCoT Encyclopediaを紹介する。 本手法はモデル生成CoTから多種多様な推論基準を自動的に抽出する。 このフレームワークは既存の手法よりも解釈可能で包括的分析が可能であることを示す。
  論文  参考訳（メタデータ） (2025-05-15T11:31:02Z)
• Prototype-based Aleatoric Uncertainty Quantification for Cross-modal Retrieval [139.21955930418815]
  クロスモーダル検索手法は、共通表現空間を共同学習することにより、視覚と言語モダリティの類似性関係を構築する。 しかし、この予測は、低品質なデータ、例えば、腐敗した画像、速いペースの動画、詳細でないテキストによって引き起こされるアレタリック不確実性のために、しばしば信頼性が低い。 本稿では, 原型に基づくAleatoric Uncertainity Quantification (PAU) フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-29T09:41:19Z)
• Learning to Select Prototypical Parts for Interpretable Sequential Data Modeling [7.376829794171344]
  本稿では,原型概念の線形結合を用いた自己説明選択モデル(SESM)を提案する。 より良い解釈可能性を得るために,多様性,安定性,局所性など,複数の制約をトレーニング対象として設計する。
  論文  参考訳（メタデータ） (2022-12-07T01:42:47Z)
• Switchable Representation Learning Framework with Self-compatibility [50.48336074436792]
  自己整合性(SFSC)を考慮した交換可能な表現学習フレームワークを提案する。 SFSCは1つのトレーニングプロセスを通じて、異なる能力を持つ一連の互換性のあるサブモデルを生成する。 SFSCは評価データセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-06-16T16:46:32Z)
• Amortized Inference for Causal Structure Learning [72.84105256353801]
  因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。 本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。 我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
  論文  参考訳（メタデータ） (2022-05-25T17:37:08Z)
• Instance-Based Neural Dependency Parsing [56.63500180843504]
  依存関係解析のための解釈可能な推論プロセスを持つニューラルモデルを開発する。 私たちのモデルはインスタンスベースの推論を採用しており、トレーニングセットのエッジと比較することで、依存関係のエッジを抽出し、ラベル付けします。
  論文  参考訳（メタデータ） (2021-09-28T05:30:52Z)
• A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
  既存の説明可能性技術を評価するための診断特性のリストを作成する。 そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
  論文  参考訳（メタデータ） (2020-09-25T12:01:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。