論文の概要: Auditing Representation-Space Fraud Detection: A Bayesian IRL Framework for Calibrated Uncertainty and Its Limits

• arxiv url: http://arxiv.org/abs/2611.02673v1
• Date: Mon, 02 Nov 2026 07:27:52 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 20:11:18.592167
• Title: Auditing Representation-Space Fraud Detection: A Bayesian IRL Framework for Calibrated Uncertainty and Its Limits
• Title（参考訳）: 表現空間フラッド検出の監査:不確かさの校正のためのベイズIRLフレームワークとその限界
• Abstract要約: ユーザプロファイルの変換に不変な表現に基づいて構築された検出器が、その不変条件下での有機プロファイルと区別できない攻撃に対して、チャンスを上回ることを証明している。 MovieLens-1M (0.48-0.51)では性能が低下し、Amazon Musical Instrumentsでは部分的に劣化し、CiaoDVDでは低下した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Shilling detectors for recommender systems are almost always evaluated by one number, detection AUROC, with no account of when it can be trusted. We audit representation-space detection with VEIL (Variational Evaluation via Inverse-reinforcement Learning), a pairwise (Bradley-Terry) Bayesian reward-inference framework over frozen encoder embeddings, following the Bayesian auditing paradigm for LLM alignment [1]: (A) a base posterior; (B) a hierarchical ARD extension with learned confidence; and (C) a label-routed organic/attacker mixture used as an evidence-accumulation check.We prove (Proposition 1) that no detector built on a representation invariant to a transformation of user profiles can outperform chance against an attack that is indistinguishable from organic profiles under that invariance.Detection is near-perfect against synthetic-structure attacks (AUROC 0.936-1.000) but collapses under donor-mimicry, which clones a real user's item set and splices in 1-3 target items. Performance falls to chance on MovieLens-1M (0.48-0.51), partially degrades on Amazon Musical Instruments, and degrades least on CiaoDVD.Donor-mimicry is not undetectable: a non-learned baseline, based on each profile's maximum raw item-set Jaccard similarity to any other profile, reaches AUROC 0.92-0.97 (average precision 0.50-0.57) on all four donor-mimicry configurations, including ML-1M, where every embedding-based score is at chance.The signal is present in the raw profiles, but LightGCN's representation discards it, placing injected profiles closer to their true donor than its zero-propagation MF reduction does (distance 1.98 vs. 3.09). Severity varies by dataset, encoder, and detection method, with no single axis predicting the others. The limit lies in the representation, not the attack, and raw-similarity checks are a necessary complement to any learned detector.
• Abstract（参考訳）: レコメンデータシステムのシリング検出器は、ほぼ常に1つの番号で評価され、AUROCはいつ信頼できるかは説明できない。 VEIL (inverse-reinforcement Learning) による表現空間検出, ペアワイズ (Bradley-Terry) ベイジアン報酬推論フレームワーク (Bayesian reward-inference framework over frozen encoder embeddings, following the Bayesian auditing paradigm for LLM alignment [1]: (A) a base rear; (B) a hierarchical ARD extension with a learned confidence; and (C) a label-routed organic/ attacker mix used as a evidence-accumulation check。 MovieLens-1M (0.48-0.51)ではパフォーマンスが低下し、Amazon Musical Instrumentsでは部分的に劣化するが、CiaoDVDでは劣化しない。各プロファイルの最大の生アイテムセットであるJaccardをベースとした非学習ベースラインがAUROC 0.92-0.97 (平均精度0.50-0.57)に到達する。 重大度はデータセット、エンコーダ、検出方法によって異なり、他のものを予測する単一の軸は存在しない。 この制限は攻撃ではなく表現の中にあり、生の類似性チェックは学習された検出器にとって必須の補完である。

関連論文リスト

• Auditing Routing Entropy as an Uncertainty Signal in Attention-Residual Transformers [14.727396825167917]
  We audit that reading for routing entropy in Attention-Residual (AR)variants of Swin-Tiny and DeiT-Small。 我々は、このトレースが、モデル自身の自信が明らかにしている以上の正確性に関する情報を持っているかどうかを問う。
  論文  参考訳（メタデータ） (2026-10-01T11:37:19Z)
• From Routing Signals to Selective Review: Visual regrounding in MoE VLMs [48.07726955428853]
  視覚言語モデル(VLM)は偽の視覚的前提を受け入れ、対象の物体の色、数、位置、状態について疑問に答える。 本稿では,Mixture-of-Experts (MoE)VLMにおける内部ルーティング決定を活用するための最初のフレームワークを提案する。 提案手法は,MoE VLMによってすでに作成されており,低コストな検出と選択的な視覚的リグラウンドを支援することができる。
  論文  参考訳（メタデータ） (2026-09-29T17:49:07Z)
• What the Detector Can See: Evaluating CPS Anomaly Detectors Independently of the Decision Rule [6.145872664954402]
  異常検知器は、しばしばサイバー物理システムの最後の防御線である。 これらの検出器は通常、単一の動作点における精度、リコール、F1を用いて比較される。 我々は、CPS異常検出器を2段階のパイプラインとして扱う:ステージ1は残差に観測をマッピングし、ステージ2は残差をアラームにマッピングする。 我々は,3つのCPSベンチマーク(SWaT,WADI,HAI)の5つの検出器を評価した。
  論文  参考訳（メタデータ） (2026-08-03T19:35:00Z)
• Level, Sharpness, and Corpus: Why Zero-Shot OOD Detector Rankings Do Not Transfer [36.02174685737611]
  各検出器は、少なくとも1つのドメインで80%$ FPR95 を超え、所望の検出器は、分配データと基礎となる VLM の両方に依存する。 本稿では, ベース検出器, レベル, シャープネスの非補償融合により, 補完的証拠を保存する検出器非依存ラッパーであるComplementary Evidence Guard(CEG)を紹介する。
  論文  参考訳（メタデータ） (2026-07-29T08:00:49Z)
• The Distributed Detectability Band Against Marginal-Preserving Attacks [0.0]
  AIコントロールは、個々のエージェントアクションをスコアし、誤った振る舞いを検出する。 本当の害は、多くの良心的なステップに分散することができ、各ステップ毎のアラームよりそれぞれ低い。 我々は、限界保存、相関符号化された分散サボタージュ攻撃を構築する。
  論文  参考訳（メタデータ） (2026-06-09T06:04:30Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• GAMBIT: A Three-Mode Benchmark for Adversarial Robustness in Multi-Agent LLM Collectives [48.545980031973556]
  GAMBITは、インポスタ検出器を評価するための3つの評価モードと2つの独立したスコアを持つベンチマークである。 ベンチマークには、240の共進化型インポスタ戦略にまたがる27,804のラベル付きインスタンスのデータセットが付属している。
  論文  参考訳（メタデータ） (2026-05-09T16:07:23Z)
• VeriX-Anon: A Multi-Layered Framework for Mathematically Verifiable Outsourced Target-Driven Data Anonymization [0.0]
  VeriX-Anonは、オープンソースのターゲット駆動k匿名化のための多層検証フレームワークである。 認証決定木のメルクル式ハッシュによる決定論的検証、ランダムフォレスト決定境界付近の境界センチネルによる確率的検証、および暗号識別子による正確な重複性ツインズの組み合わせである。 12のシナリオのうち11の偏差を正しく検出した。
  論文  参考訳（メタデータ） (2026-04-14T08:22:18Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)
• Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
  機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。 本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:05:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。