論文の概要: Adversarial robustness does not entail human-aligned categorization
- arxiv url: http://arxiv.org/abs/2611.00715v1
- Date: Sat, 31 Oct 2026 07:18:27 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:17:47.82027
- Title: Adversarial robustness does not entail human-aligned categorization
- Title（参考訳）: 対人ロバスト性は人間による分類を伴わない
- Abstract要約: 敵対的な訓練は、人工視覚と生物学的視覚の間のある種の対応を改善することができる。
我々は,事前学習したGANに対する潜伏入力を最適化し,1,008の論争的な刺激を発生させた。
逆向きに頑健な画像ネット分類器を4つ比較し,60名から2つのカテゴリー判定を行った。
- 参考スコア（独自算出の注目度）: 0.0
- License:
- Abstract: Adversarial training can improve some forms of correspondence between artificial and biological vision, but whether robust classifiers acquire human-aligned classification behavior remains unclear. We generated 1,008 controversial stimuli by optimizing latent inputs to a pretrained GAN to elicit high-confidence disagreements between pairs of robust ImageNet classifiers. We compared four adversarially robust ImageNet classifiers - ResNet-101, ViT-B, ConvNeXt-L, and Swin-L - with two-alternative category judgments from 60 participants. We first evaluated each classifier on stimuli optimized to elicit disagreement with another model. Across classifiers, accuracy in predicting individual participants' single-trial category choices was near chance (48.6-51.3%), whereas majority judgments from other participants predicted responses with 85.0-86.8% accuracy. An analysis incorporating model prediction strength and participants' reported confidence found weak positive model-human correspondence for the two convolutional models. On stimuli optimized for disagreement between other model pairs, all four robust classifiers predicted human responses above chance but less accurately than predictions based on other participants' majority judgments; the same pattern held for 17 additional RobustBench models not used in stimulus generation. Across these 17 models, mean model-participant agreement was 67.3%, versus 81.3% mean participant-participant agreement on the same images. These results identify model-specific failures of human alignment and a model-human mismatch that persists across robust classifiers and substantially exceeds disagreement among human observers. Our findings show that adversarial robustness alone does not guarantee human-aligned categorization and suggest that robustness and human alignment should be evaluated as distinct properties of visual recognition systems.
- Abstract（参考訳）: 敵対的な訓練は、人工的な視覚と生物学的視覚の間のいくつかの形態の対応を改善することができるが、堅牢な分類器が人間の整列した分類行動を取得するかどうかは不明なままである。
我々は,画像ネット分類器間の高信頼不一致を誘発するために,事前学習したGANへの潜伏入力を最適化することにより,1,008の論争的な刺激を発生させた。
我々は,ResNet-101,ViT-B,ConvNeXt-L,Swin-Lの4つの画像ネット分類器を,60名から2つのカテゴリー判定を行った。
我々はまず,他のモデルとの相違を誘発するために最適化された刺激に対する各分類器の評価を行った。
カテゴリー別では、個々の被験者の単一審理カテゴリーの選択を正確に予測する確率は48.6-51.3%に近かったが、他の参加者の多数は85.0-86.8%の精度で回答を予測した。
モデル予測強度と参加者の報告された自信を取り入れた分析では、2つの畳み込みモデルに対する弱い正のモデルと人間の対応が見出された。
他のモデルペア間の不一致に最適化された刺激について、全ての頑健な分類器は、他の参加者の多数判断に基づく予測よりも正確ではなく、人間の反応を予測した。
これら17モデル全体では、モデル参加者合意の平均は67.3%であり、81.3%は参加者参加者合意の平均である。
これらの結果は、人間のアライメントのモデル固有の失敗と、頑健な分類器にまたがって持続し、人間の観察者間での相違を大幅に超えるモデルと人間のミスマッチを識別する。
本研究は, 対人的ロバスト性だけでは人間の協調的分類を保証せず, 頑健性と人的アライメントを視覚認識システムの異なる特性として評価すべきであることを示す。
関連論文リスト
- Bayesian Test-Time Inference of Task-Aligned Similarity from Weak Interactive Feedback [50.42640957891911]
言語モデルシステムは、類似性を比較することで、繰り返しテスト時の決定を行う。
しかし、類似性はユニークではない:語彙、意味、構造、類似性はNの選択点を取得することができる。
本稿では,現在の意思決定を統括するトレーニングフリーベイズ手法であるAxis Interactive Signalsを紹介する。
論文 参考訳（メタデータ） (2026-10-13T16:19:49Z) - IsoVRBench: Video Reward Modeling Without Human Feedback [80.72291973618601]
我々は、残余を固定しながら生成したビデオの1つの特性を変化させる制御介入により、好みのペアを構築する。
現状のモデルでは、ジェネレータ間での幅広い品質差を区別するが、時間的順序などの重要な特徴を欠いていることを示す。
論文 参考訳（メタデータ） (2026-10-12T18:03:36Z) - Does Model Uncertainty Track Human Ambiguity? Evidence from Multi-Annotator Vision Benchmarks [1.253312107729806]
モデルが、人間が困難なと感じているのと同じ事例で苦労しているかどうかを調査する。
3つのアーキテクチャにまたがる8つの事前訓練モデルを評価する。
両次元においてアライメントが弱いことが分かる。
論文 参考訳（メタデータ） (2026-09-28T07:51:31Z) - Human-Level Accuracy, Non-Human Strategies: Revealing Model-Human Divergence in Video Physical Reasoning [6.197711956296909]
ビデオファンデーションモデルは、物理推論のベンチマークで人間レベルの精度に到達した。
これらのモデルは、人間のような前方シミュレーションを実行するのか、あるいは、見える場面で統計正規性を利用するのか?
本研究では,モデル種子とヒトラッカーを集団として扱う分布評価フレームワークを提案する。
論文 参考訳（メタデータ） (2026-09-19T05:39:10Z) - Marginal Fidelity Does Not Establish User Simulation in Demographic Synthetic Survey Panels: Response Contracts, Support Collapse and Conditioning Failure [51.736723807086385]
人口密着協定は、個別のシミュレーションの証拠ではなく、エスカレーション契約の証拠であり、シミュレーションされた回答者なしで得られる推定値である。
9つのアライメントされたモデルバッテリペアでは、非個人個体数のクエリの平均は6.27 MAE対12.39であり、9つの比較すべてで勝利する。
論文 参考訳（メタデータ） (2026-09-07T10:22:22Z) - How Unlikely Is "Unlikely"? Assessing Verbal Probability Perception Across Large Language Models [1.435579512127234]
確立された人間のベンチマークに基づいて,単語から数字へのマッピングタスクを用いて,系統的なクロスモデル評価を行う。
11個の不確実性表現を2つの条件下で19個のモデルに提示した。
モデルは「不可能」や「不可能」のような否定的な表現に対して体系的に上向きの偏見を示す」
論文 参考訳（メタデータ） (2026-08-26T19:00:41Z) - Visual Aesthetic Benchmark: Can Frontier Models Judge Beauty? [59.923111838399144]
本稿では,視覚的審美性ベンチマーク (VAB) を提案する。
VABには400のタスクと1,195のイメージが芸術、写真、イラストに含まれており、ラベルはタスクごとに10人の独立した専門家審査員のコンセンサスから導かれる。
最強のシステムは、人間の専門家が達成した68.9%よりもはるかに低い26.5%のタスクで、候補順の3つのランダムな順で、最良の画像と最悪の画像の両方を正しく識別する。
論文 参考訳（メタデータ） (2026-05-12T19:33:28Z) - Preserving Disagreement: Architectural Heterogeneity and Coherence Validation in Multi-Agent Policy Simulation [0.0]
政策シミュレーションにおいて,大規模言語モデル(LLM)を用いたマルチエージェント検討システムの提案が進んでいる。
評価エージェントは、割り当てられた値の観点に関わらず、同じ選択肢に収束する。
我々は、三段階の審議フレームワークであるAI Councilを提示し、2つの介入をテストするための2つの政策シナリオにわたる120の審議を行う。
論文 参考訳（メタデータ） (2026-04-29T11:47:28Z) - Counting Like Human: Anthropoid Crowd Counting on Modeling the
Similarity of Objects [92.80955339180119]
メインストリームの群衆計数法は 密度マップを補強して 計数結果を得るために統合する。
これに触発された我々は,合理的かつ人為的な集団カウントフレームワークを提案する。
論文 参考訳（メタデータ） (2022-12-02T07:00:53Z) - Adaptive Verifiable Training Using Pairwise Class Similarity [17.89932271240133]
検証可能なトレーニングは、特定のノイズに対して確実に堅牢なニューラルネットワークの作成に成功しています。
しかしながら、単一のロバスト性基準を強制するにも関わらず、そのパフォーマンスはデータセットの複雑さに乏しい。
クラス間の類似性を利用して検証可能なトレーニングのパフォーマンスを向上させる新しいアプローチを提案します。
論文 参考訳（メタデータ） (2020-12-14T19:10:30Z) - From Sound Representation to Model Robustness [82.21746840893658]
本研究では, 環境音の標準的な表現(スペクトログラム)が, 被害者の残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。
3つの環境音響データセットの様々な実験から、ResNet-18モデルは、他のディープラーニングアーキテクチャよりも優れていることがわかった。
論文 参考訳（メタデータ） (2020-07-27T17:30:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。