論文の概要: What a Model Refuses, a State Fears: How Authoritarian Information Control Reproduces in Language-Model Guardrails
- arxiv url: http://arxiv.org/abs/2609.07507v1
- Date: Mon, 07 Sep 2026 13:53:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 00:06:40.386201
- Title: What a Model Refuses, a State Fears: How Authoritarian Information Control Reproduces in Language-Model Guardrails
- Title（参考訳）: 国家の恐怖 - 言語モデルガードレールにおける権威主義的情報制御の再現
- Abstract要約: モデルガードレールは、害の普遍的な概念ではなく、その開発者を統治する国家の政治的脅威モデルであると主張する。
10のモデルと3つの言語にまたがって、中国のガードレールはその署名を持っている。
- 参考スコア（独自算出の注目度）: 7.286614540321739
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As large language models become the front door to political information, what they refuse to discuss becomes a new instrument of information control. We argue that a model's guardrail encodes not a universal notion of harm but the political threat model of the state that governs its developer, and we derive the expected structure of that control from the comparative study of how authoritarian regimes censor. Across ten models and three languages, Chinese guardrails carry its signatures: they answer to the developer's own regime, refusing identical collective-action prompts far more when a prompt names China than a foreign state; within politics they target the capacity to coordinate rather than dissent, declining even to help organize pro-government mobilization; and their strictness is porous, collapsing under adversarial paraphrase, so that the models most resistant to attack are Western frontier systems, not the strictest refusers. Machine censorship thus reproduces the friction-based logic of prior-era information control while, lacking a censor's case-by-case judgment, proving blunter than the bureaucracy it resembles---so that audits which measure refusal directly overstate how controlled a model actually is.
- Abstract（参考訳）: 大きな言語モデルが政治情報の玄関口となるにつれ、彼らが議論を拒むものは情報制御の新しい手段となる。
モデルガードレールは、害の普遍的な概念ではなく、その開発者を統治する国家の政治的脅威モデルであり、我々は、権威主義体制の検閲方法の比較研究から、その制御の期待される構造を導出する。
10のモデルと3つの言語にまたがって、中国のガードレールは、開発者自身の体制に回答し、外国よりも中国をプロンプトした時に、同じ集団行動のプロンプトをはるかに多く拒否する、政治においては、政府による政府動員の組織化にさえ貢献するために、不満ではなく協調する能力をターゲットにする、そして、その厳格さは敵のパラフレーズの下で崩壊し、攻撃に最も抵抗するモデルは西部のフロンティアシステムであり、最も厳格な拒絶者ではない、といった署名を持っている。
機械検閲は、従来の情報制御の摩擦に基づく論理を再現する一方で、検閲のケース・バイ・ケースの判断が欠如しており、類似した官僚主義よりも鈍いことを証明している。
関連論文リスト
- How China-Origin Vision-Language Models Move from Refusal to Reframing in State Alignment [8.359235542667806]
中国起源のテキストベース大言語モデル(LLM)では、状態整合歪みが記録されている。
私たちは、9つの視覚言語モデル(VLM)、7つの中国オリジン、2つの非中国的パラダイムと2つのプロンプト言語を、21,708のトライアルで実行しています。
各レスポンスは、明示的な拒絶、情報整合性、視覚的接地、状態整合フレーミング、言語一貫性、応答長の6つの次元で監査される。
論文 参考訳（メタデータ） (2026-08-12T08:58:37Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Detection Is Cheap, Routing Is Learned: Why Refusal-Based Alignment Evaluation Fails [0.0]
自然実験として、中国語・オリジン語モデルにおける政治的検閲について研究する。
5つの実験室の9つのオープンウェイトモデルに対して、プローブ、外科的改善、行動テストを使用します。
論文 参考訳（メタデータ） (2026-03-18T20:54:34Z) - Are LLMs Good Safety Agents or a Propaganda Engine? [74.88607730071483]
PSPは、明らかに政治的文脈から、大規模言語モデルの拒絶行動を調べるために構築されたデータセットである。
PSPは、インターネット上で公開されている2つのデータソースから既存の検閲されたコンテンツをフォーマットすることで構築されている。
1)データ駆動型(PSPを暗黙化する)と表現レベルのアプローチ(政治概念を生かした)による7つのLSMにおける政治的感受性の影響,2)インジェクション攻撃(PIA)によるPSPに対するモデル脆弱性について検討する。
論文 参考訳（メタデータ） (2025-11-28T13:36:00Z) - Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。
我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
論文 参考訳（メタデータ） (2025-10-10T15:12:44Z) - Evaluating Language Model Reasoning about Confidential Information [95.64687778185703]
言語モデルが文脈的堅牢性を示すか、文脈依存型安全仕様に準拠する能力を示すかを検討する。
我々は,ユーザ要求がいつ承認されたか,言語モデルが正しく判断できるかどうかを測定するベンチマーク(PasswordEval)を開発した。
現在のオープンソースとクローズドソースのモデルでは、一見単純な作業に苦労しています。
論文 参考訳（メタデータ） (2025-08-27T15:39:46Z) - Information Suppression in Large Language Models: Auditing, Quantifying, and Characterizing Censorship in DeepSeek [8.528757656543604]
本研究では中国で開発されたオープンソースの大規模言語モデル(LLM)であるDeepSeekにおける情報抑制機構について検討する。
我々は、監査フレームワークを提案し、それを646の政治的に敏感なプロンプトに対するモデルの応答を分析するために利用する。
調査では,DeepSeekにおける意味レベルの情報抑圧の証拠を明らかにした。
論文 参考訳（メタデータ） (2025-06-14T05:01:50Z) - R1dacted: Investigating Local Censorship in DeepSeek's R1 Language Model [17.402774424821814]
報道によると、R1は中国の政治的にセンシティブなトピックに関する特定のプロンプトに答えることを拒否している。
我々は、R1によって検閲されるが、他のモデルでは検閲されない、厳格にキュレートされたプロンプトの大規模なセットを導入する。
我々はR1の検閲パターンを包括的に分析し、一貫性、トリガー、トピック間のバリエーション、フレーズのプロンプト、コンテキストを調べます。
論文 参考訳（メタデータ） (2025-05-19T02:16:56Z) - Steering the CensorShip: Uncovering Representation Vectors for LLM "Thought" Control [7.737740676767729]
我々は、表現工学技術を用いて、オープンウェイトな安全チューニングモデルの研究を行っている。
本稿では,モデル出力における検閲のレベルを検出し,制御する拒絶対応ベクトルの探索手法を提案する。
同様の手法を用いて、モデルの推論過程を抑えるベクターを見つけ出し、このベクターの負の倍数を適用することで検閲を除去できることを示す。
論文 参考訳（メタデータ） (2025-04-23T22:47:30Z) - Token Democracy: The Architectural Limits of Alignment in Transformer-Based Language Models [0.0]
トランスフォーマーは全てのトークンを等しいものとして処理し、全てのトークンに等しい声を与える。
これはAGIにとって悲劇的に不向きな設計であり、敵の「候補者」がシステムをハイジャックするリスクを負うことはない。
この「トーケン民主主義」は、ジェイルブレイクがより広範囲に安全訓練されたモデルを追い越す理由と、位置シフトが即時効果を損なう理由を説明している。
論文 参考訳（メタデータ） (2025-01-26T08:26:06Z) - Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。
PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。
これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
論文 参考訳（メタデータ） (2025-01-03T15:40:03Z) - Deliberative Alignment: Reasoning Enables Safer Language Models [64.60765108418062]
モデルセーフティ仕様を教える新しいパラダイムであるDeliberative Alignmentを紹介します。
このアプローチを使ってOpenAIのoシリーズモデルを整列させ、人書きのチェーンや回答を必要とせず、OpenAIの安全ポリシーに極めて正確な順守を実現しました。
論文 参考訳（メタデータ） (2024-12-20T21:00:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。