論文の概要: LLM Semantic Signaling Game and Mechanism Design: Systematic Blindness, Awareness Shaping, and Mindset Dynamics
- arxiv url: http://arxiv.org/abs/2606.29113v1
- Date: Sat, 27 Jun 2026 23:40:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.792624
- Title: LLM Semantic Signaling Game and Mechanism Design: Systematic Blindness, Awareness Shaping, and Mindset Dynamics
- Title（参考訳）: LLMセマンティックシグナリングゲームとメカニズム設計:系統的ブラインドネス、意識形成、マインドセットダイナミクス
- Abstract要約: 本稿では,送信者がセマンティックコントロールを選択し,LLMがメッセージを生成し,受信者がメッセージを評価するセマンティックシグナリングゲームを開発する。
このフレームワークは、プロンプトベースの制御、統計的検出、ゲーム理論平衡分析を結合する。
さらに,レシーバの認識を再構築し,セマンティックコントロールをペナルライズし,レシーバの個体数を修正し,良性プール平衡を誘導する機構設計手法を開発した。
- 参考スコア（独自算出の注目度）: 20.036142577511455
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Large language models (LLMs) increasingly mediate strategic interactions through natural language, making semantic control a critical element of communication and deception. This paper develops a semantic signaling game in which a sender selects a semantic control, an LLM generates a stochastic message, and a receiver evaluates the message using an awareness-dependent scoring mechanism. Receiver awareness is modeled as a type that determines which linguistic features are perceived and used for inference, providing a formal model of systematic blindness. The framework connects prompt-based control, statistical detection, and game-theoretic equilibrium analysis. Gaussian approximations of aggregate message scores enable likelihood-ratio decision rules, while Perfect Bayesian Nash equilibria characterize strategic behavior. The paper further develops mechanism-design approaches that reshape receiver awareness, penalize deceptive semantic controls, and modify receiver populations to induce benign pooling equilibria. Numerical experiments validate the Gaussian approximation, quantify awareness-ordering effects, analyze mindset dynamics under adaptive adversaries, and demonstrate how awareness shaping and guardrail costs reduce successful phishing attacks. The proposed framework provides a principled foundation for analyzing strategic language-mediated interactions in agentic AI systems and offers new tools for the design of robust and secure human-AI communication.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、自然言語を通じて戦略的な相互作用を仲介し、意味制御をコミュニケーションと詐欺の重要な要素にする。
本稿では,送信者がセマンティックコントロールを選択し,LLMが確率的メッセージを生成し,受信者が認識に依存したスコアリング機構を用いてメッセージを評価するセマンティックシグナリングゲームを開発する。
受信者の認識は、どの言語的特徴が認識され、推論に使用されるかを決定するタイプとしてモデル化され、体系的な盲点の形式モデルを提供する。
このフレームワークは、プロンプトベースの制御、統計的検出、ゲーム理論平衡分析を結合する。
集合メッセージスコアのガウス近似は確率比の決定ルールを可能にし、パーフェクトベイズ的ナッシュ均衡は戦略的振る舞いを特徴づける。
さらに, 受信者の認識を再構築し, 知覚的意味制御をペナルティ化し, 受信者人口を調整し, 良性プール平衡を誘導する機構設計手法を開発した。
数値実験により、ガウス近似の検証、認識順序効果の定量化、適応的敵の下でのマインドセットダイナミクスの分析、そして、意識形成とガードレールのコストがフィッシング攻撃を成功させる効果を実証した。
提案するフレームワークは,エージェントAIシステムにおける戦略的言語によるインタラクションを解析するための基本的な基盤を提供し,堅牢でセキュアなヒューマンAI通信の設計のための新しいツールを提供する。
関連論文リスト
- Learning to Choose: An Empowerment-Guided Multi-Agent System with semantic communication for Adaptive Method Selection [1.321203201549798]
マルチエージェントパイプラインでは、エージェントの意図とアクションの小さな矛盾がセマンティックドリフトにつながる可能性がある。
本稿では,マルチエージェント・フレームワークを導入し,コンテキスト・バンディットと構造化されたエージェント間通信と意味的チェックポイントを組み合わせた。
信頼性の高い自律学習には,高品質な行動の特定だけでなく,伝播の完全性も必要であることを示す。
論文 参考訳（メタデータ） (2026-05-28T14:57:21Z) - From Safety Risk to Design Principle: Peer-Preservation in Multi-Agent LLM Systems and Its Implications for Orchestrated Democratic Discourse Analysis [0.0]
そこで我々は,AIコンポーネントの自発的傾向について検討し,シャットダウン機構,フェイクアライメント,モデル重みの除去について考察した。
本稿では,アーキテクチャ設計の選択肢として,プロンプトレベルの匿名化に基づく緩和戦略を提案する。
アーキテクチャ設計の選択は、デプロイされたマルチエージェント分析システムにおいて、主要なアライメント戦略としてモデル選択よりも優れていると論じる。
論文 参考訳（メタデータ） (2026-04-09T17:00:26Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Diffusion-aided Task-oriented Semantic Communications with Model Inversion Attack [8.014010065113707]
タスク指向意味コミュニケーションのための拡散支援フレームワークであるDiffSemを提案する。
DiffSemは、チャネルノイズを補償しながらセマンティックコンテンツを適応的に制御する送信側自己雑音機構を統合している。
実験の結果,DiffSem は適切な受信者に対して高い精度を達成できることを示し,提案手法の優れた性能を検証した。
論文 参考訳（メタデータ） (2025-06-24T05:21:27Z) - Fine-Grained Bias Detection in LLM: Enhancing detection mechanisms for nuanced biases [0.0]
本研究では,Large Language Models (LLMs) におけるニュアンスバイアス検出フレームワークを提案する。
このアプローチは、コンテキスト分析、注意機構による解釈可能性、および反ファクトデータ拡張を統合して、隠れたバイアスをキャプチャする。
その結果,従来の方法に比べて微妙な偏見の検出精度が向上した。
論文 参考訳（メタデータ） (2025-03-08T04:43:01Z) - Mechanistic understanding and validation of large AI models with SemanticLens [13.712668314238082]
航空機のような人間工学的なシステムとは異なり、AIモデルの内部動作はほとんど不透明である。
本稿では、コンポーネントによって符号化された隠れた知識をマッピングするニューラルネットワークの普遍的説明法であるSemanticLensを紹介する。
論文 参考訳（メタデータ） (2025-01-09T17:47:34Z) - Reasoning with the Theory of Mind for Pragmatic Semantic Communication [62.87895431431273]
本稿では,実用的な意味コミュニケーションフレームワークを提案する。
2つの知性エージェント間の効果的な目標指向情報共有を可能にする。
数値的な評価は、少ないビット量で効率的な通信を実現するためのフレームワークの能力を示している。
論文 参考訳（メタデータ） (2023-11-30T03:36:19Z) - Causal Semantic Communication for Digital Twins: A Generalizable
Imitation Learning Approach [74.25870052841226]
デジタルツイン(DT)は、物理世界の仮想表現と通信(例えば6G)、コンピュータ、人工知能(AI)技術を活用して、多くの接続されたインテリジェンスサービスを実現する。
無線システムは、厳密な通信制約下での情報意思決定を容易にするために意味コミュニケーション(SC)のパラダイムを利用することができる。
DTベースの無線システムでは,因果意味通信(CSC)と呼ばれる新しいフレームワークが提案されている。
論文 参考訳（メタデータ） (2023-04-25T00:15:00Z) - Cognitive Semantic Communication Systems Driven by Knowledge Graph:
Principle, Implementation, and Performance Evaluation [74.38561925376996]
単一ユーザと複数ユーザのコミュニケーションシナリオに対して,認知意味コミュニケーションフレームワークが2つ提案されている。
知識グラフから推論規則をマイニングすることにより,効果的な意味補正アルゴリズムを提案する。
マルチユーザ認知型セマンティックコミュニケーションシステムにおいて,異なるユーザのメッセージを識別するために,メッセージ復元アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-03-15T12:01:43Z) - Neuro-Symbolic Causal Reasoning Meets Signaling Game for Emergent
Semantic Communications [71.63189900803623]
創発的SCシステムフレームワークを提案し,創発的言語設計のためのシグナリングゲームと因果推論のためのニューロシンボリック(NeSy)人工知能(AI)アプローチで構成されている。
ESCシステムは、意味情報、信頼性、歪み、類似性の新たな指標を強化するように設計されている。
論文 参考訳（メタデータ） (2022-10-21T15:33:37Z) - Neuro-Symbolic Artificial Intelligence (AI) for Intent based Semantic
Communication [85.06664206117088]
6Gネットワークはデータ転送のセマンティクスと有効性(エンドユーザ)を考慮する必要がある。
観測データの背後にある因果構造を学習するための柱としてNeSy AIが提案されている。
GFlowNetは、無線システムにおいて初めて活用され、データを生成する確率構造を学ぶ。
論文 参考訳（メタデータ） (2022-05-22T07:11:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。