論文の概要: Policy Frameworks for Transparent Chain-of-Thought Reasoning in Large Language Models

• arxiv url: http://arxiv.org/abs/2503.14521v1
• Date: Fri, 14 Mar 2025 19:54:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-20 17:45:40.778024
• Title: Policy Frameworks for Transparent Chain-of-Thought Reasoning in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける透過的連鎖推論のための政策枠組み
• Authors: Yihang Chen, Haikang Deng, Kaiqiao Han, Qingyue Zhao,
• Abstract要約: CoT(Chain-of-Thought)推論は、複雑な問題をステップバイステップのソリューションに分解することで、大きな言語モデル(LLM)を強化する。 現在のCoT開示ポリシは、可視性、APIアクセス、価格戦略など、さまざまなモデルで大きく異なり、統一されたポリシフレームワークが欠如している。 学術,ビジネス,一般ユーザ向けにCoTの可用性を調整し,透明性,説明責任,セキュリティのバランスをとるタイレッドアクセスポリシフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 1.0088912103548195
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chain-of-Thought (CoT) reasoning enhances large language models (LLMs) by decomposing complex problems into step-by-step solutions, improving performance on reasoning tasks. However, current CoT disclosure policies vary widely across different models in frontend visibility, API access, and pricing strategies, lacking a unified policy framework. This paper analyzes the dual-edged implications of full CoT disclosure: while it empowers small-model distillation, fosters trust, and enables error diagnosis, it also risks violating intellectual property, enabling misuse, and incurring operational costs. We propose a tiered-access policy framework that balances transparency, accountability, and security by tailoring CoT availability to academic, business, and general users through ethical licensing, structured reasoning outputs, and cross-tier safeguards. By harmonizing accessibility with ethical and operational considerations, this framework aims to advance responsible AI deployment while mitigating risks of misuse or misinterpretation.
• Abstract（参考訳）: CoT(Chain-of-Thought)推論は、複雑な問題をステップバイステップのソリューションに分解し、推論タスクのパフォーマンスを改善することで、大きな言語モデル(LLM)を強化する。 しかしながら、現在のCoT開示ポリシは、フロントエンドの可視性、APIアクセス、価格戦略において、統一されたポリシーフレームワークが欠如しているさまざまなモデルで大きく異なります。 本論文は,CoTの完全開示の両面的意味を分析し,小規模モデルの蒸留を推進し,信頼性を高め,誤り診断を可能にする一方で,知的財産を侵害し,誤用を防止し,運用コストを発生させるリスクも負う。 我々は,CoTを学術的,ビジネス的,一般ユーザに対して,倫理的ライセンス,構造化推論出力,クロス層セーフガードを通じて適合させることで,透明性,説明責任,セキュリティのバランスをとるためのタイレッドアクセスポリシフレームワークを提案する。 このフレームワークは、アクセシビリティを倫理的および運用上の考慮と調和させることにより、誤用や誤解釈のリスクを軽減しつつ、責任あるAIデプロイメントを促進することを目的としている。

関連論文リスト

• Co-CoT: A Prompt-Based Framework for Collaborative Chain-of-Thought Reasoning [0.0]
  我々は,人間中心の説明可能性の向上とAI利用の責任を負うInteractive Chain-of-Thought(CoT)フレームワークを提案する。 このフレームワークは推論を、ユーザが検査、修正、再実行できる明確に定義されたブロックに分解する。 倫理的透明性は、明確なメタデータ開示、組み込みバイアスチェックポイント機能、プライバシ保護による保護を通じて保証される。
  論文  参考訳（メタデータ） (2025-04-23T20:48:09Z)
• Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [60.881609323604685]
  ブラックボックスAPIを通じてアクセスされるLarge Language Models (LLM)は、信頼の課題をもたらす。 ユーザーは、宣伝されたモデル機能に基づいたサービスの料金を支払う。 プロバイダは、運用コストを削減するために、特定のモデルを安価で低品質の代替品に隠蔽的に置き換えることができる。 この透明性の欠如は、公正性を損なうとともに、信頼を損なうとともに、信頼性の高いベンチマークを複雑にする。
  論文  参考訳（メタデータ） (2025-04-07T03:57:41Z)
• Regulating Ai In Financial Services: Legal Frameworks And Compliance Challenges [0.0]
  金融サービスにおける人工知能(AI)規制の進展状況について考察する。 不正検出からアルゴリズム取引まで、AI駆動のプロセスがいかに効率性を高め、重大なリスクをもたらすかを強調している。 この研究は、欧州連合、米国、英国などの主要な司法管轄区域における規制のアプローチを比較している。
  論文  参考訳（メタデータ） (2025-03-17T14:29:09Z)
• Semantic Integrity Constraints: Declarative Guardrails for AI-Augmented Data Processing Systems [39.23499993745249]
  セマンティック・インテリティ・制約(SIC)を導入し、AI拡張データ処理システム内の意味演算子を制御・最適化する。 SICはリレーショナルモデルにシームレスに統合され、ユーザーは制約の共通クラスを指定できる。 我々の研究は、信頼できる高性能なAIデータ処理のための基盤となるフレームワークとしてSICを確立している。
  論文  参考訳（メタデータ） (2025-03-01T19:59:25Z)
• Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
  Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。 RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。 RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
  論文  参考訳（メタデータ） (2025-02-08T06:50:47Z)
• Deliberative Alignment: Reasoning Enables Safer Language Models [64.60765108418062]
  モデルセーフティ仕様を教える新しいパラダイムであるDeliberative Alignmentを紹介します。 このアプローチを使ってOpenAIのoシリーズモデルを整列させ、人書きのチェーンや回答を必要とせず、OpenAIの安全ポリシーに極めて正確な順守を実現しました。
  論文  参考訳（メタデータ） (2024-12-20T21:00:11Z)
• Ethical and Scalable Automation: A Governance and Compliance Framework for Business Applications [0.0]
  本稿では、AIが倫理的で、制御可能で、実行可能で、望ましいものであることを保証するフレームワークを紹介する。 異なるケーススタディは、学術と実践の両方の環境でAIを統合することで、このフレームワークを検証する。
  論文  参考訳（メタデータ） (2024-09-25T12:39:28Z)
• TRACE: TRansformer-based Attribution using Contrastive Embeddings in LLMs [50.259001311894295]
  TRACE と呼ばれるコントラスト埋め込みを用いた新しいTRansformer-based Attribution フレームワークを提案する。 TRACEは情報源の属性を精度良く改善し,大規模言語モデルの信頼性と信頼性を高める貴重なツールであることを示す。
  論文  参考訳（メタデータ） (2024-07-06T07:19:30Z)
• Investigating the Role of Instruction Variety and Task Difficulty in Robotic Manipulation Tasks [50.75902473813379]
  本研究は、そのようなモデルの一般化能力における命令と入力の役割を体系的に検証する包括的評価フレームワークを導入する。 提案フレームワークは,極度の命令摂動に対するマルチモーダルモデルのレジリエンスと,観測的変化に対する脆弱性を明らかにする。
  論文  参考訳（メタデータ） (2024-07-04T14:36:49Z)
• Coordinated Flaw Disclosure for AI: Beyond Security Vulnerabilities [1.3225694028747144]
  本稿では,機械学習(ML)問題の複雑度に合わせたコーディネート・フレーバー開示フレームワークを提案する。 本フレームワークは,拡張モデルカード,ダイナミックスコープ拡張,独立適応パネル,自動検証プロセスなどのイノベーションを導入している。 CFDはAIシステムに対する公的な信頼を著しく向上させる可能性があると我々は主張する。
  論文  参考訳（メタデータ） (2024-02-10T20:39:04Z)
• Data Poisoning for In-context Learning [49.77204165250528]
  In-context Learning (ICL)は、新しいタスクに適応する革新的な能力として認識されている。 本論文は、ICLのデータ中毒に対する感受性の重大な問題について述べる。 ICLの学習メカニズムを活用するために考案された特殊攻撃フレームワークであるICLPoisonを紹介する。
  論文  参考訳（メタデータ） (2024-02-03T14:20:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。