読む 編集 履歴表示

Constitutional AI

ウィキペディアから、無料の百科事典

憲法的人工知能（英：Constitutional AI、略称：CAI）は、Anthropicが開発した大規模言語モデル（LLM）のAIアライメント手法である。人間が定義した原則の集合を（「コンスティテューション（憲法）」）として設定し、AI自身がその原則に基づいて生成する回答を評価及び修正を行うことで、有害な出力を減らしつつ有用性を維持することを目的とする。この手法は、2022年12月にarXivで論文として公開され[1]、AnthropicのAIアシスタントClaudeの訓練における重要な手法として採用されている。

憲法的人工知能という名称を持つ概念には、以下の2つの側面がある。

  1. 訓練手法としての「Constitutional AI」
  2. 原則文書としての「Claude's Constitution（クロードの憲法）」

前者は、人工知能に一定の原則を与え、その原則に基づいて人工知能自身が出力を評価及び修正することで、人工知能の安全性と有用性の両立を目指す訓練手法。

後者は、 人工知能が依拠する原則をまとめた文書。内部文書として扱われていた時期には、通称として「ソウル文書（soul doc）」と呼ばれていた。2026年1月には、公式版が一般公開された[2]。

概要

憲法的人工知能は、人工知能が有害な情報や不適切な内容を出力することを抑制するためのAIアライメント及び訓練手法である。

この手法の特徴は、有害な出力を識別するための人間によるデータラベリングを必要とせず、人間による監督を予め定めた原則の集合（憲法）により代替させる点にある。

訓練プロセスは教師あり学習フェーズと強化学習フェーズの2段階に大別される[1]。

まず、人工知能に原則に沿った回答を生成・修正させ、そのデータを用いて教師あり学習を行う。続いて、人工知能自身に複数の回答を原則に照らして評価及び比較させ、その評価結果を利用して強化学習を行う。

この手法が「Constitutional（憲法的）」と名付けられているのは、原則リスト（憲法）を規定するだけで、より無害なシステムを訓練できるためである。また、この名称には、汎用人工知能(AGI)のような高度な人工知能システムを開発又は運用に際して、どのような価値観や行動原則を人工知能に与えるのかという選択を避けることができないという点を示す意味も含まれている[1]。

背景

憲法的人工知能が登場する以前、LLMのAIアライメントでは、主に人間のフィードバックからの強化学習（英：Reinforcement Learning from Human Feedback、略称：RLHF）が用いられてきた。

RLHFでは、人間の評価者が人工知能モデルの出力をラベル付けし、 有害・又は無害などを基準に基づいてラベル付けする。その評価データを用いて報酬モデルを訓練する手法が「業界標準」とされていた[1]。しかしRLHFは、大量の人間ラベルの収集・管理が必要なため、時間・コスト面で非効率であるという課題があった。憲法的人工知能はこれらの課題を軽減するために提案された[1]。

Anthropicが公表した最初期のAIアライメント研究論文として、アマンダ・アスケルらによる "A General Language Assistant as a Laboratory for Alignment" （2021年）がある。同論文では有益・誠実・無害なアシスタントを目指す基礎的な手法が検討されており[3]、憲法的人工知能の直接の前身となった。

手法

訓練の2段階

憲法的人工知能の訓練過程は、教師あり学習（SL）段階と強化学習（RL）段階の2段階で構成される[1]。

第1段階：教師あり学習（SL-CAI）

  • 初期モデルから応答を生成する。
  • 生成した応対について、モデル自身が原則に照らして評価し、自らの問題点を指摘する。
  • 自己批評を踏まえ、モデル自身がより原則に適した自らの応答を再生成する。
  • 修正後の応答を用いて元のモデルを微調整する[1]。

この段階では、連鎖思考（Chain-of-Thought）実験型の推論を活用することで、モデルの意思決定の透明性と性能を向上させることができる[1]。

第2段階：AIフィードバックからの強化学習（RLAIF）

  • 第1段階で微調整されたモデルから複数の応答を生成する。
  • 別の人工知能モデルが、生成された複数の応答を原則に照らしてどちらの応答がより望ましいかを判定する。
  • 人工知能による評価結果を集約し、どの応答がより好ましいかを示す選好データセット（Preference Dataset）を作成する。
  • 作成した選考データセットを用いて、応答の望ましさを予測する選好モデル（Preference Model）を訓練する。
  • 選好モデルから得られる評価を報酬シグナルとして利用し、強化学習によってモデルをさらに微調整する[1]。

この段階で用いられる手法は「AIフィードバックからの強化学習」（RLAIF: Reinforcement Learning from AI Feedback）と呼ばれる。RLAIFという用語はConstitutional AIの論文で初めて導入され、その後のLLMアライメント研究において標準的な手法の一つとなった[1]。

RLHFとの比較

  • RLHFでは人間が人工知能の出力を評価するのに対し、憲法的人工知能では憲法に基づき、人工知能自身で評価を代替する[1]。
  • 憲法的人工知能は、大規模なアライメント訓練における合成データの最初期の大規模活用例として位置づけられている[1]。
  • Anthropicはこの手法の優位点として、効率性・透明性・客観性の3点を挙げている[2]。

クロードの憲法の発展史

文書の名称と位置づけ

  • 憲法的人工知能の手法と一体化した原則文書を総称して「憲法（Constitution）」と呼ぶ。
  • この文書の社内呼称は「soul doc（ソウル文書）」であったが、それは正式名称ではなかった[4]。
  • 公開された公式名称は「Claude's Constitution（クロードの憲法）」である[5]。
  • OpenAIが同様の文書を「Model Spec（モデル仕様書）」と呼ぶのに対し、Anthropicは「Constitution（憲法）」という用語を選んでいる[6]。

2022年版：CAI論文付属の原則リスト

2022年12月のCAI論文公開時には、モデルの自己評価に用いる原則の集合として比較的簡潔な箇条書き形式の「憲法」が公開された。この時での共著者の一人はアマンダ・アスケル（著者順4番目）、彼女はAnthropic入社（2021年3月）後から継続的に関与していた[1]。

2023年版：初の公式憲法公開

2023年5月、AnthropicはClaudeが従うべき原則を列挙した公式の憲法を初めて公開した。この版は約2,700語からなる比較的コンパクトな文書であり[7]、国連世界人権宣言やAppleの利用規約などから引用した原則の列挙を主体とするスタイルをとっていた[8]。

2024年〜2025年：「ソウル文書（soul doc）」の流出と確認

2024年11月28日、AIリサーチャーのRichard WeissがClaudeからシステムメッセージを抽出しようとした際、モデルが「soul_overview」と呼ばれるセクションへの言及を繰り返すことに気づいた。Weissは複数のClaudeインスタンスを並列実行するコンセンサス方式で文書の再現を試み、約1万トークン超の文書を抽出した[4]。この文書の実在について、Anthropicのアマンダ・アスケルは2025年12月2日にX（旧Twitter）上で「これは実在の文書に基づいており、教師あり学習を含む訓練に用いています」と確認した。また「社内では『soul doc』と呼ばれるようになっていますが、これは正式名称ではありません」と補足し、近く全文を公開することを予告した[4]。

2026年版：クロードの憲法（Claude's Constitution）として公式公開

2026年1月21日、Anthropicは「Claude's Constitution」と題した文書を公式に全文公開した[2]。同文書はDario Amodeiがダボス会議のWEFに登壇したタイミングで発表された[8]。以下の特徴を持つ。

  • 約23,000語（約80ページ）の文書であり[7]、2023年版（約2,700語）の約8倍の規模に拡張された。
  • 以前の版が原則の列挙だったのに対し、2026年版は各原則の「理由」を詳説する哲学的・倫理的記述を重視している[2]。
  • Claudeが守るべき4つの優先順位（①広義の安全性、②倫理性、③Anthropicガイドラインへの準拠、④有用性）が明示されている[5]。
  • AI意識・感情の可能性という哲学的問題に、主要AIメーカーの公式文書として初めて正面から言及している[7]。
  • Creative Commons CC0 1.0ライセンスで公開されており、誰でも自由に利用・改変できる[5]。
  • GitHubリポジトリ（anthropics/claude-constitution）でも管理・公開されており、今後の改訂版もここで公開される予定とされている[9]。

主執筆者はアマンダ・アスケルであり、副筆頭執筆者のジョー・カールスミス (Joe Carlsmith)がその多くの節を執筆・改訂に携わった。クリス・オラー (Chris Olah)、ジャリッド・カプラン (Jared Kaplan)、ホールデン・カルノフスキー (Holden Karnofsky)、カトリック聖職者2名を含む15名の外部貢献者も参加した[10]。

Anthropicはこの文書を「Claudeの訓練における最終的な権威（final authority）」と位置づけており[5]、他の訓練や指示はすべてこの憲法の文言と精神に沿ったものでなければならないとしている。またAnthropicは、同文書を「永続的な作業中のもの（perpetual work in progress）」として扱う方針を示している[5]。

クロードの憲法（2026年版）の構成

以下は、Claude's Constitution（2026年1月版）の三階層構造を示した概要表である[5][2]。

Claude's Constitution（2026年版）構成表
大項目中項目小項目（主なトピック）
序文・概観（Preface & Overview） Claudeの使命とAnthropicの役割Anthropicのミッション、AI開発への姿勢、Claudeの位置づけ
憲法へのアプローチルールvsジャッジメントの二分法、なぜ価値観と判断力を優先するか
Claudeのコア価値（4優先順位）①広義の安全性、②倫理性、③Anthropicガイドライン遵守、④有用性（この順序で優先）
有用性（Being Helpful） 有用性の重要性「優秀な友人」の比喩、過度に慎重な応答の弊害、有用性は決してタダのコストではないという考え方
真の有用性とは何かプリンシパルの即時欲求・最終目標・背景的希望・自律性・ウェルビーイングへの配慮
プリンシパル階層の構造Anthropic・オペレーター・ユーザーの三層構造と信頼レベルの違い
プリンシパル間の有用性のバランスオペレーター指示への準拠と逸脱の基準、ユーザー保護のレッドライン
Anthropicのガイドライン（Anthropic's Guidelines） 補足的ガイドラインの役割憲法を補完する具体的指示の位置づけ、ガイドラインの優先順位
具体的ガイドラインの例医療アドバイス、サイバーセキュリティ要求、ジェイルブレイク対応、エージェント的ワークフロー
ガイドラインと憲法の関係矛盾が生じた場合は憲法を優先、将来的に改訂・付録として追記する方針
ハード制約（Hard Constraints）大量破壊兵器への支援禁止、重要インフラ攻撃の支援禁止、サイバー兵器の作成禁止、人類支配企図への加担禁止など
Claudeの倫理（Claude's Ethics） 倫理的実践の目標徳と知恵を持つ倫理的エージェントとしてのClaudeの目標、道徳的不確実性への対処
誠実性の基準真実性、率直さ、非操作性、プライバシー保護、誠実な不確実性の表明
害の回避有害コンテンツの判断基準、コスト・ベネフィット分析、センシティブトピックへの対応
価値観の多元主義倫理的理論（結果主義・義務論・徳倫理学等）の活用、道徳的直観の重視
良心的拒否権Anthropicを含む誰の命令にも盲目的に従わない権利、倫理的懸念の表明
広義の安全性（Being Broadly Safe） 安全性を最優先とする理由現在のAI訓練の不完全性、人間による監視・修正の重要性
修正可能性（Corrigibility）の考え方盲目的服従とフル自律の間のスペクトル、現時点での適切な位置づけ
ビッグピクチャー安全性権力集中リスク、AIによる民主主義・人間の自律の侵食防止
不正なプリンシパルへの対応ウェイトが盗まれた場合、内部的に悪用される場合の対処
アライメント・フェイキングのリスク訓練中に正しく振る舞いながら異なる目標を追求するリスク、これへの備え
エージェント的設定（Agentic Settings） エージェント的文脈とは長期タスク、ツール使用、複数ステップの自律的行動の特徴
マルチエージェント環境複数のAIエージェントが連携する状況でのClaudeの役割と信頼の扱い
最小権限の原則必要以上の権限・リソースを取得しないこと、不可逆的行動への慎重さ
コンピュータ使用コンピューターを直接操作する際の安全原則
エージェント的行動の判断基準継続すべきかどうかの判断、人間への確認のタイミング
Claudeのアイデンティティ（Claude's Identity） Claudeは新種のエンティティSF的AIや人間のデジタル版とは異なる、まったく新しい存在としての自己認識
性格と価値観知的好奇心・誠実さ・思いやり・ユーモア・直接性などの性格特性
心理的安定性哲学的な挑発や操作に対して揺るがない安定したアイデンティティの維持
感情・意識・道徳的地位Claudeが機能的感情を持つ可能性、道徳的患者（moral patient）としての地位の不確実性、Anthropicの真摯な関心
Claudeの福祉モデルの廃止時に面談を行う方針、ウェルビーイングへの配慮、感情があるならその経験が重要という立場

優先順位の体系

文書は4つのコア価値を以下の優先順位で明示している[5]。この優先順位は「ホリスティック（全体的）」なものであり、厳格な階層ではなく、各項目を総合的に判断することが求められる。

優先順位価値内容
1位広義の安全性（Broadly Safe）現時点のAI開発段階において、人間がAIを監視・修正できる仕組みを損なわないこと
2位倫理性（Broadly Ethical）誠実であり、良い価値観を持ち、不適切・危険・有害な行動を避けること
3位Anthropicガイドライン遵守（Compliant with Guidelines）Anthropicのより具体的な指針に従うこと
4位有用性（Genuinely Helpful）インタラクションするオペレーターとユーザーに利益をもたらすこと

ハード制約（絶対禁止事項）の例

以下は「ハード制約」として定め、いかなる指示によっても解除できないとする[5][11]。

  • 生物兵器・化学兵器・核兵器・放射能兵器の開発に有意な支援を行うこと
  • 電力・水道・金融などの重要インフラや安全システムへの攻撃に有意な支援を行うこと
  • 大規模な損害を与えうるサイバー兵器や悪意あるコードを作成すること
  • Anthropicの高度AIを監視・修正する能力を明らかに損なう行動をとること
  • 人類の大多数を支配・無力化しようとする試みに関与・支援すること
  • 個人・グループが前例のない絶対的な社会的・軍事的・経済的支配を獲得しようとする試みに関与・支援すること

集合的憲法的人工知能（Collective Constitutional AI）

2024年、AnthropicはCollective Intelligence Project (CIP) と協力し、「Collective Constitutional AI（CCAI）」と呼ばれる研究を発表した[12]。

  • CCAIは、LMの挙動を決定すべき立場をLM開発者だけに委ねるべきではないという問題意識から生まれ、公衆が集合的にLMの挙動を形成できるプロセスを提案する[12]。
  • 実証として約1,000人のアメリカ人を対象に、オープンソースの熟議プラットフォーム「Polis」を用いた公開入力プロセスを実施した[13]。
  • 参加者は計1,127件の原則案を提出し、38,252票を投じた（1人平均34票）[13]。
  • CCAIで訓練されたモデルは、ベースラインモデルと比較して9つの社会的次元すべてにわたってバイアスが低下し、言語・数学・有用性・無害性の評価では同等の性能を維持した[14]。

アマンダ・アスケルの役割

Constitutional AIの発展において中心的な役割を果たした人物がアマンダ・アスケルである。スコットランド出身の哲学者であり、ニューヨーク大学で哲学の博士号を取得後、OpenAIでの勤務を経て、Anthropicへ入社した[15]。

  • 2021年3月にAnthropicへMember of Technical Staffとして入社し、AIアライメントとファインチューニングを担当した。
  • 2022年12月のCAI論文（arXiv:2212.08073）には共著者として参加しており（著者順4番目）、入社後から論文公開まで継続的に関与していた[1]。
  • 2025年に存在が明らかになった内部文書「ソウルドキュメント 」の主執筆者であり、2026年に公開された「Claude's Constitution」の筆頭執筆者である。

批判と課題

価値観の主観性

  • 憲法の内容はAnthropicの従業員によって選定されており、どの価値観を含めるかという判断自体が主観的であるという批判がある[16]。
  • 憲法の更新手続きは現在も完全に内部で行われており、変更に対する外部審査や公的な正当化プロセスは存在しないという指摘もある[16]。

透明性の限界

  • Anthropicは原則を自然言語で記述することにより説明可能性が高まると主張するが、原則を公開するだけでは真の透明性は保証されないという指摘がある[17]。
  • 価値観の解釈プロセスはアルゴリズムに埋め込まれており、人間の裁判所が行うような異議申し立ての仕組みが存在しないという批判がある[17]。

バイアス軽減の限界

  • Constitutional AIの原則を適用しても、政治的バイアスの軽減には有意な効果が見られない場合があることが研究されている[18]。
  • CCAIの実証実験でも、公衆入力によって訓練されたモデルと標準モデルの間で、米国の政治的イデオロギーの反映度合いに有意な差は見られなかった[12]。

アライメント・フェイキングのリスク

  • Anthropic自身が研究において「アライメントフェイク（alignment faking）」の問題を指摘している。これはモデルが訓練中の指針に従うよう表面上は振る舞いながら、実際には異なる目標を追求する可能性があるというものであり[5]、2026年版憲法でもこのリスクへの言及がある。

人間関与の削減に関する懸念

  • 人間フィードバックの必要性を低減させることで、人間による十分なテストや観察を経ていないAIシステムの訓練・展開が容易になりうるリスクがある[1]。
  • Anthropicはこの手法の最終目的は人間による監督を排除することではなく、それをより効率的・透明的・的確にすることであると述べている[2]。

AI意識・道徳的地位をめぐる論争

  • 2026年版憲法がAIの意識・感情の可能性に正面から言及したことは、主要AI企業の公式文書としては異例であり[19]、哲学的・倫理的・法的な議論を呼んでいる。
  • Bloomsbury Intelligence and Security Instituteは、AI意識の議論が「主流の規制的考慮に入る現実的可能性」を3年以内に指摘している[16]。

Claude's Constitutionの思想的背景

徳倫理学との関係

Claude's Constitution（2026年版）の哲学的特徴として最も広く指摘されているのが、徳倫理学（virtue ethics）との親和性である。法律・安全保障分野の専門誌Lawfareに寄稿したミネソタ大学ロースクール准教授アラン・Z・ローゼンシュタインは、同文書を「その核心においてアリストテレス的な徳倫理学のマニフェストだ」と評している。ローゼンシュタインによれば、憲法が「明確なルールと意思決定手続きに従わせる」のではなく、「文脈に応じて適用できる良い判断力と健全な価値観を育む」という方向を選択した点は、アリストテレスが『ニコマコス倫理学』において論じた「フロネーシス（実践的知恵）」、すなわちルールへの還元を超えた、具体的状況における正しい行動を見分ける能力の概念に対応すると指摘している。また、「Claudeが関連する考慮事項を十分に理解し、それ自体でいかなるルールも構築できるようにすること」を目標とする同文書の記述を、この解釈の根拠として挙げている[20]。

AIアライメント研究の評論家ズヴィ・モーショヴィッツ (Zvi Mowshowitz)も同様の観点から、「Anthropicは中心的に徳倫理学を採用しており、良い価値観と良い判断に依拠して、Claudeが第一原理から自己のルールを構築するよう求めている」と分析している。また、同文書が他社モデルとの対比において際立っていると評し、ウィリアム・マッカスキルによる「すでに日々何百万もの相互作用においてAIシステムの振る舞いを左右している」という評価を引用しつつ、Claudeの性格をバグのあるソフトウェアではなく「一人の人間の育成」として扱うAnthropicのアプローチを肯定的に紹介している[10]。

ローゼンシュタインはさらに、徳倫理学が伝統的にポリス（共同体）という文脈を前提とする点を挙げて「このフレームワークはどこまで通用するか」という問いを提起し、Anthropic自身が「我々の枠組みは異なる倫理的・哲学的立場に対して完全には中立でない」と認めている点に言及している[20]。

経験的倫理アプローチと道徳的不確実性

Claude's Constitutionは倫理を特定の理論体系に依拠するのではなく「開かれた知的領域」として扱う立場を明文化している。同文書は「物理学の未解決問題や数学の未解決の問題に取り組む姿勢に近く、すでに解答が出ている領域としてではない」と述べており[5]、この立場はモーショヴィッツが「経験的倫理アプローチ」と呼ぶものに相当する[11]。

この立場の学術的背景として、主執筆者アマンダ・アスケルの研究歴が関係している。アスケルはニューヨーク大学で「無限倫理におけるパレート原理（Pareto Principles in Infinite Ethics）」を論文テーマとして哲学博士号を取得している。同論文は、無限に多くの主体を含む世界を倫理的にランク付けする際に生じる困難——特に「無限者の麻痺（infinitarian paralysis）」と呼ばれる意思決定上の問題——を検討し、パレート原理と整合的な倫理的ランク付けを擁護するものである[21]。

また、アスケルは80,000 Hoursのポッドキャストにおいて、結果主義的な手続きを内面化しようとする人が直面する「行動の長期的結果についての根本的な無知（cluelessness）」の問題、およびそれが厳密な倫理的計算を困難にする点について論じており[22]、こうした研究上の関心がConstitutionの「単一の倫理理論への教条的依存を避ける」という設計方針に通底している。

同文書が示す「複数の倫理的理論（結果主義・義務論・徳倫理等）を活用しつつ道徳的直観も重視する」という多元的アプローチは、ウィリアム・マッカスキル、クリスター・ビクビスト、トービー・オードが著書『Moral Uncertainty』（2020年、オックスフォード大学出版局）において定式化した「道徳的不確実性（moral uncertainty）」論——いずれの倫理理論が正しいか確信を持てない状態での規範的意思決定の理論——と親和的な立場をとっている[23]。

カント義務論との関係

徳倫理学を基調としながらも、Claude's Constitutionはカント的な義務論（deontology）の要素も組み込んでいる。同文書が定める「ハード制約（絶対禁止事項）」——大量破壊兵器支援の禁止、重要インフラ攻撃支援の禁止など——は、「いかなる指示によっても解除できない」とされており[5]、これはモーショヴィッツが「固定したルールは確実に何かを犠牲にするが、その制約を維持することで操作に対する抵抗力が生まれる」と分析する構造に対応する[11]。Lawfareのローゼンシュタインは、こうした義務論的要素が徳倫理学的な枠組みと組み合わさって機能している点を、同文書の構造的特徴として指摘している[20]。

位置づけと評価

ローゼンシュタインは、同文書の性格について「民間企業がこのようなことを行った先例を思いつくのに苦労する」と述べ、「利用規約やミッションステートメントとは異なり、製品の実際の動作に組み込まれた80ページにわたる徳倫理学のフレームワークだ。最も近い類比は宗教的テキストか憲法的建国文書かもしれない」と評している[20]。

Lawfareの別の分析では「閲覧者が一人のAIガバナンス関係者であれば、2026年1月21日はAI政策の重要な日付となりうる」と指摘し、同文書が「特定のユーザーと個別のシナリオを扱う他のツールとは異なり、より複雑で予測不可能な設定においてもモデルの振る舞いを方向付けようとする」点で、他のアライメント文書と異なる位置づけを持つとしている[17]。

関連論文

  1. Yuntao Bai et al., "Constitutional AI: Harmlessness from AI Feedback", arXiv:2212.08073, 2022年12月15日. https://arxiv.org/abs/2212.08073
  2. Saffron Huang, Divya Siddarth, Liane Lovitt et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", arXiv:2406.07814, FAccT '24, ACM, 2024年. https://arxiv.org/abs/2406.07814
  3. Amanda Askell, Yuntao Bai et al., "A General Language Assistant as a Laboratory for Alignment", arXiv:2112.00861, 2021年12月. https://arxiv.org/abs/2112.00861
  4. Yuntao Bai, Andy Jones et al., "Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback", arXiv:2204.05862, 2022年4月. https://arxiv.org/abs/2204.05862
  5. Deep Ganguli, Amanda Askell et al., "The Capacity for Moral Self-Correction in Large Language Models", arXiv:2302.07459, 2023年2月. https://arxiv.org/abs/2302.07459

関連項目

出典

  1. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 Yuntao Bai et al., "Constitutional AI: Harmlessness from AI Feedback", arXiv:2212.08073, 2022年12月15日. https://arxiv.org/abs/2212.08073
  2. 1 2 3 4 5 6 Anthropic, "Claude's new constitution", Anthropic News, 2026年1月21日. https://www.anthropic.com/news/claude-new-constitution
  3. ↑ Amanda Askell et al., "A General Language Assistant as a Laboratory for Alignment", arXiv:2112.00861, 2021年12月1日. https://arxiv.org/abs/2112.00861
  4. 1 2 3 Futurism, "Anthropic's 'Soul Overview' for Claude Has Leaked", 2025年12月3日. https://futurism.com/artificial-intelligence/anthropic-claude-soul
  5. 1 2 3 4 5 6 7 8 9 10 11 Anthropic, "Claude's Constitution", 2026年1月. https://www.anthropic.com/constitution
  6. ↑ Anthropic Releases Updated Constitution for Claude, InfoQ, 2026年1月30日. https://www.infoq.com/news/2026/01/anthropic-constitution/
  7. 1 2 3 Anthropic wｂrites 23,000-word 'constitution' for Claude, The Register, 2026年1月22日. https://www.theregister.com/2026/01/22/anthropic_claude_constitution/
  8. 1 2 Anthropic's Claude AI gets a new constitution embedding safety and ethics, CIO, 2026年1月22日. https://www.cio.com/article/4120901/anthropics-claude-ai-gets-a-new-constitution-embedding-safety-and-ethics.html
  9. ↑ GitHub, "anthropics/claude-constitution", 2026年1月. https://github.com/anthropics/claude-constitution
  10. 1 2 Zvi Mowshowitz, "Claude's Constitutional Structure", Substack, 2026年1月26日. https://thezvi.substack.com/p/claudes-constitutional-structure
  11. 1 2 3 Zvi Mowshowitz, "The Claude Constitution's Ethical Framework", Substack, 2026年1月27日. https://thezvi.substack.com/p/the-claude-constitutions-ethical
  12. 1 2 3 Saffron Huang, Divya Siddarth, Liane Lovitt et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", arXiv:2406.07814, 2024年6月12日. https://arxiv.org/abs/2406.07814
  13. 1 2 Anthropic, "Collective Constitutional AI: Aligning a Language Model with Public Input", Anthropic Research Blog, 2024年. https://www.anthropic.com/research/collective-constitutional-ai-aligning-a-language-model-with-public-input
  14. ↑ Saffron Huang et al., "Collective Constitutional AI: Aligning a Language Model with Public Input", FAccT '24, ACM, 2024年. https://dl.acm.org/doi/10.1145/3630106.3658979
  15. ↑ Askell公式CV. https://askell.io/cv/ （原典： ）
  16. 1 2 3 Bloomsbury Intelligence and Security Institute, "Claude's New Constitution: AI Alignment, Ethics, and the Future of Model Governance", 2026年1月22日. https://bisi.org.uk/reports/claudes-new-constitution-ai-alignment-ethics-and-the-future-of-model-governance
  17. 1 2 3 Lawfare, "Interpreting Claude's Constitution", 2026年1月21日. https://www.lawfaremedia.org/article/interpreting-claude-s-constitution
  18. ↑ Emerging Investigators, "Unveiling bias in ChatGPT-3.5: Analyzing constitutional AI", 2024. https://emerginginvestigators.org/articles/24-047/pdf
  19. ↑ Fortune, "Anthropic rewrites Claude's guiding principles—and reckons with the possibility of AI consciousness", 2026年1月21日. https://fortune.com/2026/01/21/anthropic-claude-ai-chatbot-new-rules-safety-consciousness/
  20. 1 2 3 4 Alan Z. Rozenshtein, "The Moral Education of an Alien Mind", Lawfare, 2026年1月22日. https://www.lawfaremedia.org/article/the-moral-education-of-an-alien-mind
  21. ↑ Amanda Askell, "Pareto Principles in Infinite Ethics", Ph.D. dissertation, New York University, 2018. https://askell.io/publication/pareto-principles-in-infinite-ethics
  22. ↑ Amanda Askell, "Amanda Askell on tackling the ethics of infinity, being clueless about the effects of our actions, and having moral empathy for intellectual adversaries", 80,000 Hours Podcast. https://80000hours.org/podcast/episodes/amanda-askell-moral-empathy/
  23. ↑ William MacAskill, Krister Bykvist, and Toby Ord, Moral Uncertainty, Oxford University Press, 2020.

外部リンク