〔Claudeの新しいConstitution〕とは、Anthropicが開発する大規模言語モデルClaudeの安全性と有用な振る舞いを導くために用いられる、改訂された一連の原則および関連する学習技術を指します。

結論: Anthropicは、同社の開発する大規模言語モデルClaudeの振る舞いを規定する「Constitution」を更新し、2023年から導入しているConstitutional AI訓練技術の進化を反映したことを発表しました。

Constitutional AIによる進化

Anthropicは、2023年から大規模言語モデルClaudeの訓練に「Constitutional AI」と呼ばれる技術を採用しています。この技術は、AIモデルが人間のフィードバックなしに、一連の原則（Constitution）に基づいて自律的に改善することを可能にするものです。今回発表された新しいConstitutionは、このConstitutional AI訓練技術の継続的な進化から生まれたものであり、以前のConstitutionが独立した原則のリストであったことに対し、より統合的なアプローチが取られていることを示唆しています。

透明性へのコミットメント

Anthropicは、AIモデルの振る舞いが同社のビジョンと異なる場合でも、その事実をオープンに公開し続ける方針を明確にしています。これは、モデルの挙動に関する詳細を記述した「システムカード」を通じて行われるとされています。同社は以前にもConstitutionの初期バージョンを公開しており、OpenAIも同様の機能を持つ「model spec」を公開していることが言及されています。これにより、AIモデルの安全性と倫理的な振る舞いに関する透明性の維持に努めていることがうかがえます。

出典: Anthropic ｜ 本記事は出典元の公開情報を編集部が要約したものです。詳細は出典元をご覧ください。