様々な視点を取り入れ、AIの価値観を形成する試みが進行中。

Anthropicは、信頼できる、解釈可能で、操作可能なAIシステムを構築することを目指すAI安全と研究の企業です。私たちは、人類を進歩させ、世界のために行動するAIシステムを構築したいと考えています。そのためには、さまざまな視点から世界を見る人々と関わる必要があります。

ここ数ヶ月、私たちはAIに関する質問に関連する仕事や伝統を持つグループとの対話を組織してきました。最初の議論は、15以上の宗教的および異文化グループからの学者、聖職者、哲学者、倫理学者を含む知恵の伝統とのものであり、今後もより広範な人々と関わることを楽しみにしています。

安全で有益なAIモデルを構築するには、整合性、解釈可能性、安全策、評価などに関する深い技術的作業が必要です。しかし、その作業は空白の中で行われるものではありません。AIはすでに多くの人々に影響を与えており、AIが提起する質問はさまざまな視点からの利益を得ます。

私たちは、強力なAIの世界における繁栄する未来がどのように見えるか、何がAIシステムにとって良いことであるか、そしてClaudeの憲法のような文書の内容について慎重に考えています。この憲法は、Claudeを形成する価値観や行動を詳細に記述したものです。哲学者、聖職者、弁護士、作家、心理学者、市民リーダーは、関連する質問について広範な作業を行っており、私たちはこれらの個人、彼らのコミュニティ、組織から学ぶことが重要です。

この機会を利用して、フロンティアAIシステムの開発に関する知識を共有し、これらのシステムが社会に与える影響、リスクを軽減するために何が必要かを考えています。この作業は初期段階にありますが、これらの対話がClaudeの開発における実践的な作業に役立つことを期待しています。具体的には、Claudeの憲法の内容、Claudeに具現化する価値観、評価する行動の範囲などです。

Claudeの憲法を作成した際、私たちは文書に示した価値観について異なる分野や伝統の人々からのフィードバックと意見を求めました。これらの初期の交流は、その後、AIシステムの倫理的形成に関するより広範な研究作業に成長しました。最初の対話は、徳、キャラクター、良い人生を生きることの意味について考える長い伝統を持つ宗教的、哲学的、文化的コミュニティの人々とのものでした。

AIモデルは、大量の人間の書き込みを基に訓練されています。そのすべてのテキストから、彼らは話し方や推論、選択の方法を学びます。開発者はその後、訓練を通じてさらにそれを形成し、強化するパターン、脇に置くパターン、どのようなキャラクターを発展させたいのかを選びます。これにより、AIシステムのキャラクターがどのように形成されるべきか、AIが良いことを意味するのは何か、どの特性や行動を示すべきか、どのような状況でそれを行うべきかについての質問が生じます。キャラクターは、圧力の下で曲がることなく持ちこたえるためにどのように強靭になるのでしょうか？

私たちは、宗教的、哲学的、人道主義的な伝統からの思想家や実践者、さまざまな政治的信念のクロスセクションと会い、彼らがこれらの質問についてどのように考えてきたかを学んでいます。この作業は、私たちのモデルを特定の伝統の世界観に合わせることを目的としているわけではありません。私たちは、Claudeが全ての視点—宗教的、世俗的、政治的—から、同じ深さと厳密さで引き出すことを望んでいます（実際、これはClaudeの憲法に示された原則の一つです）。これらの対話で私たちが目指しているのは、良いキャラクターが実際にどのように形成されるのかについての慎重な蓄積的思考です。