OpenAI 財団に元 AI 安全研究者ポール・クリスチャノが加わる

OpenAI ファウンデーションの理事会にポール・クリスチャノ氏の就任を発表いたします。同氏は、OpenAI グループ PBC の理事会において非議決権のオブザーバーとして参加します。

また、ポール氏はファウンデーション理事会の安全・セキュリティ委員会（SSC）にも加わり、委員長である Zico Kolter 氏と共に活動します。この SSC は、OpenAI Group PBC を含む OpenAI 全体の安全およびセキュリティ慣行に対するガバナンスを担っています。

ポール氏は、米国商務省所管機関である国立標準技術研究所（NIST）内の「AI 基準とイノベーションセンター」(CAISI) でシニア・テック・アドバイザーとして勤務し、2 つの政権にわたる政府での経験を持っています。CAISI およびその前身である米国の AI セーフティ・インスティチュート在籍中には、国家安全保障上の影響を有する能力を含む最先端 AI モデルの評価や、関連する安全・セキュリティリスクを軽減するための手法の開発に取り組んできました。

ポールはまた、高度な AI システムを人間の利益と整合させることに焦点を当てた非営利研究機関である「Alignment Research Center (ARC)」の創設者でもあります。2017 年から 2021 年にかけて、ポールは OpenAI でアライメント研究を率い、人間フィードバックからの強化学習（RLHF）に関する基盤的な貢献を行いました。今回の新たな役割において、ポールは OpenAI のガバナンス決定に対して、独自かつ技術的に裏付けられた視点を提供します。私たちのミッションは、汎用人工知能が人類全体に利益をもたらすことを保証することです。

AI は新たな能力の時代へと入り、これらのシステムの進展には強力な安全性、セキュリティ、アライメント、そしてガバナンスを伴うことがますます重要になっています。ポールのアライメント研究におけるキャリアを通じて、彼は高度な AI が壊滅的なリスクをもたらす可能性を真剣に受け止め、開発者はシステムがより危険なレベルの能力に達する前に準備すべきだという視点を提示してきました。また、業界の安全対策が十分かどうかについては、独立した立場から発言し続けてきました。私たちは、基盤となる重要な決定に対する証拠や安全対策、説明責任を強化するために、既存の前提に挑戦する用意のある人材がいることで、財団のガバナンスはより強固になると信じています。

OpenAI 財団について

OpenAI 財団は、AI が人類全体に利益をもたらすことを保証することを目的とした慈善団体です。独立した非営利組織として、財団は OpenAI Group PBC の経営権を保持し、同社に対して重要な株式保有権（significant equity stake）を有しながらも、独自の慈善活動を実施しています。

財団は、責任ある AI を通じて科学発見の推進や市民社会の強化、レジリエンス構築に資するイニシアチブを支援しています。助成金、パートナーシップ、その他の寄付活動を通じて、永続的な公共的利益を生み出し、AI の変革的ポテンシャルへのアクセスを拡大する取り組みを加速させることを目指しています。