AI の理解権限は誰が握る？

AI が科学、医療、産業、政府のインフラとして不可欠になる中、「誰がこれらのシステムの仕組みを理解できるのか」という問いは、かつてないほど重要になっています。Ai2 ではこの問いが私たちの活動の中心にあり、オープンサイエンスとオープンモデルへのコミットメントを促す原動力となっています。私たちにとって、オープンであることは単なるライセンス選択の問題ではなく、どのように作品を作り、公開し、評価するかという姿勢そのものを形作るものです。

オープンウェイトモデル（Open-weight models）とは、人々が自身の研究やアプリケーションのために AI を利用・改変できることを可能にするものです。これにより組織は選択肢を広げ、特定のベンダーへの依存を減らし、新たなアプリケーションや科学ツールの開発における障壁を下げる効果があります。

完全なオープンリリースでは、モデルの背後にあるトレーニングデータ、コード、手法、チェックポイント、評価結果、ドキュメントまで共有します。これは、AI の仕組みを理解する能力が一部の手に握りつぶされるべきではなく、科学的知識の進展に取り組む研究者や機関に広く開かれているべきだと信じているからです。

これが AI におけるオープンサイエンスの実像です。他者が検証・テスト・拡張できる研究を生み出すことです。

信頼には開示された証拠が必要

研究者たちは、モデルの出力へのアクセスだけでは不十分です。結果の再現や行動の調査、限界のテスト、安全性と信頼性に関する主張の評価を行うためには、背後にあるデータ、コード、チェックポイント、評価手法、そして学習プロセスそのものへのアクセスが必要です。

真の信頼は、開発者の保証に頼り切るのではなく、独立した研究者が証拠を検証できる環境から生まれます。

オープンな研究の価値を最も明確に示すのは、それが可能にする新たな科学です。モデルの背後にある証拠を公開することで、Ai2 はクローズドシステムでは調査が困難、あるいは不可能だった問いに対して、独立した研究者が取り組める道を開いています。

例えば、ノースイースタン大学とジョンズ・ホプキンス大学の研究者らは、当社の Olmo モデルの重み、内部表現、トレーニングデータ、そしてその出自情報を活用し、臨床応用における人口統計学的バイアスの有無や、モデルが公式に示す知識の更新時期が実際に参照している情報と一致しているかを調査しました。また、Arb Research と共同研究を行う大学の研究者らは、Olmo 3 のトレーニングデータと中間チェックポイントを用いて、ベンチマーク問題のパラフレーズ版がモデルの進歩を実際以上に過大評価させる可能性を示しています。

さらに、テキサス大学オースティン校、ノースイースタン大学、MD アンダーソンがんセンターの科学者らは、Olmo 3 と Ai2 が開発する膨大なテキストコーパスを検索するためのエンジン「infini-gram」を組み合わせて、モデルが薬品名についてどのように推論を行うかを調査しました。

これらの事例すべてにおいて、完全なオープンモデルであることが不可欠でした。裏付けとなる証拠が公開されているため、他の研究者たちはこれらの知見を精査し、研究の再現や新たな科学的・公共的な問いへの応用が可能になります。

これは、アメリカの研究者らが次第に海外で開発された高性能なオープンモデルに依存するようになっている現状において、特に重要な意味を持ちます。国内に堅固なオープンサイエンスの基盤を築くことは、米国の機関が自ら検証・改変・運用できるモデルを提供し、国内での独立した研究を支えるとともに、アメリカ科学の影響力を世界へ広めることにつながります。

科学の進展にとって何が問われているのか

米国の次期 AI ポリシーは、大学や非営利研究所、公益を目的とする研究者らが先進的な AI 開発に引き続き参画できるかどうかを決定づけるものとなります。オープンな科学モデル、データセット、研究手法、そして小規模な研究機関が高度なシステムを構築するための現実的な道筋——これらこそが、科学の継続的な進展には不可欠です。

オープンソースの AI アーティファクトへのアクセスを維持することは、AI 研究・開発への広範な参加にとって極めて重要です。大学や非営利団体、公益研究者、小規模ラボは、ゼロから再現することが困難であるため、オープンモデル、トレーニングデータ、コード、そして研究手法に依存しています。もしこれらのリソースへのアクセスが失われれば、実験のハードルは上がり、貢献できる研究チームは減り、技術的な方向性が少数の企業内に集中してしまうリスクが高まります。

米国の科学におけるリーダーシップは、長年にわたり、個人の発見を他者が築き上げる土台へと転換することで支えられてきました。AI の分野においても、オープンなアーティファクト、共有インフラ、そして広範な参加がその伝統を引き継ぎます。これにより独立した研究の拡大が促され、科学の進展が加速し、社会を形作るシステムを理解・評価・改善できる人々が増えるのです。

Ai2 の最新ニュースに関する月次更新を受け取るには登録が必要です。