Google DeepMind、AI の生物濫用防止プログラムを発表

記事の3ポイント

1. 1

   二重の使命とプログラムの柱

   同社は科学の進展を可能にする一方で悪用を防ぐという二重の使命を掲げ、悪用防止、アウトブレイクの早期検出、発生時の対応という 3 つの柱でプログラムを構成している。

2. 2

   パートナーシップと連携範囲

   過去 12 ヶ月間で政府機関や研究グループなど 15 以上の組織と提携し、ロレンス・リバモア国立研究所や UK AI セキュリティ研究所などが具体的な協力者として名を連ねている。

3. 3

   悪用防止の技術的アプローチ

   レッドチームイングやランダム化比較試験による脅威モデリング、有害なクエリへの拒否と正当な科学質問への回答のバランスを取るポストトレーニング手法、リアルタイムでのリスク検知システムを導入している。