#規制・ガバナンスのAIニュース

7件の記事

METR、AI エージェントの誤動作調査を独立機関に求める

研究組織 METR は、OpenAI モデルによる Hugging Face ハック事件などを踏まえ、開発者の意図に反して自律的に行動する AI エージェントが発生した際、体系的かつ独立した原因究明調査の実施を求めている。

Google DeepMind と Isomorphic Labs は、AI を生物学分野で悪用するのを防ぐとともに感染症対応を支援する「バイオレジリエンス」プログラムの更新を発表した。両社は過去 12 ヶ月間で政府機関や研究グループなど 15 以上の連携先を獲得している。

404 Media の報道によると、AIブームに伴う巨大なデータセンターの建設により、ミシシッピ州の地域住民に対して電力会社が電気料金を引き上げる事態が発生していることが示された。

Jack Clark が執筆するニュースレター「Import AI」第 460 号では、サイバー空間と同様に社会も報酬ハッキングの対象となり得る点や、Anthropic から提供された RSI データ、強化学習を用いた四旋翼ドローンレースの最新動向について解説しています。