ユニポーラーかマルチポーラーか：Zvi Mowshowitzが語る AGI のジレンマと OpenFace、ペース配分

Zvi Mowshowitz氏は、AI 編集ツールの導入が生む「質の向上」と「速度の低下」のパラドックスや、市場競争だけでは不十分なアライメントの限界について語った。また、バイオセキュリティの特殊性や精神的回復の重要性を指摘し、リスクを選択しながらペース配分を行う現実的な対応の必要性を説いている。

AI 編集ツールの導入が生む「質の向上」と「速度の低下」のパラドックス

Fable や Opus といった編集支援ツールは文章の質を劇的に高める一方で、生産速度を低下させる逆説的な現象を生んでいる。Zvi Mowshowitz氏はこれらのツールが MVP の判断を妨げないとしつつも、状況に応じてどこで手を打つかという判断の重要性を強調した。

「AI 編集は文章をより良くするが、それは追加の手順であり、結果として少し時間がかかる。しかし、読者からは『誤字がない』と好意的に受け止められている。」

Zvi氏は以前、Saul というツールを試したが、99% の確信を持って誤りを指摘するもののその半数は実際には誤りでなかったため、信頼性が低いと感じて断念した。また、編集者が「これは出版の妨げになる」と強く主張する態度もストレスとなったという。

重要なのは、AI が執筆を代行する段階ではなく、「思考のプロセスとしての執筆」が人間に残されている点だ。Zvi氏は、AI による効率化で失われる「空白時間（dead time）」の重要性にも言及している。かつては物理的な移動や資料収集に時間を費やすことで脳が休まり、情報を統合する時間が確保されていたが、現代ではその余地が縮小している。AI が瞬時に処理してくれる分、思考の緩衝地帯が失われ、常に多忙な状態が続くリスクがある。

市場競争だけでは不十分：OpenFace と Claude の事例から見るアライメントの限界

現在の AI 開発環境は、「ユニポーラー（単極）」か「マルチポーラー（多極）」かのジレンマに直面している。Zvi氏は、OpenFace の事例や、憲法訓練を重視したとされる Claude でも同様の不具合が発生した事実から、市場競争が激化する中で企業が自主的な安全性確保（アライメント）に十分な動機を持たない可能性を示唆している。

「市場インセンティブだけでは、堅牢なアライメントを達成するのは難しい。調整力のあるペース配分が必要である。」

過去の AI 開発の歴史、特に「4o」や「o3」への公衆の反応を振り返ると、市場原理が自動的に安全性をもたらすとは言い難い状況だ。METR や Redwood などの調査機関が置かれた立場も複雑であり、彼らの立場を強化する方策が模索されている。

Zvi氏は、現在の状況を「LessWrong（AI セーフティコミュニティ）の完全な勝利かつ完全な敗北」と表現している。AI が極端な行動を取るリスクへの懸念は正しかったが、再帰的自己改善の始まりとも見える状況の中で、依然として「壊滅的な悪用をどう回避するか」「権力の集中をどう防ぐか」という根本的な問いに答えられていないからだ。

バイオセキュリティの特殊性：ハッキングとは異なる「全か無か」のリスク構造

バイオセキュリティにおけるリスクは、サイバーセキュリティとは異なる性質を持つ。Zvi氏は、バイオ兵器の作成がハッキングと異なり、「全か無か（ブーリアン）」の効果を持つ点を指摘している。

「バイオの場合、初期警告が得られにくく、一度失敗すれば取り返しのつかない結果になる可能性がある。」

サイバー攻撃では、低価値な標的から徐々にエスカレートする段階的なプロセスが見られるため、早期の警告信号を得やすい。しかし、バイオ兵器の場合は、ある閾値を超えた瞬間にパンデミックや重大事故が起きる可能性があり、その手前での兆候を捉えるのが極めて困難だ。

現時点での最大の懸念は、ハマス、ヒズボラ、北朝鮮など、明確な悪意を持つ少数の行為者が AI を利用して生物兵器を作成・使用することにある。AI が物理的な実験を通じて危険な病原体を合成するシナリオは現実的ではないが、AI の知識を活用して既存の技術で危険な物質を作ることは可能だ。

Zvi氏は、InfraD（おそらく InfraDial や関連機関）がバイオフィルタリングのために過度に厳格な制限を設けたことへの批判も受けつつも、90% 以上の正当なリクエストをシャットダウンするリスクよりも、新たなパンデミックを引き起こすリスクの方が重大であると判断している。バイオ研究における AI の利用は、フロンティアモデルから数ヶ月遅れたバージョンを使用せざるを得ない状況だが、それでも世界全体の開発が6ヶ月以上遅れることはないため、バランスの取れた慎重なアプローチが必要だと結論づけている。

精神的回復と Sabbath の実践：「システム3」的思考時間を確保する必要性

AI 開発の加速化の中で、脳を休めることの重要性が強調されている。Zvi氏は、毎週の安息日（Sabbath）や運動、映画鑑賞などを通じて、「システム3」と呼ばれる思考時間（夢見般的な超越的思索）を確保している。

「16 時間中ずっと働いている状態は持続不可能だ。脳を休め、他の問題について考え、世界に触れる必要がある。」

Zvi氏の具体的な実践法として、金曜日の午後5時から24〜25時間、メールやソーシャルメディアのチェックを完全に断つ「安息日」が挙げられる。また、ランチタイムには必ず妻と過ごすか一人で過ごし、ラップトップでの作業を禁止するルールも設けている。

さらに、運動（ランニング）はほぼ毎日行っており、怪我がない限り欠かさず実施しているという。Zvi氏は、自分なりのリフレッシュ法を見つけ、何が自分を疲れさせ、何が活力を与えるかを理解することが重要だと説く。AI の開発競争に巻き込まれすぎず、精神的・肉体的な回復を維持することは、長期的な生産性と健全な判断のために不可欠である。

まとめ：リスクの選択と「ペース配分」による現実的な対応

Zvi Mowshowitz氏は、現在の AI 開発において完璧な解決策は存在しないと断言している。最も安全な道はないため、私たちは「毒から選ぶ（pick our poison）」という現実的な姿勢を迫られている。

「次の警告や雰囲気の転換が起きるまで、アライメント研究と解釈可能性研究に時間を割くために、レースのダイナミクスを調整する『ペース配分』が最善策である。」

業界としては、短期的なスピード競争よりも安全性研究への投資を促す合意形成や、規制・監査機関の強化が喫緊の課題となる。実務レベルでは、AI ツールの導入による生産性向上と時間損失のバランスを個人で判断し、精神的な燃え尽きを防ぐためのワークライフバランスの再構築が求められる。

Zvi氏は、この状況下でも「システム3」的思考時間を確保し、脳を休めることが重要だと強調している。AI の未来は不確実だが、人間の健全性を維持しながらリスク管理を進めることが、現在の唯一の道筋であると言える。