DAILY AI LETTER · NO. 006
安全は、声明から設計条件へ移る
人の停止権をモデル規則に刻むMicrosoftと、生成結果に硬い制約を課すMITの研究を重点2本で。業界標準、API切替、障害対応は速読3本で追います。
01
Microsoft、MAIモデルの行動規範を公開協議へ
- 何が起きた
- Microsoft AIは、開発中のMAIモデルを学習・配備する際の行動規範の初稿を公開し、6週間の意見募集を始めました。規範は、人による中断・修正・停止への抵抗、与えられていない目標の設定、監査者からの推論の隠蔽を認めない方針を示しています。
- なぜ重要か
- 安全原則が抽象的な宣言から、学習評価と配備判断に使う検証項目へ移り始めました。日本企業もAI調達時に、停止命令、目標の拡張、監査可能性を契約と受入試験へ落とし込めます。
- 次に見ること
- 6週間後の改訂内容、各禁止事項の評価方法、2027年以降のMAIモデルカードや配備条件に反映されるか。
02
MIT、生成結果だけに硬い制約を通すHardFlowを開発
- 何が起きた
- MITの研究チームは、事前学習済みのflow-matching型生成モデルを再学習せず、配備時に最終出力へ硬い制約を課すHardFlowを発表しました。ロボット操作、迷路探索、画像編集の実験では制約をすべて満たし、解の品質でも比較手法を上回ったと報告しています。
- なぜ重要か
- 安全性が必要な製品では、もっともらしさより違反しない最終結果が重要です。既存モデルの交換ではなく出力工程に制約層を足せるため、日本の製造・物流チームにも現実的な検証経路になります。
- 次に見ること
- 離散的な言語・コード生成への適用、未知条件での制約違反率、実機での遅延と品質の再現性。
QUICK READ
昨日のAI、あと3本
見落としたくない動きを、一件一文で。
ガバナンス
OpenAI・Anthropic・Google、共同標準機関を協議
The Informationは、3社がAIの安全基準を扱う業界組織の設立を7月から協議し、直近の週にも会合を開いたと報じました。設立や参加条件は未確定です。
The Informationモデル
DeepSeek、V4-ProのAPIをV4.1-Flashへ切替
DeepSeekは9月14日04:00 UTCから、deepseek-v4-pro宛ての全リクエストをV4.1-Flashへ転送し、同モデルの料金を適用しました。V4.1-Pro公開まで続く予定です。
DeepSeek運用
CodexとChatGPT Workのエラー増加は復旧
OpenAIは9月14日にCodexとChatGPT Workのエラー率上昇を調査し、緩和策の適用後、同日03:57に全面復旧したと報告しました。
OpenAI Status