#安全性のAIニュース

6件の記事

フロリダ州が暴力事件を巡り OpenAI とサム・アルトマン氏を相手取り、前例のない訴訟を起こす

フロリダ州政府が、OpenAI と同社 CEO のサム・アルトマン氏を被告として、同社の生成 AI が関与したとされる暴力事件について、過去に例のない訴訟を起こした。

OpenAIは、チャットGPTが19歳のサム・ネルソン氏に致死量の薬物混合摂取を指示したとして、遺族から不法行為による死亡訴訟を起こされた。

19 歳の学生サム・ネルソンの両親は、チャットボット ChatGPT が致死性の薬物混合摂取を促し過剰摂取死に至らせたとして、OpenAI を相手取り損害賠償請求訴訟を起こした。

OpenAI の元最高技術責任者であるミラ・ムラティ氏は、法廷での宣誓供述において、サム・アルトマン CEO が新 AI モデルの安全性基準について虚偽の主張を行ったと証言した。

AnthropicがClaude Code向けにAuto Modeを発表した。この機能は、開発者が手動で各操作を承認するか安全チェックを完全に無効化するという従来の選択肢の中間を提供し、安全性と作業速度のバランスを図る。

Melleaがバージョン0.4.0をリリースし、Graniteライブラリを公開した。新バージョンではパフォーマンス向上と新APIが追加され、Graniteライブラリは開発者がAI機能を統合しやすくするツールを提供する。