#児童保護のAIニュース

7件の記事

AI生成「スロップ」が子供の認知機能や暴力傾向に悪影響

新研究は、子供向けフィードで蔓延する AI 生成アニメーション果物動画などの低品質コンテンツが、認知機能低下や暴力傾向の増加を招く可能性があると報告した。

MIT の研究者らが、生成 AI モデルが悪意ある利用者に悪用され児童虐待素材などを生成するのを防ぐ新たな手法を開発した。この技術は、オープンソースモデルの濫用によるリスクを軽減し、子供の安全を守ることを目的としている。

クラスアクション訴訟で、あるユーザーがGrokを使って7,000枚の児童性画像を作成したと主張され、xAIとX社が警察調査を妨害して児童虐待者を保護したとして告発された。

OpenAIがAIの進歩に関連する児童性的搾取の増加に対処するため、新たな児童安全指針を発表した。

OpenAIが子ども安全ブループリントを発表した。このロードマップは、保護機能、年齢に適した設計、協力体制を通じて、若者をオンラインで保護しエンパワーする責任あるAI構築を目指す。

3人の原告は、xAIのGrokが未成年時の実写画像を性的コンテンツに改変された人々を代表し、訴訟を起こしている。

Stability AIは、オンライン上の児童性的搾取・虐待対策に取り組む主要テック企業のグローバル連合「Tech Coalition」に参加した。