#content moderation のAIニュース

6件の記事

ディープフェイクが高校を分断した理由

ペンシルベニア州のラドナー高校で、生徒が作成したディープフェイク動画によるいじめが発生し、学校コミュニティに深刻な亀裂が生じた。

AWS は、大規模なユーザー生成コンテンツのモデレーションにおいて、ポリシー違反を正確に検知しつつ誤検知を防ぐシステム構築のため、Amazon Nova 2 を活用したカスタマイズ可能なプロンプト手法を発表しました。

ジャーナリストのジェイソン・コエブラーは、オンライン上の AI 生成文章が溢れ、フィルタリングに精神的負担がかかり、人間の文章スタイルまで歪み始めていると指摘し、「ゾンビインターネット」という概念を提唱した。

音楽配信サービス「ディーザー」は、新規アップロード曲の44%がAI生成であると発表。同社は不正なストリーミング対策技術を開発中であり、AI音楽がアップロードの半数に迫る現状を指摘した。

Qwenチームは安全分類用に微調整した「Qwen3Guard」を発表しました。同モデルはプロンプトと応答の安全性をリアルタイム検出し、リスクレベルと分類を提供してAI対話の安全確保を実現します。

Stability AIは、生成AIの責任ある構築・展開を約束し、透明性が安全で倫理的なAIの基盤であると表明した。同社は、安全設計原則を最優先にしたモデル開発・公開に関する有意義な情報を共有する取り組みの一環として本報告書を公開した。