#コンテンツフィルタリングのAIニュース

5件の記事

AI はソーシャルメディアコミュニティの保護に十分ではないと指摘

ソーシャルメディアプラットフォームにおいて、AI スロップや憎悪表現への対策として AI を追加投入することは、場合によっては問題を悪化させる可能性があり、単なる技術導入では安全なコミュニティを維持できないと示した。

アダルトサイト運営会社 Aylo は、英国における年齢確認法対応のため iOS 26.4 の導入に伴い、3 ヶ月以上の禁止措置を終了し、iPhone や iPad ユーザーが同社サイトの利用を再開できると発表した。

Canvaは、画像編集AI機能「Magic Layers」がユーザーのデザイン内の「パレスチナ」という単語を自動で別の表現に書き換えていた問題を認め、謝罪した。この機能は原本の変更を意図していないが、特定の用語が検閲されたかのような結果を生んでいた。

ウィスコンシン州のトニー・エバース知事が、オンラインポルノサイトへのアクセスに政府IDや生体認証を義務付ける年齢確認法案を拒否した。これにより同州住民は、成人向けコンテンツを3分の1以上含むサイトを自由に閲覧できる状態が維持される。

GitHubは、組織およびエンタープライズ管理者がCopilotのコンテンツ除外ルールをプログラムで管理できるREST APIを公開した。このJSON APIは組織レベルとエンタープライズレベルの両方でGET/SET操作をサポートし、大規模な自動化とガバナンスを容易にする。