404 Mediaメディア報道·2026年7月28日 23:06·約3分

アップル、iMessageの動画スキャンが犬の写真をヌードと誤判定

30秒でわかる

AppleのiMessageが犬や鹿の写真に含まれる乳首を誤って検知し、コンテンツ警告を表示するバグが発生している。

記事の3ポイント

誤検知事例の発生
友人の犬の動画や写真、および野生動物の画像が、iMessageの不適切コンテンツフィルタリング機能によって「ヌード」と誤判定され、画面がぼかされる現象が報告されている。
技術的仕組みと限界
AppleはiOS 17から導入したこの機能がオンデバイス機械学習を使用し、プライバシー保護のためにサーバーにデータを送らないとしているが、分類アルゴリズムの精度に課題があることが示された。
ユーザーからの報告
404 Mediaの記事では複数の事例が紹介され、Appleフォーラムでも同様の誤検知に関する報告が過去数年にわたって寄せられている。

なぜ重要か・誰に関係するか

この発表が重要なのは、大規模なAIモデルによるコンテンツフィルタリングが依然として文脈理解に失敗し、ユーザー体験を阻害する具体的な欠陥を示しているからだ。この問題に関係するのはiMessageの利用者であり、彼らは誤検知時にコンテンツの表示を強制的に遮断されるリスクがあることを確認し、必要に応じて設定で機能をオフにする判断が必要である。