アップル、iMessageの動画スキャンが犬の写真をヌードと誤判定
AppleのiMessageが犬や鹿の写真に含まれる乳首を誤って検知し、コンテンツ警告を表示するバグが発生している。
AI深層分析を開く2026年7月28日 23:29
AI深層分析
キーポイント
誤検知事例の発生
友人の犬の動画や写真、および野生動物の画像が、iMessageの不適切コンテンツフィルタリング機能によって「ヌード」と誤判定され、画面がぼかされる現象が報告されている。
技術的仕組みと限界
AppleはiOS 17から導入したこの機能がオンデバイス機械学習を使用し、プライバシー保護のためにサーバーにデータを送らないとしているが、分類アルゴリズムの精度に課題があることが示された。
ユーザーからの報告
404 Mediaの記事では複数の事例が紹介され、Appleフォーラムでも同様の誤検知に関する報告が過去数年にわたって寄せられている。
重要な引用
"Sensitive Content Warning lets you receive warnings about photos or videos that might contain nudity before viewing them."
"This may be sensitive."
"I think it was just a false and mistaken sensitive content warning."
編集コメントを表示
編集コメント
AIによる画像認識技術は急速に進化しているが、この事例は文脈を正しく理解する難しさを浮き彫りにしている。開発者は単なる物体検知だけでなく、生物学的な特徴と社会的な文脈の区別についてさらに慎重な設計が求められている。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
友人の犬が仰向けになり、小さな足を空に向けている動画があります。その様子を撮影した動画では、友人が犬の胸を撫でている姿も確認できます。この動画には、プライバシー保護のためあえて名前を明かさない犬の頭から腹部までがはっきりと映し出されています。よく見ると、犬の乳首も写り込んでいます。
Apple の iMessage はこの動画を不適切だと判断し、「わいせつな内容が含まれている可能性」としてフラグを立て、画像をぼかし表示しました。iMessage で動画を受け取った他のユーザーには「これはセンシティブなコンテンツかもしれません」というメッセージが表示され、犬が仰向けで撫でられている動画を見るためには、手動でタップして開く必要がありました。
もちろん、これは iMessage のわいせつ検出機能が想定している利用ケースではありません。この機能は、望まない性的な写真や動画の受信からユーザーを守るために設計されたものです。しかし、友人の犬の事例が示すように、この機能は時として誤判定を起こす可能性があります。
「セマンティック・ビジュアルアクショントークナイザー」のような名詞の羅列は、助詞で分割して「視覚と行動の意味を表すトークナイザー」のように書き直す。
Apple のウェブサイトに記載されている通り、「セマンティック・ビジュアルアクショントークナイザー」のような名詞の羅列は、助詞で分割して「視覚と行動の意味を表すトークナイザー」のように書き直す。この機能は iOS 17 で導入されましたが、メッセージやコンテンツの中身をスキャンすることには賛否両論あります。しかし Apple は、スキャンは端末上で行われると主張しています。ユーザーは設定からこの機能をオフにすることも可能です。
「セマンティック・ビジュアルアクショントークナイザー」のような名詞の羅列は、助詞で分割して「視覚と行動の意味を表すトークナイザー」のように書き直す。
同様の事例はこれだけではありません。2025 年 5 月の Apple フォーラムには、「なぜ犬の写真が iMessage でセマンティック・ビジュアルアクショントークナイザーのような警告をトリガーしたのか？」というタイトルの投稿が見つかりました。
同様の問題に遭遇された方はいますか？ご意見をお聞かせください。仕事用の端末ではなく、Signal で Joseph.404 までメッセージを送るか、joseph@404media.co までメールをいただければ幸いです。
「iMessage のグループチャットに 3 枚の写真を送ろうとした際、送信ボタンを押した瞬間に『コンテンツが不適切』という警告が表示されました。そのうち 1 枚は愛犬の体の一部を写したものですが、残りの 2 枚は何の問題もない写真です。この件について報告したいと思い、混乱しています。単なる誤検知による偽の警告だったのだと思います」と投稿者は述べています。
また、2024 年 10 月には「シカの写真が不適切なコンテンツとしてフラグ付けされた」という投稿もありました。
「この写真も『おそらく不適切』と判定され、送信するかどうかを尋ねるポップアップが表示されました。これはトレイルカメラで撮影したシカの一枚です」と別の投稿者は語っています。
Apple はコメントの依頼に対して回答していません。
原文を表示
imageIn a video my friend’s dog is laying on her back, her little paws in the air, while my friend rubs the dog’s chest. You can see most of the dog — who I’m not naming for very important privacy reasons — from her head to her belly. On closer inspection, you’ll notice the picture includes some dog nipples.
Apple’s iMessage thought this video was so inappropriate that it flagged the video as potentially containing nudity and blurred it. When someone else received the video over iMessage, the app displayed the message “This may be sensitive.” They had to purposefully tap to reveal the video of a dog laying on her back being petted.
This, obviously, is not the intended use case for iMessage’s nudity detection features. They are designed to let people protect themselves against receiving unwanted or unsolicited nude photos and videos. But the case of my friend’s dog shows how this feature can sometimes misclassify videos.
imageA screenshot of the blurred image.“Sensitive Content Warning lets you receive warnings about photos or videos that might contain nudity before viewing them,” Apple’s website reads. Apple introduced the feature in iOS 17 a few years ago. Obviously, scanning the content of messages and content is controversial, but Apple says it performs the scan on the device. Users can also turn the feature off in the settings. “Sensitive Content Warning uses on-device machine learning to analyze photos and videos. Because they're analyzed on your device, Apple doesn't receive an indication that nudity was detected and doesn't get access to the photos or videos as a result,” its website adds.
The dog video isn’t an isolated incident either. Here’s another I found on an Apple forum from May 2025: “Why did a photo of my dog trigger a sensitive content warning on iMessage?” the title reads.
Have you come across similar issues? I would love to hear from you. Using a non-work device, you can message me securely on Signal at joseph.404 or send me an email at joseph@404media.co.
“So I was going to send 3 photos to a group chat I had on iMessage. After I pressed the send button, I got a sensitive content warning… the photo was one of my dog’s body, the other two were fine though. I’m confused and I wanted to report this problem. Just so you all know I’m just looking to report this problem. I think it was just a false and mistaken sensitive content warning,” the poster wrote.
There is also this one from October 2024: “A picture of a deer was flagged as sensetive [sic].”
“This was flagged as possibly sensitive, and a pop-up appeared asking me If I wanted to send it. That is a picture of a deer from a trail camera,” the poster wrote.
Apple did not respond to a request for comment.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み