Canva、AIツールがデザイン内の「パレスチナ」を置き換えた件について謝罪
CanvaのAI機能「Magic Layers」がデザイン内の「Palestine」という単語を自動検出して別の表現に置換するバグが発覚し、同社が謝罪した。
キーポイント
AI機能による自動置換の発覚
Canvaの新機能「Magic Layers」が、ユーザーの意図しない変更として「Palestine」という単語を別のフレーズに自動置換する現象がX上で報告された。
機能の本来の目的との矛盾
Magic Layersは平面的な画像を編集可能なコンポーネントに分解するための機能であり、可視的なコンテンツの変更を行うことを意図していないが、実際の挙動はそれに反するものだった。
企業側の対応と謝罪
この問題がXユーザーによって指摘された後、Canvaは当該機能の問題を認め、公式に謝罪を行っている。
影響分析・編集コメントを表示
影響分析
この事件は、大規模なクリエイティブツールにおけるAIのコンテンツフィルタリングや認識アルゴリズムの不透明さが、いかに迅速な信頼損失を招くかを示しています。Canvaのような普及率高いツールでのこの種のバグは、ユーザーの創作自由に対する懸念を高め、AI倫理やコンテンツポリシーの見直しを迫るきっかけとなります。
編集コメント
特定の地理的・政治的キーワードを別の表現に自動置換する挙動は、AIモデルの学習データに含まれるバイアスや、安全フィルタリングの過剰反応によるものと考えられます。開発側は、ユーザーの意図を尊重しつつ、安全な出力を保証するバランスの取れたアルゴリズム設計が求められます。
ジェス・ウェザーベッド
クリエイティブ産業、コンピューティング、インターネット文化に焦点を当てたニュースライターです。ジェスはテックラダーでキャリアを始め、ニュースやハードウェアレビューを扱いました。
Canvaの新しいAI機能の1つが、デザイン内の「Palestine」という単語を置き換えていることが発覚しました。平面的な画像を個別の編集可能なコンポーネントに分解することを目的とした「Magic Layers」機能は、ユーザーのデザインに対して目に見える変更を加えるべきものではありませんが、Xユーザー@ros_ie9によって、「cats for Palestine」が自動的に「cats for Ukraine」に切り替わることが発見されました。
この問題は「Palestine」という単語に限定されているようで、@ros_ie9は「Gaza」などの関連語はこの機能の影響を受けないと指摘しています。Canvaは現在、この問題を解決し、再発防止策を講じていると述べています。
「Magic Layers機能に問題があることを把握し、調査と修正を迅速に行いました」とCanvaの spokesperson ルーザ・グリーンは*The Verge*に語りました。「このような報告を非常に重要視しており、今後同様の事態を防ぐための追加チェックを導入しています。ご迷惑をおかけしたことを深くお詫び申し上げます。」
このコンテンツは、クッキーの設定により表示できません。このコンテンツを読み込むには、以下の「許可」ボタンをクリックして、「ソーシャルメディアおよび埋め込みコンテンツ」クッキーの使用に同意してください。これらのクッキーは、埋め込みコンテンツの元となる第三者ソースによって設定および管理されます。
現在バイラル（急速に拡散している）X 投稿への返信では、他のユーザーが Canva による修正前にこのバグを再現できたことが示唆されていますが、私の自身のテストでは、この機能によって「パレスチナ」やその他の単語が変更される様子は確認できませんでした。
それでも、これは大きな失策であり、特に Adobe の AI 搭載デザインツールのスイートに対して競合しようとしているプラットフォームにとってはなおさらです。「マジックレイヤー」は、Canva の最近の AI 大規模改訂の主要な構成要素であり、同社はこれが「創造の次の時代の幕開けを告げるもの」と主張しています。
このストーリーのトピックおよび著者をフォローして、パーソナライズされたホームページフィードで類似の記事を閲覧し、メール更新を受け取ってください。
- Jess Weatherbed
-
-
-
-
原文を表示
Jess Weatherbed
is a news writer focused on creative industries, computing, and internet culture. Jess started her career at TechRadar, covering news and hardware reviews.
One of Canva’s new AI features has been caught replacing the word “Palestine” in designs. The Magic Layers feature — which is designed to break flat images out into separate editable components — isn’t supposed to make visible alterations to user designs, but it was found by X user @ros_ie9 to automatically switch the phrase “cats for Palestine” to “cats for Ukraine.”
The issue was seemingly limited specifically to the word “Palestine,” as @ros_ie9 noted that related words like “Gaza” were unaffected by the feature. Canva says it has now resolved the issue and is taking steps to prevent it from happening again.
“We became aware of an issue with our Magic Layers feature and moved quickly to investigate and fix it,” Canva spokesperson Louisa Green told *The Verge*. “We take reports like this very seriously, and we’re putting additional checks in place to help prevent this in future. We’re sorry for any distress this may have caused.”
This content isn't visible due to your cookie preferences. To load this content, click the Allow button below to opt in to "Social Media & Embedded Content" cookies. These cookies are set and controlled by the third party sources from which the embedded content originates.
Replies to the now-viral X post suggest that other users were able to replicate the bug before Canva fixed it, though my own tests didn’t show any words — Palestine or otherwise — being altered by the feature.
Still, this is one heck of a blunder, especially for a platform that’s increasingly trying to compete against Adobe’s suite of AI-powered design tools. Magic Layers is a major component of Canva’s recent AI overhaul, which it claims “marks the beginning of the next era of creation.”
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Jess Weatherbed
-
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み