Substack、AI 生成記事検出機能を追加
Substack は、プラットフォーム上のコンテンツが AI によって生成された可能性を検出する新ツールを導入し、読者が投稿の信頼性を判断するための指標を提供する。
キーポイント
AI 検出ツールの導入と機能
Substack は、投稿、ノート、返信、コメントを対象に AI 生成テキストの推定割合をスキャンする機能を追加し、読者が「Scan for AI text」オプションから利用可能にする。
Pangram 社技術との連携
この検出機能は、AI 検出専門企業である Pangram の技術をバックエンドに採用しており、100 文字以上のコンテンツに対して精度の高い分析を行う。
プラットフォーム展開状況
Web サイトおよび iOS アプリで既に利用可能となり、Android アプリへの展開も「まもなく」実施される予定である。
重要な引用
Substack will now help users determine whether what they're reading may have been written by AI.
The tool is powered by an AI detection company called Pangram and is rolling out across the web and the iOS app.
影響分析・編集コメントを表示
影響分析
この動きは、生成 AI の普及によって生じる「信頼性の危機」に対処するプラットフォーム側の重要な一歩であり、読者がコンテンツの真贋を自力で判断できる環境を整えた点で意義深い。しかし、検出精度の限界や誤検知の可能性が課題となる中、AI 利用の透明性を高めるための業界標準的なアプローチとして注目される。
編集コメント
生成 AI がコンテンツ作成に広く利用される中で、プラットフォームが検出機能を標準装備することは、読者保護と信頼維持の観点から極めて重要です。ただし、AI 検出技術は常に精度向上を遂げる過程にあるため、このツールも継続的な改善が期待されます。
Emma Roth は、ストリーミング戦争、消費者向けテクノロジー、暗号資産、ソーシャルメディアなどを担当するニュースライターです。以前は MUO でライターおよび編集者を務めていました。
Substack は今月、ユーザーが読んでいるコンテンツが AI によって書かれたものではないかを見極める支援を開始します。この新ツールは投稿、ノート、返信、コメントをスキャンし、テキストのどの程度が AI 生成または AI の支援を受けて作成されたかを推定する機能を備えています。
この機能は AI 検出企業 Pangram の技術を採用しており、現在 Web サイトと iOS アプリで順次導入されています。Android 版も「まもなく」リリースされる予定です。利用者は、投稿画面右上の三点リーダーメニューから「AI テキストを検出」を選択することで、100 文字以上のコンテンツを分析できます。
Substack の共同創設者兼 CEO、Chris Best は、Pangram との連携によりプラットフォーム上の透明性を高めたいと述べています。ソーシャルメディア上で AI が普及する中での課題です。「本質的な問題は、AI を使うことそのものや、その出力の質ではありません」と Best は指摘します。「真の問題は、読者の期待と現実との間にズレが生じること、特に他者に人間の思考が介在していないことを知らずに注意を費やしてしまうケースです。これを私は『Claudefishing（クローフッシング）』と呼んでいます。」
今回の変更に合わせて、Substack はクリエイターが執筆プロセスを読者に説明できる新しい「How I make this（私がこれを作る方法）」という声明機能も導入します。ライターは Pangram で原稿のスキャンも可能になり、不正確な結果に対して報告するオプションも用意されます。
Best 氏は、「Pangram は AI がテキスト生成に使われたかどうかを検出することはできても、人間がどれだけ心を込めて作成したかや、AI ツールを情報源として利用したかどうかまでは判断できない」と指摘しています。しかし Best 氏によれば、この機能の目的は、読者がブログ記事を読む時間を投資するかどうかをより容易に選択できるようにすることです。「読者が自分が読んでいるものが本物かどうかを疑わなければならず、それが著者への信頼を損ない、AI ツールを慎重に活用して自身が信じる作品を生み出すライターを含むすべての作家の生計を脅かすことになる」と Best 氏は記述しています。「偽りを報奨するプラットフォームは、底辺への競争（レイト・ザ・ボトム）を生み出すことになります」。
このストーリーのトピックや著者をフォローして、パーソナライズされたホームページフィードで類似記事をもっと見たり、メール更新を受け取ったりできます。
- Emma Roth
-
-
原文を表示
Emma Roth
is a news writer who covers the streaming wars, consumer tech, crypto, social media, and much more. Previously, she was a writer and editor at MUO.
Substack will now help users determine whether what they’re reading may have been written by AI. A new tool coming to the platform can scan posts, notes, replies, and comments to provide an estimate of how much text could be AI-generated or written with AI assistance, according to a blog post published on Tuesday.
The tool is powered by an AI detection company called Pangram and is rolling out across the web and the iOS app, with an Android launch coming “soon.” Readers can analyze content longer than 100 words by choosing the “Scan for AI text” option from the three-dot menu in the top-right corner of a post.
Image: Substack
Substack co-founder and CEO Chris Best says the Pangram integration is meant to increase transparency on the platform as AI becomes more prevalent on social media. “The core problem is not people using AI, or the quality of its output,” Best writes. “The problem is when there is a mismatch between a reader’s expectation and reality, especially when they unwittingly invest their attention in something with no human thought on the other end. That’s Claudefishing.”
In line with this change, Substack will also allow creators to explain their writing process to readers with a new “How I make this” statement. Writers can scan their drafts with Pangram, too, and will have an option to report inaccurate results.
Best notes that “Pangram can only detect whether AI was used to make the text, not whether great human care went into creating it, nor whether AI tools were used as a source.” But the goal, according to Best, is to make it easier for someone to choose to invest their time reading a blog post. “When readers have to wonder if what they’re reading is real, it undermines trust in authorship and threatens the livelihood of writers — including those who use AI tools thoughtfully to produce work they believe in,” Best writes. “Platforms that reward fakeness will create a race to the bottom.”
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Emma Roth
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み