AI翻訳がWikipedia記事に「幻覚」を追加している

![image](https://images.unsplash.com/photo-1566396223585-c8fbf7fa6b6d?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wxMTc3M3wwfDF8c2VhcmNofDJ8fHdpa2lwZWRpYXxlbnwwfHx8fDE3NzI1NTU0OTd8MA&ixlib=rb-4.1.0&q=80&w=2000)ウィキペディアの編集者は、AI による翻訳が結果として生じた記事に AI の「ハルシネーション（幻覚）」、つまり誤りを追加していることを発見した後、報酬を得て既存のウィキペディア記事を他の言語へ翻訳するために AI を使用していた多くの貢献者に対して新たな方針を施行し、その活動に制限を加えました。 この新しい制限は、インターネット全体で生成 AI が溢れる中、世界最大の知識の貯蔵庫であるウィキペディアの信頼性が損なわれるのを防ぐために、編集者がいまだに戦い続けていることを示しています。また、この出来事は、ウィキペディアの拡大を意図した取り組みであっても、それが生成 AI に依存している場合いかに誤りを生じやすいか、そしてウィキペディアのオープンガバナンスモデルによってどのようにその誤りが修正されるかを浮き彫りにしています。 今回の問題の発端は、「Open Knowledge Association（OKA）」と呼ばれる団体です。これはウィキペディアやその他のオープンプラットフォームの改善に専念する非営利組織です。 「私たちは、フルタイムの貢献者や翻訳家に対して月額手当を提供することでそれを実現しています」と OKA のサイトには記載されています。「また、AI（大規模言語モデル）を活用して業務の大部分を自動化しています。」 問題は、編集者たちがこれらの翻訳の一部が記事に誤りをもたらしていることに気づき始めたことです。例えば、フランスの王家であるラ・ブルドナヤ家についての記事の下書き翻訳では、その家の起源について議論する際に特定の書籍とそのページ番号を引用しています。ウィキペディアの編集者で、ウィキペディア上では「Chaotic Enby」という名前で活動しているイリアス・ルブロは、その出典を確認したところ、その本の該当ページには「ラ・ブルドナヤ家について全く言及されていない」ことを発見しました。 「誤りの発生率を測定するために、私は議論の最中に最初の数件の翻訳を対象にランダムチェックを行うことに決めましたが、すでにいくつかの誤りを見つけたので、これは単なる都合の良い事例の選択の問題ではありません」とルブロは私に語りました。「一部の articles では出典が入れ替わったり、説明なしで根拠のない文が追加されたりしており、1879 年のフランス上院選挙に関する記事では、全く無関係な資料から段落を引用して追加されていたケースさえあります！」 ウィキペディアの編集者たちが OKA（注：原文ママ）による翻訳された記事をさらに多く確認するにつれ、より多くの問題が発見されました。 「多くの結果が非常に問題があり、明らかに英語能力が極めて低い多数の編集者が自分の作業を読み通さず（あるいは問題に気づくことができず）、リンクなどを追加していない」と、OKA 翻訳について議論しているウィキペディアのページには記されています。同じウィキペディアのページではまた、場合によっては OKA の翻訳者たちのコピー＆ペーストという性質が、一部の articles で書式を崩壊させていることも指摘しています。 ウィキペディアの編集者は、OKA がどのように運営されているかを調査し、それが主にグローバルサウスにある請負業者からの安価な労働力に依存していること、そしてこれらの請負業者が記事のコピー＆ペーストを人気のある大規模言語モデル（LLM）に行わせるよう指示されていたことを発見しました。 例えば、OKA の翻訳者がどの記事を翻訳しているかを追跡するために使用されている公開スプレッドシートには、「記事を選び、リードセクションを Gemini または ChatGPT にコピーし、提案の一部が可読性の向上につながるかどうかを確認せよ。提案がリードの意味を変更せず、可読性を向上させる場合にのみウィキペディアの記事に編集を加えること。Gemini の内容が正しいことを確認しない限り、内容は変更してはならない」という指示が記載されています。 Lebleu 氏は私に語り、他の編集者もこの問題に関する公開のサイト内議論で指摘している通り、これらの同じ指示は以前、OKA の翻訳者に Elon Musk 氏の LLM である Grok を同じ目的で使用するように求めていました。Wikipedia に対する完全に自動化された代替案である Grokepedia も生成する Grok は、その出力を検証するために人間を使用しないため、誤りが生じやすいのです。 「Grok の使用は論争を呼びました。特に最近 Grok がニュースになった理由がその理由であり、直近の社内調査では ChatGPT と Claude の方がより正確に動作することが示されたため、数日前に切り替えましたが、それでも複雑でテンプレートが多い記事を扱う経験豊富な編集者にとっては『価値がある』として Grok を推奨し続けています」と Lebleu 氏は語りました。 最終的に編集者たちは、複数の誤りを犯した OKA 翻訳者に対して制限を設ける方針を決めたが、OKA による翻訳そのものを原則として禁止する決定は下さなかった。 「6 ヶ月以内に、検証に失敗したコンテンツについて 4 つの（正しく適用された）警告を受けた OKA 翻訳者については、さらに別の事例が見つかった場合、追加の警告なしにブロックされる」とウィキペディアの編集者は記述している。「検証に失敗して後にブロックされた OKA 翻訳者が追加したコンテンツは、責任を持って引き受けてくれる誠実な編集者がいない限り、原則として削除される可能性がある [...]」。 OKA が募集する「ウィキペディア翻訳者」の求人では、週最大 40 時間勤務で月額 397 ドルが提示されている。この求人情報には、「（記事の規模に応じて）週に 5〜20 記事を公開することが期待される」と記載されている。 「彼らは機械翻訳を活用してプロセスを加速させています。すでに 1500 篇以上の記事を公開しており、その数は毎日増加しています」と求人ページは述べている。 「この不安定な状況ゆえに、翻訳者の業務内容における不確実性が増大すれば、責任の過負荷につながる恐れがあり、これは独立請負業者が有給従業員と同じ保護措置を必ずしも享受できないため、懸念される」と Lebleu は、OKA に関するウィキペディア上の公開討論で記述している。 OKA の創設者兼社長であり、ウィキペディア上では「7804j」というハンドルネームを使用する Jonathan Zimmermann は、翻訳者は記事数ではなく時間給で支払われており、固定された記事数のノルマはないと私に語った。 「私たちはスピードよりも品質を重視しています」と、ジマーマンはメールで私に語りました。「実際、問題のあるケースのいくつかは、費やされた時間に対して異常に高い出力量を含んでおり、後から見れば警告信号でした。これらのケースは、組織的な圧力ではなく、個人の情熱と速度によって引き起こされたものです。」 ジマーマンは私に、「間違いが絶対に発生しないわけではありません」と伝えましたが、OKA のプロセスには人間のレビューが含まれており、翻訳者は引用された資料に対して自分のコンテンツを確認することを義務付けられており、「シニア編集者が定期的にサンプルをレビューし、特に新しい翻訳者からのものを重点的にチェックしています」とも述べています。 「最近の議論を受けて、私たちはセキュリティ対策を強化しました」とジマーマンは私に語りました。「現在、2 つ目の独立した LLM（大規模言語モデル）レビューステップを導入中です。翻訳者は、完成したドラフトを、ソーステキストとの比較において潜在的な相違点、欠落、または不正確さを特定するために設計された専用の比較プロンプトを使用した別のモデルに通す必要があります。初期の調査結果では、この手法が潜在的な問題を検出する上で非常に効果的であることが示されています。」 ジマーマンはさらに、この方法が不十分であることが証明された場合、OKA は正式なピアレビュー（相互審査）メカニズムの導入を検討しているとも付け加えました。 AI の出力を AI でチェックしてエラーを検出する方法は、歴史的にエラーが発生しやすい手法です。例えば、私たちは最近、生徒向けに生成された質問を AI でチェックするために AI を使用した私立学校について報告しました。内部テストでは、少なくとも 10 パーセントの失敗率があることが判明しています。 「AI を使って AI をチェックすることには絶対的に失敗する可能性があり、文脈によっては非常に高い確率で失敗すると私も同意します。二次モデルが単独で信頼できるとは仮定していません」とジマーマンは述べた。「重要な点は、人間の検証を自動化された検証に置き換えているわけではないということです。第二のモデルは手動レビューの補完であり、それを代替するものではありません。」 「協調的なプロジェクトが AI ツールを使用し、大規模に運営される場合、それは注目を集めることになります。編集者がそれを詳しく検討する理由も理解できます。最終的に、議論で正式化された結果は、既存の内部方針と大きく整合した期待を形成しました」とジマーマンは付け加えた。「ただし、これらの制限は OKA 翻訳者にのみ適用されます。基準が全員に平等に適用されることを望みますが、組織化され資金提供された取り組みにはより高い基準が課されることも認識しています。」

AI翻訳がWikipedia記事に「幻覚」を追加している

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト