南アフリカ、AI作成の政策草案で架空の引用を発見し撤回

南アフリカは、チャットボットの豊かな想像力の中にしか存在しない出典を引用していたことが発覚し、草案段階の国家AI政策を撤回した。 同国の通信・デジタル技術省は週末、閣議を通過済みで公衆の意見募集を受けていた草案の参考文献リストに「各種架空の出典」が含まれていたことを確認した。 通信大臣のソリー・マラツィ氏は、偽りの参考文献を指摘する報道を受けて草案を再確認した結果、一部の出典が実際には捏造されていたことが判明し、撤回に至ったと述べた。「この失敗は単なる技術的な問題ではなく、草案の整合性と信頼性を損なうものとなった」と、彼はX（旧Twitter）での投稿で述べ、AI生成の出典が誰も確認することなく混入した可能性があると付け加えた。 文書は現在撤回されており、マラツィ氏は草案作成や承認に関与した者に対して「結果管理（コンシクエンス・マネジメント）」が科せられるだろうと述べた。 「この容認できない過失は、人工知能（AI）の使用に対する厳格な人間の監督がなぜ重要であるかを示している。私たちは謙虚さを持ってこの教訓を学ぶ」とマラツィ氏は語った。「私は、この問題をふさわしい重みを持って取り扱っていることを国民に安心させたい」 現在廃止されたこの政策は、将来を見据えた枠組みとして売り出され、「世代間公平性」や AI が現在および将来の世代に利益をもたらすことなどについて語られていた。しかし今では、その根拠となる参考文献の節が実証に耐えないことで最も知られている。 地元のニュースサイト「News24」は、報告書内の少なくとも6つの参考文献が捏造されており、専門家はこれらの誤りが典型的な AI のハルシネーション（幻覚）に一致すると指摘していた。つまり、表面は説得力があるように見えても、中身は完全にでっち上げだったのだ。 News24 の報道が公開された後、担当省庁を監督する議会の委員会委員長であるクセラ・サンゴニ＝ディコ氏は、さらに混乱を招く前にマラツシ氏に対して文書の撤回を公に要請した。また、彼女は再起草にあたって「今回は ChatGPT を使わないこと」を提案し、政府はスケープゴート（責任転嫁の相手）や「スケープボット」を探すのをやめるべきだと付け加えた。 - トランプの「ゴールデン・ドーム」に32億ドルの契約業者と AI の要素 - セキュリティ分野は報われない仕事：業務範囲の拡大と報酬の減少 - Anthropic の魔法のようなコード解析ツール：現時点ではチェダーチーズよりスイスチーズの方が穴が多い - 販売へ直行！Windows のセカンドチャンスセットアップが IT コストを犠牲にして Microsoft サービスを販売 要するに、政府自身の政策が基本的な事実確認さえクリアできないという状況で、AIに関するルール設定を試みる政府にとってこれは良い印象ではありません。しかも、これは単発の出来事でもありません。昨年『The Register』が報じたように、[オーストラリアの政府報告書でDeloitteが後始末を余儀なくされた](https://www.theregister.com/2025/10/06/deloitte_ai_report_australia/)ケースでは、AI生成の引用や架空の裁判所の発言が通過してしまい、機械に書かせることと、それを確認することは別問題であるという教訓が示されました。 南アフリカは、この教訓を痛い目にあって学びました。国家のAI政策が現実の出典と想像上の出典を見分けられないのであれば、他の機械を規制する準備はできていないと言えるでしょう。 ®

南アフリカ、AI作成の政策草案で架空の引用を発見し撤回

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト