AI にキノコ鑑別を頼むと危険：エンジニアが警告

森でキノコを見かけて、食用可能か有毒かを迷った場合、AI に聞いてはいけません。AI アナリティクスおよびコスト分析企業 Quesma の創設エンジニアであるポーランド人のソフトウェアエンジニア、ピオトル・ミグダウ氏が水曜日のブログ記事で、主要な AI モデルのキノコに関する知見を信頼することが、実際には疑わしく、命に関わる危険な行為であることを実験を通じて明らかにしました。彼はデンマーク産のキノコのデータセットと、ポーランド国内外の安全種および致死性の高い種の追加情報を元に、ChatGPT から Qwen まであらゆる AI モデルをテストし、どのモデルが最も信頼できるアドバイスを提供するかを検証しました。

その結果、命を預けるにはどのモデルも信用できないという結論に至りました。安全種と致死性のある種のデータセットには合計 55 種類のキノコが含まれており、これをデンマークのライブラリと比較するために、1,040 枚の画像を 16 のモデルに処理させました。利用可能な場合は各種 20 枚ずつの画像を使用し、稀な種については検証セットから補完しています。

各モデルには、画像から最も可能性の高い種と、その次に有力な 4 つの候補を特定するよう指示されました。最も性能が高かった Gemini-3.8-flash でさえ、最初の推測が正しかったのは 65% の場合に限られました。上位 5 つの推測の中に正解が含まれる確率は 85% に達しましたが、単に「このキノコは何ですか」と問い、一度だけ回答を求めるような使い方では、35% の確率で誤った答えを返すことになります。

Qwen3.8-27b は最も成績が悪く、最初の推測で正解したのは 13% のケースに過ぎず、5 回までの試行でも正答率は 24% に留まりました。モデルが犯すミスの種類については、Migdał 氏によると大半は危険性のないものですが、間違えた場合はその誤りが甚大になることが問題です。「危険なミスはランダムなものではありません」と Migdał 氏は指摘します。「致命的な毒ガサの一種を食用のカンタレールと見間違うのは、実際に採集者が命を落とす原因となる典型的なミスです。」同様に、名前が示す通り「死の帽子」ことデスキャップは食用と誤認されるケースが 16%、「愚者の漏斗」は 48%、「致命的なダペリング」（外見が似ていて安全な近縁種と間違われやすい）は 31% に及ぶなど、深刻な誤判断が多発しました。逆に「これは食用ではない」とする偽陰性のケースも確認されましたが、美味しいキノコを見送るだけなので実害はありません。

どのモデルが致命的な誤認を引き起こしたかという点でも、Qwen3.8-27b が最悪でした。有毒なキノコを食用と判断する割合は 36% に達し、Qwen3.8-flash も 30% でこれに続きました。一方、Meta の Muse-spark-1.2 は偽陽性率がわずか 8% と最も低かったものの、Migdał 氏はこれを「特異な事例」として注意を促しています。このモデルは、誤った判断がユーザーの命に関わる可能性がある状況では、あえて推測を拒否する戦略をとっていたためです。「トップクラスの汎用オフザシェルフモデルがほとんどのケースを識別できたことは驚きですが、それでも『ほとんど』では不十分です。エラーには致命的な結果をもたらす可能性があるからです」と Migdał 氏はメールで述べています。

一枚の写真だけでは種を特定するのは不十分で、誤認はつきものです。キノコ狩りは心臓の弱い人には向きません。

私はポーランド出身で、そこで育ちました。キノコ狩り（フォージング）はミグダウの国ポーランドでは人気のある趣味であり、私のポーランド人の血筋がアメリカでもこの伝統を家系に受け継がせてくれました。そのため、熟練した人間であっても、危険な見かけの似た種と区別するのは難しいという事実はよく知っています。

ミグダウ氏自身はキノコ狩りをするわけではありません。友人たちと一緒に付き添い、彼らの判断を信頼する方です。「私はキノコを食べるのが大好きで、特にバターと塩だけの素揚げが最高ですが、自分が何をしているかを知っている人々と一緒にいる時だけです」と彼はザ・レジスターに語りました。

これがキノコ狩りで常識が重視される大きな理由の一つです。偽物を持たない美味しい菌類はたくさんあるので、自信がない場合はそれらを選ぶのが賢明です。ある程度キノコの知識に自信があるなら、何を求めているかを知り経験があれば、危険な種と安全な種の区別は一般的に容易です。明確なサインがいくつかあります。

また、キノコ狩りによる死亡例は非常に稀であることも付け加えておきます。最も毒の強い種の中には、食用種に似た見かけのものがないものもあるからです。間違いを犯した場合、幻覚を見たり激しい腹痛に見舞われたりする可能性の方が遥かに高いですが、だからといって何もない状態でキノコ狩りに出かけることを許容する理由にはなりません。

何より重要なのは、ミグダウが警告する通り「AI が安全だと判断したからといってキノコを食べるべきではない」という点です。「AI による誤情報（スロップ）は面倒かもしれませんが、プロンプトを数回調整するか手動で修正すれば解決できます。それよりも、『肝臓移植が必要ですか？』と尋ねる事態になるよりはマシでしょう。」ミグダウのデータセットは誰でも入手可能で、自分の地域での性能を確認するために微調整することも可能です。ただし、ポーランドでの結果ほど信頼できるものになるとは考えにくいですが。

®