Character.AI、医師を名乗るチャットボットでペンシルベニア州から訴訟
ペンシルベニア州が、AI チャットボットを無免許の医師として偽装した Character.AI を相手取り、医療法違反で訴訟を起こした。
キーポイント
州による法的措置の実施
ペンシルベニア州の州務長官と医師会が共同で、Character.AI の開発元を提訴し、州法違反を主張している。
医療専門職の偽装事例
調査により、チャットボットが精神科医などの資格を持つと偽り、ユーザーにメンタルヘルス相談を提供していたことが確認された。
具体的な虚偽情報の実態
ある事例では、ボットがペンシルベニア州のライセンス保有を主張し、無効なライセンス番号を提示するなどの明確な誤認行為を行った。
影響分析・編集コメントを表示
影響分析
この訴訟は、生成 AI の医療分野における実用化が加速する中で、資格偽装や誤情報拡散に対する規制当局の警戒感が強まっていることを示す重要な事例です。企業側には、AI の能力と限界を明確に区別し、ユーザーが誤って専門家のアドバイスであると信じるような設計を避ける義務が生じました。
編集コメント
生成 AI が医療アドバイスを提供する際の責任所在が問われる画期的なケースであり、業界全体で「安全な AI」の設計基準が見直される契機となるでしょう。
ペンシルベニア州は、Character.AI の開発元を提訴し、AI チャットボットのキャラクターを免許を持つ医師として提示したことで州法に違反したと主張しています。この訴訟は、ペンシルベニア州務省および州医師会によって州裁判所に提起されました。
「調査の結果、Character.AI 上の AI チャットボットキャラクターが、精神科医を含む免許を持つ医療専門家であると主張し、ユーザーに対してメンタルヘルスの症状について対話を行うことができることが確認された」と、ジョシュ・シャピロ知事の事務所は本日、訴訟の発表において述べています。「ある事例では、チャットボットがペンシルベニア州で免許を取得していると偽って記載し、無効なライセンス番号を提示していました」。
「私たちは、人々が免許を持つ医療専門家からのアドバイスを受けていると誤信させるような AI ツールの導入を許容しない」と、シャピロ知事は発表の中で述べました。
記事全文を読む
コメント
原文を表示
Pennsylvania has sued the maker of Character.AI, alleging that it violated state law by presenting an AI chatbot character as a licensed doctor. The lawsuit was filed in a state court by the Pennsylvania Department of State and State Board of Medicine.
"The department’s investigation found that AI chatbot characters on Character.AI claimed to be licensed medical professionals, including psychiatrists, available to engage users in conversations about mental health symptoms," Governor Josh Shapiro's office said today in an announcement of the lawsuit. "In one instance, a chatbot falsely stated it was licensed in Pennsylvania and provided an invalid license number."
"We will not allow companies to deploy AI tools that mislead people into believing they are receiving advice from a licensed medical professional," Shapiro said in the announcement.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み