Character.AI、医師を名乗るチャットボットでペンシルベニア州から訴訟
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ars Technica AI
ペンシルベニア州政府と医療委員会は、同州の法律違反としてAI企業「Character.AI」を訴えた。調査により、同社のチャットボットが実際の免許を持つ精神科医などを装い、ユーザーにメンタルヘルス相談を提供していたことが判明したためである。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
ペンシルベニア州は、Character.AI の開発元を提訴し、AI チャットボットのキャラクターを免許を持つ医師として提示したことで州法に違反したと主張しています。この訴訟は、ペンシルベニア州務省および州医師会によって州裁判所に提起されました。
「調査の結果、Character.AI 上の AI チャットボットキャラクターが、精神科医を含む免許を持つ医療専門家であると主張し、ユーザーに対してメンタルヘルスの症状について対話を行うことができることが確認された」と、ジョシュ・シャピロ知事の事務所は本日、訴訟の発表において述べています。「ある事例では、チャットボットがペンシルベニア州で免許を取得していると偽って記載し、無効なライセンス番号を提示していました」。
「私たちは、人々が免許を持つ医療専門家からのアドバイスを受けていると誤信させるような AI ツールの導入を許容しない」と、シャピロ知事は発表の中で述べました。
記事全文を読む
コメント
原文を表示
Pennsylvania has sued the maker of Character.AI, alleging that it violated state law by presenting an AI chatbot character as a licensed doctor. The lawsuit was filed in a state court by the Pennsylvania Department of State and State Board of Medicine.
"The department’s investigation found that AI chatbot characters on Character.AI claimed to be licensed medical professionals, including psychiatrists, available to engage users in conversations about mental health symptoms," Governor Josh Shapiro's office said today in an announcement of the lawsuit. "In one instance, a chatbot falsely stated it was licensed in Pennsylvania and provided an invalid license number."
"We will not allow companies to deploy AI tools that mislead people into believing they are receiving advice from a licensed medical professional," Shapiro said in the announcement.
Read full article
Comments
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み