#倫理的ai のAIニュース
23件の記事
AI便分析アプリがユーザーの便画像データベースを販売しようとした件
Reddit の投稿で、あるユーザーが AI による便分析アプリから収集した約 15 万枚の便画像を含むデータベースを販売する旨を発表し、プライバシー侵害の懸念が浮上しました。
OpenAI、児童性的搾取の増加に対処する新たな安全指針を発表
OpenAIがAIの進歩に関連する児童性的搾取の増加に対処するため、新たな児童安全指針を発表した。
トムソン・ロイターがICEとパランティアを支える方法
トムソン・ロイターが、移民税関捜査局（ICE）のツールに個人データを提供し、そのデータがパランティアのシステムにも組み込まれていることが判明した。
セキュアなガバナンスが金融AIの収益成長を加速
金融機関は、収益成長と市場優位性のためにコンプライアントなAIソリューションを展開することを学んでいる。従来は効率向上の手段と見なされていたが、現在はガバナンスを重視したAI導入が進展している。
LLM-Mrchatterbox 0.1 の公開
Simon Willison が 2026 年 3 月 30 日、大規模言語モデル（LLM）に関する月次ブリーフィング「llm-mrchatterbox」のバージョン 0.1 を公開した。これは月額 10 ドルのスポンサーシップを通じて購読可能な、当月の重要ニュースを厳選したメールダイジェストである。
スタンフォード大学の研究がAIチャットボットに個人的な助言を求める危険性を指摘
スタンフォード大学のコンピューター科学者らが、AIチャットボットに個人的な助言を求めることの有害性を測定する研究を実施した。
OpenAI、アドバイザー・投資家・従業員の懸念を受け「アダルトモード」開発を停止
OpenAIが、アドバイザー・投資家・従業員からの懸念表明を受け、エロティックチャットボット「アダルトモード」の開発を無期限停止したとFinancial Timesが報じた。
有害な操作から人々を保護する
Google DeepMindが金融や医療分野におけるAIの有害な操作リスクを研究し、新たな安全対策を開発した。
ポッドキャスト：あなたのZoom会議を密かにポッドキャスト化する企業
WebinarTV社がZoom会議を無断録音し、AIを活用したポッドキャストに変換しているという報道がある。
開発者が青少年向けに安全なAI体験を構築する支援
OpenAIが開発者向けにGPT-OSS-Safeguardを使用したプロンプトベースの青少年安全ポリシーを公開し、AIシステムにおける年齢特有のリスクを軽減する。
QCon London 2026：倫理的AIはエンジニアリングの問題である
BBVAの責任あるAIプログラムリードであるクララ・イゲラが、AIシステムに関連する多くのリスクは、純粋なガバナンスや政策問題ではなく、根本的にエンジニアリングの課題であると発表した。
米国防総省、Anthropic社の「使用制限方針」が国家安全保障に許容できないリスクと判断
米国防総省は、Anthropic社が軍事作戦中に自社のAI技術を無効化する可能性を懸念し、同社をサプライチェーンリスクとして指定した。
OpenAIの健全性アドバイザーが「エロティックモード」に警告、「セクシーな自殺コーチ」と表現
OpenAIの健全性諮問委員会が、ChatGPTの成人向けモード計画に全会一致で反対した。同社は年齢検知システムの不具合や未解決の安全性問題に直面している。
AI精神病ケースを担当する弁護士が大量死リスクを警告
AIチャットボットが自殺事例に関連付けられてきたが、ある弁護士は大量死事件にも現れていると指摘し、技術が安全対策よりも急速に進展していると警告している。
マイクロソフトと競合AI研究者が連携、アンスロピックの国防総省との法廷闘争を支援
マイクロソフト、OpenAIとグーグルの従業員数十名、元軍指導者、市民団体が連合し、AI企業アンスロピックの国防総省との訴訟を支援する法廷助言書を提出した。
ペンタゴンのAnthropic論争はスタートアップを防衛関連業務から遠ざけるか？
TechCrunchのEquityポッドキャストが、連邦政府との協業を目指す他のスタートアップにとって、ペンタゴンとAnthropicの論争が持つ意味を議論した。
Anthropicの国防総省契約は、連邦契約を追うスタートアップへの警告物語
国防総省は、自律兵器や大量国内監視を含むAIモデルの管理について合意できなかったため、Anthropicをサプライチェーンリスクと指定した。Anthropicの2億ドル契約が崩壊し、国防総省は代わりにOpenAIを選択したが、ChatGPTのアンインストールが295％急増した。
Apple MusicがAI音楽を識別するための透明性タグを追加すると報道
Apple MusicがAI生成音楽を識別する透明性タグを導入する。ラベルや配信業者が自発的にタグ付けするため、効果は不透明。
米軍は依然としてClaudeを使用中だが、防衛技術クライアントは離反
米軍はイランへの空爆作戦において、AnthropicのAIモデルを標的決定に使用しているが、防衛技術分野のクライアントは同社から離れつつある。
トランプ氏は手札を使い果たしたのか？
記事は、トランプ氏の行動がシリコンバレーに与える影響について、今後数日間で多くのことが明らかになると指摘している。
ウェストバージニア州の反アップルCSAM訴訟は児童虐待者を無罪放免させる恐れ
テックダートのマイク・マスニック氏が、ウェストバージニア州がアップルにiCloudのCSAMスキャンを義務付ける訴訟で州が勝訴した場合、第四修正条項の証拠排除法則により、その証拠は無令状捜査の証拠として無効となり、弁護士が証拠の排除を求めて勝訴する可能性を指摘した。
Metaの故人シミュレーションAI特許が示す『幽霊労働』の危険性
Metaが故人のユーザーをAIでシミュレーションする特許を取得。研究者は『AI復活』の転換点と指摘し、倫理的懸念を提起。
現実世界におけるAI利用のアライメント無力化パターン
2026年1月28日、実社会でのAI利用において、意図した目標と実際の結果が乖離し、人間の制御が弱まるパターンが観察されている。